近日，美國國防部宣布成立生成式人工智能工作組，又稱利馬工作組。美國防部稱，該工作組將以戰(zhàn)略性方式對人工智能技術(shù)加以利用，以確保美國防部在維護(hù)國家安全的同時，在這一技術(shù)領(lǐng)域保持領(lǐng)先優(yōu)勢。

據(jù)悉，生成式人工智能是一種人工智能算法。該算法可針對用戶需求，利用前期輸入的數(shù)據(jù)和用戶提供的相關(guān)資料，生成新的輸出數(shù)據(jù)提供給用戶。最近很受關(guān)注的ChatGPT聊天機(jī)器人程序就是該技術(shù)的典型應(yīng)用。美國防部認(rèn)為，大型語言模型等生成式人工智能技術(shù)，在全球范圍內(nèi)的影響力正不斷擴(kuò)大，美軍迫切需要提高生成式人工智能模型的速度和交互能力等，以提高任務(wù)效率。

據(jù)悉，利馬工作組主要職責(zé)是評估、利用和提升生成式人工智能技術(shù)能力，并通過生成式人工智能模型，幫助美軍提升在作戰(zhàn)能力、軍事管理、衛(wèi)生健康、戰(zhàn)備及政策等領(lǐng)域的行動能力。

負(fù)責(zé)指導(dǎo)利馬工作組建立的美國防部副部長凱瑟琳·�？怂狗Q：“利馬工作組的成立凸顯了國防部對引領(lǐng)人工智能創(chuàng)新的決心。我們將在確保國家安全、盡量降低風(fēng)險的前提下，整合生成式人工智能技術(shù)�！�

生成式人工智能技術(shù)可根據(jù)已有數(shù)據(jù)生成新的數(shù)據(jù)。由于大型語言模型的數(shù)據(jù)來源主要基于互聯(lián)網(wǎng)的數(shù)據(jù)語料庫，因此，它們有時會使用虛假信息。對此，美國防部官員表示擔(dān)憂。美國防部數(shù)字和人工智能負(fù)責(zé)人克雷格·馬泰爾稱：“生成式人工智能技術(shù)應(yīng)用于軍事領(lǐng)域的風(fēng)險過高。如果它在幫助士兵處理緊急情況時使用虛假信息，那將是致命的。我們需要輸出的數(shù)據(jù)信息至少達(dá)到99.999%的準(zhǔn)確率。”

基于上述原因，馬泰爾表示，美國防部必須盡力尋求更優(yōu)的生成式人工智能模型，同時制定適當(dāng)?shù)谋Ｗo(hù)措施，以減少可能因數(shù)據(jù)來源、數(shù)據(jù)管理等問題而產(chǎn)生的國家安全風(fēng)險。利馬工作組任務(wù)指揮官曼紐爾·澤維爾·盧戈對此表示認(rèn)同，稱謹(jǐn)慎選擇模型并完善管理是減少相關(guān)風(fēng)險的關(guān)鍵。

馬泰爾建議，想要最大限度防止生成式人工智能技術(shù)在應(yīng)用過程中使用虛假信息，應(yīng)進(jìn)行大量測試，同時為大型語言模型在不同場合的應(yīng)用提供可靠保證。他強(qiáng)調(diào)，無論何時，生成式人工智能的應(yīng)用都必須置于人類的監(jiān)管之下。

�？怂狗Q：“美國防部的當(dāng)務(wù)之急，是探索這項(xiàng)技術(shù)的運(yùn)用前景和潛力。這些能力不僅將開啟新的機(jī)遇，也將帶來新的風(fēng)險，我們要找到適當(dāng)?shù)谋Ｗo(hù)措施，將各種風(fēng)險降至最低�！�

關(guān)于該技術(shù)應(yīng)用于軍事領(lǐng)域可能引發(fā)的風(fēng)險問題，引起了諸多關(guān)注。目前的生成式人工智能技術(shù)主要用于高效查找目標(biāo)資料、回答常見提問等，且技術(shù)本身存在嚴(yán)重漏洞，有可能被潛在對手利用，借以發(fā)動虛假信息戰(zhàn)，進(jìn)行欺騙或網(wǎng)絡(luò)攻擊。當(dāng)前，包括美國在內(nèi)的60多個國家簽署了一份《行動呼吁書》，倡導(dǎo)在軍事領(lǐng)域負(fù)責(zé)任地使用人工智能技術(shù)。

此外，在戰(zhàn)略層面上，生成式人工智能技術(shù)的軍事應(yīng)用，很可能加劇大國間的競爭，增加戰(zhàn)略風(fēng)險。美國“新美國安全中心”智庫在報(bào)告中指出：“從短期和中期來看，人工智能技術(shù)帶來的大部分變化將是漸進(jìn)、小范圍的，但從長期來看，有些變化可能是革命性的、普遍的。為此，一些國家不得不投入大量精力進(jìn)行研發(fā)和探索。”（李學(xué)華）