美媒：美國務院委托撰寫的報告警告，AI可能對人類構成“滅絕級”威脅

根據美國有線電視新聞網（CNN）當地時間12日報道，美國國務院委托撰寫的一份報告于本周發布，報告中警告，AI可能對人類構成“滅絕級”威脅，美國必須進行干預。

據CNN介紹，這份報告由專注于AI領域的公司Gladstone AI撰寫，該公司為美國政府高層提供關于AI機遇和風險的咨詢和報告。美國國務院一名官員向CNN證實，其所在機構委托撰寫了這份報告，但報告不代表美國政府的觀點。

報道說，這份報告基于一年多以來對200多人的采訪得出，采訪對象包括來自領先AI公司的高管、網絡安全研究人員、大規模殺傷性武器專家和政府內部的國家安全官員。報告明確提到，最先進的AI系統在最糟糕的情況下可能會“對人類物種構成滅絕級的威脅”。

CNN稱，首先，報告提到，最先進的AI系統可能被用作武器，造成潛在的、不可逆轉的破壞；其次，報告稱AI實驗室內也存在擔憂，擔心對開發的系統“失去控制”，可能對全球安全造成“潛在的毀滅性后果”?！癆I和AGI(通用人工智能)的興起有可能以類似引入核武器的方式破壞全球安全，”報告稱，在AI方面存在著“軍備競賽”、沖突和“與大規模殺傷性武器相當的致命事故”的風險。

CNN說，報告為此呼吁采取措施來應對這一威脅，包括成立一個新的AI方向的機構，實施“緊急”監管保障措施，并限制用于訓練AI模型的計算機能力?！懊绹@然迫切需要干預?！眻蟾娣Q。

“AI已經是一項經濟上具有變革性的技術。它可以幫助我們治愈疾病，實現科學上的發現，并克服我們曾認為不可逾越的挑戰?！盙ladstone AI聯合創始人兼首席執行官（CEO）杰雷米?哈里斯12日告訴CNN，“但它也可能帶來嚴重的風險，包括災難性的風險，這是我們需要注意的，”“越來越多的證據——包括在世界頂級AI會議上發表的實證研究和分析——表明，超過一定的能力閾值，AI可能會變得無法控制?！?/div>