AI「與核戰同樣危險」專家示警：恐致人類滅亡

350名專家和業界領袖30日齊聲警告，人工智慧(AI，又譯人工智能)科技可能威脅人類存亡 ，危險性不下於流行病疫和核戰。

包括研發ChatGPT聊天機器人的公司OpenAI執行長奧特曼(Sam Altman)、谷歌「深層心靈」(DeepMind)人工智能研發部門主管哈薩比斯(Demis Hassabis)等簽名，由人工智能安全中心發表的警告文說，「降低人工智能毀滅人類的風險，應該和病疫大流行以及核戰等社會規模的風險一樣，當作全球最優先處理的問題」。

提出呼籲的專家還有曾獲圖靈獎的現代人工智能運動「教父」、神經網絡研究員辛頓(Geoffrey Hinton)和班吉友(Yoshua Bengio)以及新創公司Anthropic的執行長阿莫岱(Dario Amodei)。

紐約時報報導，聊天機器人ChatGPT等人工智能應用系統推出後，引發不少人害怕這種有學習能力的系統被用來大規模散播假消息或宣傳，數以百萬計的白領階級工作崗位可能不保，更有人擔心，不放緩研發腳步的話，再過幾年，人工智能科技就會造成社會大亂。

紐時報導指出，這種擔心和害怕的人，正是全心投入AI研發還彼此競爭的行內人，他們一方面拚命研發，一方面卻不禁要警告世人，AI的風險極其嚴重，應予嚴格管控。

奧特曼、哈薩比斯和阿莫岱本月已和拜登總統、賀錦麗副總統當面討論規範AI研發應用事。隨後，奧特曼到聯邦參院作證，也對國會議員說，人工智能系統的潛在威脅很嚴重，政府應出面幹預，應提出管理辦法，來防止它可能造成的危害。

人工智能安全中心的主管韓卓克斯(Dan Hendrycks)說，業界領袖過去只私下對這一科技表示憂慮，如今願意在公開信上簽名，表示他們也認為有必要公開發出警告。他說，AI業界不是僅少數悲觀論者，「事實上，很多人私底下對這些表示擔憂」。

奧特曼等三名OpenAI的主管上周呼籲業界合作，對大型語言模式進行更細膩的研究，全球政府共同設立類似國際原子能機構的「AI安全組織」，研製先進的AI模式，應向政府申請許可證。

鄭重聲明：本文版權歸原作者所有，轉載文章僅為傳播信息之目的，不構成任何投資建議，如有侵權行為，請第一時間聯絡我們修改或刪除，多謝。

標題：AI「與核戰同樣危險」專家示警：恐致人類滅亡

地址：https://www.torrentbusiness.com/article/40902.html

標籤：AI