AI宮鬥劇 反映安全與開發分歧

在人工智慧（ＡＩ）發展上，一派人士認為應迅速開發並盡快對外發布ＡＩ產品讓大眾使用，如同接受壓力測試而讓產品漸臻完善，被閃電開除又迅速回鍋的OpenAI執行長的奧特曼就是這一派。但反對陣營主張，應在實驗室內開發完善並充分測試後再對外釋出，以免ＡＩ失控釀災，先前同意開除奧特曼的OpenAI董事蘇茲克維等人，就有這類擔憂。

換句話說，這次奧特曼事件，癥結是ＡＩ社群「開發派」和「安全派」的根本理念分歧。

在其他先進科技開發過程中，也常出現這類兩派陣營的對立，一方面盼開發出改變世界的產品，另一方面則關注對社會的衝擊。例如在發展使用ＡＩ的自動駕駛車輛上，有意見認為應在繁忙市區道路測試，以釐清其缺點，另一派則呼籲應慎防未知風險。

開發派產品輩出 吸引投資

路透報導，現年卅八歲的奧特曼領軍OpenAI，去年十一月推出聊天機器人ChatGPT，儼然變成生成式ＡＩ的代言人。多數人雖將生成式ＡＩ用於輔助，例如撰寫摘要等，但觀察人士擔心後續版本可能演進為「通用人工智慧」（ＡＧＩ），可以不經人類提示，自主從事漸趨複雜的任務，使人擔心ＡＩ恐怕能自行掌控國防系統、製造軍火或從事政治宣傳。

關切超高智慧軟體可能帶來無法掌控災難的科技人士，可謂信奉「有效利他主義」（effective altruism），認為ＡＩ應該造福全人類，而非讓企業賺大錢。八年前OpenAI作為非營利組織設立的部分原因，就是盼避免受商業利益驅使，製造出危險的ＡＧＩ產品傷害人類。

不過，二○一九年奧特曼促成在OpenAI內部成立營利性實體，為募資等目的服務。ChatGPT發布後，不少ＡＩ開發商獲得投資客青睞，日前表明有意延攬奧特曼的微軟，就向OpenAI注資達一百億美元，Alphabet和亞馬遜等業者也紛向其他新創公司投資數十億美元，這也造就近年ＡＩ新產品輩出，畢竟Anthropic和ScaleAI等同業都爭相向金主展現成果。

安全派力求穩妥 就怕失控

有報導指出，蘇茲克維作為OpenAI首席科學家，也認為奧特曼發布軟體產品的速度過急，安全性可能堪慮；他和一名副手曾在七月一篇部落格文章寫道，人類尚無解決方案可管控潛在的超級智慧ＡＩ並避免其失控，「人類將無力可靠的監督比我們聰明許多的ＡＩ系統」。

本月稍早，OpenAI在一場開發者活動宣布一連串新產品，包括一款ChatGPT-4的軟體版本和虛擬助理，令人尤感關切。ＡＩ安全倡議人士雷希指出，問題在於生成式ＡＩ是否像社群媒體和加密貨幣，只是另一種新產品，又或者具有逾越人類控制範圍的能力。

此前曾獲派為OpenAI臨時執行長的希爾，九月曾在社群媒體提倡放緩ＡＩ研發，認為如果當前速度是十，「應該以一到二為目標」。

然而，OpenAI七百七十名員工幾乎都站在「開發派」奧特曼這邊，讓他在這場ＡＩ社群宮鬥中高唱凱歌班師回朝，OpenAI的發展又將返回舊軌。不過，「安全派」的擔憂是否會成真，誰也不敢保證。

鄭重聲明：本文版權歸原作者所有，轉載文章僅為傳播信息之目的，不構成任何投資建議，如有侵權行為，請第一時間聯絡我們修改或刪除，多謝。

標題：AI宮鬥劇 反映安全與開發分歧

地址：https://www.torrentbusiness.com/article/77660.html

標籤：社群媒體  軟體