恐無法因應AI風險…OpenAI缺透明度、問責制 員工公開信內容曝光

ChatGPT開發商OpenAI的現任和前任員工發表公開信警告，世界領先的人工智慧（AI）公司缺乏必要的透明度和問責制，無法因應AI潛在風險。

法新社報導，這封公開信提出對AI安全風險的擔憂，「從進一步加深現有的不平等，到操縱和假消息，再到自主AI系統失控可能造成的人類滅絕」。

16位連署人包含Google DeepMind的員工，他們警告，AI公司「有強烈的財務動機來避免有效的監督」，而公司的自我監管其實沒有太大幫助。

信中指出：「AI公司擁有大量關於其系統的能力和局限性、保護措施的充分性以及不同類型傷害風險的非公開資訊。」

「但他們目前沒什麼義務與政府分享其中一些資訊，也完全沒有和民間社會分享這些訊息，我們認為不能完全指望他們自願分享這些訊息。」

公開信還說，這一事實意味公司內部員工是唯一可以通知大眾的人，連署者呼籲制定更廣泛的吹哨者法律來保護他們。

根據「紐約時報」報導，OpenAI的4名現任員工匿名連署，因為擔心遭到公司報復。

連署人還包括AI研究先驅班吉歐（YoshuaBengio）、辛頓（Geoffrey Hinton）、羅素（StuartRussell），他們常被稱為AI「教父」，也曾批評大家對AI風險缺乏準備。

鄭重聲明：本文版權歸原作者所有，轉載文章僅為傳播信息之目的，不構成任何投資建議，如有侵權行為，請第一時間聯絡我們修改或刪除，多謝。

標題：恐無法因應AI風險…OpenAI缺透明度、問責制 員工公開信內容曝光

地址：https://www.torrentbusiness.com/article/109713.html

標籤：OpenAI  假消息  紐約時報  風險