Sora爆火後如何識別AI造假 這家融資1億元的以色列公司或成新獨角獸

來源：元宇宙之心

最近，以色列網絡安全初創公司Clarity融資1億元以打擊深度僞造，它是如何贏得各行業頂尖專家的青睞？

人工智能（AI）的發展速度實在是太驚人了！

就在春節期間，Sora模型橫空出世，可以生成60秒的高清視頻，逼真效果甚至超越了之前的Runway和Pika等視頻生成工具。而就在昨晚，谷歌开源了Gemma大模型，能夠在筆記本電腦上輕松運行，這意味着普通人現在也可以輕松接觸到AI技術。

然而，技術的迅猛更迭也帶來了更多人對於“深度僞造”的恐慌。由AI生成的圖片和視頻足以迷惑肉眼，讓人真假難辨。

早在1月底，美國流行歌手“黴黴”就因爲AI“不雅照”事件引發了軒然大波，甚至引起了白宮的關注。更有甚者，香港一家跨國公司被AI詐騙團夥僞造其高管參會，損失慘重達1.8億人民幣。

爲了緩解個人和企業對AI安全性的擔憂，Clarity這家AI網絡安全初創公司應運而生。憑借獨特的專利算法和前沿技術，Clarity能夠精准識別並打擊深度造假行爲，確保網絡信息的真實性和可信度。

Clarity不僅旨在幫助更多人避免成爲AI技術濫用的“犧牲品”，更希望爲整個行業的健康發展注入新的活力。

01.1分鐘項目速覽

1.項目名稱者：Clarity

2.成立時間：2022年

3.產品簡介：

Clarity是一個打擊深度造假的AI檢測平台。利用專利算法，Clarity能精確檢測視頻、圖像和音頻中的篡改，並通過加密水印確保內容真實。各大組織通過集成Clarity的解決方案，能夠加強其對數字欺騙的防御能力，從而全面保障內容與資產的安全。

4.創始人團隊：

Michael Matias

曾在斯坦福大學學習AI，曾擔任以色列“8200情報部隊”官員，同時也是70多家深度技術初創企業的天使投資人。

Natalie Fridman

計算機科學博士，巴伊蘭大學計算機科學講師。

Gil Avriel

畢業於哈佛大學肯尼迪學院和喬治敦法學院（第一名），曾在以色列總理辦公室國家安全委員會擔任高級主管（14 年）。

5.融資情況：

2024年2月，Clarity獲得了由Walden Catalyst Ventures和Bessemer Venture Partners領投的1600萬美元種子投資。

02.群英薈萃，對深度僞造“重錘出擊”

隨着AI技術的發展，深度僞造（Deepfakes）也隨之而來。

Pew Research最近的一項調查發現，66%的美國人表示，他們“至少有時”會遇到被篡改或者完全虛構的內容；63%的人表示，捏造或更改的圖像或視頻會導致人們對於時事的“認知混亂”。

美聯社和芝加哥大學的另一項民意調查則發現，58%的成年人認爲AI工具將導致選舉錯誤信息。據估計，到2026年，90%的在线內容將由AI生成。

由於創建深度僞造所需的工具越來越容易獲得、價格越來越便宜，虛假照片、視頻現已如洪水般泛濫。在AI生成內容的時代，新聞的真實性和可信度受到了極大的挑战。

快速識別和消滅“病毒”

網絡安全初創公司Clarity最近籌集了1600萬美元（折合成人民幣約爲1.15億元）的風險投資資金來對深度僞造進行反擊。這家總部位於紐約的公司使用AI來識別深度僞造創建中常見的模式，使企業能夠快速識別和防範虛假內容。

盡管Clarity的核心利用了AI技術，但它在本質上仍是一家網絡安全公司。

與其他網絡安全供應商一樣，Clarity通過應用程序及其接口來提供掃描工具，該工具利用經過訓練的多個AI模型來識別視頻、圖像和音頻深層創建技術中的模式。此外，Clarity還提供了一種水印形式，客戶可以用它來表明自己的內容是合法的。

談到和其競爭對手的區別時，Clarity首席執行官Michael Matias表示，差異化因素並不在於表面，而隱藏於產品內核之中，即Clarity對新型深度僞造的快速反應。

Clarity將深度僞造視爲能夠迅速分叉和復制的“病毒”，因此，它的解決方案也是爲了分叉和復制而構建的，以保持適應性和彈性。公司團隊還專門建立了相應的基礎設施和AI模型，以完美達到這一要求。

衆多大佬雲集

盡管Clarity目前僅有13名員工，但該公司的創始人團隊資歷非常雄厚。

• 首席執行官：Michael Matias

Matias曾在以色列“8200情報部隊”擔任一級幹事，並創建了兩個獲得國防獎的AI團隊。隨後，Matias在斯坦福大學學習AI，並在Hippo Insurance領導AI團隊。他是70多家深度技術初創企業的天使投資人，也曾是多家風險投資公司的投資團隊成員。

• 首席技術官：Natalie Fridman

Fridman在AI和研究領域擁有10多年的管理經驗，擅長集體智能、深度學習和自主代理建模。Fridman曾任ImageSat International研發高級副總裁（從成立到上市），擁有AI和集體智能博士學位。她發表過超過25篇論文，曾是巴伊蘭大學計算機科學的主要講師，擁有多項AI算法專利。

• 首席战略官兼首席運營官：Gil Avriel

Avriel畢業於哈佛大學肯尼迪學院和喬治敦法學院（第一名），曾在以色列總理辦公室國家安全委員會擔任高級主管（14 年）。在擔任國家安全委員會法律顧問期間，曾就國家安全战略問題爲8位國家安全顧問和4位總理提供咨詢。

除了卓越的創始人團隊，Clarity的顧問委員會成員也都是來自各個行業的頂尖專家，包括斯坦福大學民主學教授Larry Diamond、加拿大前國防部長Irwin Cotler以及前谷歌研究副總裁Alfred Spector等。

03.各行業聯手清除造假“迷霧”

AI模型迭代更新，深度僞造技術也在做進一步的提升，這類技術的復雜性已經讓人們很難區分真實與捏造的內容。

“我們的數字生活正遭受着猛烈攻擊，人們說了他們從未說過的話，做了他們從未做過的事情。”Clarity的聯合創始人兼首席執行官Michael Matias在一份聲明中表示。

一年前，大多數關於“AI欺詐”的新聞還幾乎來自大學研究實驗室；一年後，有關AI造假的問題已經充斥在我們的生活中。

短短一年時間裏，湧現出了一大波文生圖像、視頻以及語音克隆模型，例如本月ElevenLabs宣布爲Sora推出音效模型，可以自動爲視頻配音。

這些AI應用在不知不覺中“幫助”惡意行爲者利用廣泛且免費的工具快速生成深度僞造內容。

“隨着語音克隆和其他AI騙局的增加，保護美國人免受冒充者欺詐比以往任何時候都更加重要，”美國聯邦貿易委員會(FTC)主席Lina M. Khan在一份聲明中提到。

爲了彌補這一行業漏洞，檢測深度僞造的初創公司正在湧現並不斷壯大，並吸引了大量風險投資。

衆多深度僞造檢測公司，目前正在競相开發深度僞造檢測工具。除了Clarity外，還包括AI瀏覽器工具Reality Defender以及專注於深度僞造圖像和視頻的Sentinel公司。

Reality Defender主要提供了一個幫助檢測文本、視頻和圖像深度僞造的平台，可以驗證社媒內容是否由AI生成或者以某種方式修改。另外，該公司在去年10月獲得由DCVC領投的1500萬美元A輪融資，將用於擴大團隊並改進其AI內容檢測模型。

站在解決AI深度僞造問題的風口上，不少投資人對Clarity持有相當樂觀的態度。美國有线電視新聞網（CNN）前战略主管Chris Marlin，作爲一名天使投資人的他表示，“生成式AI制作的內容和深度僞造的激增有可能造成更大的選民不信任。”

在1月末，美國總統大選就出現了AI造假問題，有人用AI冒充拜登給選民打電話並且影響了大選的討論。此外，美國其他州的選舉也受到AI僞造的幹擾。

Clarity將致力於解決這些問題，正如Chris Marlin強調，“Clarity的技術將清除不確定性的迷霧，爲選民和政治領導人提供更好的清晰度。”

斯坦福大學社會學和政治學教授，Larry Diamond也曾表示，“我們很高興能與Clarity合作，並提供一個可擴展且值得信賴的平台，任何組織都可以用它來驗證敏感新聞、防止欺詐並建立一個安全的AI環境。”

04.Clarity身兼長期發展使命

在被AI裹挾的大環境下，如果呼籲監管和立法無法在短期內實現，快速識別和解決深度僞造不失爲當前的一個良方。

正如Clarity首席執行官Matias所說，“這是一場快節奏的軍備競賽，任何想要解決深度僞造問題的公司都需要像那些創建和傳播深度僞造的公司一樣快速行動。”

目前，Clarity正在與以色列政府以及一些大型新聞機構合作，而最新的這筆融資將推動Clarity的擴張計劃，使該公司能夠加大招聘力度，進一步开發其技術，並在美國市場建立更強大的影響力。