經(jīng)過(guò)不到一年的時(shí)間，AI 的發(fā)展超乎所有人的想象，也大有失控的風(fēng)險(xiǎn)。

就在今天，全球部分頂尖的 AI 研究員、工程師和 CEO 就他們認(rèn)為 AI 對(duì)人類構(gòu)成的生存威脅發(fā)出了新的警告，并共同簽署了一份只有短短 22 個(gè)字的聲明：

減輕 AI 帶來(lái)的滅絕風(fēng)險(xiǎn)應(yīng)該與流行病和核戰(zhàn)爭(zhēng)等其他社會(huì)規(guī)模的風(fēng)險(xiǎn)一起成為全球優(yōu)先事項(xiàng)。

這份聲明是由總部位于舊金山的非營(yíng)利組織 AI 安全中心（Center for AI Safety，簡(jiǎn)稱 CAIS）發(fā)布的。

值得注意的是，這份聲明一經(jīng)發(fā)布，便迅速得到了多倫多大學(xué)計(jì)算機(jī)科學(xué)榮譽(yù)教授、“AI 教父” Geoffrey Hinton，蒙特利爾大學(xué)計(jì)算機(jī)科學(xué)教授、圖靈獎(jiǎng)得主 Yoshua Bengio，Google Deepmind CEO Demis Hassabis，OpenAI CEO Sam Altman，以及中國(guó)科學(xué)院自動(dòng)化研究所類腦認(rèn)知智能實(shí)驗(yàn)室主任、教授曾毅等近 400 位學(xué)術(shù)界、產(chǎn)業(yè)界、高校專家的支持。

越來(lái)越像人的 AI

其實(shí)一直以來(lái)，隨著生成式人工智能工具如 OpenAI 的 ChatGPT、微軟的新 Bing、Google 的 Bard 等面向更多的群體開放訪問(wèn)，業(yè)界關(guān)于 AI 炒作的聲音愈演愈烈。

在此之下，很多學(xué)者、高管表示過(guò)擔(dān)憂，如：

• 本月初，多倫多大學(xué)計(jì)算機(jī)科學(xué)榮譽(yù)教授、“AI 教父” Geoffrey Hinton 在選擇從 Google 離職時(shí)，對(duì)外界分享道，「人工智能正在變得比人類更聰明，我想要‘吹哨’提醒人們應(yīng)該認(rèn)真考慮如何防止人工智能控制人類」。

• OpenAI  CEO Sam Altman 在兩周前首次亮相美國(guó)參議院就各自公司與機(jī)構(gòu)制造的人工智能技術(shù)存在的潛在危險(xiǎn)的聽證會(huì)時(shí)，反其道而行之，強(qiáng)烈要求政府部門對(duì)其以及行業(yè)內(nèi)的 AI 技術(shù)應(yīng)用政策進(jìn)行落地與監(jiān)管，旨在減少此類系統(tǒng)可能帶來(lái)的“潛在風(fēng)險(xiǎn)”。

不僅如此，個(gè)人用戶也感受到了 AI 的“可怕”之處。

在 Reddit 上，一名網(wǎng)友發(fā)帖稱自己在使用微軟新 Bing 時(shí)，由于 Bing Chat 提供了沒(méi)有來(lái)源的內(nèi)容，自己便對(duì)這個(gè)回答進(jìn)行了質(zhì)疑。

萬(wàn)萬(wàn)沒(méi)想到的是，人類慘遭 AI “懟了一頓”。甚至 AI 表示，“我不欣賞你的語(yǔ)氣和態(tài)度，所以我就在這里結(jié)束這個(gè)對(duì)話?！?/span>

最后，AI 還對(duì)網(wǎng)友進(jìn)行了警告，“以后請(qǐng)多一些尊重和禮貌”。

這也引得 10.2k 個(gè)用戶關(guān)注，并紛紛留言道，“這個(gè) AI 已成精，越來(lái)越像人了?！币灿腥酥赋觯坝萌祟愔R(shí)訓(xùn)練人工智能，就會(huì)讓它像人類一樣回應(yīng)、思考，這是驚人的，自然也會(huì)讓人擔(dān)憂”。

聲明一出，達(dá)成共識(shí)

事實(shí)證明，這一次 CAIS 聲明的發(fā)出，正所謂字少事大，而它之所以能夠吸引如此多專家學(xué)者的關(guān)注，一方面，主要這是很多人認(rèn)為應(yīng)該迫切解決的問(wèn)題；另一方面，在這份聲明中，沒(méi)有直接道清存在哪些風(fēng)險(xiǎn)，設(shè)立“圍墻”，也是為了避免重蹈覆轍。

還記得兩個(gè)月前，非營(yíng)利性的 "生命的未來(lái)研究所 "（Future of Life Institute）發(fā)出一封公開信，同樣的圖靈獎(jiǎng)得主 Yoshua Bengio、伯克利計(jì)算機(jī)科學(xué)教授 Stuart Russell、特斯拉 CEO 埃隆·馬斯克、蘋果聯(lián)合創(chuàng)始人 Steve Wozniak 等人進(jìn)行了簽署。

這份公開信強(qiáng)烈呼吁：暫停訓(xùn)練比 GPT-4 更強(qiáng)大的系統(tǒng)，期限為六個(gè)月。理由是這些模型對(duì)社會(huì)和人類存在潛在風(fēng)險(xiǎn)，“只有當(dāng)我們確信強(qiáng)大的人工智能系統(tǒng)帶來(lái)積極的效果，其風(fēng)險(xiǎn)是可控的，才應(yīng)該開發(fā)。這種信心必須有充分的理由支持，并隨著系統(tǒng)潛在影響的大小而增加?！?/span>

不過(guò)，彼時(shí)這封信一經(jīng)發(fā)布便在多個(gè)層面遭到了批評(píng)，一些專家認(rèn)為這份公開信過(guò)于夸大了人工智能帶來(lái)的風(fēng)險(xiǎn)，一些人雖然同意公開信提到的風(fēng)險(xiǎn)，但是對(duì)信中建議的補(bǔ)救措施不敢茍同。

而這一次，發(fā)布如此簡(jiǎn)短的說(shuō)明，CAIS 組織在網(wǎng)站上指出，“人工智能專家、記者、政策制定者和公眾越來(lái)越多地討論人工智能帶來(lái)的廣泛的重要和緊迫風(fēng)險(xiǎn)。即便如此，要清楚地表達(dá)對(duì)一些先進(jìn)的 AI 最嚴(yán)重風(fēng)險(xiǎn)的擔(dān)憂可能是困難的。這份簡(jiǎn)潔的聲明旨在克服這一障礙并展開討論。這也是為了讓越來(lái)越多的專家和公眾人物對(duì)待先進(jìn)人工智能的一些最嚴(yán)重的風(fēng)險(xiǎn)有共同的認(rèn)識(shí)，這樣他們也會(huì)認(rèn)真對(duì)待?！?/span>

據(jù)《紐約時(shí)報(bào)》報(bào)道，人工智能安全中心執(zhí)行主任 Dan Hendrycks 表示，今天的聲明很簡(jiǎn)潔——沒(méi)有提出任何減輕人工智能威脅的潛在方法——旨在避免這種分歧。“我們不想推動(dòng)包含 30 種潛在干預(yù)措施的龐大列表”，Hendrycks 說(shuō)道，“當(dāng)這種情況發(fā)生時(shí)，它會(huì)淹沒(méi)掉更重要的信息?！?/span>

與此同時(shí)，Hendrycks 也指出，“系統(tǒng)性偏見(jiàn)、錯(cuò)誤信息、惡意使用、網(wǎng)絡(luò)攻擊和武器化，都是人工智能帶來(lái)的重要和緊迫的風(fēng)險(xiǎn)。”

也有專家認(rèn)為，一旦人工智能系統(tǒng)達(dá)到一定的復(fù)雜程度，就可能無(wú)法控制它們的行為。

簡(jiǎn)單來(lái)看，有了這樣一份聲明，參與其中的人都有了一定共識(shí)，可以共同為“減輕 AI 帶來(lái)的滅絕風(fēng)險(xiǎn)”而出謀劃策，群策群力。

OpenAI 的競(jìng)爭(zhēng)之舉？

除此之外，也有媒體將這封得到 OpenAI 大力支持的聲明，視為 OpenAI 正在搶奪先機(jī)，畢竟此前馬斯克之前試圖拿人工智能風(fēng)險(xiǎn)說(shuō)事，呼吁停止 AI 開發(fā)，毫無(wú)疑問(wèn)，那樣做會(huì)阻礙 OpenAI 在生成式 AI 領(lǐng)域的地位與進(jìn)度。

如今 CAIS 這封最新的聲明中，重點(diǎn)是在如何降低 AI 風(fēng)險(xiǎn)上，也在鼓勵(lì)外界為 AI 監(jiān)管政策的制定出謀劃策，自然無(wú)形之中降低了業(yè)界呼吁直接暫停開發(fā)比 GPT-4 更強(qiáng)大模型的聲音了。

至此，你怎么看待 AI 會(huì)存在滅絕人類的風(fēng)險(xiǎn)？在現(xiàn)實(shí)應(yīng)用中，你是否感受過(guò) AI 超乎你想象的強(qiáng)大之處？歡迎留言分享。

參考：

公開信地址：https://www.safe.ai/statement-on-ai-risk#open-letter

https://techcrunch.com/2023/05/30/ai-extiction-risk-statement

https://www.theverge.com/2023/5/30/23742005/ai-risk-warning-22-word-statement-google-deepmind-openai

https://old.reddit.com/r/ChatGPT/comments/13vfrwm/i_feel_so_mad_it_did_one_search_from_a_random/