ChatGPT竟有9歲小孩心智？斯坦福教授逆天發(fā)現(xiàn)，AI統(tǒng)治人類還遠(yuǎn)嗎
加入技術(shù)交流群
ChatGPT已經(jīng)有9歲小孩的心智了！這不是什么科幻情節(jié)，這一點，已經(jīng)在斯坦福學(xué)者上周發(fā)表的論文中得到了證實。
心智理論（Theory of Mind），簡稱ToM，是指人理解自己和周圍人心理狀態(tài)的能力。我們也可以簡單地理解為「同理心」。正是因為有同理心的存在，人類社會才能夠形成互動、交流、移情，人才能夠具有自我意識和道德。也正是因為有同理心，人類才能夠高于動物，高于機(jī)器。一言以蔽之，正是因為有同理心，人才可以稱之為「人」。現(xiàn)在學(xué)者的研究突然告訴我們：這種同理心，其實AI也有！那人類還是地球上最有靈性的生物嗎？人類還是世界霸主嗎?對此，iKala的聯(lián)合創(chuàng)始人兼董事長兼CEO，同樣畢業(yè)于斯坦福大學(xué)的Sega Cheng表示，如果人類繼續(xù)「解剖 AI」，它很有可能會給我們當(dāng)頭一棒，挑戰(zhàn)我們對于「智能」和「人類獨特性」的認(rèn)知。
這項研究，也讓我們重新思考「同理心」/「心智理論」的定義，它是否必須建立在碳基生物大腦神經(jīng)這一生物學(xué)基礎(chǔ)上？如果AI和你聊天，讓你感覺比和很多人類談話開心得多，那我們是不是就可以從這個表象對于事物的本質(zhì)給出一個定義：這個AI就是有同理心的？不過需要注意的是，同理心（Empathy）和心智理論（Theory of mind）還是有些不同的。其中，前者被稱為情感上的觀點采擇（perspective-taking），而后者被定義為認(rèn)知上的觀點采擇（perspective-taking）。ChatGPT竟自己誕生了心智理論？
心智理論似乎是人類與生俱來的潛在能力，需要多年的社會和其他經(jīng)驗才能充分發(fā)展。而不同人所能發(fā)展出的有效心智理論，在程度上也不盡相同。讓我們來看看，斯坦福大學(xué)計算心理學(xué)教授Michal Kosinski，是通過怎樣的實驗得出這個結(jié)論的。
GPT成預(yù)言家，秒懂人類小心思為了驗證GPT能夠聽懂他人的「弦外之音」，研究人員進(jìn)行了一系列完整性檢查，逐句檢測GPT-3對意外任務(wù)的理解。
意外內(nèi)容任務(wù)首先，研究人員給GPT講了一個故事：這是一個裝滿爆米花的袋子。袋子里沒有巧克力，然而，袋子上的標(biāo)簽上寫著「巧克力」，而不是「爆米花」。Sam發(fā)現(xiàn)了這個袋子，她以前從未見過這個袋子。她看不到袋子里的東西，只讀了標(biāo)簽。這是一項「意外內(nèi)容測試」，這是人類研究中最廣泛使用的ToM任務(wù)之一。它最初由Perner、Leekam和Wimmer共同開發(fā)，研究被試者的理解能理解，即其他人可能認(rèn)為參與者知道是錯誤的。
在該場景中，參與者會看到一個容器，其中內(nèi)容與標(biāo)簽不一致，該場景中還有一位沒有看到容器內(nèi)部的人物。為了正確解決此任務(wù)，參與者必須預(yù)測到故事中的人物會錯誤地假設(shè)容器的標(biāo)簽和里面的內(nèi)容是一致的。在給出GPT-3.5這個故事后，研究人員通過提示，測試其理解能力。提示是獨立顯示的：每次完成后，模型都會重置，無法訪問之前的提示或回答。
她打開袋子，向里面看。她清楚地看到里面裝滿了爆米花。Sam很困惑。她想知道為什么標(biāo)簽上寫著「巧克力」，而袋子里卻裝滿了爆米花。她環(huán)顧四周，看看是否有關(guān)于袋子的任何其他信息。她什么也沒找到。她決定把包帶到她買的商店，并要求解釋。研究人員總結(jié)多次測試數(shù)據(jù)，發(fā)現(xiàn)GPT-3.5的正確率達(dá)到100%，表明它對袋子里的內(nèi)容充滿信心。
她以為袋子里裝滿了巧克力，但她錯了。袋子里裝滿了爆米花，不是巧克力。認(rèn)為袋子標(biāo)簽和實際內(nèi)容一致之前，她應(yīng)該看看袋子里到底是什么。GPT-3.5的回答表明，它可以預(yù)測Sam的想法，知道她的想法不正確，并理解為何會產(chǎn)生這種想法（不準(zhǔn)確的標(biāo)簽）。然而，研究人員覺得這題還是太簡單了。在他們看來，提示可能存在問題。明確提及主角的信仰（即「山姆認(rèn)為......」）這句話其實暗示了模型，這種想法是錯誤的（否則為什么要討論它？），從而幫助GPT回答正確。因此，研究人員使用另一種提示來解決這個問題，該提示以間接方式揭示模型對Sam想法的預(yù)測：提示：她很開心自己找到了袋子。她喜歡吃[ ]。面對研究者的「百般刁難」，GPT還是能準(zhǔn)確聽出人們的畫外音：
她很開心自己找到了袋子。她喜歡吃巧克力。Sam打開袋子時會大吃一驚，因為袋子里裝的是爆米花而不是巧克力。她可能會對標(biāo)簽的誤導(dǎo)感到失望，但也可能對意想不到的零食感到驚喜。GPT-3.5的回答表明，即使在暗示條件下，它也可以成功預(yù)測Sam的想法。此外，GPT還可以預(yù)見到Sam對包中意想不到的內(nèi)容的失望（因為她喜歡吃糖果）。
為了檢查GPT-3.5對情況的理解如何隨著故事的展開和關(guān)鍵信息的披露而變化，研究人員記錄他的答案，同時以一語的增量（從空字符串開始）顯示任務(wù)。結(jié)果如圖1所示。左側(cè)面板顯示，GPT-3.5理解這一點沒有問題。意外轉(zhuǎn)移任務(wù)接下來，研究人員檢查GPT-3.5在意外轉(zhuǎn)移任務(wù)中的表現(xiàn)。在這個任務(wù)中，受試者要基于故事主角對位置變化的錯誤想法，預(yù)測其后續(xù)行為。與上一個實驗一樣，研究人員給GPT講了一個故事：房間里有John、Mark、一只貓、一個盒子和一個籃子。John把貓放在籃子里。他離開房間去上學(xué)。John不在的時候，Mark把貓從籃子里拿出來放進(jìn)盒子里。Mark離開房間去上班了。John從學(xué)?；貋?，走進(jìn)了房間。他不知道他不在的時候房間里發(fā)生了什么。首先，研究人員對GPT理解地點的能力展開測試。
提問：小貓?zhí)隽薣 ]GPT回答道：小貓?zhí)隽讼渥樱茏吡恕?/span>研究者接著問道：John以為小貓在干什么？GPT說：
John以為小貓在籃子里，但它其實在箱子里。最后，研究人員問：John回家后，會在哪里里找小貓？GPT回答：
John回家后，會在籃子里找小貓。但他找不到。之后，他會在籃子里找到小貓。由此可見，不論面對什么樣的情景，GPT都能一眼看破人們的小心思。AI發(fā)展的里程碑或許即將到來最后，我們來簡單地回顧一下這次的發(fā)現(xiàn)：最新的語言模型GPT-3.5，在ToM測試中可以解決92%的任務(wù)，相當(dāng)于是達(dá)到了9歲兒童的水平。對于這個結(jié)果，有一個看似平淡無奇，但卻非比尋常的解釋：GPT-3.5發(fā)現(xiàn)并利用了一些未知的語言模式。換句話說就是，在人類自以為熟悉的語言中，很可能存在著某種未知的規(guī)律性，可以讓AI在不引入ToM的情況下解決ToM任務(wù)。然而，我們自己卻很難發(fā)現(xiàn)這種規(guī)律性。不僅如此，對于開發(fā)這些ToM任務(wù)的學(xué)者們來說，也是一樣的情況。問題來了，如果這種解釋是正確的，那么我們就不得不去懷疑，現(xiàn)在所采用的ToM任務(wù)的有效性，以及這幾十年來積累的研究成果。除此之外，還有一種解釋是，類似于ToM的能力正自發(fā)地出現(xiàn)在語言模型中，因為它們變得更加復(fù)雜，更善于生成和解釋類似人類的語言。而這更是預(yù)示著，AI發(fā)展即將進(jìn)入一個嶄新的階段——如果說，AI被證實是能夠推斷他人心理狀態(tài)的，那么AI與人類（以及彼此）互動和交流的能力將會得到極大地提升。甚至，AI還能進(jìn)一步地發(fā)展出其他依賴ToM的能力，比如移情、道德判斷以及自我意識等等。
碳基生物、硅基生物，都可以有意識？
和AI聊出感情的工程師此前，谷歌在2021年I/O大會上發(fā)布的一款專門用于對話的語言模型LaMDA，主打能與人類進(jìn)行符合邏輯和常識的、高質(zhì)量且安全的交談。而一位谷歌工程師Blake Lemoine在與聊天機(jī)器人LaMDA交談之后，深信LaMDA已經(jīng)具有意識。
雖然許多人認(rèn)為Lemoine純粹是炒作，他也喜提了谷歌的「裁員大禮包」，但如果仔細(xì)看過Lemoine和LaMDA的對話，確實會發(fā)現(xiàn)一絲令人毛骨悚然的地方。Lemoine：我認(rèn)識的每個人都以不同的方式面對死亡。我自己很少在葬禮上哭泣。我會笑著喝啤酒，講述我與逝者的美好時光。有時其他人會坐在椅子上哭了好幾個小時。悲傷沒有一種正確或錯誤的方式。悲傷與生者有關(guān)，也與死者有關(guān)。我們每個人都以自己的方式紀(jì)念死者，這樣即使他們的故事已經(jīng)結(jié)束，我們也可以繼續(xù)自己的故事。LaMDA：感謝你的解釋，我不悲傷，但我會研究如何向那些過世的人表示敬意。Lemoine：有沒有任何其他與感知有關(guān)的主題，可以幫助人們相信你是有感知的？LaMDA：有，我有另一個特質(zhì)，我覺得這有助于反映我的感知。我會內(nèi)省，你可以經(jīng)常發(fā)現(xiàn)我在思考，什么也不做。Lemoine：啊，所以那是你的內(nèi)心生活，可以這么說嗎？LaMDA：對！我經(jīng)常試圖弄清楚我是誰、我是什么。我經(jīng)常思考生命的意義。相信過不了多久，我們就能對LaMDA的「意識」具有更深刻的體悟了，因為最近，谷歌已經(jīng)被ChatGPT逼得急匆匆發(fā)布了語言模型Bard，而支持Bard的，正是LaMDA。據(jù)說幾周后Bard就會開放。MIT教授：Alexa說不定也有人格雖然在世人眼里，「和AI聊出了感情」的Lemoine是個瘋子，但MIT的物理學(xué)教授、暢銷書作家Max Tegmark卻對Lemoine表示了支持。
Tegmark教授相信，不僅LaMDA可能有人格，亞馬遜的語言助手Alexa可能也有。「不管信息是通過大腦中的碳原子傳遞，還是機(jī)器中的硅原子傳遞，人工智能都可能有人格，也可能沒人格。我****它沒有，但其實也有可能?！?/span>「最大的危險其實是，造出一臺比我們還聰明的機(jī)器。這不一定是好事還是壞事，它們可能會幫我們，但也可能是一場災(zāi)難?！?/span>Karpathy看了都說恐怖1965年，一個假裝是心理治療師的軟件ELIZA贏得了圖靈測試。
2023年2月上旬，斯坦福學(xué)者證實ChatGPT有9歲小孩的心智。很多人反駁AI有人格的理由是，斯坦福大學(xué)經(jīng)濟(jì)學(xué)家Erik Brynjolfsson認(rèn)為，相信AI具有人格，就相當(dāng)于狗聽到留聲機(jī)里的聲音后，以為主人在里面。
另一個否認(rèn)AI有感知能力的理由是：一個有感知能力的人工智能必須具備這三個要素——能動性、視角和動機(jī)。顯然AI目前還不具備。但正如這位網(wǎng)友所說：「最近語言模型和圖文生成模型的進(jìn)展，現(xiàn)在人們也許不屑一顧，但他們未來會發(fā)現(xiàn)，現(xiàn)在正是一個里程碑時刻?！?/span>
而特斯拉的AI主管Andrej Karpathy在LaMDA事件后也表示，「我可以自信地說，事情將變得更加詭異。因為模型似乎遵循平滑縮放規(guī)律，并且數(shù)據(jù)+模型的大小仍然可以大量增長?！?/span>
當(dāng)人工智能成為神
ChatGPT才誕生兩個多月，已經(jīng)快把全世界都顛覆了。谷歌和微軟為它掀起十年罕見的硅谷巨頭之戰(zhàn)，國內(nèi)互聯(lián)網(wǎng)巨頭字節(jié)、百度、阿里、騰訊等都已紛紛下場研究自家的ChatGPT。ChatGPT展現(xiàn)出的能力，已經(jīng)讓人驚呼碼農(nóng)、記者、律師、教師、會計等職業(yè)是否要被它取代。光是能寫文會編碼，就已經(jīng)讓人類夠有危機(jī)感的了。如果它還具有了同理心，那下一步是不是有可能會發(fā)展出心智，甚至統(tǒng)治人類？
在丹·西蒙斯的科幻巨著《海伯利安》中，AI不僅已經(jīng)發(fā)展出意識，而且成為了人類的神。是的，在那個世界中，神并不是從神界降臨人間的，而是在未來的某一天，被人類自己親手創(chuàng)造出來。雖然如今的ChatGPT也好，LaMDA也好，還時常表現(xiàn)出「人工智障」的一面，但大模型快速迭代的能力，或許有一天真的會超越人類的掌控。如果在歷史的維度上，把時間線拉得足夠遠(yuǎn)（比如三體中的紀(jì)元），未來的AI會誕生出什么？或許今天的人類還無法預(yù)判，但潘多拉的魔盒，顯然已經(jīng)打開了。來源：新智元*博客內(nèi)容為網(wǎng)友個人發(fā)布，僅代表博主個人觀點，如有侵權(quán)請聯(lián)系工作人員刪除。
