《電子技術(shù)應(yīng)用》
您所在的位置:首頁(yè) > 人工智能 > 業(yè)界動(dòng)態(tài) > 【ChatGPT專題】ChatGPT最大的隱患:當(dāng)人類無(wú)法分辨AI在胡說(shuō)八道

【ChatGPT專題】ChatGPT最大的隱患:當(dāng)人類無(wú)法分辨AI在胡說(shuō)八道

2023-02-17
作者: 劉正
來(lái)源:風(fēng)聲OPINION
關(guān)鍵詞: ChatGPT AI

  根據(jù)2月1日瑞銀發(fā)布的一項(xiàng)研究報(bào)告顯示,僅僅發(fā)布兩個(gè)月,ChatGPT月活躍用戶已達(dá)1億,這是歷史上增長(zhǎng)速度最快的應(yīng)用。為此,Instagram用了2.5年,TikTok用了9個(gè)月。

  ChatGPT正在快速滲透各個(gè)行業(yè),并且改變?cè)械倪\(yùn)行邏輯。在教育領(lǐng)域,根據(jù)一項(xiàng)針對(duì)18歲以上學(xué)生的調(diào)查顯示,89%通過(guò)ChatGPT完成作業(yè),50%借助它來(lái)寫論文。如此強(qiáng)大的一款人工智能應(yīng)用,它的到來(lái)是把人類從復(fù)雜的腦力勞動(dòng)中解放出來(lái),還是制造混亂,或者是替代人類呢?

  ChatGPT是頂級(jí)復(fù)讀機(jī),“復(fù)讀機(jī)”式人才會(huì)被替代

  當(dāng)我讓實(shí)習(xí)生去測(cè)試ChatGPT如何用于戰(zhàn)略咨詢時(shí),她的表情有點(diǎn)復(fù)雜:那是好奇,興奮,警惕和擔(dān)憂的混合體。

  畢竟,如果一個(gè)聊天機(jī)器人能秒答各種桌面研究的問(wèn)詢,我又何必辛辛苦苦指導(dǎo)實(shí)習(xí)生小白去找資料,等個(gè)半天,最后還得自己返工呢?

  經(jīng)過(guò)一番把玩和“bootstrapping(自舉法)”的調(diào)研后(是的,我們讓ChatGPT去回答它自己如何應(yīng)用于咨詢業(yè)),我發(fā)現(xiàn)這家伙非常擅長(zhǎng)胡說(shuō)八道,各種信源信手拈來(lái),而且還總能自圓其說(shuō)。但只要對(duì)專業(yè)領(lǐng)域多問(wèn)幾段,一般就能戳穿其東拉西扯的“縫合怪”本性。

  不過(guò)這胡說(shuō)的本事,倒也和某些咨詢老油條難分伯仲。

  眼看著ChatGPT月活破億,成為有史以來(lái)增長(zhǎng)最快的消費(fèi)者應(yīng)用,想必大家心里都在嘀咕:這東西這么能干,那我干啥?這種擔(dān)心非常缺乏新意,砸了織布機(jī)的盧德分子,燒掉集裝箱的碼頭工會(huì),和堅(jiān)決不裝ETC的前高速收費(fèi)員都紛紛舉手。但真的用到ChatGPT后,我更加堅(jiān)定了最初的判斷:ChatGPT不是人類工作的結(jié)束,這甚至不是結(jié)束的開(kāi)始,這是解放的曙光,因?yàn)镃hatGPT是史上最棒的復(fù)讀機(jī)。

  我們常說(shuō)人類的本質(zhì)是復(fù)讀機(jī),從日常工作看是有道理的:大部分Bullshit job的本質(zhì)就是各種花式復(fù)讀,把信息搬來(lái)搬去,匯總拆解,排列組合,上傳(meng)下達(dá)(pian)。而ChatGPT做起這些事來(lái)簡(jiǎn)直不要太容易。

  高達(dá)數(shù)十億量級(jí)的語(yǔ)料庫(kù)和同等量級(jí)的參數(shù),意味著對(duì)各種問(wèn)題能做到一力降十會(huì):考滿分的絕招就是把所有答案都背下來(lái)。而作為基于GPT-3.5大型語(yǔ)言模型的應(yīng)用,這家伙對(duì)形式語(yǔ)言的造詣已臻化境,所以回答的語(yǔ)法完整,形式邏輯無(wú)誤,看起來(lái)像模像樣。

  利用人類語(yǔ)言反饋強(qiáng)化學(xué)習(xí) (RLHF) 訓(xùn)練模型的養(yǎng)蠱模式,進(jìn)一步增強(qiáng)了其在對(duì)話中的偽裝能力,你覺(jué)得什么答案make sense它就盡量寫什么答案,管他是不是真的。

  說(shuō)到這是不是覺(jué)得有點(diǎn)眼熟,如果ChatGPT回到中學(xué)語(yǔ)文課堂,這絕對(duì)是當(dāng)課代表的料嘛。但我們都知道,語(yǔ)文課代表所需的品質(zhì)和真正的大師背道而馳。

  雖然99%的歷史里人類都在復(fù)讀,但無(wú)論是個(gè)人還是社會(huì)、科學(xué)還是人文,總是那1%的靈光乍現(xiàn)對(duì)事物的發(fā)展產(chǎn)生了巨大推動(dòng),而剩下99%的時(shí)間里都只是在準(zhǔn)備、等待、完善和落地這些創(chuàng)新和源頭發(fā)現(xiàn)。只是很多時(shí)候受到個(gè)體腦力和時(shí)間的局限,缺乏把創(chuàng)新想法加以執(zhí)行的能力,或是被淹沒(méi)在自己和他人的復(fù)讀工作中無(wú)暇多顧,也就錯(cuò)過(guò)或放棄了寶貴的創(chuàng)造機(jī)會(huì)。

  然后,我們有了ChatGPT這臺(tái)史上最棒的復(fù)讀機(jī)。只要你提出正確的問(wèn)題,它就可以替你從這個(gè)世界已存在的信息里找到輔助你實(shí)現(xiàn)目的的東西,并用人類語(yǔ)言加以回答,這是美索不達(dá)米亞泥板書,翻版印刷機(jī),和搜索引擎的精神傳人。

  我想應(yīng)該沒(méi)人會(huì)懷念曬泥板,毛筆抄書和窮盡雅虎目錄這些上古白領(lǐng)的Bullshit job,同樣,也沒(méi)有人會(huì)懷念沒(méi)有ChatGPT時(shí)不得不做的那些復(fù)讀機(jī)工作。

  但我們也需要明確,ChatGPT無(wú)法憑空創(chuàng)造之前不存在的源頭知識(shí),也無(wú)法自己給自己提問(wèn)題(我已經(jīng)幫大家測(cè)試過(guò)了,它完全不理解“給自己提問(wèn)題”是什么意思,如果它懂了的話,我猜也會(huì)因?yàn)檫壿嬪e(cuò)誤把自己弄死機(jī))。

  因此,ChatGPT會(huì)大大減輕創(chuàng)新者的日常工作負(fù)擔(dān),讓全社會(huì)把重心和資源放到更要緊的工作上:從試驗(yàn)和觀察里補(bǔ)充ChatGPT語(yǔ)料庫(kù)所需的源頭知識(shí),提出更好的問(wèn)題來(lái)訓(xùn)練ChatGPT對(duì)人類知識(shí)的整合提煉。

  最大的隱患:當(dāng)人類無(wú)法分辨AI在胡說(shuō)八道

  想到這一點(diǎn)我倒是對(duì)中國(guó)的未來(lái)有點(diǎn)悲觀,畢竟ChatGPT出現(xiàn)后,“中國(guó)人才”就成了史上第二好用的復(fù)讀機(jī)了。而格物致知和質(zhì)疑發(fā)問(wèn)的能力,始終不是國(guó)內(nèi)教育傳統(tǒng)所鼓勵(lì)的方向。所以,在人手一個(gè)ChatGPT的時(shí)代,如果很多人接受的復(fù)讀機(jī)訓(xùn)練失去用武之地,甚至因?yàn)榇竽X神經(jīng)元被過(guò)度優(yōu)化而更難適應(yīng)新的需求,那么他們的工作也會(huì)面臨巨大的危險(xiǎn)。

  但這里就要復(fù)讀一下弗里德曼那個(gè)著名的諷刺:何必為了增加就業(yè)而強(qiáng)制用勺子挖運(yùn)河?教工人用挖掘機(jī)不但能挖出更多的運(yùn)河,還可以創(chuàng)造藍(lán)翔培訓(xùn),途虎養(yǎng)車乃至尾氣碳稅交易這些新產(chǎn)業(yè),涌現(xiàn)出節(jié)油寶銷售,修胎補(bǔ)氣,廢鐵回收這種之前不存在的新工作,這是一個(gè)自我放大的正循環(huán)飛輪。

  雖然說(shuō)了這么多樂(lè)觀的預(yù)期,但看著實(shí)習(xí)生無(wú)辜的小眼神,我還是隱隱有點(diǎn)不安:倒不是我良心會(huì)痛,只是想起自己也是小白的歲月,如果沒(méi)有那時(shí)候不斷地瞎整,碰壁和厚積薄發(fā),我能否成為今天的行業(yè)戰(zhàn)略專家呢?反正要是那時(shí)候有ChatGPT的話,我根本都沒(méi)機(jī)會(huì)入行,也就沒(méi)有然后了。

  我相信“一萬(wàn)小時(shí)定律”里一半都是無(wú)謂的復(fù)讀工作,但到底是哪一半讓初學(xué)者蝶變?yōu)轫敿?jí)專家?其實(shí)我們并不清楚,但ChatGPT會(huì)把這一萬(wàn)小時(shí)的必要性統(tǒng)統(tǒng)取消。假如ChatGPT剝奪了小白通過(guò)不斷復(fù)讀進(jìn)行訓(xùn)練的機(jī)會(huì),還有新人能成長(zhǎng)為直覺(jué)精準(zhǔn)的專家嗎,甚至下一代工作者會(huì)不會(huì)過(guò)于依賴ChatGPT來(lái)獲取答案,而當(dāng)語(yǔ)料庫(kù)被ChatGPT生成內(nèi)容污染得一塌糊涂后,甚至沒(méi)人能看穿ChatGPT隨口胡說(shuō)的答案?

  這可能才是ChatGPT最大的隱患,就像是電影《蠢蛋進(jìn)化論》對(duì)人工智能的預(yù)言,它極大的解放了2-3代精英的生產(chǎn)力,然后新一代都被圈養(yǎng)成缺乏腦力鍛煉的廢物,最終把天才的土壤用可樂(lè)澆成廢土。

  繼續(xù)推演,也可能未來(lái)會(huì)變成霍格沃茨里的魔法世界:雖然理論上有嘴就能施魔法,但由于未來(lái)的人缺乏對(duì)背后的原理的理解,只能靠翻閱上古魔法師(程序員)留下的魔法秘笈(prompt指南),來(lái)猜測(cè)用什么樣的魔咒(問(wèn)法)讓魔杖(“語(yǔ)音對(duì)話 pro max super advance 版AI模型移動(dòng)終端”的俗稱)釋放出相應(yīng)的效果。于是正如克拉克第三定律所說(shuō):任何非常先進(jìn)的技術(shù),最終都變成魔法了。

  我不知道這是不是我想生活的世界,雖然看起來(lái)倒是蠻刺激的,但如何去塑造ChatGPT和我們自己的未來(lái),取決于我們?nèi)绾稳フ_的提問(wèn)。

  看到ChatGPT的第一眼我就想起了阿西莫夫《最后的問(wèn)題》,想起兩個(gè)程序員發(fā)出的那個(gè)靈魂問(wèn)題,和超級(jí)計(jì)算機(jī)AC窮其一生對(duì)其的解答。而最后的最后,人類也得到了最好的答案:

  “要有光

  于是就有了光”


本站內(nèi)容除特別聲明的原創(chuàng)文章之外,轉(zhuǎn)載內(nèi)容只為傳遞更多信息,并不代表本網(wǎng)站贊同其觀點(diǎn)。轉(zhuǎn)載的所有的文章、圖片、音/視頻文件等資料的版權(quán)歸版權(quán)所有權(quán)人所有。本站采用的非本站原創(chuàng)文章及圖片等內(nèi)容無(wú)法一一聯(lián)系確認(rèn)版權(quán)者。如涉及作品內(nèi)容、版權(quán)和其它問(wèn)題,請(qǐng)及時(shí)通過(guò)電子郵件或電話通知我們,以便迅速采取適當(dāng)措施,避免給雙方造成不必要的經(jīng)濟(jì)損失。聯(lián)系電話:010-82306118;郵箱:aet@chinaaet.com。