圖源：圖蟲(chóng)創(chuàng)意
界面新聞?dòng)浾?|李京亞
日前，特斯拉CEO埃隆·馬斯克率數(shù)百位科技行業(yè)高管在一封公開(kāi)信中呼吁，所有人工智能實(shí)驗(yàn)室應(yīng)立即暫停比GPT-4更強(qiáng)大的人工智能系統(tǒng)訓(xùn)練，暫定時(shí)間是6個(gè)月以上。
(資料圖片僅供參考)
這封題為《暫停巨型人工智能實(shí)驗(yàn)》的公開(kāi)信于3月22日刊登在非盈利組織生命未來(lái)研究所（Future of Life Institute）的官網(wǎng)上，其行文明快、語(yǔ)言犀利，詳細(xì)闡述了具有與人類(lèi)競(jìng)爭(zhēng)性的人工智能系統(tǒng)會(huì)給社會(huì)和文明造成的潛在風(fēng)險(xiǎn)。
圖源：生命未來(lái)研究所（Future of Life Institute）
“高級(jí)人工智能可以代表地球生命史上的深刻變化，應(yīng)該投入相應(yīng)的關(guān)注和資源進(jìn)行規(guī)劃和管理。但不幸的是，這種級(jí)別的規(guī)劃和管理并未發(fā)生。在最近幾個(gè)月，人工智能實(shí)驗(yàn)室被鎖在一場(chǎng)失控的競(jìng)賽之中，大家爭(zhēng)相開(kāi)發(fā)和部署更強(qiáng)大的人工智能系統(tǒng)，以至于沒(méi)有人能夠完全理解、預(yù)測(cè)或可靠地控制這些進(jìn)程，即使他們的創(chuàng)造者也不能。”
在對(duì)可能失去文明控制的風(fēng)險(xiǎn)作出預(yù)警后，公開(kāi)信指出，“只有在我們確信強(qiáng)大的人工智能系統(tǒng)的效果將是積極的，風(fēng)險(xiǎn)是可控的，才應(yīng)該開(kāi)發(fā)。”
公開(kāi)信的作者們呼吁，希望暫停至少6個(gè)月高級(jí)人工智能開(kāi)發(fā)，直到各界共同制定出一套能順利實(shí)施并由獨(dú)立專(zhuān)家審計(jì)的安全協(xié)議。
“因此，針對(duì)任何比GPT-4更強(qiáng)大的人工智能系統(tǒng)的訓(xùn)練，我們呼吁所有人工智能實(shí)驗(yàn)室立即暫停至少6個(gè)月。這種暫停應(yīng)該是公開(kāi)的和可核查的，并囊括所有關(guān)鍵參與者。如果這種暫停不能迅速頒布，各國(guó)政府應(yīng)該介入并制定暫停令。”
公開(kāi)信還提到，6個(gè)月的暫停并不意味著人工智能總體發(fā)展的暫停，只是從目前危險(xiǎn)的競(jìng)賽中退后一步。
在公開(kāi)信的末尾，作者們將目前人工智能發(fā)展現(xiàn)狀比作收獲回報(bào)的盛夏，并再次強(qiáng)調(diào)對(duì)人工智能發(fā)展過(guò)快進(jìn)行控制是為了讓大家享受一個(gè)更漫長(zhǎng)的盛夏，而非在毫無(wú)準(zhǔn)備的情況下匆忙入秋。
截至發(fā)稿，這封公開(kāi)信獲得了1126個(gè)簽名支持，埃隆·馬斯克于公開(kāi)信下第三位簽名，蘋(píng)果聯(lián)合創(chuàng)始人史蒂夫·沃茲尼亞克緊隨其后，署名序列中還包括Stability AI的創(chuàng)始人穆斯塔克、Skype的聯(lián)合創(chuàng)始人和Pinterest聯(lián)合創(chuàng)始人，以及一位圖靈獎(jiǎng)得主。
署名人員中目前沒(méi)有OpenAI員工的身影。據(jù)媒體報(bào)道，OpenAI的首席執(zhí)行官阿爾特曼的名字曾短暫出現(xiàn)在署名名單中，此后消失。但有四名谷歌員工在名單上署名，包括來(lái)自谷歌旗下人工智能實(shí)驗(yàn)室DeepMind的三名研究科學(xué)家。
圖源：生命未來(lái)研究所（Future of Life Institute）
在馬斯克與OpenAI創(chuàng)始人阿爾特曼的矛盾近日見(jiàn)諸報(bào)端之后，馬斯克發(fā)表這封公開(kāi)信并不令人意外。
公開(kāi)信的刊發(fā)組織——生命未來(lái)研究所（Future of Life Institute）是一個(gè)成立于2014年的非盈利機(jī)構(gòu)，由麻省理工物理系終身教授邁克斯·泰格馬克和其他四位成員共同創(chuàng)立，組織的研究宗旨是探索人工智能的發(fā)展對(duì)人類(lèi)的益處，并降低核武器以及生物技術(shù)對(duì)人類(lèi)帶來(lái)的風(fēng)險(xiǎn)。在其科學(xué)顧問(wèn)委員會(huì)成員中，馬斯克赫然在列。
眾所周知，在特斯拉和SpaceX的事務(wù)之外，馬斯克一直對(duì)輸出人工智能觀點(diǎn)極為上心。幾乎每年，他都會(huì)率眾發(fā)表重量級(jí)公開(kāi)信對(duì)人工智能技術(shù)前景表達(dá)憂慮。蘋(píng)果聯(lián)合創(chuàng)始人史蒂夫·沃茲尼亞克和DeepMind的一些重量級(jí)科學(xué)家是他在此事上的多年搭檔。
有觀點(diǎn)指出，在OpenAI創(chuàng)立中扮演了重要角色的馬斯克，由于2018年選擇離場(chǎng)，導(dǎo)致其現(xiàn)在與大語(yǔ)言模型和OpenAI這兩個(gè)科技界最重要的風(fēng)口毫無(wú)關(guān)系，這讓他面對(duì)GPT-4的成功時(shí)加倍痛苦。
而這次的公開(kāi)信正是在OpenAI發(fā)布多模態(tài)預(yù)訓(xùn)練大模型GPT-4僅兩周后發(fā)出的。GPT-4被譽(yù)為有史以來(lái)最強(qiáng)大的人工智能系統(tǒng)。隨著人工智能領(lǐng)域研究人員們因GPT4的到來(lái)對(duì)通用人工智能AGI的預(yù)期變得樂(lè)觀，一些謹(jǐn)慎的創(chuàng)業(yè)者、投資人、專(zhuān)家和監(jiān)管機(jī)構(gòu)開(kāi)始悲觀審視人工智能引發(fā)的軍備競(jìng)賽帶來(lái)的風(fēng)險(xiǎn)。
本周一，歐盟執(zhí)法機(jī)構(gòu)歐洲刑警組織（Europol）在一份技術(shù)報(bào)告中發(fā)出警告：聊天機(jī)器人ChatGPT可能被濫用于網(wǎng)絡(luò)釣魚(yú)、宣傳虛假信息以及網(wǎng)絡(luò)犯罪。路透社將這份技術(shù)報(bào)告與馬斯克等人的公開(kāi)信歸為給生成式AI大好前景潑冷水的“大合唱”開(kāi)端。
推薦閱讀
責(zé)任編輯：Rex_29
營(yíng)業(yè)執(zhí)照公示信息