短短6個月的時間，GPT3.5迭代到GPT4，當(dāng)大家暢想一個更強(qiáng)大的GPT5的時候，馬斯克等科技圈大佬帶頭潑下冷水——3月29日，未來生命研究所（Future of Life Institute）公布一封公開信，呼吁所有AI實(shí)驗(yàn)室立即暫停訓(xùn)練比GPT-4更強(qiáng)大的AI系統(tǒng)至少6個月。
(資料圖)
截至發(fā)稿，超過1000人簽署了這封公開信，除了馬斯克之外，還包括圖靈獎得主約書亞·本吉奧（Yoshua Bengio）、美國作家兼紐約大學(xué)教授加里·馬庫斯（Gary Marcus）、《人工智能：現(xiàn)代方法》作者斯圖爾特·羅素（Stuart Russell）、 蘋果公司聯(lián)合創(chuàng)始人史蒂夫·沃茲尼亞克（Steve Wozniak）等。
圖源：未來生命研究所官網(wǎng)
截取名單靠前部分
AI威脅論是這封公開信的出發(fā)點(diǎn)。
公開信表示，大量研究表明，具有與人類競爭智能的AI系統(tǒng)可能對社會和人類構(gòu)成深遠(yuǎn)的風(fēng)險，這一觀點(diǎn)得到了頂級AI實(shí)驗(yàn)室的承認(rèn)……最近這幾個月，全球的AI實(shí)驗(yàn)室已經(jīng)完全失控了，它們瘋狂地開展AI競賽，來開發(fā)和部署更強(qiáng)大的AI，而沒有任何人可以理解、預(yù)測、控制這些AI，連它們的創(chuàng)造者都不能。
顯而易見，這封信的矛頭直指OpenAI，且在信中援引了OpenAI的觀點(diǎn)——“OpenAI最近關(guān)于通用人工智能的聲明指出，‘在某些時候，在開始訓(xùn)練未來的系統(tǒng)之前進(jìn)行獨(dú)立審查可能很重要，并且對于最先進(jìn)的工作來說，應(yīng)該同意限制用于創(chuàng)建新模型的計算量增長。’我們同意。那個某些時候就是現(xiàn)在。”
信中還寫道，這種暫停應(yīng)該是公開的和可驗(yàn)證的，并且包括所有關(guān)鍵參與者。如果不能迅速實(shí)施這種暫停，政府應(yīng)介入并實(shí)行暫停。“這并不意味著總體上暫停AI開發(fā)，只是緊急從奔向不可預(yù)測的大型黑盒模型的危險競賽中收回腳步。”
基于此，這封信提出建議，開發(fā)者必須與政策制定者合作，大幅加快開發(fā)強(qiáng)大的AI管理系統(tǒng)，該系統(tǒng)至少應(yīng)該包括：
專門負(fù)責(zé)監(jiān)管AI的機(jī)構(gòu)；出處和水印系統(tǒng)，從而幫助區(qū)分真實(shí)與生成的內(nèi)容，并且能夠跟蹤模型的泄漏；強(qiáng)大的審計和認(rèn)證系統(tǒng)；在AI造成傷害后，明確誰該承擔(dān)責(zé)任。
生命未來研究所什么來頭？
這一幕似曾相識，當(dāng)初谷歌在AI領(lǐng)域一騎絕塵，山姆·阿爾特曼（Sam Altman）為此舉辦了一個私人宴會，邀請了馬斯克等一眾科技圈大佬，最終在數(shù)月后成立了非營利組織OpenAI以遏制谷歌。如今，同樣的情景加諸己身。
資料顯示，生命未來研究所同樣是一個非營利組織，它創(chuàng)立于2014年3月，其創(chuàng)始團(tuán)隊(duì)主要是高校學(xué)者、學(xué)生，包括麻省理工學(xué)院宇宙學(xué)家馬克斯·泰格馬克，Skype聯(lián)合創(chuàng)始人讓·塔林等。其研究所顧問委員會成員來源較廣，部分名字耳熟能詳，包括宇宙學(xué)家史蒂芬·霍金、特斯拉CEO埃隆·馬斯克，亞倫·艾達(dá)、摩根·弗里曼等演藝界人士也在其中。
生命未來研究所關(guān)注包括AI、生物技術(shù)、核武器、氣候變化在內(nèi)的多個重大議題。從其官網(wǎng)簡介來看，其主旨在于引導(dǎo)變革性技術(shù)造福生命，遠(yuǎn)離極端大規(guī)模風(fēng)險。
生命未來研究所最新的部分倡議書
馬斯克帶頭 還有誰也來抵制GPT5？
從支持者陣容來看，馬斯克的號召力自不用說， 約書亞·本吉奧因?qū)ι疃葘W(xué)習(xí)的貢獻(xiàn)，在2018年與杰弗里·辛頓、Facebook首席科學(xué)家楊力昆（Yann LeCun）一起獲得了圖靈獎，三人被稱為“AI教父”。
另外，這份名單中還包括兩名微軟的軟件工程師，以及來自O(shè)penAI“競爭對手”的研究員，包括谷歌旗下DeepMind的三位研究科學(xué)家、AI繪畫產(chǎn)品Stable Diffusion開發(fā)公司Stability AI的CEO Emad Mostaque。
有趣的是，翻閱完生命未來研究所公布的全部名單后，我們會發(fā)現(xiàn)，參與者的職業(yè)可謂五花八門，不少人身處AI行業(yè)之外。包括導(dǎo)演、演員、作者、已退休的政客、電工、參贊、醫(yī)生、護(hù)士、出版商、記者、藝術(shù)家、銷售、自由職業(yè)者、飛行員、軍人、電影放映員、船長等（這其中就有《阿凡達(dá)：水之道》的美術(shù)指導(dǎo)Ben Procter）；有的語焉不詳，如維基百科資深編輯、管理員、退休人員；甚至有人的身份認(rèn)證為“關(guān)心所有孩子未來的祖母、母親”“憂心忡忡的公民”“居家的父母”。
正如上述公開信中的四個發(fā)問——當(dāng)AI系統(tǒng)在一般任務(wù)上已經(jīng)變得和人類一樣有競爭力，我們必須捫心自問：
是否應(yīng)該讓機(jī)器用宣傳和謊言充斥我們的信息渠道·是否應(yīng)該讓所有工作都變得自動化，即使是令人滿意的工作者·是否應(yīng)該發(fā)展可能會超越我們并取代我們的非人類智能·是否應(yīng)該冒險失去對人類文明的控制·
來源：財聯(lián)社
責(zé)任編輯：Rex_30
營業(yè)執(zhí)照公示信息