據(jù)生命未來(lái)研究所官網(wǎng)，3月22日，生命未來(lái)研究所（Future of Life）向全社會(huì)發(fā)布了一封《暫停大型人工智能研究》的公開信， 呼吁所有人工智能實(shí)驗(yàn)室立即暫停比GPT-4更強(qiáng)大的人工智能系統(tǒng)的訓(xùn)練，暫停時(shí)間至少為6個(gè)月。該機(jī)構(gòu)以“引導(dǎo)變革性技術(shù)造福生活，遠(yuǎn)離極端的大規(guī)模風(fēng)險(xiǎn)”為使命。
截至目前，馬斯克、蘋果聯(lián)合創(chuàng)始人Steve Wozniak、Stability AI創(chuàng)始人Emad Mostaque等上千名科技大佬和AI專家已經(jīng)簽署公開信。
“把實(shí)驗(yàn)停下來(lái)！”馬斯克等超1000人簽署公開信
(資料圖)
據(jù)悉，未來(lái)生命研究所的公開信已有1079人簽署。
信中寫道：廣泛的研究表明，具有與人類競(jìng)爭(zhēng)智能的人工智能系統(tǒng)可能對(duì)社會(huì)和人類構(gòu)成深遠(yuǎn)的風(fēng)險(xiǎn)，這一觀點(diǎn)得到了頂級(jí)人工智能實(shí)驗(yàn)室的承認(rèn)。正如廣泛認(rèn)可的“阿西洛馬人工智能原則（Asilomar AI Principles，阿西莫夫的機(jī)器人三大法則的擴(kuò)展版本，于2017年由近千名人工智能和機(jī)器人專家簽署）中所述，高級(jí)AI可能代表地球生命史上的深刻變化，應(yīng)該以相應(yīng)的關(guān)照和資源進(jìn)行規(guī)劃和管理。不幸的是，這種級(jí)別的規(guī)劃和管理并沒有發(fā)生，盡管最近幾個(gè)月人工智能實(shí)驗(yàn)室陷入了一場(chǎng)失控的競(jìng)賽，以開發(fā)和部署更強(qiáng)大的數(shù)字思維，沒有人——甚至他們的創(chuàng)造者——能理解、預(yù)測(cè)或可靠地控制。
“當(dāng)代人工智能系統(tǒng)現(xiàn)在在一般任務(wù)上變得與人類具有競(jìng)爭(zhēng)力，我們必須捫心自問：我們是否應(yīng)該讓機(jī)器用宣傳和謊言充斥我們的信息渠道？我們是否應(yīng)該自動(dòng)化所有工作，包括令人滿意的工作？我們是否應(yīng)該發(fā)展最終可能比我們更多、更聰明，淘汰并取代我們的非人類思維？我們應(yīng)該冒險(xiǎn)失去對(duì)我們文明的控制嗎？”這封信寫道，“只有當(dāng)我們確信它們的影響是積極的并且風(fēng)險(xiǎn)是可控的時(shí)候，才應(yīng)該開發(fā)強(qiáng)大的人工智能系統(tǒng)。這種信心必須有充分的理由，并隨著系統(tǒng)潛在影響的規(guī)模而增加。OpenAI最近關(guān)于通用人工智能的聲明指出，‘在某些時(shí)候，在開始訓(xùn)練未來(lái)的系統(tǒng)之前進(jìn)行獨(dú)立審查可能很重要，并且對(duì)于最先進(jìn)的工作來(lái)說(shuō)，應(yīng)該同意限制用于創(chuàng)建新模型的計(jì)算量增長(zhǎng)?！覀兺?。那個(gè)某些時(shí)候就是現(xiàn)在?！?/p>
這封信呼吁， 所有人工智能實(shí)驗(yàn)室立即暫停訓(xùn)練比GPT-4更強(qiáng)大的人工智能系統(tǒng)至少6個(gè)月。這種暫停應(yīng)該是公開的和可驗(yàn)證的，并且包括所有關(guān)鍵參與者。如果不能迅速實(shí)施這種暫停，政府應(yīng)介入并實(shí)行暫停。人工智能實(shí)驗(yàn)室和獨(dú)立專家應(yīng)該利用這次暫停，共同開發(fā)和實(shí)施一套用于高級(jí)人工智能設(shè)計(jì)和開發(fā)的共享安全協(xié)議，并由獨(dú)立的外部專家進(jìn)行嚴(yán)格審計(jì)和監(jiān)督。這些協(xié)議應(yīng)確保遵守它們的系統(tǒng)是安全的，并且無(wú)可置疑。這并不意味著總體上暫停AI開發(fā)，只是緊急從奔向不可預(yù)測(cè)的大型黑盒模型的危險(xiǎn)競(jìng)賽中收回腳步。
與此同時(shí)，信中指出，AI開發(fā)人員必須與政策制定者合作，以顯著加快開發(fā)強(qiáng)大的AI治理系統(tǒng)。至少應(yīng)包括：建立專門負(fù)責(zé)AI的有能力的新監(jiān)管機(jī)構(gòu)；監(jiān)督和跟蹤高性能人工智能系統(tǒng)和大量計(jì)算能力；推出標(biāo)明來(lái)源系統(tǒng)和水印系統(tǒng)，以幫助區(qū)分真實(shí)與合成，并跟蹤模型泄漏；強(qiáng)大的審計(jì)和認(rèn)證生態(tài)系統(tǒng)；界定人工智能造成的傷害的責(zé)任；為人工智能技術(shù)安全研究提供強(qiáng)大的公共資金；以資源充足的機(jī)構(gòu)來(lái)應(yīng)對(duì)人工智能將造成的巨大經(jīng)濟(jì)和政治破壞（尤其是對(duì)民主的破壞）。
這封信最后寫道，“人類可以享受人工智能帶來(lái)的繁榮未來(lái)。成功創(chuàng)建強(qiáng)大的AI系統(tǒng)后，我們現(xiàn)在可以享受‘AI之夏’，收獲回報(bào)，設(shè)計(jì)這些系統(tǒng)以造福所有人，并為社會(huì)提供適應(yīng)的機(jī)會(huì)。社會(huì)已經(jīng)暫停其他可能對(duì)社會(huì)造成災(zāi)難性影響的技術(shù)。我們可以在這個(gè)領(lǐng)域也這樣做。讓我們享受一個(gè)漫長(zhǎng)的AI之夏，而不是毫無(wú)準(zhǔn)備地陷入秋天?！?/p>
未來(lái)生命研究所建立于2014年，是一個(gè)非營(yíng)利組織，由一系列個(gè)人和組織資助，使命是引導(dǎo)變革性技術(shù)遠(yuǎn)離極端、大規(guī)模的風(fēng)險(xiǎn)，轉(zhuǎn)向造福生活。
截至發(fā)稿，這封信已有1079名科技領(lǐng)袖和研究人員簽名，除了馬斯克、辛頓和AI“大?！瘪R庫(kù)斯之外，還包括圖靈獎(jiǎng)得主約書亞·本希奧（Yoshua Bengio）、《人工智能：現(xiàn)代方法》作者斯圖爾特·羅素（Stuart Russell）、 蘋果公司聯(lián)合創(chuàng)始人史蒂夫·沃茲尼亞克（Steve Wozniak）、Stability AI首席執(zhí)行官埃馬德·莫斯塔克（Emad Mostaque）等科技界領(lǐng)袖人物。
OpenAI CEO：“AI確實(shí)可能殺死人類”
事實(shí)上，最近幾天，人工智能風(fēng)險(xiǎn)已引發(fā)了多位科技領(lǐng)袖的深切擔(dān)憂。
首先是被稱為“人工智能教父”的杰弗里·辛頓（Geoffrey Hinton），他上周在接受哥倫比亞廣播公司采訪時(shí)表示，人工智能可能發(fā)展到對(duì)人類構(gòu)成威脅“并非不可想象”的地步。
隨后，AI“大?！鄙w瑞·馬庫(kù)斯（Gary Marcus）3月27日發(fā)推響應(yīng)辛頓，28日又發(fā)表題為“人工智能風(fēng)險(xiǎn)≠通用人工智能風(fēng)險(xiǎn)”的文章，稱超級(jí)智能可能會(huì)也可能不會(huì)迫在眉睫，但在短期內(nèi)，需要擔(dān)心“MAI（平庸人工智能）風(fēng)險(xiǎn)”。
27日，推特CEO伊隆·馬斯克也加入進(jìn)來(lái)，表達(dá)對(duì)辛頓和馬庫(kù)斯的贊同。
馬斯克在社交網(wǎng)絡(luò)上與杰弗里·辛頓和蓋瑞·馬庫(kù)斯互動(dòng)
據(jù)澎湃新聞3月28日?qǐng)?bào)道，OpenAI CEO山姆·奧特曼稱，并不否認(rèn)過分強(qiáng)大的AGI“可能殺死人類”這一觀點(diǎn)。必須承認(rèn)，（AI殺死人類）有一定可能性。很多關(guān)于AI安全和挑戰(zhàn)的預(yù)測(cè)被證明是錯(cuò)誤的，我們必須正視這一點(diǎn)，并盡早嘗試找到解決問題的方法。
高盛：全球?qū)⒂腥齼|人失業(yè)
據(jù)紅星新聞報(bào)道，ChatGPT迭代升級(jí)的腳步加快，很多人失業(yè)的恐懼也越來(lái)越重。高盛分析師布里格斯和庫(kù)達(dá)尼在3月27日發(fā)布的研究報(bào)告中就直面了這一問題。
報(bào)告稱：“最近出現(xiàn)的生成式人工智能將降低勞動(dòng)力成本和提高生產(chǎn)率。盡管AI的潛力存在很大的不確定性，但它可以生成與人類創(chuàng)造成果無(wú)法區(qū)分的內(nèi)容，并能打破人機(jī)溝通障礙，反映出具有潛在巨大宏觀經(jīng)濟(jì)影響的重大進(jìn)步。AI不僅節(jié)省勞動(dòng)力成本，還能創(chuàng)造新的就業(yè)機(jī)會(huì)以及提高在崗工人的生產(chǎn)率。AI的革命性就像早期通用技術(shù)（如發(fā)電機(jī)和個(gè)人計(jì)算機(jī)）一樣能為社會(huì)帶來(lái)繁榮?！?/p>
ChatGPT等生成式人工智能系統(tǒng)的最新突破，料將給全球勞動(dòng)力市場(chǎng)帶來(lái)重大顛覆，全球預(yù)計(jì)將有3億個(gè)工作崗位被生成式AI取代，律師和行政人員將是最有可能被裁員的崗位。
高盛研究發(fā)現(xiàn)，目前歐美約有三分之二的工作崗位都在某種程度上受到AI自動(dòng)化趨勢(shì)的影響，而多達(dá)四分之一的當(dāng)前崗位有可能最終被完全取代。該研究計(jì)算出美國(guó)63%的工作暴露在“AI影響范圍”中，其中7%的工作有一半以上的流程可以由AI自動(dòng)化完成，這使他們很容易馬上被人工智能取代。在歐洲，情況也差不多。
來(lái)源丨澎湃新聞、紅星新聞、公開信息
SFC
本期編輯 黎雨桐
21君薦讀
ChatGPT火出圈：
ChatGPT-4重燃熱點(diǎn)同時(shí)伴生風(fēng)險(xiǎn),AIGC侵權(quán)問題何解？
ChatGPT引發(fā)新安全風(fēng)險(xiǎn),網(wǎng)絡(luò)安全攻防進(jìn)入智能對(duì)抗時(shí)代
關(guān)于ChatGPT，科技部發(fā)聲了！
多地出臺(tái)AI產(chǎn)業(yè)政策！關(guān)于ChatGPT，北京率先表態(tài)
ChatGPT背后的人工智能安全隱患與對(duì)策
爆火的ChatGPT暗藏風(fēng)險(xiǎn)，或?qū)⑷〈糠致殬I(yè)
深度丨昂貴的ChatGPT背后
AI怎么看AI？我們和ChatGPT聊了聊
再造一個(gè)ChatGPT？并沒想象的容易
責(zé)任編輯：Rex_29
營(yíng)業(yè)執(zhí)照公示信息