短短6個月的時間，GPT3.5迭代到GPT4，當大家暢想一個更強大的GPT5的時候，馬斯克等科技圈大佬帶頭潑下冷水——3月29日，未來生命研究所（Future of Life Institute）公布一封公開信，呼吁所有AI實驗室立即暫停訓練比GPT-4更強大的AI系統至少6個月。
(資料圖)
截至發稿，超過1000人簽署了這封公開信，除了馬斯克之外，還包括圖靈獎得主約書亞·本吉奧（Yoshua Bengio）、美國作家兼紐約大學教授加里·馬庫斯（Gary Marcus）、《人工智能：現代方法》作者斯圖爾特·羅素（Stuart Russell）、 蘋果公司聯合創始人史蒂夫·沃茲尼亞克（Steve Wozniak）等。
圖源：未來生命研究所官網
截取名單靠前部分
AI威脅論是這封公開信的出發點。
公開信表示，大量研究表明，具有與人類競爭智能的AI系統可能對社會和人類構成深遠的風險，這一觀點得到了頂級AI實驗室的承認……最近這幾個月，全球的AI實驗室已經完全失控了，它們瘋狂地開展AI競賽，來開發和部署更強大的AI，而沒有任何人可以理解、預測、控制這些AI，連它們的創造者都不能。
顯而易見，這封信的矛頭直指OpenAI，且在信中援引了OpenAI的觀點——“OpenAI最近關于通用人工智能的聲明指出，‘在某些時候，在開始訓練未來的系統之前進行獨立審查可能很重要，并且對于最先進的工作來說，應該同意限制用于創建新模型的計算量增長?！覀兺?。那個某些時候就是現在?！?/p>
信中還寫道，這種暫停應該是公開的和可驗證的，并且包括所有關鍵參與者。如果不能迅速實施這種暫停，政府應介入并實行暫停?！斑@并不意味著總體上暫停AI開發，只是緊急從奔向不可預測的大型黑盒模型的危險競賽中收回腳步。”
基于此，這封信提出建議，開發者必須與政策制定者合作，大幅加快開發強大的AI管理系統，該系統至少應該包括：
專門負責監管AI的機構；出處和水印系統，從而幫助區分真實與生成的內容，并且能夠跟蹤模型的泄漏；強大的審計和認證系統；在AI造成傷害后，明確誰該承擔責任。
生命未來研究所什么來頭？
這一幕似曾相識，當初谷歌在AI領域一騎絕塵，山姆·阿爾特曼（Sam Altman）為此舉辦了一個私人宴會，邀請了馬斯克等一眾科技圈大佬，最終在數月后成立了非營利組織OpenAI以遏制谷歌。如今，同樣的情景加諸己身。
資料顯示，生命未來研究所同樣是一個非營利組織，它創立于2014年3月，其創始團隊主要是高校學者、學生，包括麻省理工學院宇宙學家馬克斯·泰格馬克，Skype聯合創始人讓·塔林等。其研究所顧問委員會成員來源較廣，部分名字耳熟能詳，包括宇宙學家史蒂芬·霍金、特斯拉CEO埃隆·馬斯克，亞倫·艾達、摩根·弗里曼等演藝界人士也在其中。
生命未來研究所關注包括AI、生物技術、核武器、氣候變化在內的多個重大議題。從其官網簡介來看，其主旨在于引導變革性技術造福生命，遠離極端大規模風險。
生命未來研究所最新的部分倡議書
馬斯克帶頭 還有誰也來抵制GPT5？
從支持者陣容來看，馬斯克的號召力自不用說， 約書亞·本吉奧因對深度學習的貢獻，在2018年與杰弗里·辛頓、Facebook首席科學家楊力昆（Yann LeCun）一起獲得了圖靈獎，三人被稱為“AI教父”。
另外，這份名單中還包括兩名微軟的軟件工程師，以及來自OpenAI“競爭對手”的研究員，包括谷歌旗下DeepMind的三位研究科學家、AI繪畫產品Stable Diffusion開發公司Stability AI的CEO Emad Mostaque。
有趣的是，翻閱完生命未來研究所公布的全部名單后，我們會發現，參與者的職業可謂五花八門，不少人身處AI行業之外。包括導演、演員、作者、已退休的政客、電工、參贊、醫生、護士、出版商、記者、藝術家、銷售、自由職業者、飛行員、軍人、電影放映員、船長等（這其中就有《阿凡達：水之道》的美術指導Ben Procter）；有的語焉不詳，如維基百科資深編輯、管理員、退休人員；甚至有人的身份認證為“關心所有孩子未來的祖母、母親”“憂心忡忡的公民”“居家的父母”。
正如上述公開信中的四個發問——當AI系統在一般任務上已經變得和人類一樣有競爭力，我們必須捫心自問：
是否應該讓機器用宣傳和謊言充斥我們的信息渠道·是否應該讓所有工作都變得自動化，即使是令人滿意的工作者·是否應該發展可能會超越我們并取代我們的非人類智能·是否應該冒險失去對人類文明的控制·
來源：財聯社
責任編輯：Rex_30
營業執照公示信息