據生命未來研究所官網，3月22日，生命未來研究所（Future of Life）向全社會發布了一封《暫停大型人工智能研究》的公開信， 呼吁所有人工智能實驗室立即暫停比GPT-4更強大的人工智能系統的訓練，暫停時間至少為6個月。該機構以“引導變革性技術造福生活，遠離極端的大規模風險”為使命。
截至目前，馬斯克、蘋果聯合創始人Steve Wozniak、Stability AI創始人Emad Mostaque等上千名科技大佬和AI專家已經簽署公開信。
“把實驗停下來！”馬斯克等超1000人簽署公開信
(資料圖)
據悉，未來生命研究所的公開信已有1079人簽署。
信中寫道：廣泛的研究表明，具有與人類競爭智能的人工智能系統可能對社會和人類構成深遠的風險，這一觀點得到了頂級人工智能實驗室的承認。正如廣泛認可的“阿西洛馬人工智能原則（Asilomar AI Principles，阿西莫夫的機器人三大法則的擴展版本，于2017年由近千名人工智能和機器人專家簽署）中所述，高級AI可能代表地球生命史上的深刻變化，應該以相應的關照和資源進行規劃和管理。不幸的是，這種級別的規劃和管理并沒有發生，盡管最近幾個月人工智能實驗室陷入了一場失控的競賽，以開發和部署更強大的數字思維，沒有人——甚至他們的創造者——能理解、預測或可靠地控制。
“當代人工智能系統現在在一般任務上變得與人類具有競爭力，我們必須捫心自問：我們是否應該讓機器用宣傳和謊言充斥我們的信息渠道？我們是否應該自動化所有工作，包括令人滿意的工作？我們是否應該發展最終可能比我們更多、更聰明，淘汰并取代我們的非人類思維？我們應該冒險失去對我們文明的控制嗎？”這封信寫道，“只有當我們確信它們的影響是積極的并且風險是可控的時候，才應該開發強大的人工智能系統。這種信心必須有充分的理由，并隨著系統潛在影響的規模而增加。OpenAI最近關于通用人工智能的聲明指出，‘在某些時候，在開始訓練未來的系統之前進行獨立審查可能很重要，并且對于最先進的工作來說，應該同意限制用于創建新模型的計算量增長。’我們同意。那個某些時候就是現在。”
這封信呼吁， 所有人工智能實驗室立即暫停訓練比GPT-4更強大的人工智能系統至少6個月。這種暫停應該是公開的和可驗證的，并且包括所有關鍵參與者。如果不能迅速實施這種暫停，政府應介入并實行暫停。人工智能實驗室和獨立專家應該利用這次暫停，共同開發和實施一套用于高級人工智能設計和開發的共享安全協議，并由獨立的外部專家進行嚴格審計和監督。這些協議應確保遵守它們的系統是安全的，并且無可置疑。這并不意味著總體上暫停AI開發，只是緊急從奔向不可預測的大型黑盒模型的危險競賽中收回腳步。
與此同時，信中指出，AI開發人員必須與政策制定者合作，以顯著加快開發強大的AI治理系統。至少應包括：建立專門負責AI的有能力的新監管機構；監督和跟蹤高性能人工智能系統和大量計算能力；推出標明來源系統和水印系統，以幫助區分真實與合成，并跟蹤模型泄漏；強大的審計和認證生態系統；界定人工智能造成的傷害的責任；為人工智能技術安全研究提供強大的公共資金；以資源充足的機構來應對人工智能將造成的巨大經濟和政治破壞（尤其是對民主的破壞）。
這封信最后寫道，“人類可以享受人工智能帶來的繁榮未來。成功創建強大的AI系統后，我們現在可以享受‘AI之夏’，收獲回報，設計這些系統以造福所有人，并為社會提供適應的機會。社會已經暫停其他可能對社會造成災難性影響的技術。我們可以在這個領域也這樣做。讓我們享受一個漫長的AI之夏，而不是毫無準備地陷入秋天。”
未來生命研究所建立于2014年，是一個非營利組織，由一系列個人和組織資助，使命是引導變革性技術遠離極端、大規模的風險，轉向造福生活。
截至發稿，這封信已有1079名科技領袖和研究人員簽名，除了馬斯克、辛頓和AI“大牛”馬庫斯之外，還包括圖靈獎得主約書亞·本希奧（Yoshua Bengio）、《人工智能：現代方法》作者斯圖爾特·羅素（Stuart Russell）、 蘋果公司聯合創始人史蒂夫·沃茲尼亞克（Steve Wozniak）、Stability AI首席執行官埃馬德·莫斯塔克（Emad Mostaque）等科技界領袖人物。
OpenAI CEO：“AI確實可能殺死人類”
事實上，最近幾天，人工智能風險已引發了多位科技領袖的深切擔憂。
首先是被稱為“人工智能教父”的杰弗里·辛頓（Geoffrey Hinton），他上周在接受哥倫比亞廣播公司采訪時表示，人工智能可能發展到對人類構成威脅“并非不可想象”的地步。
隨后，AI“大牛”蓋瑞·馬庫斯（Gary Marcus）3月27日發推響應辛頓，28日又發表題為“人工智能風險≠通用人工智能風險”的文章，稱超級智能可能會也可能不會迫在眉睫，但在短期內，需要擔心“MAI（平庸人工智能）風險”。
27日，推特CEO伊隆·馬斯克也加入進來，表達對辛頓和馬庫斯的贊同。
馬斯克在社交網絡上與杰弗里·辛頓和蓋瑞·馬庫斯互動
據澎湃新聞3月28日報道，OpenAI CEO山姆·奧特曼稱，并不否認過分強大的AGI“可能殺死人類”這一觀點。必須承認，（AI殺死人類）有一定可能性。很多關于AI安全和挑戰的預測被證明是錯誤的，我們必須正視這一點，并盡早嘗試找到解決問題的方法。
高盛：全球將有三億人失業
據紅星新聞報道，ChatGPT迭代升級的腳步加快，很多人失業的恐懼也越來越重。高盛分析師布里格斯和庫達尼在3月27日發布的研究報告中就直面了這一問題。
報告稱：“最近出現的生成式人工智能將降低勞動力成本和提高生產率。盡管AI的潛力存在很大的不確定性，但它可以生成與人類創造成果無法區分的內容，并能打破人機溝通障礙，反映出具有潛在巨大宏觀經濟影響的重大進步。AI不僅節省勞動力成本，還能創造新的就業機會以及提高在崗工人的生產率。AI的革命性就像早期通用技術（如發電機和個人計算機）一樣能為社會帶來繁榮。”
ChatGPT等生成式人工智能系統的最新突破，料將給全球勞動力市場帶來重大顛覆，全球預計將有3億個工作崗位被生成式AI取代，律師和行政人員將是最有可能被裁員的崗位。
高盛研究發現，目前歐美約有三分之二的工作崗位都在某種程度上受到AI自動化趨勢的影響，而多達四分之一的當前崗位有可能最終被完全取代。該研究計算出美國63%的工作暴露在“AI影響范圍”中，其中7%的工作有一半以上的流程可以由AI自動化完成，這使他們很容易馬上被人工智能取代。在歐洲，情況也差不多。
來源丨澎湃新聞、紅星新聞、公開信息
SFC
本期編輯 黎雨桐
21君薦讀
ChatGPT火出圈：
ChatGPT-4重燃熱點同時伴生風險,AIGC侵權問題何解？
ChatGPT引發新安全風險,網絡安全攻防進入智能對抗時代
關于ChatGPT，科技部發聲了！
多地出臺AI產業政策！關于ChatGPT，北京率先表態
ChatGPT背后的人工智能安全隱患與對策
爆火的ChatGPT暗藏風險，或將取代部分職業
深度丨昂貴的ChatGPT背后
AI怎么看AI？我們和ChatGPT聊了聊
再造一個ChatGPT？并沒想象的容易
責任編輯：Rex_29
營業執照公示信息