圖源：圖蟲創意
界面新聞記者 |李京亞
日前，特斯拉CEO埃隆·馬斯克率數百位科技行業高管在一封公開信中呼吁，所有人工智能實驗室應立即暫停比GPT-4更強大的人工智能系統訓練，暫定時間是6個月以上。
(資料圖片僅供參考)
這封題為《暫停巨型人工智能實驗》的公開信于3月22日刊登在非盈利組織生命未來研究所（Future of Life Institute）的官網上，其行文明快、語言犀利，詳細闡述了具有與人類競爭性的人工智能系統會給社會和文明造成的潛在風險。
圖源：生命未來研究所（Future of Life Institute）
“高級人工智能可以代表地球生命史上的深刻變化，應該投入相應的關注和資源進行規劃和管理。但不幸的是，這種級別的規劃和管理并未發生。在最近幾個月，人工智能實驗室被鎖在一場失控的競賽之中，大家爭相開發和部署更強大的人工智能系統，以至于沒有人能夠完全理解、預測或可靠地控制這些進程，即使他們的創造者也不能。”
在對可能失去文明控制的風險作出預警后，公開信指出，“只有在我們確信強大的人工智能系統的效果將是積極的，風險是可控的，才應該開發。”
公開信的作者們呼吁，希望暫停至少6個月高級人工智能開發，直到各界共同制定出一套能順利實施并由獨立專家審計的安全協議。
“因此，針對任何比GPT-4更強大的人工智能系統的訓練，我們呼吁所有人工智能實驗室立即暫停至少6個月。這種暫停應該是公開的和可核查的，并囊括所有關鍵參與者。如果這種暫停不能迅速頒布，各國政府應該介入并制定暫停令。”
公開信還提到，6個月的暫停并不意味著人工智能總體發展的暫停，只是從目前危險的競賽中退后一步。
在公開信的末尾，作者們將目前人工智能發展現狀比作收獲回報的盛夏，并再次強調對人工智能發展過快進行控制是為了讓大家享受一個更漫長的盛夏，而非在毫無準備的情況下匆忙入秋。
截至發稿，這封公開信獲得了1126個簽名支持，埃隆·馬斯克于公開信下第三位簽名，蘋果聯合創始人史蒂夫·沃茲尼亞克緊隨其后，署名序列中還包括Stability AI的創始人穆斯塔克、Skype的聯合創始人和Pinterest聯合創始人，以及一位圖靈獎得主。
署名人員中目前沒有OpenAI員工的身影。據媒體報道，OpenAI的首席執行官阿爾特曼的名字曾短暫出現在署名名單中，此后消失。但有四名谷歌員工在名單上署名，包括來自谷歌旗下人工智能實驗室DeepMind的三名研究科學家。
圖源：生命未來研究所（Future of Life Institute）
在馬斯克與OpenAI創始人阿爾特曼的矛盾近日見諸報端之后，馬斯克發表這封公開信并不令人意外。
公開信的刊發組織——生命未來研究所（Future of Life Institute）是一個成立于2014年的非盈利機構，由麻省理工物理系終身教授邁克斯·泰格馬克和其他四位成員共同創立，組織的研究宗旨是探索人工智能的發展對人類的益處，并降低核武器以及生物技術對人類帶來的風險。在其科學顧問委員會成員中，馬斯克赫然在列。
眾所周知，在特斯拉和SpaceX的事務之外，馬斯克一直對輸出人工智能觀點極為上心。幾乎每年，他都會率眾發表重量級公開信對人工智能技術前景表達憂慮。蘋果聯合創始人史蒂夫·沃茲尼亞克和DeepMind的一些重量級科學家是他在此事上的多年搭檔。
有觀點指出，在OpenAI創立中扮演了重要角色的馬斯克，由于2018年選擇離場，導致其現在與大語言模型和OpenAI這兩個科技界最重要的風口毫無關系，這讓他面對GPT-4的成功時加倍痛苦。
而這次的公開信正是在OpenAI發布多模態預訓練大模型GPT-4僅兩周后發出的。GPT-4被譽為有史以來最強大的人工智能系統。隨著人工智能領域研究人員們因GPT4的到來對通用人工智能AGI的預期變得樂觀，一些謹慎的創業者、投資人、專家和監管機構開始悲觀審視人工智能引發的軍備競賽帶來的風險。
本周一，歐盟執法機構歐洲刑警組織（Europol）在一份技術報告中發出警告：聊天機器人ChatGPT可能被濫用于網絡釣魚、宣傳虛假信息以及網絡犯罪。路透社將這份技術報告與馬斯克等人的公開信歸為給生成式AI大好前景潑冷水的“大合唱”開端。
推薦閱讀
責任編輯：Rex_29
營業執照公示信息