如果有人在1年前告訴你，人工智能即將毀滅人類，科幻作品中的HAL-2000、MOSS、Matrix即將成為現實，你大概率會覺得他在杞人憂天。可今天，面對ChatGPT新聞的狂轟濫炸，以及剛剛誕生的新一代語言模型GPT-4，不少人的想法或許已經改變了。
作者：趙穎，來源：華爾街見聞 （ID：wallstreetcn）
(相關資料圖)
當全社會都在為AI的進化而歡呼雀躍，全新的、意想不到的風險可能也正在悄悄醞釀。
3月22日，生命未來研究所（Future of Life）向全社會發布了一封《暫停大型人工智能研究》的公開信，呼吁所有人工智能實驗室立即暫停比GPT-4更強大的人工智能系統的訓練，暫停時間至少為6個月。該機構以“引導變革性技術造福生活，遠離極端的大規模風險”為使命。
該機構在信中提到：
我們不應該冒著失去對文明控制的風險，將決定委托給未經選舉的技術領袖。只有當確保強大的人工智能系統的效果是積極的，其風險是可控的才能繼續開發。
人工智能實驗室和獨立專家應在暫停期間，共同制定和實施一套先進的人工智能設計和開發的共享安全協議，由獨立的外部專家進行嚴格的審查和監督。
截止目前，馬斯克、蘋果聯合創始人Steve Wozniak、Stability AI 創始人Emad Mostaque等上千名科技大佬和AI專家已經簽署公開信。
值得一提的是，OpenAI CEO奧特曼在與MIT研究科學家Lex Fridman的最新對話中指出，AI已經出現其無法解釋的推理能力，同時承認“AI殺死人類”有一定可能性。
現在，全球各地機房中的GPU正在瘋狂吞噬著電能，不斷更新著參數空間中的每一個變量，AI正在飛速成長。很明顯，AI的發展已經度過了一個臨界點，如果沒有人主動阻止，AI進化的速度很可能超乎所有人的意料。
那么ChatGPT是如何看待公開信中AI對人類社會的影響？華爾街見聞專門詢問了ChatGPT 3.5，其表示隨著人工智能技術的不斷發展和普及，人工智能可能對社會和人類造成的影響將越來越大。這封公開信提出的呼吁和建議，應該被視為引起更廣泛和深入討論的起點和參考，而不是一個終點或解決方案。
文生圖AI Midjourney繪制的“川建國同志退休回國養老”。
以下是公開信原文：
正如廣泛的研究和頂級人工智能實驗室所承認的，人工智能系統對社會和人類構成較大的風險。《阿西洛馬人工智能原則》中指出，高級人工智能可能代表著地球上生命歷史的深刻變革，應該以相應的謹慎和資源進行規劃和管理。然而，盡管最近幾個月人工智能實驗室掀起AI狂潮，開發和部署越來越強大的數字大腦，但目前沒有人能理解、預測或可靠地控制AI系統，也沒有相應水平的規劃和管理。
現在，人工智能在一般任務上變得與人類有競爭力，我們必須問自己：我們應該讓機器在信息渠道中宣傳不真實的信息嗎？我們是否應該把所有的工作都自動化，包括那些有成就感的工作？我們是否應該開發非人類的大腦，使其最終超過人類數量，勝過人類的智慧，淘汰并取代人類？我們是否應該冒著失去對我們文明控制的風險？這樣的決定絕不能委托給未經選舉的技術領袖。只有當我們確信強大的人工智能系統的效果是積極的，其風險是可控的，才應該開發。同時，這種信心必須得到驗證，并隨著系統的潛在影響的大小而加強。OpenAI最近關于人工智能的聲明中指出，在開始訓練未來的系統之前，可能必須得到獨立的審查，對于最先進的努力，同意限制用于創建新模型的計算增長速度。我們同意，現在就該采取行動。
因此，我們呼吁所有人工智能實驗室立即暫停比GPT-4更強大的人工智能系統的訓練，時間至少持續6個月。這種暫停應該是公開的、可核查的，并包括所有關鍵參與者者。如果這種禁令不能迅速實施，政府應該介入并制定暫停令。
人工智能實驗室和獨立專家應在暫停期間，共同制定和實施一套先進的人工智能設計和開發的共享安全協議，由獨立的外部專家進行嚴格的審查和監督。這些協議應該確保遵守協議的系統是安全的。值得一提的是，這并不意味著暫停一般的人工智能開發，只是從危險的競賽中退后一步，限制不可預測的研究和開發。
人工智能的研究和開發應該重新聚焦于，使目前最先進和強大的系統更加準確、安全、可解釋、透明、穩健、一致、值得信賴和忠誠。
同時，人工智能開發者必須與政策制定者合作，大幅加快開發強大的人工智能治理系統。這些至少應該包括：專門針對人工智能的監管機構；監督和跟蹤高能力的人工智能系統和大型計算能力的硬件；出處和水印系統幫助區分真實和合成，并跟蹤模型泄漏；強大的審查和認證生態系統；對人工智能造成的傷害承擔責任；為人工智能安全技術研究提供強大的公共資金以及資源充足的機構，以應對人工智能可能導致的巨大的經濟和政治破壞。
人類可以通過人工智能享受繁榮的未來。現在，我們成功地創建了強大的人工智能系統，可以在這個“人工智能之夏”中獲得回報，為所有人的明確利益設計這些系統，并給社會一個適應的機會。停止使用其他技術可能會對社會造成災難性影響，因此我們必須保持準備狀態。讓我們享受一個漫長的人工智能夏天，而不是匆忙進入秋天。
GPT-4老板：AI可能會殺死人類，已經出現我們無法解釋的推理能力
OpenAI CEO奧特曼Altman在與MIT研究科學家Lex Fridman的最新對話中指出，AI已經出現其無法解釋的推理能力，同時承認“AI殺死人類”有一定可能性。
在此次采訪中，Altman提出了一點關于GPT的新穎之處，即推理能力。“這個模型的神奇之處在于…對于很多它都不準確的定義，它可以進行某種推理。”
Altman指出，“我認為這很了不起，最令人興奮的是，在提取人類知識的過程中，它產生了這種推理能力。”
Altman談及了近期圍繞ChatGPT產生的諸多問題，坦承就連OpenAI團隊，也根本沒搞懂它是如何“進化”的：
從ChatGPT開始，AI出現了推理能力。但沒人能解讀這種能力出現的原因。
唯一的途徑是向ChatGPT提問，從它的回答中摸索它的思路。
Altman稱不會回避“人工智能可能殺死全人類”的說法。美國決策理論和人工智能的研究者和作家Yudkowsky此前指出“人工智能可能殺死所有人”。對此，Altman回應道，“我認為有這種可能性，并且承認這一點很重要，因為如果我們不談論它、不把它視為潛在的事實，那么我們就不會投入足夠的努力去解決這個問題。” “我認為我們必須開發新的技術來解決這個問題…我所知道的解決這類問題的唯一方法就是不斷迭代，盡早學習。”
而OpenAI的一位工程師Richard Ngo更發表了一項大膽的預測：“到2025年之前，神經網絡將擁有人類水平的狀態意識（situational awareness），即神經網絡知道自己是神經網絡，并知道自己的行為如何與世界發生交互。”
來源：中國基金報
未經授權，不可轉載，歡迎爆料
歡迎購買《自媒體紅利》，最暢銷的自媒體運營書籍，京東有售！
投稿、商務合作，聯系郵箱858620196@qq.com
財經八卦陣其他熱文
|科技篇 |電商篇 |社交篇 | 財富篇 |商業化 |互聯網金融
責任編輯：Rex_31
營業執照公示信息