人工智能行業(yè)迎來了一場大地震。
在業(yè)內(nèi)有“人工智能教父”之稱的計算機(jī)科學(xué)家杰弗里·辛頓（Geoffrey Hinton）近日在社交媒體上證實，已經(jīng)于上周離開Google。在接受媒體采訪時，他表示，“我對我畢生所研究的東西感到后悔了。”杰弗里形容稱，AI聊天機(jī)器人所帶來的某些危險“相當(dāng)恐怖”。
當(dāng)人工智能開創(chuàng)者搖身一變，成為“AI末日預(yù)言家”，人工智能產(chǎn)業(yè)的發(fā)展是否已經(jīng)失速？
【資料圖】
AI教父“叛逃”
辛頓是計算機(jī)科學(xué)家中的佼佼者，同時也是深度學(xué)習(xí)領(lǐng)域的先驅(qū)。
2013年，杰弗里和Google結(jié)緣。他因創(chuàng)辦的DNNresearch公司遭收購而進(jìn)入谷歌，彼時，辛頓團(tuán)隊當(dāng)時通過分析數(shù)百萬張照片打造出一款可區(qū)分動物、物體圖片的神經(jīng)網(wǎng)絡(luò)系統(tǒng)，被視為當(dāng)代AI的基礎(chǔ)。他曾在多個頂級機(jī)構(gòu)擔(dān)任職務(wù)，包括加拿大多倫多大學(xué)的計算機(jī)科學(xué)教授、谷歌Brain團(tuán)隊的研究員等等。2018年，由于對神經(jīng)網(wǎng)路研究的貢獻(xiàn)，辛頓與法國計算機(jī)科學(xué)家楊立昆（Yann LeCun）、加拿大計算機(jī)科學(xué)家約書亞·本希奧（Yoshua Bengio）共同獲得了2018年的圖靈獎。
辛頓的離職引起了外界的猜測。一些人認(rèn)為他離開是因為谷歌內(nèi)部的問題或不滿意的工作環(huán)境，但是辛頓本人在接受媒體采訪時表示，他對自己在人工智能領(lǐng)域的研究感到后悔，并指出聊天機(jī)器人所帶來的某些危險“相當(dāng)恐怖”。
辛頓在接受采訪時表示：“我對我畢生所研究的東西感到后悔了。我曾經(jīng)試圖讓計算機(jī)能夠理解世界，并通過學(xué)習(xí)來實現(xiàn)這一目標(biāo)。但是我現(xiàn)在意識到，我們需要更好地掌握這些技術(shù)，并且需要更加謹(jǐn)慎地使用它們。人工智能系統(tǒng)正在變得越來越危險。尤其是隨著微軟已經(jīng)通過聊天機(jī)器人增強(qiáng)了Bing搜索引擎，并挑戰(zhàn)谷歌的核心業(yè)務(wù)，科技巨頭陷入了一場可能無法停止的競爭。”
人工智能引發(fā)算法狂歡
即使距離最早發(fā)布已經(jīng)過去近六個月，但ChatGPT所引發(fā)的話題熱度仍然持續(xù)居高不下。
隨著2022年底ChatGPT的火爆，人工智能的發(fā)展登上了新的臺階。不論是海外市場的ChatGPT、Bard、TruthGPT，還是國內(nèi)的阿里通義千問、飛書My AI、知乎知海圖 AI、京東言犀都冒出了頭，科技互聯(lián)網(wǎng)行業(yè)一時之間，好不熱鬧。在各類型AI工具層出不窮的背后，用戶和互聯(lián)網(wǎng)也被人工智能的能力所折服。從翻譯、學(xué)術(shù)問答、代碼糾錯、日常對話，到新聞采編、詩詞編寫甚至是劇本改編，人工智能在完成各類型任務(wù)背后所展現(xiàn)的語言邏輯和思維的縝密性讓不少人看到了人工智能背后的潛力。
但人工智能的車輪飛速向前，也引起了不少人的憂慮。
今年3月，馬斯克聯(lián)合上千名技術(shù)領(lǐng)袖和研究人員簽署了一封公開信，呼吁暫停GPT模型新系統(tǒng)的開發(fā)，并認(rèn)為AI技術(shù)將給“社會和人類帶來深遠(yuǎn)的風(fēng)險”。無獨有偶，谷歌CEO桑達(dá)爾·皮查伊也在一次公開采訪中談?wù)撊斯ぶ悄艿膫惱韱栴}，并表示：“社會尚未為人工智能的快速發(fā)展做好準(zhǔn)備。”他還警告稱，人工智能的后果將影響“每家公司的每一種產(chǎn)品”。
3月14日，OpenAI在官網(wǎng)發(fā)布了推出GPT-4的公告。相比上一代版本，GPT-4的AI能力再度提升，在官方演示視頻中，GPT-4幾乎只花了1-2秒的時間，即可識別手繪網(wǎng)站圖片，并根據(jù)要求實時生成了網(wǎng)頁代碼制作出了幾乎與手繪版一樣的網(wǎng)站。本周，三星表示將暫時限制員工通過公司電腦使用ChatGPT等生成式人工智能。背后的原因就在于，三星在一個月前曾發(fā)現(xiàn)其內(nèi)部敏感數(shù)據(jù)意外被泄露給ChatGPT，此外還指出ChatGPT等AI工具所存在的安全隱患，例如用戶很難“檢索和刪除”外部服務(wù)器上的數(shù)據(jù)，而這些被傳輸?shù)紸I工具上的數(shù)據(jù)可能會泄露給其他用戶。
杰弗里·辛頓也提到，他目前最擔(dān)心的是，互聯(lián)網(wǎng)將充斥著虛假照片、視頻和文字，普通人將“無法再知道什么是真的”。此外，AI技術(shù)最終會顛覆就業(yè)市場——事實上，就在他從谷歌離開時，IBM宣布將在未來通過AI取代7800個左右的崗位。“它省去了繁重的工作，但它帶走的可能不止這些。”辛頓稱。
AI發(fā)展需要有序環(huán)境
可以預(yù)見的是，禁用或暫停ChatGPT以解決安全問題的做法，三星并不會是唯一一家。
今年2月，JP摩根大通、美國銀行、花旗、富國銀行等華爾街巨頭陸續(xù)表示將禁止或限制使用ChatGPT。全球第二大存儲芯片巨頭韓國SK海力士稱“除必要時刻外”，幾乎禁止公司內(nèi)部網(wǎng)使用ChatGPT。日本軟銀集團(tuán)此前向全體員工通報了禁止在ChatGPT中輸入機(jī)密信息等注意事項，該集團(tuán)還計劃制定了哪些業(yè)務(wù)或用途可以使用交互式AI的規(guī)則。
ChatGPT等AI模型已經(jīng)引起了多國對人工智能的集體反思。從最初在全球引發(fā)驚艷和狂歡，到如今其安全性引發(fā)業(yè)界廣泛擔(dān)憂。人工智能開始面臨公共安全、隱私侵權(quán)、數(shù)字鴻溝、倫理失范等挑戰(zhàn)和現(xiàn)實問題。最終，還是要回歸“技術(shù)不作惡”的底線。
例如，美國參議院多數(shù)黨領(lǐng)袖舒默近期發(fā)起一項針對人工智能的治理框架，并聘請了頂尖的人工智能專家進(jìn)行咨詢。該計劃將側(cè)重于建立人工智能系統(tǒng)的透明度，并要求獨立專家在公開發(fā)布之前測試人工智能技術(shù)，并要求披露參與技術(shù)開發(fā)的人員、地點和方式。
可見，盡管人工智能的發(fā)展取得了前所未有的突破，但當(dāng)行業(yè)的發(fā)展速度與相關(guān)政策法律法規(guī)無法匹配，相應(yīng)的風(fēng)險自然會被不斷放大。人工智能產(chǎn)業(yè)的發(fā)展，也離不開有序的產(chǎn)業(yè)環(huán)境。
正如杰弗里·辛頓此前提到的：“如果AI系統(tǒng)被允許不僅可以生成自己的計算機(jī)代碼，而且實際上可以自己運行該代碼，這就會變得非常可怕。”
責(zé)任編輯：Rex_04
營業(yè)執(zhí)照公示信息