智能技術正重構社會 | 社會科學報
人與機·生成篇
一旦超級通用智能機器出現，“理性的人”將失去價值，且逐漸退化，而“情感的人”還將繼續存在并發揮價值，因為人類作為“意義生產者”是機器不能替代的。
(相關資料圖)
原文 ：《智能技術正重構社會》
作者 |南京大學哲學系教授 潘天群
圖片 |網絡
當前,智能技術成為推動人類社會發展的重要動力。OpenAI公司新推出的ChatGPT被認為是一個通用人工智能（AGI）。ChatGPT是基于網絡數據上的智能系統，它是“寄生”于人類集體智慧或者知識之上的系統。在網絡上已有的人類知識或者數據構成它的資源，它利用這些資源，通過某種算法從中“生成”問答者所要求的答案，這里的“生成”包括“推理”“綜合”甚至“創新”。當然ChatGPT是否能夠“創新”，這是存疑的。ChatGPT似乎已經具備了成為人類“萬能的智能助手”的能力。
ChatGPT：“看上去”與人類智能相當
智能被認為是應對環境的能力，這樣的能力不為人類所獨有。麥卡錫（John McCarthy）曾說：“智能是實現在世界中目標的能力的計算部分。人有不同種類和不同程度的智能，許多動物和機器也能夠有智能。”麥卡錫所說的計算部分在我看來便是指人的思維能力，而不是那種實現目標的實際行動能力。智能可看成是“抽象之物”，而人、動物乃至機器可以看成是實現這種“抽象之物”的具體載體。從這個意義上說，抽象的“智能”是“理念世界”中的理念，而現實世界中的人、動物乃至機器可以“分有”智能這個理念，并且人也是“不完滿”地分有它。現實世界中的具體化的智能之于理念世界中的智能，如同現實世界中的圓之于理念世界中的圓。正因為人的智能不是完滿的，人類可按照完滿智能的理念創造出比人類更加完滿或者“更智能”的系統。“更智能”可在廣度和深度兩個維度上得以體現：在廣度上更智能的系統是指它更加“通用”，而在深度上更智能的系統是指它更加“專業”。
圖靈（1950）是在“智能比較”的意義上給出了機器是否有智能的標準：如果機器在解決問題的思維能力上與人不相上下，那么我們說機器便有了智能——與人有一樣的智能。這便是所謂的圖靈檢驗的核心涵義。與ChatGPT對話時，人們發現它幾乎能夠回答我們“所有的”問題，盡管在有些問題上它的回答是很弱智的。從這個意義上說，ChatGPT是一個與人類智能相當的（通用）人工智能系統。當然，ChatGPT還不是那種強人工智能，因為人類是基于對這個世界的“理解”而給出解決問題的方案的，而ChatGPT純粹是對人類的語言進行語形處理或者操作，系統在回答時只是看上去像是理解了那些問題。因而，ChatGPT只是“看上去”與人類智能相當的通用智能系統。
“奇點”時刻：超級通用智能系統
盡管ChatGPT解決問題的能力“總體上”勝過很多人，并且很可能它勝過所有人，然而它在任一領域中都不能勝過該領域中的人類專家。從這個意義上說，它仍然是在人類水平上的人工智能系統，而非超級智能系統。超級智能是指問題解決能力遠超人類智能的智能體。在圍棋對弈方面，如果說Google公司的圍棋智能系統AlphaGo的智能水平與人類相當，那么Alpha Master則是一個超級的專門智能系統，因為在解決圍棋“問題”的能力上Alpha Master完全碾壓人類。人類在不同智力領域中在努力開發替代人類智能的人工智能系統，這些智力領域可以是自然科學領域、數學領域、哲學研究等，那么相應的智能系統為“科學人工智能（AI for Science）”“數學人工智能（AI for Mathematics）”“哲學人工智能（AI for Philosophy）”，等等。事實上Google公司開發的AlphaFold便是一個科學人工智能系統，而人們在研發人工智能之初便是希望機器能夠代替人類進行數學定理證明的，即開發AI for Mathematics系統，等等。在這些領域中人類開發出像Alpha Master那樣的遠超人類智能的智能系統，這是可設想的。
當前人類社會正處于出現超級專門人工智能系統的爆發期。比如，如果突然有一天有科技公司研制出一個能夠證明出一系列如黎曼猜想這樣的人類難以證明的數學定理的系統，或者研制出一個比愛因斯坦還聰明的機器科學家，我們不必驚訝。那時人類面臨的問題將是如何理解這些超級專門智能系統的工作。這些都是超級專門智能系統。假定我們研制出了人類大部分或者所有智力領域中的超級專門智能系統，并將這些超級專門智能系統“集成”為一個系統，這樣的系統將是一個多么強大的存在！這樣集成的智能系統的智能水平將在所有智力領域內超過人類的智能，其智能水平是一個比ChatGPT高一個數量級的超級通用智能系統。而一旦這樣的系統被造出來，那就是人類的“奇點”時刻——機器的智能大大超過人類，它將徹底代替人類進行所有智能性創造工作，包括設計機器。
如果這樣的超級通用智能機器被研制出來，人引以為豪的領域在哪里？人還有存在的價值嗎？我能夠想到的是，一旦超級通用智能機器出現，“理性的人”將失去價值，且逐漸退化，而“情感的人”還將繼續存在并發揮價值，因為人類作為“意義生產者”是機器不能替代的。機器無法有人的經驗，無法與人類共有某種生活實踐。而如果機器代替了人成為意義生產者，人作為書寫者死亡了，那么這個星球就應該完全讓渡給機器來主宰了。
人工智能系統會成為人類社會重要部分
技術是人發明出來的應對自然或者他人的物質化手段。技術一旦進入到社會，它以自身的邏輯重構人類的社會，促成不同類型的技術社會（technosociety）的形成，這里所謂的技術社會意指在某個地理空間上技術與人融合而形成的社會。隨著科技公司競相推出類ChatGPT系統以各種即將出現的專門超級智能系統，這些系統會成為人類社會的重要部分，或者說它們本身是人類社會中的“成員”。
我們無法預知這些智能系統對人類社會有何種影響或者沖擊。但是有一點是肯定的，在不太遠的將來，這些人工智能系統仍是工具，因為它們的強大建立在它們的蠻力，即巨大的算力和算料基礎之上，而不是建立在對這個世界的理解之上的，它們也無法產生新的“人類經驗”。人類擁有特有的理解這個世界的概念及概念系統，而人類的智能正是建立在對這個世界的理解之上的。如果機器有自己的概念系統及對世界的“理解”，那么它們可能不再是能夠被我們所用的工具。我們不能說未來人類一定不能造出能夠理解它們所在的世界的智能系統，但至少目前人工智能只是運行于網絡數據世界之中，而不在我們的世界之中。
文章為社會科學報“思想工坊”融媒體原創出品，原載于社會科學報第1845期第6版，未經允許禁止轉載，文中內容僅代表作者觀點，不代表本報立場。
拓展閱讀
視域 | 計算美學：人工智能時代的理性美學
治國理政 | 人工智能時代，推動數據治理
責任編輯：Rex_20
營業執照公示信息