英國學者薩斯坎德在《算法的力量:人類如何共同生存?》一書中指出,在未來的人類世界,權力,將通過數字技術體現為得到重塑與升級的武力、無所不在的審查和對人的感知的控制。他用很多例子包括當前的俄烏沖突對此進行了闡釋。美國主導的西方國家對俄羅斯實施的制裁,主要是通過金融體系以及代碼體系來進行的。數字時代不僅沒有削弱國家權力,而且還在創(chuàng)造新的國家權力形式,只不過新型的數字權力不再由國家壟斷,而是由國家、專業(yè)科技部門和科技公司等分享。
武力數字化、權力數字化、財產數字化、審查無形化、規(guī)訓無形化,所有這些對以保障自由、民主與正義為價值目標的現代理性法提出了哪些挑戰(zhàn)?假如未來的法律將越來越多地以代碼而非文字的形式出現,那么,法律的概念與法治的邏輯是否可能要發(fā)生新的歷史演化?如何減少、防止代碼和大數據邏輯的無限擴張帶來的吞噬自由與隱私的風險?
北京航空航天大學高等研究院/法學院余盛峰教授的新作《臨界:人工智能時代的全球法變遷》(以下簡稱《臨界》)從全球信息秩序格局與法律全球化演化的宏闊視野中探討了這些復雜的前沿問題。該書運用了經典社會理論、政治經濟學和法律演化理論的多種思維與思想方法,總體立意深遠,局部論述又切中時弊,很多觀點令人腦洞大開(也意味著燒腦),同時也啟迪人們在世界史與法律全球化視野中去思考數字時代中國法律與政治的發(fā)展方向。
(相關資料圖)
《人工智能的政治性》一文是該書的附錄二,編排在《臨界》的尾部,但如果深入讀下來思考,實際上“人工智能的政治性”這個議題卻可以說是貫穿全書的一個核心問題意識與思想線索。本文以此議題為焦點,概述《臨界》一書蘊含的憲法政治意識與價值理念。
《臨界:人工智能時代的全球法變遷》,余盛峰 著,清華大學出版社2023年5月。
撰文/黎敏(中國政法大學)
為人工智能賦權
是人類社會的一個歷史演化趨勢嗎?
《臨界》第一章開宗明義,指出很多跡象表明,今天的人類社會已經進入一個“非唯人類中心”的時代。比如,各種生態(tài)政治、環(huán)境政治,動物福利運動的興起,是早期的有形的例證。比如,人工智能作為“新的行動元”成為了事實上的非人主體,大量參與商務溝通、合同交易甚至司法審判等人類行動領域,這是當下正在發(fā)生的一種“非唯人類中心”趨勢。
它們在倒逼人類思考:人工智能是否可以像人一樣擁有權利?是否可以擁有獨立的法律人格,是否可以和自然人一樣獲得各種民事、商事和憲法上的基本權利?以人為中心的現代理性法系統(tǒng)是否要引入不同類型的非人主體?如何對人工智能時代這種新的“行動元法律秩序”形成理論上的恰切解釋框架?
人類社會面對的“未來”,將是一個融合個體(自然人)、團體、行動元(人工智能)、混血體(智人和人工智能的結合體)的多節(jié)點和多層次的復雜社會網絡。政治和法律的演化空間將大大拓展,同時,新的行動元和法律人格概念,也會挑戰(zhàn)舊的政治與國家概念,會催生新的政治和國家概念。曾經被近代主權理論賦予法律人格的現代政治國家如何面對包括人工智能在內的所有新的政治行動者?現代政治國家如何面對信息技術革命帶來的社會溝通與社會交往網絡的復雜化?
這是一種臨界時刻——包括法律與政治在內的人類社會秩序的臨界時刻。
人類學家項飆教授在為該書寫的序中說,“臨界,是預期中的革命性變革發(fā)生的前一刻。臨界首先是一個預期,預期的具體內容很可能會被歷史推翻,但是我們不能認為臨界狀態(tài)是虛無縹緲的。相反,臨界感是21世紀初經濟社會中一個重要的客觀實在。”《臨界》一書就帶著這種臨界感。置身于該書描述的這種臨界狀態(tài),讀者能感受到作者對法治未來既樂觀期待,又審慎憂懼的復雜態(tài)度。
樂觀期待的一面主要體現在,《臨界》認為從人類社會與法律演化的歷史經驗看,人類通過法律為人工智能賦權具有必然性。這是一場無形的革命,是社會這種特殊系統(tǒng)在信息技術時代必然要經歷的一種歷史演化,而“社會系統(tǒng)作為歷史機器”(《臨界》援引的盧曼這個比喻非常深刻)的演化策略是極其冷酷、不以人的意志為轉移的。另一方面,給新的個體人工智能賦權的發(fā)展會反過來進一步促成人工智能的迭代和自我權利意識的生成。
《她》劇照。
基于此,作者預測道:屆時,沒有生命的“芯片”可能獲得法律人格意義上的自由意志。這種意義上的人工智能將超越人類的感官和邏輯能力,形成自主維持和自我反思的能力,進而尋找到作為法律存在者的現象學世界。人工智能一旦獲得此種意義上的法律人格,就不再只是輔助人腦的技術客體,而是能夠獨立擔當資本主義全球化的勞動者和經營者,乃至進化成為接管人類的記憶、溝通和協作,成為未來世界社會真正的法律人。人工智能有資格和智人同樣成為擁有政治和法律權能的社會行動者,一旦歷史演化到這個階段,各種法律規(guī)制就會主動保障人工智能加入法律系統(tǒng)的溝通網絡。未來的機器人、人工智能和賽博格將會以被告、原告,甚至法官、律師和公證人的身份參與到新的法律游戲。
那么,這個演化局面一旦出現,到底意味著什么呢?
《臨界》指出,意味著人類和人工智能開始產生意向性互動,意味著人工智能可以自主衡量和判斷人類的利益與價值,意味著“勞動”這種在韋伯式新教倫理中賦予人類生命意義的天職轉由人工智能替代,因而意味著對現代人至關重要的“勞動倫理”被卸載;意味著建立在人的生物性和心理學基礎上的經典法律人格理論、建立在主體意志與人格互動基礎上的現代合同法與侵權法的理論基礎,可能都要發(fā)生適應性改變。
該書前面三章從不同視角立體地分析了為什么可以說為人工智能賦權會是法律的一種潛在演化趨勢。第一章結合現代資本主義法律演化史,指出將很多非傳統(tǒng)法律涵括對象的主體引入法律框架,創(chuàng)設新的權利/義務、權力/責任,促進新的規(guī)范性秩序生成,是現代法律史的一項基本經驗,將人工智能這一新的主體建構為法律主體并不存在法學技術上的障礙。第二章闡述了智能社會的智能機器具有“深度學習”的特征,智能機器的學習邏輯是,通過各種大數據、身份虛擬、評分系統(tǒng)、智能算法的技術裝置,形成對主體持續(xù)追蹤、認證、評價和反饋的學習性網絡。這種帶有深度學習特征的技術發(fā)展對人類既有法律制度的功能即維護規(guī)范性期望的傳統(tǒng)功能提出了挑戰(zhàn)。現代法律系統(tǒng)的最大特征是為維護法律的規(guī)范性期望必須保持某種“深度不學習”。法律作為規(guī)范,包含一種相對穩(wěn)定的對行為的期望,它不會因為個別事實的出現而突然改變,因而具有“反事實性”。法律的“反事實性”與“深度不學習性”主要是指法律不會根據外界信息、參數或標識的臨時變化而隨時調整它的規(guī)范、原則和價值。而當進入人工智能時代法律遭遇代碼和算法、法律代碼化,甚至代碼逐步接管法律時,先天帶有“深度不學習”特征的法律就會面臨一系列挑戰(zhàn)。該章分析到,一系列并不被國家主權壟斷的算法機制會不斷催生出各種類型的私人定制的“小法律”,同時經由各種代碼實現的“不能違法”的現象和經由各種算法實現的“不用違法”的現象,這些都將改變“法律是主權者的命令”這一經典形象。該章分析了智能技術的發(fā)展可能改變法律的規(guī)范主義特征,并逼迫法律的“學習型”轉向。
第二章是《臨界》全書立論的關鍵點和創(chuàng)新之處,也是最抽象最難理解的一章。作者指出,人工智能技術條件下法律系統(tǒng)面臨的根本問題是:如何將道義論的法律問題轉換為技術型的算法與代碼的問題,即現代理性法中的權利/義務、責任/豁免、權力/自由、平等/公正、過失/故意、善良/邪惡等帶有道德與倫理評價含義的法律概念,是否可以以及如何經由代碼轉換為算法和程序?這就是說信息技術時代,法學本身存在向“計算法學”轉向的問題,計算法學的一個核心問題是“代碼即法律”,這個新的法律觀是否存在道德與倫理上的限度?對此,《臨界》表達了相對樂觀的期待,作者提到:“根據當前一些研究,機器學習被認為已經可以基于相關技術,采用建構政策網絡和價值網絡的方式,運用各種統(tǒng)計、概率和邏輯方法描述和量化各種價值與倫理范疇,進而用負載道德價值內涵的道德代碼為智能機器編寫倫理算法。”
第三章分析信息技術革命帶來的“法律客體革命”、“法律空間革命”和“法律時間革命”。在這一章中,“代碼即法律”的必然性與正當性,作為人工智能時代對法治格局具有深刻影響的一個根本問題,在更宏觀的政治經濟學與更深刻的哲學層面得到延展性討論。該章轉述美國學者憂懼的一個現實,即“代碼作者越來越多地成為立法者,他們決定互聯網的缺省設置應當是什么;隱私是否將被保護、所允許的匿名程度、所保證的連接范圍”。
更重要的是,“代碼同時也成為了政府的規(guī)制工具。通過代碼的編寫,政府可以間接地實現更多的規(guī)制目標,并通常可以避免直接規(guī)制所造成的政治后果。”在這種革命性的演化中,基于信息技術革命而如火如荼發(fā)展起來的“信息資本主義”,存在著向“控制論資本主義”甚至“極權資本主義”演化的風險,因為深度學習型的代碼/算法機制很可能根據某種偏狹的技術/價值理性,受制于缺乏民主機制過濾的資本與技術邏輯,進而挑戰(zhàn)以自由民主為核心的一系列現代法律價值。
這些事實表明,人工智能既是新技術,但又引發(fā)新的政治問題,因而具有深刻的政治性。《臨界》從頭到尾并沒有界定何為“人工智能的政治性”,即使附錄二《人工智能的政治性》也沒有進行概念界定,但這并不妨礙讀者根據其上下文語境把握這個議題的核心意涵,因為從第三章開始,作者就已經在局部地討論人工智能的政治潛力和人工智能帶來的政治想象——即人工智能技術到底是可能加劇《1984》式的權力集中化境況,還是能幫助人類對抗《1984》式境況。
《算法的力量》,作者: [英]杰米·薩斯坎德(Jamie Susskind),理想國|北京日報出版社2022年2月。
算法黑箱與人工智能不對稱的權力結構
《臨界》既不否認為人工智能賦權可能是一種勢不可擋的社會與法律演化趨勢,同時也深深地憂懼人工智能被廣泛運用于社會與經濟生活會帶來的各種危害。被賦權的人工智能的封閉運作給當代人類社會提出的最大難題是,如何解決算法黑箱問題,如何最大限度地減少、規(guī)避各類人工智能和算法技術黑箱給個體與社會帶來的潛在危險?《臨界》描述了步入算法社會的當代人類面臨的新型鐵籠困境,并初步提出了解決這個困境的理論思路——重構自由主義技術倫理,建構互聯網憲法政治。
算法為什么像是給人類構筑了無形的新型鐵籠呢?一方面因為,無論交通出行、就業(yè)雇傭、教育醫(yī)療還是金融投資、社會保險等事務,人們都受到無所不在的算法治理的全面滲透。大數據、人工智能、平臺治理、機器人、虛擬現實、區(qū)塊鏈等治理技術手段背后隱藏的,是各種呈現黑箱狀態(tài)的算法。另一方面算法背后又是具有特殊利益的形形色色的公司甚至掌握公權力的相關政府部門。這些公司、部門與普通消費者網民之間形成一種新型的信息信托和受托關系。普通網民作為消費者不得不將大量的個人信息、隱私和數據貢獻、授權和委托給它們,而它們的算法機制對個人信息的控制、占有與處理方式實際上處于一種封閉的黑箱狀態(tài),這就牽涉到法律對算法進行規(guī)制的力度與限度問題。
處在這個算法鐵籠中的人們,生活工作的各個方面越來越離不開平臺公司的算力資源和算法手段,但又很難對算法透明性和可解釋性提出過高要求。《臨界》認為這種力量對比格局已經表明,當代算法社會呈現出了一種高度不對稱的信息權力結構。這種信息權力不對稱的實質在于:面對信息時代的各種資本寡頭以及與資本有千絲萬縷聯系并被信息技術重新武裝的權力/政府,普通個體將變得更加無助。更重要的是,算法黑箱問題的悖論在于:黑箱性不再僅僅存在于個人、國家或職業(yè)團體,而是變成了一種普遍性、環(huán)境性的技術基礎架構。法律作為一個整體,可能跌入了一個幽暗的算法黑箱之中。
《臨界》前面三章曾引用韋伯詩化的語言去形容與現代理性法律同源同構的近代經濟秩序那種深不可測的黑洞意境:近代資本主義經濟秩序是一個巨大宇宙。這個巨大宇宙的誕生,在給人類帶來無限豐富的物資財貨的同時,也以其壓倒性的強制力“君臨人類”,決定著出生在此一機制當中的每一個人的生活方式,直到最后一車的化石原料燃盡為止。
作者引述韋伯的話,將這種“深陷系統(tǒng)”無處可逃的境況描述為現代人類面對的“空前的內在孤獨”——人類社會各方面好像都“進步”了,但技術進步與物質繁榮都排遣不了這種“內在孤獨”。如今,內置了算法黑箱的數字經濟秩序與數字社會秩序,是不是又一個更巨大的黑洞呢?在由算法驅動、以被賦權的人工智能為新的行動元的這個巨大黑洞中,被算法驅動的智能武力設備與智能審查機制,正在深入到我們每個人生活的方方面面包括私密領域,隨時可以對我們進行預測、評估和處置。
算法不僅驅動并塑造著信息經濟秩序,而且還深刻地影響政治與社會秩序,因為算法可以被用來進行政治動員和意識形態(tài)宣傳操控,從而實現對人的“感知控制”。借用薩斯坎德的話說,算法技術對人的感知控制本質上是一種更高級的審查,因為通過算法可以控制人們的所思所想、控制人們準備就世界發(fā)表的看法,因此,資本與權力對個體的思想、行為和情緒的操控技術將變得越來越嫻熟。
面對這些困境,《臨界》從一般法律層面和更高的憲法政治層面解決困局進行了理論展望。
《楊之后》劇照。
一般法律層面,主要是指在算法治理中,應納入一種信托/受托的法理框架。法律上應該界定人工智能、算法程序的開發(fā)者、編程者、運營商、制造商不只是一般意義上的商事主體,而且它們應肩負作為隱私信息受托人的關鍵責任,立法應訴諸法律手段促使各類黑箱主體履行嚴格的忠誠照顧和誠信看護信息信托人的法律義務。憲法政治層面,主要指國家和政府必須根據互聯網系統(tǒng)自身發(fā)展的特點和趨勢,根據互聯網自身的技術結構特征,有針對性地創(chuàng)造出新的政治和法律權利,建構互聯網憲法政治架構,完善各種互聯網民主機制,確保互聯網和人工智能技術的發(fā)展不悖逆自由、民主與法治。本文后邊部分著重討論《臨界》中的互聯網憲法政治意識。
互聯網政治下人的概念與異化
對人工智能具有政治性保持的敏銳意識,對互聯網憲法政治命題的理論界定,是《臨界》的思想亮點和學術貢獻之一。概括而言,該書活躍的憲法政治問題意識主要有四層具體意涵。
第一,《臨界》指出,面對一個正在迅速崛起的新型政治空間即互聯網空間,當下人類社會已現實地面臨著如何構造互聯網系統(tǒng)的制憲權的問題。這里的互聯網制憲權問題,既包括國際層面即全球互聯網系統(tǒng)空間的制憲權問題(這個問題短期內不可能獲得突破),又指國內法層面即具體民族國家對互聯網空間進行主權治理時要直面的互聯網憲法政治基本問題。筆者認為,對這個問題,可能需要區(qū)分民主政體與非民主政體分別來討論,因為民主政體與非民主政體在互聯網治理領域的制度模式肯定存在重要差異。《臨界》主要是規(guī)范性的理論展望,沒有進行二元區(qū)分討論,不過,這不影響它提出的相關命題本身的意義。
第二,互聯網的制憲權問題首先就關系到:在互聯網領域如何發(fā)現“我們人民”,也就是如何尋找互聯網人民(人民主權)和互聯網公民的問題。這可以進一步理解為:在互聯網領域如何實現人民主權與人權保障。《臨界》認為需要在商業(yè)資本和政府力量之外尋找新的可持續(xù)支持互聯網公共領域發(fā)展的商業(yè)模式和非商業(yè)模式,以便更好地保證政治性的公共批判性功能和自由公開表達功能在互聯網領域的擴展和實現。通過新的多元化社會力量構筑互聯網系統(tǒng)的公共領域。作者認為,重新發(fā)現互聯網系統(tǒng)的“我們人民”,這比單純強調互聯網傳播的新聞職業(yè)倫理、抽象的言論自由權利和數字權利,在道德層面批判商業(yè)資本要更為迫切。顯然,這需要一個社會的政治、經濟體制都具有真正的創(chuàng)新活力與潛力。
第三,如果說互聯網憲法政治的終極目的是要在互聯網空間貫徹并實現人民主權和人權保障,那么,一個首要的任務就是要解決互聯網系統(tǒng)借助代碼形成的三權合一與自我執(zhí)行這個內在悖論。互聯網系統(tǒng)借助代碼的三權合一,再加上與商業(yè)資本、政府利益的結合,再配合各種新的大數據、云計算和人工智能技術,極容易形成新的“技術專制”。“互聯網世界最初是一種無政府主義的狀態(tài),而未來則有可能轉變?yōu)橐环N新的《1984》。”——即互聯網已經經歷了一種從開放走向封閉、從去中心化走向集中化的歷史發(fā)展過程。個體越來越無力對抗這種趨勢。
第四,面對這些危機,《臨界》認為,我們應從現代以降人類社會演化的成就那里尋找靈感。在互聯網憲法設計上進行探索創(chuàng)新,建立基于聯邦制與共和制理念的一系列法律—技術框架,重新設計互聯網的治理權力和基本權利的對抗格局。《臨界》指出在世界范圍內看,“目前的互聯網名稱和數字地址分配機構(ICANN)仲裁委員會,包括功能和地域代表制、互聯網分權結構、域名分配方面的司法權、互聯網自主的基本權利標準(即專屬于互聯網系統(tǒng)的言論自由標準和隱私權保護標準、信息公開權利等)等討論,都已經在這個方向上做了不少初步的理論探索”。這里同樣蘊含著一種相對樂觀的期望。
除此之外,《臨界》提出可以借用耶魯大學著名政治理論家與憲法學家阿克曼的二元民主論構想。在設計互聯網空間的憲法政治框架時,沿用這種二元民主理論構想,首先就要區(qū)分兩種政治空間。一是互聯網外的現實政治空間,另一個是互聯網上的自發(fā)政治空間,并在理論上對這兩種政治空間進行分離,使得這兩種政治空間形成相互對抗和制衡的可能性。
《我們人民:轉型》,布魯斯·阿克曼 著,中國政法大學出版社2014年8月。
依筆者個人對《臨界》理論設想的理解,互聯網憲法政治由此可以概括為兩大維度。一方面,互聯網系統(tǒng)上的自發(fā)政治空間本身要實現真正的民主化,即在互聯網系統(tǒng)自發(fā)政治空間通過制度模式創(chuàng)新,真正貫徹人民主權與人權保障。《臨界》希望人工智能技術能通過對個人的技術賦能(就像美國憲法賦予個人持槍權對抗各種暴政那樣),幫助個體擺脫官僚政府、平臺企業(yè)對互聯網世界的主宰與壟斷。這也就是《臨界》所指的互聯網系統(tǒng)本身要走出民主化赤字困境。另一方面,擺脫了民主化赤字困境、獲得了人民主權正當性的互聯網系統(tǒng)的自發(fā)政治空間反過來又要能對高度組織化和制度化的現實政治空間形成有效監(jiān)督、發(fā)揮積極的政治影響力。作者認為,這種影響力與社會公民運動(公共輿論)對國家日常政治的那種影響力、市場調控(價格)對企業(yè)投資決策的那種影響力類似。
寫到這里,筆者有一個疑問呼之欲出。在對“何為法律”本身抱持相對主義立場的社會里,《臨界》一書基于規(guī)范主義憲制思維所展望的這種規(guī)范性的互聯網憲法政治是否可能?這同時會牽引出另一個相關問題,即是否需要在理論上區(qū)分“互聯網系統(tǒng)的憲法政治”與“互聯網系統(tǒng)外的憲法政治”?前者指互聯網自發(fā)政治空間的成長發(fā)育以及它與互聯網外現實政治空間的博弈、協商、對話。后者指代使前者可能健康生長起來的根本體制環(huán)境或者說根本體制平臺。如果承認這個二元區(qū)分的必要性,那么,是否可以說,互聯網系統(tǒng)的民主潛力將高度依賴互聯網外現實制度的民主化潛力?換言之,互聯網系統(tǒng)的民主潛力是否可以自創(chuàng)生?是否能反推互聯網外現實政治空間的民主化?
《楊之后》劇照。
科技法學研究的人文關懷
《臨界》討論的議題是全新的信息技術,但是,作者的思想視野沒有拘泥于純粹的技術層面的問題,而是將眼光投向了人類數次重大技術革命所在歷史時代及相應的政治經濟學智識背景,這使這本主題有點酷的書散發(fā)濃郁的人文氣息。
該書是作者的一個階段性研究成果,因此對一些關鍵概念和基礎理論命題的界定辨析還有繼續(xù)深化拓展的空間。但這不影響筆者從全書的論述中感受到一種信心與信念。那就是盡管信息技術革命來了、盡管人工智能作為新的行動元出場了,但這并不意味著“柏拉圖、亞里士多德們”就完全過時了。相反,科學技術越發(fā)展,意義與價值、道德與倫理的問題反而越發(fā)凸顯,人文—社會科學智識反而越發(fā)重要。
當代世界著名思想家與物理學家霍金曾提出十個終極問題——1.有“造物主”存在嗎?2.一切是怎么開始的?3.宇宙中有其他智慧生命嗎?4.我們能預測未來嗎?5.黑洞里面是什么?6.時間旅行真的有可能嗎?7.我們會在地球上生存下去嗎?8.我們應該殖民太空嗎?9.人工智能會超過我們的聰明才智嗎?10.我們如何開創(chuàng)未來?——想想這位科學家關注的這些問題,有哪一個是純粹依靠科學與技術能解釋得清楚的呢?
《臨界》置身在時間與空間、法律與時間、法律與空間的復雜關系與意義網絡中,分析展望人工智能時代的法律與法治問題。作者既充分意識到各種控制論、系統(tǒng)論、信息論、演化論、博弈論、概率論、復雜性思想、統(tǒng)計學方法正在不斷入侵法律領域,又堅持在所有理論、所有主義、所有方法之上還應為自由主義—人道主義留出必要的存在空間,體現了余盛峰教授作為科技法學研究者的深層人文關懷。
項飆教授在該書序言中富有創(chuàng)見地提到,臨界時刻的思考必然要觸及如何看待三種基本元素或者說基本力量的相互結構關系。這三種元素與力量分別是:系(可簡要理解為人與人之間的私人生活世界)、體系(可簡要理解為一系列建制化的政治、經濟、社會體制及其格局)、系統(tǒng)(可簡要理解為由算法驅動并塑造的那種信息技術操作系統(tǒng))。
這個三重區(qū)分讓筆者過目不忘。它把我們所有人都活在這三重疊加空間里的那種復雜境況一下子勾勒出來了。我們每個人都生活在特定的“系”,“系”再生活化也都難以擺脫“體制”的裹挾與影響。現在,無論“系(人—生活)”還是“體系(政治—經濟體制)”,又都處在一種神奇“系統(tǒng)(代碼)”的無形網絡中。到底哪個能控制哪個?尤其是,被新技術武裝的舊制度,到底將何去何從?
項飆教授一如既往,秉持了他在《把自己作為方法》那本書中詮釋的人類學方法,沒有對這種三重空間的應然狀態(tài)進行規(guī)范性的理論展望——但當然這不是說他拒絕反思現實、拒絕價值判斷,更不是說他徹底擁抱事實。只不過,作為出色的人類學家,他的確更習慣更擅長“不帶立場的”人類學敘述方式。有趣的是,他為之作序的《臨界》這本書的根本價值立場卻是清晰而堅定的。
撰文/黎敏
編輯/李永博
校對/賈寧
責任編輯:Rex_21