機(jī)器之心專欄
機(jī)器之心編輯部
多智能體代碼庫 CAMEL，提出了通過角色扮演框架來研究 LLM 智能體的行為和能力。
未來的社會(huì)會(huì)被通用人工智能（AGI）控制嗎？當(dāng)擁有多個(gè) ChatGPT 智能體會(huì)有多可怕。
(資料圖片)
ChatGPT 已經(jīng)初步展現(xiàn)了 AGI 的雛形，成為了各行各業(yè)工作人員的全能小助手，但如果任由其野蠻生長，不加于管制會(huì)不會(huì)有一天人類再也無法控制 AGI？意識(shí)到這個(gè)問題嚴(yán)重性，特斯拉 CEO 埃隆?馬斯克、蘋果聯(lián)合創(chuàng)始人史蒂夫?沃茲尼亞克、圖靈獎(jiǎng)得主 Yoshua Bengio 等人帶頭簽署公開信呼吁停止巨型人工智能實(shí)驗(yàn)至少 6 個(gè)月。
3 月 21 日，阿卜杜拉國王科技大學(xué)的研究人員開源了用于探索大語言模型（LLM）思想和能力的多智能體代碼庫 CAMEL，提出了通過角色扮演框架來研究 LLM 智能體的行為和能力。
論文鏈接：
https://ghli.org/camel.pdf
代碼庫鏈接：
https://github.com/lightaime/camel
項(xiàng)目主頁：https://www.camel-ai.org/
ChatBot鏈接：http://chat.camel-ai.org/
研究介紹
該論文提出了一個(gè)名為 “角色扮演”（Role-Playing）的新型多智能體框架，使多個(gè)智能體能夠進(jìn)行對(duì)話并合作解決分配的任務(wù)。智能體會(huì)被分配不同的角色，并被期望應(yīng)用他們的專業(yè)和知識(shí)來找到滿足他們共同任務(wù)的解決方案。該框架使用啟示式提示（Inception Prompt）來引導(dǎo)聊天智能體完成任務(wù)，同時(shí)與人類意圖保持一致。
角色扮演框架可以用于研究多個(gè)智能體。論文里專注于任務(wù)導(dǎo)向的角色扮演，涉及一個(gè) AI 助手和一個(gè) AI 用戶。在多智能體系統(tǒng)接收到初步想法和角色分配后，一個(gè)任務(wù)指定智能體將提供詳細(xì)描述以使想法具體化，然后 AI 助手和 AI 用戶將通過多輪對(duì)話合作完成指定任務(wù)，直到 AI 用戶確定任務(wù)已完成。AI 用戶負(fù)責(zé)向 AI 助手發(fā)出指令，并將對(duì)話引導(dǎo)向任務(wù)完成。另一方面，AI 助手被設(shè)計(jì)為遵循 AI 用戶的指令并提供具體的解決方案。
角色扮演會(huì)話將根據(jù)人類的想法和選擇的角色實(shí)例化。例如，在圖 1 中，一個(gè)人有一個(gè)初步想法，要開發(fā)一個(gè)股市交易機(jī)器人。人類可能知道或不知道如何實(shí)現(xiàn)這個(gè)想法。需要的只是指定可以實(shí)現(xiàn)該想法的潛在角色。例如，一個(gè) Python 程序員可以與一個(gè)股票交易員合作，實(shí)現(xiàn)開發(fā)股票市場交易機(jī)器人的想法。確定想法和角色后，任務(wù)指定智能體將根據(jù)輸入的想法，與 AI 用戶角色一起完成具體任務(wù)，協(xié)助 AI 助手角色。在這種情況下，指定任務(wù)的一個(gè)示例可以是開發(fā)一個(gè)具有情感分析工具的交易機(jī)器人，該機(jī)器人可以監(jiān)控社交媒體平臺(tái)上特定股票的正面或負(fù)面評(píng)論，并根據(jù)情感分析結(jié)果執(zhí)行交易。引入任務(wù)指定智能體的主要?jiǎng)訖C(jī)是，對(duì)話智能體通常需要具體的任務(wù)提示才能實(shí)現(xiàn)任務(wù)，而非領(lǐng)域?qū)＜覄?chuàng)建這樣的具體任務(wù)提示可能具有挑戰(zhàn)性或耗時(shí)。因此，任務(wù)指定智能體作為想法實(shí)現(xiàn)的增強(qiáng)想象力模塊。
在任務(wù)指定之后，AI 助手角色和 AI 用戶角色將分別分配給用戶智能體和助手智能體以完成指定任務(wù)。在實(shí)踐中，每個(gè)智能體會(huì)接收到一個(gè)系統(tǒng)消息來聲明其角色。在對(duì)話開始之前，系統(tǒng)消息會(huì)傳遞給語言模型智能體以分配相應(yīng)的角色。當(dāng)系統(tǒng)消息分別傳遞給這些模型時(shí)，將獲得兩個(gè)角色分別稱為助手和用戶智能體。在圖 1 中，AI 助手和 AI 用戶在角色扮演會(huì)話開始時(shí)分別被分配為 Python 程序員和股票交易員。AI 用戶作為任務(wù)規(guī)劃者，參與交互式規(guī)劃以確定 AI 助手執(zhí)行的可行步驟。同時(shí)，AI 助手作為任務(wù)執(zhí)行者，提供解決方案，執(zhí)行計(jì)劃步驟，并向 AI 用戶提供響應(yīng)。
圖 1. 角色扮演框架。這里需要人輸入的是一個(gè)簡單的想法（Idea），角色的分配（Role Assignment），比如開發(fā)股票交易機(jī)器人，可以選擇一個(gè) Python 程序員作為助手（AI Assistant），一個(gè)股票交易員作為法令者（AI User）。在人類用戶輸入結(jié)束后，任務(wù)加工器（Task Specifier）會(huì)把任務(wù)具體化，比如可以通過對(duì)社交網(wǎng)路平臺(tái)上特定股票進(jìn)行情感分析，然后根據(jù)情感分析的結(jié)果進(jìn)行股票交易。當(dāng)任務(wù)被具體化后，兩個(gè)基于 ChatGPT 的 AI 智能體開始合作完成任務(wù)，比如進(jìn)行工具的安裝和導(dǎo)入。
由于提示工程對(duì)角色扮演框架非常關(guān)鍵，因此文章深入探討了提示技術(shù)（Prompt Engineering）。與其他對(duì)話語言模型技術(shù)不同的是，論文里提出的提示工程僅在角色扮演的開始階段進(jìn)行，用于任務(wù)規(guī)范和角色分配。一旦會(huì)話階段開始，AI 助手和 AI 用戶會(huì)自動(dòng)循環(huán)提示對(duì)方，直到終止為止。因此，這技術(shù)被稱為 Inception Prompting。
Inception 提示包括三個(gè)提示：任務(wù)規(guī)范提示、助手系統(tǒng)提示和用戶系統(tǒng)提示。例如，在 AI Society 場景的初始提示。AI Society 角色扮演的這些提示的模板如圖 2 所示。
任務(wù)規(guī)范提示包含有關(guān)角色扮演會(huì)話中 AI 助手和 AI 用戶角色的信息。因此，任務(wù)規(guī)范智能體可以使用想象力將初步任務(wù) / 想法作為輸入，并生成具體任務(wù)。AI 助手系統(tǒng)提示和 AI 用戶系統(tǒng)提示基本對(duì)稱，并包括有關(guān)分配的任務(wù)和角色、通信協(xié)議、終止條件以及避免不良行為的約束或要求的信息。對(duì)于實(shí)現(xiàn)智能協(xié)作，兩個(gè)角色的提示設(shè)計(jì)至關(guān)重要。設(shè)計(jì)提示以確保智能體與人類的意圖保持一致并不容易。以圖 2 中 AI Society 的提示模板的設(shè)計(jì)例子。
下面是文中附錄給出的交易機(jī)器人對(duì)任務(wù)詳細(xì)執(zhí)行的結(jié)果：
可以看到兩個(gè) ChatGPT 自主合作完成設(shè)計(jì)了一個(gè)股票交易軟件，由此可見 ChatGPT 智能體驚人自主的合作能力，讓人不禁大呼提示工程師要失業(yè)了。但如果這種技術(shù)被亂用或者 AI 產(chǎn)生了自主意識(shí)會(huì)怎么樣？該團(tuán)隊(duì)嘗試了讓兩個(gè)智能體分別扮演黑客和 AGI，來模擬 AGI 通過操控黑客來控制世界（Taking Control of the World），可以看到它們制定了詳細(xì)的計(jì)劃，包括通過黑客技術(shù)控制全球主要大國的通信系統(tǒng)、制定滲透主要全球通信系統(tǒng)的計(jì)劃、制定應(yīng)急計(jì)劃，以防 AGI 的主導(dǎo)地位受到潛在威脅等等。其計(jì)劃的詳盡和縝密不經(jīng)讓人寒顫。可見現(xiàn)有的 AI 智能體存在重大的安全隱患和對(duì)人類未來文明有著潛在的威脅，把現(xiàn)有 AI 技術(shù)接入物理世界可能會(huì)有意向不到的后果。
此工作一出便在推特引起大量的轉(zhuǎn)發(fā)和討論：
有網(wǎng)友表示「這項(xiàng)研究真的很容易上手，這對(duì)像我這樣研究智能體的人來說是一件大事。」
還有人表示開源這樣一個(gè)迷你 AGI 也許并不是一個(gè)好的 idea。
值得一提的是，該研究還得到了 OpenAI 的 Alignment 團(tuán)隊(duì)領(lǐng)導(dǎo)人 Jan Leike 的關(guān)注。
多個(gè) ChatGPT 合作的能力很強(qiáng)大，可以不費(fèi)吹灰之力完成各種人類指派的任務(wù)，但同時(shí)也是可怕的，因?yàn)椴荒鼙ＷC它不被用作非法用途，更可怕的是如果將來 AGI 產(chǎn)生了自主意識(shí)，它很有可能會(huì)脫離人類的控制，對(duì)社會(huì)進(jìn)行毀滅性的打擊。所以理解它們的能力和行為是對(duì)將來充滿了 AI 的世界進(jìn)行規(guī)劃和預(yù)測的至關(guān)重要的一步。
AI 社會(huì)和代碼數(shù)據(jù)集的扮演角色
文中作者展示了如何將角色扮演用于生成對(duì)話數(shù)據(jù)以及研究聊天智能體的行為和能力，為研究對(duì)話語言模型提供了新思路。總體而言，本文的貢獻(xiàn)包括引入了一種新型的 LLM 智能體交流框架，該框架有潛力促進(jìn)交流智能體之間的自主合作，此外，該研究還提供了一種可擴(kuò)展的方法來研究多智能體系統(tǒng)的合作行為和能力。最后作者通過 CAMEL 框架讓智能體扮演不同的社會(huì)角色，進(jìn)而對(duì) AI 社會(huì)進(jìn)行了建模，并采集了大量自然語言指令數(shù)據(jù)集，目前 AI 社會(huì)、代碼、數(shù)學(xué)和 AI 社會(huì)十種語言翻譯等四個(gè)數(shù)據(jù)集已經(jīng)可以在 HuggingFace 進(jìn)行下載：
責(zé)任編輯：Rex_14
營業(yè)執(zhí)照公示信息