OpenAI CEO：大語(yǔ)言模型規(guī)模已接近極限，并非越大越好

(資料圖片僅供參考)

IT之家 4 月 16 日消息，OpenAI 的聯(lián)合創(chuàng)始人兼 CEO 薩姆?奧爾特曼（Sam Altman）在麻省理工學(xué)院“想象力行動(dòng)”活動(dòng)上接受了采訪，談到了大語(yǔ)言模型（LLM）的發(fā)展趨勢(shì)和安全問(wèn)題。

奧爾特曼認(rèn)為，我們正在接近 LLM 規(guī)模的極限，規(guī)模越大并不一定意味著模型越好，而可能只是為了追求一個(gè)數(shù)字而已。LLM 的規(guī)模不再是衡量模型質(zhì)量的重要指標(biāo)，未來(lái)將有更多的方式來(lái)提升模型的能力和效用。他將 LLM 的規(guī)模與過(guò)去芯片速度的競(jìng)賽進(jìn)行了類比，指出今天我們更關(guān)注芯片能否完成任務(wù)，而不是它們有多快。他表示，OpenAI 的目標(biāo)是為世界提供最有能力、最有用、最安全的模型，而不是為了參數(shù)數(shù)量而自我陶醉。

IT之家注意到，奧爾特曼還回應(yīng)了一封要求 OpenAI 暫停開(kāi)發(fā)更強(qiáng)大 AI 六個(gè)月的公開(kāi)信，他表示他同意在能力越來(lái)越強(qiáng)大的情況下，安全標(biāo)準(zhǔn)也要提高，但他認(rèn)為信件缺乏技術(shù)細(xì)節(jié)和準(zhǔn)確性。他說(shuō)，OpenAI 在發(fā)布 GPT-4 之前已經(jīng)花了六個(gè)月以上的時(shí)間來(lái)研究安全問(wèn)題，并邀請(qǐng)外部審計(jì)和“紅隊(duì)”來(lái)測(cè)試模型?！拔乙餐?，隨著能力變得越來(lái)越強(qiáng)，安全標(biāo)準(zhǔn)必須提高。但我認(rèn)為這封信缺少了關(guān)于我們需要暫停的大部分技術(shù)上的細(xì)微差別 —— 這封信的早期版本聲稱我們正在訓(xùn)練 GPT-5。我們沒(méi)有，而且在一段時(shí)間內(nèi)也不會(huì)，所以從這個(gè)意義上說(shuō)，這有點(diǎn)愚蠢。但我們?cè)?GPT-4 的基礎(chǔ)上還在做其他事情，我認(rèn)為這些事情有各種安全問(wèn)題需要解決，但信中完全沒(méi)有提到。因此，我認(rèn)為謹(jǐn)慎行事，并對(duì)安全問(wèn)題越來(lái)越嚴(yán)格，這一點(diǎn)非常重要。我不認(rèn)為（信中的）建議是解決這個(gè)問(wèn)題的最終方法，”他說(shuō)。

奧爾特說(shuō)，OpenAI 已經(jīng)在這個(gè)領(lǐng)域工作了七年，付出了很多努力，而大多數(shù)人都不愿意這樣做。他說(shuō)，他愿意公開(kāi)討論安全問(wèn)題和模型的局限性，因?yàn)檫@是正確的事情。他承認(rèn)有時(shí)候他和其他公司代表會(huì)說(shuō)一些“蠢話”，結(jié)果發(fā)現(xiàn)是錯(cuò)誤的，但他愿意冒這個(gè)風(fēng)險(xiǎn)，因?yàn)檫@項(xiàng)技術(shù)需要對(duì)話。

責(zé)任編輯：Rex_16