意大利宣布禁用ChatGPT

作 者丨嚴(yán)梓瑄,郭美婷

編 輯丨諸未靜

(資料圖片)

圖 源丨圖蟲

繼馬斯克、圖靈獎得主等一眾大佬簽署公開信、聯(lián)名呼吁暫停大型AI研究后，ChatGPT再遭爭議與質(zhì)疑。

近日，意大利個人數(shù)據(jù)保護(hù)局宣布，從即日起禁止使用聊天機(jī)器人ChatGPT，并限制開發(fā)這一平臺的OpenAI公司處理意大利用戶信息。同時個人數(shù)據(jù)保護(hù)局開始立案調(diào)查。這是第一起政府禁止使用聊天機(jī)器人的案例。

個人隱私泄露，意大利禁用ChatGPT

3月25日，OpenAI發(fā)布聲明承認(rèn)，由于開源代碼庫中存在一個漏洞，部分用戶能夠看到另一個用戶的聊天標(biāo)題記錄，此前已將ChatGPT短暫下線并緊急修補(bǔ)此漏洞。

同時，OpenAI表示，在特定的9小時窗口期內(nèi)，1.2%的付費版用戶的個人支付信息可能被泄露。部分用戶可能會看到另一名活躍用戶的姓名、電郵、支付地址、信用卡后4碼、信用卡到期時間等信息。

意大利個人數(shù)據(jù)保護(hù)局認(rèn)為，ChatGPT泄露了用戶對話數(shù)據(jù)和付款服務(wù)支付信息，沒有告知用戶將收集處理其信息，缺乏大量收集和存儲個人信息的法律依據(jù)，同時缺乏年齡驗證系統(tǒng)，因此未成年人可能接觸到非法信息。OpenAI公司必須在20天內(nèi)通過其在歐洲的代表，向意大利個人數(shù)據(jù)保護(hù)局通報公司執(zhí)行保護(hù)局要求而采取的措施，否則將被處以最高2000萬歐元或公司全球年營業(yè)額4%的罰款。

憂心泄密風(fēng)險，企業(yè)限制ChatGPT使用

事實上，這已經(jīng)不是ChatGPT第一次拉響有關(guān)數(shù)據(jù)安全擔(dān)憂的警報。

據(jù)報道，微軟的工程師和亞馬遜的律師都曾警告員工，不要與ChatGPT分享“任何亞馬遜的機(jī)密信息，包括你正在編寫的代碼，因為他們可能會將其用于訓(xùn)練未來的模型。”

然而，警告或許并未達(dá)到實際效果。數(shù)據(jù)安全公司Cyberhaven調(diào)查了不同行業(yè)客戶的160萬員工的ChatGPT使用情況。該公司發(fā)布報告表示，2.3%的員工將公司機(jī)密數(shù)據(jù)貼入ChatGPT，企業(yè)員工平均每周向ChatGPT泄露敏感數(shù)據(jù)達(dá)數(shù)百次，目前敏感數(shù)據(jù)占員工粘貼到ChatGPT的內(nèi)容的11%。

多家媒體消息稱，三星內(nèi)部就發(fā)生了3起誤用、濫用ChatGPT案例，恐泄露三星內(nèi)部機(jī)密。其中，有兩起關(guān)于三星的半導(dǎo)體設(shè)備，另一起關(guān)于三星的內(nèi)部會議內(nèi)容。

有觀點認(rèn)為，輸入ChatGPT的數(shù)據(jù)可能被用于未來模型的迭代訓(xùn)練。如果用戶輸入敏感數(shù)據(jù)，這些數(shù)據(jù)便極有可能成為其輸出的內(nèi)容，造成敏感數(shù)據(jù)泄露。

出于這種憂慮，美國銀行、花旗集團(tuán)、德意志銀行、高盛集團(tuán)、富國銀行、摩根大通和Verizon等機(jī)構(gòu)已經(jīng)禁止員工使用ChatGPT聊天機(jī)器人處理工作任務(wù)。許多日本大公司，如軟銀、富士通、瑞穗金融集團(tuán)、三菱日聯(lián)銀行、三井住友銀行等，也限制了ChatGPT和類似聊天機(jī)器人的商業(yè)用途。

本周，1000多名科技行業(yè)領(lǐng)導(dǎo)和研究人員呼吁暫停先進(jìn)AI系統(tǒng)的研發(fā)，以便相關(guān)的數(shù)據(jù)安全政策能夠首先得到討論施行。AI與數(shù)字政策中心（The Center for A.I. and Digital Policy）長期致力于推行數(shù)字科技的道德化使用，要求美國聯(lián)邦交易委員會（U.S. Federal Trade Commission）禁止OpenAI發(fā)布ChatGPT新的商用版本。

日前，OpenAI首席執(zhí)行官Sam Altman在接受媒體采訪時坦白，對AI技術(shù)以及它如何影響勞動力、選舉和虛假信息的傳播有些害怕，“我擔(dān)心這些模型可能會被用于大規(guī)模的虛假信息傳播。”他認(rèn)為，這些可能的負(fù)面影響需要政府和社會共同參與監(jiān)管，并呼吁反饋和規(guī)則對抑制人工智能的負(fù)面影響非常關(guān)鍵。

盡管，在2019年微軟宣布注資10億美元支持OpenAI研發(fā)通用人工智能模型時，Sam Altman曾將這一努力與二戰(zhàn)期間美國制造原子彈的曼哈頓計劃相提并論，認(rèn)為二者都將帶來巨大的科技進(jìn)步，且自信于控制風(fēng)險的能力。

SFC

本期編輯 江佩佩 實習(xí)生 向添雨

21君薦讀

AIGC賽道具有確定性，初創(chuàng)企業(yè)如何抓住ChatGPT帶來的科技浪潮？

博鰲論壇2023丨嘉賓熱議ChatGPT

黃仁勛對話OpenAI創(chuàng)始人 現(xiàn)代AI和ChatGPT如何誕生

責(zé)任編輯：Rex_03