作 者丨嚴梓瑄,郭美婷
編 輯丨諸未靜
(資料圖片)
圖 源丨圖蟲
繼馬斯克、圖靈獎得主等一眾大佬簽署公開信、聯名呼吁暫停大型AI研究后，ChatGPT再遭爭議與質疑。
近日，意大利個人數據保護局宣布，從即日起禁止使用聊天機器人ChatGPT，并限制開發這一平臺的OpenAI公司處理意大利用戶信息。同時個人數據保護局開始立案調查。這是第一起政府禁止使用聊天機器人的案例。
個人隱私泄露，意大利禁用ChatGPT
3月25日，OpenAI發布聲明承認，由于開源代碼庫中存在一個漏洞，部分用戶能夠看到另一個用戶的聊天標題記錄，此前已將ChatGPT短暫下線并緊急修補此漏洞。
同時，OpenAI表示，在特定的9小時窗口期內，1.2%的付費版用戶的個人支付信息可能被泄露。部分用戶可能會看到另一名活躍用戶的姓名、電郵、支付地址、信用卡后4碼、信用卡到期時間等信息。
意大利個人數據保護局認為，ChatGPT泄露了用戶對話數據和付款服務支付信息，沒有告知用戶將收集處理其信息，缺乏大量收集和存儲個人信息的法律依據，同時缺乏年齡驗證系統，因此未成年人可能接觸到非法信息。OpenAI公司必須在20天內通過其在歐洲的代表，向意大利個人數據保護局通報公司執行保護局要求而采取的措施，否則將被處以最高2000萬歐元或公司全球年營業額4%的罰款。
憂心泄密風險，企業限制ChatGPT使用
事實上，這已經不是ChatGPT第一次拉響有關數據安全擔憂的警報。
據報道，微軟的工程師和亞馬遜的律師都曾警告員工，不要與ChatGPT分享“任何亞馬遜的機密信息，包括你正在編寫的代碼，因為他們可能會將其用于訓練未來的模型?！?/p>
然而，警告或許并未達到實際效果。數據安全公司Cyberhaven調查了不同行業客戶的160萬員工的ChatGPT使用情況。該公司發布報告表示，2.3%的員工將公司機密數據貼入ChatGPT，企業員工平均每周向ChatGPT泄露敏感數據達數百次，目前敏感數據占員工粘貼到ChatGPT的內容的11%。
多家媒體消息稱，三星內部就發生了3起誤用、濫用ChatGPT案例，恐泄露三星內部機密。其中，有兩起關于三星的半導體設備，另一起關于三星的內部會議內容。
有觀點認為，輸入ChatGPT的數據可能被用于未來模型的迭代訓練。如果用戶輸入敏感數據，這些數據便極有可能成為其輸出的內容，造成敏感數據泄露。
出于這種憂慮，美國銀行、花旗集團、德意志銀行、高盛集團、富國銀行、摩根大通和Verizon等機構已經禁止員工使用ChatGPT聊天機器人處理工作任務。許多日本大公司，如軟銀、富士通、瑞穗金融集團、三菱日聯銀行、三井住友銀行等，也限制了ChatGPT和類似聊天機器人的商業用途。
本周，1000多名科技行業領導和研究人員呼吁暫停先進AI系統的研發，以便相關的數據安全政策能夠首先得到討論施行。AI與數字政策中心（The Center for A.I. and Digital Policy）長期致力于推行數字科技的道德化使用，要求美國聯邦交易委員會（U.S. Federal Trade Commission）禁止OpenAI發布ChatGPT新的商用版本。
日前，OpenAI首席執行官Sam Altman在接受媒體采訪時坦白，對AI技術以及它如何影響勞動力、選舉和虛假信息的傳播有些害怕，“我擔心這些模型可能會被用于大規模的虛假信息傳播。”他認為，這些可能的負面影響需要政府和社會共同參與監管，并呼吁反饋和規則對抑制人工智能的負面影響非常關鍵。
盡管，在2019年微軟宣布注資10億美元支持OpenAI研發通用人工智能模型時，Sam Altman曾將這一努力與二戰期間美國制造原子彈的曼哈頓計劃相提并論，認為二者都將帶來巨大的科技進步，且自信于控制風險的能力。
SFC
本期編輯 江佩佩 實習生 向添雨
21君薦讀
AIGC賽道具有確定性，初創企業如何抓住ChatGPT帶來的科技浪潮？
博鰲論壇2023丨嘉賓熱議ChatGPT
黃仁勛對話OpenAI創始人 現代AI和ChatGPT如何誕生
責任編輯：Rex_03
營業執照公示信息