ChatGPT陷入安全危機(jī)，入安成也數(shù)據(jù)傷也數(shù)據(jù)。全危ChatGPT正在卷入一又一個爭論中。入安對于數(shù)據(jù)安全性問題，全危主要有三個方面：一是入安數(shù)據(jù)合法性問題，二是全危數(shù)據(jù)使用問題，三是入安個人信息保護(hù)問題。為保障數(shù)據(jù)安全性，全危開發(fā)人員必須采取措施，入安以保證訓(xùn)練數(shù)據(jù)的全危隱私性。

新聞詳情

這兩天，入安本來一路高歌猛進(jìn)的全危 ChatGPT突然跌入了輿論風(fēng)口浪尖。

上個周末，入安意大利先是全危對 ChatGPT進(jìn)行了臨時禁令，禁止其對國內(nèi)用戶的入安信息進(jìn)行處理。隨后，韓國媒體報(bào)導(dǎo)，在三星引入芯片ChatGPT不足20天后，機(jī)密數(shù)據(jù)被泄露。之后，又傳出了 ChatGPT目前已停止注冊的消息，并開始大范圍的封號，四月二日在亞洲全面封號。

圍繞著 ChatGPT的爭論仍在持續(xù)著，而這一波接一波的事件中，無論是封殺，還是泄密，又或者封號，都有一個共同點(diǎn)，那就是數(shù)據(jù)安全。事實(shí)上，自 ChatGPT開始流行至今，其數(shù)據(jù)安全性始終是人們關(guān)注的焦點(diǎn)，而此時，其數(shù)據(jù)安全性已經(jīng)不可避免地成為了現(xiàn)實(shí)問題。

封殺、泄密、封號

意大利對中國煙草公司的禁令來得太突然了。

三月三十一日，意大利個人資料保護(hù)局宣布，從今天開始，將禁止名為 ChatGPT的聊天機(jī)器人的使用，并對 OpenAl對意大利用戶的資料進(jìn)行處理也將受到限制。這也是世界上首個明確規(guī)定對其進(jìn)行“封殺”的西方國家。

之所以頒布這項(xiàng)禁令，是因?yàn)橐獯罄賳T認(rèn)為， OpenAI并未對至少應(yīng)為13歲的 ChatGPT用戶的年齡進(jìn)行審查，而且也未對用戶信息的收集與處理作出任何通知，因此在大規(guī)模收集與儲存?zhèn)€人信息方面缺乏法律依據(jù)。

這是真的， ChatGPT沒有被冤枉。ChatGPT在最近發(fā)生了“用戶對話數(shù)據(jù)和支付服務(wù)的支付信息丟失”的事件。而這條消息，也得到了 OpenAI的官方證實(shí)。

不僅如此，最近，國際巨頭三星公司的 ChatGPT也出了問題，三星公司引入 ChatGPT不到二十天，便爆出三條關(guān)于半導(dǎo)體設(shè)備測量數(shù)據(jù)、產(chǎn)品良率等機(jī)密數(shù)據(jù)泄露，網(wǎng)上有傳言稱這三條數(shù)據(jù)已經(jīng)被存儲在了 ChatGPT公司的數(shù)據(jù)庫里。

這條消息一出，立刻在網(wǎng)絡(luò)上引起了軒然大波，韓媒體更是指出，由于三星公司的員工向 ChatGPT中輸入了公司的機(jī)密信息，導(dǎo)致相關(guān)內(nèi)容被存儲在了學(xué)習(xí)數(shù)據(jù)庫中。三星稱，為防止類似事件重演，已告誡其員工謹(jǐn)慎使用ChatGPT。如果此后仍有類似的事件發(fā)生，公司內(nèi)部網(wǎng)絡(luò)將會被禁止使用ChatGPT。

事實(shí)上，從開發(fā)之初，關(guān)于 ChatGPT可能會泄露公司數(shù)據(jù)的擔(dān)心就從未停止過。據(jù) Cyberhaven統(tǒng)計(jì)，在160萬打工者中，有8.2%曾經(jīng)在工作場合使用過它，很多人說，由于使用了它，他們的生產(chǎn)力“提高了10倍”。與此同時，6.5%的雇員說他們會把企業(yè)數(shù)據(jù)拷貝到ChatGPT中，3.1%的雇員說他們曾經(jīng)把企業(yè)機(jī)密數(shù)據(jù)存入ChatGPT。

相應(yīng)地，越來越多的公司由于擔(dān)心機(jī)密數(shù)據(jù)泄露而禁止其員工使用 ChatGPT，如摩根大通，美國銀行，花旗，高盛，德意志銀行等等。軟銀最近還通知了所有員工，關(guān)于禁止向 ChatGPT輸入機(jī)密信息的警告。看起來， ChatGPT確實(shí)可以提高生產(chǎn)力，但是它也確實(shí)可以將對話內(nèi)容用作訓(xùn)練數(shù)據(jù)。

就在 ChatGPT被封殺，機(jī)密被泄露的時候，又有大量的賬號被封。4月2號，各大社交平臺上都出現(xiàn)了關(guān)于 ChatGPT官方大范圍封號的消息，特別是針對亞洲的用戶。根據(jù)他收集到的信息，并不是所有的賬號都被影響了，有的能成功登陸，有的只能登陸手機(jī)，有的則無法登陸。但是，對 ChatGPT來說，一場大規(guī)模的封殺行動似乎正在展開。市場調(diào)查顯示，數(shù)以百萬計(jì)的用戶帳號受此影響。關(guān)于新用戶的注冊，目前已經(jīng)無法進(jìn)入注冊頁面，更重要的是，許多收取代碼的平臺已經(jīng)在近期關(guān)閉。

除了 ChatGPT之外，3月30日，據(jù)國外媒體報(bào)道，目前最流行的 AI繪畫工具—— Midjourney，已經(jīng)停止了免費(fèi)使用。它的創(chuàng)立者和首席執(zhí)行官大衛(wèi)·霍爾茲在接受采訪時說，這一舉措主要是由于大量的新用戶涌入。David Holz在一篇名為“Discord”的社交軟件中提到了“怪異需求和試用濫用”。

從封殺到泄密再到封號， ChatGPT正被卷入一個又一個爭論中。

成于數(shù)據(jù)，傷于數(shù)據(jù)

其成功的關(guān)鍵在于大數(shù)據(jù)的輔助。ChatGPT模型是基于大量的會話數(shù)據(jù)來訓(xùn)練的，這些數(shù)據(jù)來自于社會媒體，公眾論壇和其他一些未知的渠道。通過大量數(shù)據(jù)的訓(xùn)練， ChatGPT才能取得如此優(yōu)異的性能。

但是，它還意味著，這個模型一直處于各種可能含有相關(guān)敏感信息的對話之中。每一次升級都會帶來新的談話內(nèi)容，以及隱私泄漏的新風(fēng)險。為保障數(shù)據(jù)安全性，開發(fā)人員必須采取措施，以保證訓(xùn)練數(shù)據(jù)的隱私性。然而，事實(shí)卻并不是這樣。

由 ChatGPT引發(fā)的數(shù)據(jù)安全性問題主要有三個方面。首先，他要解決的就是這些數(shù)據(jù)的合法性問題。如 ChatGPT等大規(guī)模語言模型的訓(xùn)練需要海量的自然語言數(shù)據(jù)，訓(xùn)練數(shù)據(jù)主要來源于互聯(lián)網(wǎng)，而開發(fā)者 OpenAI對數(shù)據(jù)來源未作明確說明，使得訓(xùn)練數(shù)據(jù)的合法性受到質(zhì)疑。

歐洲數(shù)據(jù)保護(hù)委員會(European Data Commission Council)委員亞歷山大·漢夫(Alexander Hanff)認(rèn)為，“數(shù)據(jù)包”是一項(xiàng)商業(yè)性產(chǎn)品，盡管因特網(wǎng)上有很多可供查閱的信息，但是，在含有“禁止第三方數(shù)據(jù)爬取”條款的網(wǎng)站上收集大量數(shù)據(jù)，卻違反了相關(guān)規(guī)定，不構(gòu)成合理使用。國際機(jī)器學(xué)習(xí)會議 ICML說，盡管 ChatGPT接受了公開數(shù)據(jù)的培訓(xùn)，但是他們經(jīng)常未經(jīng)同意就收集了這些數(shù)據(jù)。此外，還有一些個人信息受到了 GDPR等的保護(hù)，因此，爬取這些信息是違法的。

其次，就是使用該酶的過程中產(chǎn)生的數(shù)據(jù)泄露問題。目前， ChatGPT并沒有對用戶群體進(jìn)行太多的篩選，只要滿足了基本條件，就可以注冊成為用戶。此外，用戶在使用 ChatGPT之前，也不需要經(jīng)過專門的培訓(xùn)，因此，它對用戶的使用沒有任何限制。這就是說，用戶可以很隨意、很開放的使用 ChatGPT。

因此，當(dāng)用戶為完成某種任務(wù)或?qū)崿F(xiàn)某種目標(biāo)時，可能會輸入一些敏感數(shù)據(jù)、商業(yè)秘密甚至機(jī)密信息，一個不注意就可能導(dǎo)致數(shù)據(jù)泄露。就像三星最近擔(dān)心的那樣，數(shù)據(jù)一旦輸入，將會被收集并使用，并且無法刪除或更改。

三月底， ChatGPT被曝出存在漏洞，會造成用戶聊天記錄、付款信息的丟失。這種情況曾一度造成 ChatGPT的暫時停業(yè)。在回應(yīng)中， OpenAI稱，該漏洞可能會使1.2%的 ChatGPT+用戶在9小時內(nèi)的付款信息泄露。而且，這個漏洞還會讓其他人看到用戶的聊天內(nèi)容和聊天記錄，如果里面有隱私信息，就有被泄露的危險。

最后，還有可能被惡意利用的 ChatGPT數(shù)據(jù)。OpenAI首席技術(shù)官米拉·穆拉蒂表示，有人可能利用 ChatGPT的自然語言編寫功能，編寫出一套可以規(guī)避反病毒軟件偵測的惡意程序;使用 ChatGPT的編寫功能，可以生成釣魚郵件;利用 ChatGPT的對話功能，冒充真實(shí)的個人或組織騙取他人信息等。

數(shù)據(jù)安全風(fēng)險的防范

為了保證數(shù)據(jù)的安全，最好的辦法就是將數(shù)據(jù)從物理上隔離開來，讓數(shù)據(jù)成為“死”的，這才是最“安全”的。但這會讓數(shù)據(jù)失去價值，因?yàn)閿?shù)據(jù)的流動、共享和處理，都是有價值的。

數(shù)據(jù)安全治理的核心是保證數(shù)據(jù)的安全、可控制性和使用性，使其發(fā)揮價值。換言之，數(shù)據(jù)本身是無罪的，它不能得到安全的保護(hù)和使用。換言之，要實(shí)現(xiàn)數(shù)據(jù)安全性，關(guān)鍵在于具體的實(shí)現(xiàn)方式與管理手段。

因此，如何保證數(shù)據(jù)授權(quán)，明確數(shù)據(jù)安全責(zé)任和科技公司義務(wù)，以及如何避免隱私泄露和知識產(chǎn)權(quán)等風(fēng)險，是人工智能大規(guī)模進(jìn)入公共領(lǐng)域后必須要解決的首要問題。

可見，“數(shù)據(jù)本位”是數(shù)據(jù)安全工作的核心技術(shù)理念。這意味著，以數(shù)據(jù)的防竊取、防濫用、防誤用為主線，以數(shù)據(jù)生命周期內(nèi)各不同環(huán)節(jié)所涉及的信息系統(tǒng)、運(yùn)行環(huán)境、業(yè)務(wù)場景和操作人員等為圍繞數(shù)據(jù)安全保護(hù)的支撐。此外，數(shù)據(jù)要素的所有權(quán)，使用，監(jiān)管，信息保護(hù)，數(shù)據(jù)安全，都需要新的治理制度。這就要求“劃清紅線”，以規(guī)范體系為基礎(chǔ)。例如，明確開發(fā)人員、使用人員等主體的責(zé)任劃分與承擔(dān)方式;落實(shí)數(shù)據(jù)分類分級制度，明確數(shù)據(jù)獲取方式與方法的法律法規(guī)。

其次，數(shù)據(jù)安全的實(shí)現(xiàn)有賴于“用數(shù)字化治理”，即用數(shù)字化和智能化技術(shù)來優(yōu)化數(shù)據(jù)安全的技術(shù)系統(tǒng)，從而提高數(shù)據(jù)安全的治理能力。例如，在數(shù)據(jù)安全遵從體系中引入 ChatGPT語言訓(xùn)練方法和算法遵從，加強(qiáng)技術(shù)監(jiān)管，并定期開展安全審計(jì)。

實(shí)際上，在數(shù)據(jù)生命周期的各個階段，數(shù)據(jù)所面臨的安全威脅以及所能采取的安全措施都是不同的。在數(shù)據(jù)收集階段，可能會出現(xiàn)收集到的數(shù)據(jù)直接被攻擊者竊取，或個人生物特征數(shù)據(jù)被非法儲存并面臨泄露的風(fēng)險;在數(shù)據(jù)存儲階段，可能會出現(xiàn)存儲系統(tǒng)受到入侵，進(jìn)而導(dǎo)致數(shù)據(jù)被盜，或存儲設(shè)備丟失導(dǎo)致數(shù)據(jù)泄露等情況;在數(shù)據(jù)處理過程中，由于算法的不當(dāng)，可能會導(dǎo)致用戶個人信息的泄露等問題。

針對不同階段、不同視角的風(fēng)險，對其進(jìn)行“對癥下藥”，完善“治理技術(shù)”、“治理手段”和“治理模式”，可有效實(shí)現(xiàn)“超大尺度協(xié)同”、“精準(zhǔn)滴灌”、“雙向觸達(dá)”和“超時空預(yù)判”。

實(shí)現(xiàn)數(shù)據(jù)安全性不僅需要從上而下，而且需要從下而上。數(shù)據(jù)安全治理的核心目標(biāo)是在安全和發(fā)展之間找到一個平衡點(diǎn)。在這方面，需要讓企業(yè)有動力去提升和證明自身數(shù)據(jù)安全能力成熟度水平，讓數(shù)據(jù)安全能力成熟度高的企業(yè)擁有更大的發(fā)展空間和競爭優(yōu)勢。另一方面，應(yīng)加強(qiáng)對用戶數(shù)據(jù)安全風(fēng)險的認(rèn)識，并制定相應(yīng)的安全規(guī)范。

隨著人工智能技術(shù)的飛速發(fā)展，數(shù)據(jù)作為戰(zhàn)略資源的基本屬性越來越突出。在數(shù)據(jù)安全管理方面， ChatGPT只是第一步，而且是不可避免的重要步驟。

• ·《英雄聯(lián)盟》S8預(yù)選賽EDG擊敗JDG 將與RW爭奪總決賽名額
• ·奔馳CLE敞篷版路試諜照曝光 2022年下半年發(fā)布
• ·跑分如何飆到114萬？騰訊ROG游戲足機(jī)6天璣至尊版機(jī)能剖析
• ·綿陽本噴鼻國際噴鼻草園有甚么玩的 附2020年開放時候
• ·模擬游戲《整蠱鴉》將于8月15日登陸Xbox/NS/PC平臺
• ·新款北京奔馳A級長軸版上市 售21.48萬元起
• ·賓利添越/奔馳S級領(lǐng)銜 沃德2021年度十佳內(nèi)飾發(fā)布
• ·塞班島免簽進(jìn)境法則2020
• ·植物球吃僵尸！《球球大作戰(zhàn)》x《植物大戰(zhàn)僵尸2》聯(lián)動開啟！
• ·《奧本海默》本日上線海內(nèi)視頻仄臺 采與單片付費(fèi)制
• ·新年悲愉！Xbox、PlayStation、CDPR等廠商新年賀圖
• ·陽澄湖重元寺好玩嗎 重元寺玩耍攻略
• ·《怒之鐵拳4》實(shí)機(jī)視頻放出 加入新機(jī)制新故事關(guān)卡
• ·‘背日葵小教’公會斬獲魔靈吸喚2022公會聯(lián)賽第四賽季冠軍！
• ·簽證申請需供的證明模板大年夜齊
• ·打破技術(shù)局限 三星電子已成功開發(fā)藍(lán)色QLED技術(shù)