機(jī)械社區(qū)

標(biāo)題: 大廠“禁用”ChatGPT [打印本頁(yè)]

作者: Callejon 時(shí)間: 2023-5-11 15:27
標(biāo)題: 大廠“禁用”ChatGPT
不久之前，三星推出了一項(xiàng)新政策，要求員工不得在工作場(chǎng)所使用OpenAI的ChatGPT和谷歌Bard等生成式人工智能。

目前，三星員工被禁止在公司設(shè)備上使用人工智能工具，包括電腦、平板電腦、手機(jī)等。但員工仍可以在個(gè)人設(shè)備上使用人工智能工具，不過(guò)僅限于與工作無(wú)關(guān)的事情。備忘錄中還強(qiáng)調(diào)，要求員工認(rèn)真遵守安全準(zhǔn)則，若違規(guī)并導(dǎo)致公司信息或數(shù)據(jù)泄露的話，員工將得到紀(jì)律處分，情節(jié)嚴(yán)重者將被解雇。

事實(shí)上，在三星這項(xiàng)“嚴(yán)厲”的新政策之前，全球范圍內(nèi)，不少企業(yè)便陸續(xù)發(fā)布了“限制”自家員工使用ChatGPT的公告。

首先對(duì)ChatGPT發(fā)出“不友好”聲音的企業(yè)，來(lái)自金融行業(yè)。

ChatGPT掀起熱潮不久后，今年2月，JP摩根大通、美國(guó)銀行、花旗、富國(guó)銀行等華爾街巨頭陸續(xù)表示將禁止或限制使用ChatGPT。據(jù)了解，摩根大通不準(zhǔn)員工在辦公室使用ChatGPT，其表示，有關(guān)禁令并非源自任何特定事件，而是基于公司對(duì)第三方軟件的正常管控。

美國(guó)銀行例行提醒員工切勿使用未經(jīng)授權(quán)軟件時(shí)，也特別點(diǎn)名提到ChatGPT。德意志銀行更是表明，嚴(yán)禁員工在公司內(nèi)用ChatGPT，并從內(nèi)部阻斷連接OpenAI網(wǎng)站。而盡管高盛鼓勵(lì)編程人員采用AI來(lái)輔助編程，但禁止旗下交易員使用ChatGPT。

日本方面，軟銀、日立、富士通、日本瑞穗金融集團(tuán)等企業(yè)也開(kāi)始限制ChatGPT等交互式人工智能服務(wù)在商業(yè)運(yùn)作中的使用。

相比金融行業(yè)，科技行業(yè)的動(dòng)作絲毫不慢。

今年3月初，臺(tái)積電發(fā)布了一系列內(nèi)部公告，提醒員工謹(jǐn)慎使用網(wǎng)絡(luò)工具如ChatGPT或Bing AI Chat等。除三星外，同屬韓國(guó)企業(yè)的全球第二大存儲(chǔ)芯片巨頭SK海力士亦稱(chēng)“除必要時(shí)刻外”，禁止公司內(nèi)網(wǎng)使用ChatGPT。

不可否認(rèn)，ChatGPT這樣的生成式AI對(duì)提高工作效率很有幫助，但對(duì)于這樣一個(gè)還不足夠成熟的AI工具來(lái)說(shuō)，它所展現(xiàn)出的負(fù)面效應(yīng)，并不小于它的正面效應(yīng)。就如同一把雙刃劍，在沒(méi)有“劍鞘”作為一種保護(hù)機(jī)制出現(xiàn)之前，對(duì)于ChatGPT的“圍剿”絕對(duì)不會(huì)停止。

能夠預(yù)料的是，禁用ChatGPT的企業(yè)，仍然會(huì)持續(xù)增加。

數(shù)據(jù)安全是核心原因

ChatGPT的火爆，實(shí)際上是“深度學(xué)習(xí)”大模型的成功。

生成式AI工具，離不開(kāi)大數(shù)據(jù)的幫助。它的進(jìn)化，需要海量的數(shù)據(jù)來(lái)訓(xùn)練，通過(guò)感應(yīng)器采集數(shù)據(jù)，進(jìn)行信息存儲(chǔ)、加工，通過(guò)算力進(jìn)行計(jì)算，最后形成決策機(jī)制，進(jìn)行反饋。龐大的數(shù)據(jù)訓(xùn)練，造就了ChatGPT強(qiáng)大功能，但這也意味著，ChatGPT實(shí)際上在不斷地接觸各種對(duì)話，其中可能包含相關(guān)的敏感信息。

無(wú)論是個(gè)人、企業(yè)，還是國(guó)家層面，機(jī)密數(shù)據(jù)、文件隱私，都有可能在使用過(guò)程中被ChatGPT采集到，從而被大規(guī)模地?cái)U(kuò)散。這些數(shù)據(jù)的泄露，也很有可能會(huì)對(duì)個(gè)人、企業(yè)，甚至是國(guó)家造成重大的損失。

三星無(wú)疑是一個(gè)典型的“受害者”。

據(jù)了解，今年3月三星的半導(dǎo)體事業(yè)暨裝置解決方案事業(yè)部（DS）部門(mén)允許員工使用ChatGPT，隨后20天內(nèi)就發(fā)生了三起將公司內(nèi)部半導(dǎo)體數(shù)據(jù)上傳到ChatGPT的事件。

其中，員工A用ChatGPT幫自己查一段代碼的bug；員工B想用ChatGPT幫自己優(yōu)化一段代碼；員工C想先用AI語(yǔ)音助手Naver Clova將自己的會(huì)議錄音轉(zhuǎn)成文字，再用ChatGPT幫他總結(jié)一下會(huì)議內(nèi)容，做成摘要。

前兩起案件已分別導(dǎo)致三星公司的半導(dǎo)體設(shè)備測(cè)量資料、產(chǎn)品良率等機(jī)密內(nèi)容錄入到ChatGPT的學(xué)習(xí)資料庫(kù)中，這讓三星很是擔(dān)憂其數(shù)據(jù)將通過(guò)人工智能平臺(tái)最終落入其他用戶手中。

不止三星，數(shù)據(jù)安全服務(wù)Cyberhaven曾檢測(cè)到并阻止了其客戶公司160萬(wàn)名員工中，4.2%的人將數(shù)據(jù)輸入ChatGPT的請(qǐng)求，因?yàn)榇嬖谛孤稒C(jī)密信息、客戶數(shù)據(jù)、源代碼或監(jiān)管信息的風(fēng)險(xiǎn)。

Cyberhaven還發(fā)現(xiàn)，隨著ChatGPT的應(yīng)用率越來(lái)越高，給它上傳企業(yè)數(shù)據(jù)的打工人數(shù)量也越來(lái)越多。一天之內(nèi)（3月14日），每10萬(wàn)名員工就平均給ChatGPT發(fā)送了5267次次企業(yè)數(shù)據(jù)。

作者: ll1z2y3 時(shí)間: 2023-5-11 21:21
保密?chē)?yán)格的很正常

作者: Wong1998 時(shí)間: 2023-6-7 15:44
出現(xiàn)過(guò)泄露，三星這么做也是正常

歡迎光臨機(jī)械社區(qū) (http://e-learninguniversity.com/)