-
字節(jié)跳動大模型訓(xùn)練被實習(xí)生攻擊,涉事者已被辭退
界面新聞從知情人士處獲悉,此事發(fā)生在今年6月,起因是某高校的博士在字節(jié)跳動商業(yè)化技術(shù)團隊實習(xí),因?qū)F隊資源分配不滿,使用攻擊代碼破壞團隊的模型訓(xùn)練任務(wù)。
10月18日,多個微信群流傳一則消息:“某頭部大廠的大模型訓(xùn)練被實習(xí)生入侵,注入了破壞代碼,導(dǎo)致其訓(xùn)練成果不可靠,可能需要重新訓(xùn)練。據(jù)稱遭到入侵的代碼注入了8000多張卡,帶來的損失可能超過千萬美元。”
界面新聞從知情人士處獲悉,該頭部大廠為字節(jié)跳動。此事發(fā)生在今年6月,起因是某高校的博士在字節(jié)跳動商業(yè)化技術(shù)團隊實習(xí),因?qū)F隊資源分配不滿,使用攻擊代碼破壞團隊的模型訓(xùn)練任務(wù)。
界面新聞向字節(jié)跳動方面求證此事,截至目前,官方未進行回應(yīng)。
傳聞顯示,該田姓實習(xí)生利用了HF(huggingface)的漏洞,在公司的共享模型里寫入破壞代碼,導(dǎo)致模型的訓(xùn)練效果忽高忽低,無法產(chǎn)生預(yù)期的訓(xùn)練效果,而且AML團隊無法核查原因。但傳聞曝出之后,該實習(xí)生還在某微信群里辟謠稱,自己發(fā)完論文后就從字節(jié)跳動離職,這個當(dāng)口有另一個人鉆漏洞改模型代碼,把鍋扣到自己頭上。
界面新聞從知情人士處了解到,字節(jié)跳動內(nèi)部已經(jīng)調(diào)查明確此事為田姓實習(xí)生所為。目前,該實習(xí)生已被辭退,字節(jié)跳動同時把此事同步給陽光誠信聯(lián)盟和企業(yè)反舞弊聯(lián)盟,以及該實習(xí)生所在的學(xué)校。但這名實習(xí)生被辭退后到處“辟謠”甩鍋,稱是其他人所為。
但該實習(xí)生攻擊的并不是豆包大模型,而是商業(yè)化技術(shù)團隊的模型訓(xùn)練任務(wù),影響了該技術(shù)團隊的一些業(yè)務(wù)進展,但整體對公司造成的損失并沒有傳聞中的超過千萬美元那么大。
一位技術(shù)安全專家告訴界面新聞,HF漏洞產(chǎn)生肯定是單一性集中訓(xùn)練,此事暴露了字節(jié)跳動技術(shù)訓(xùn)練存在安全管理問題。公司既沒做權(quán)限隔離,也沒有做好共用代碼的審計。正常情況下,每次大的代碼變動必須做審計,無論誰做操作都有痕跡記錄,一個人想動代碼是不可能的。
上述技術(shù)安全專家表示,目前行業(yè)通用的做法是做三級隔離導(dǎo)向性部署,每一級只有鏡像,每次先掃描。調(diào)用按次算、必須密鑰。每一級完成后,才能進入下一級,而上一級自動刪除,進行分級訓(xùn)練。
(界面新聞記者 肖芳)
- 原標(biāo)題:字節(jié)跳動大模型訓(xùn)練被實習(xí)生攻擊,涉事者已被辭退
- 責(zé)任編輯: 林鈴錦 
-
政策組合拳下,四季度經(jīng)濟怎么走?
2024-10-19 09:02 觀網(wǎng)財經(jīng)-宏觀 -
印度手機出貨單季增長9%,vivo超小米首成第一
2024-10-18 22:09 觀網(wǎng)財經(jīng)-科創(chuàng) -
科大訊飛三季度扭虧,前三季度回款150億
2024-10-18 20:58 觀網(wǎng)財經(jīng)-科創(chuàng) -
?三季度經(jīng)濟增速4.6%,全年5%目標(biāo)如何實現(xiàn)?
2024-10-18 20:38 觀網(wǎng)財經(jīng)-宏觀 -
外媒稱蘋果曾與比亞迪秘密合作開發(fā)汽車電池,比亞迪否認(rèn)
2024-10-18 18:20 觀網(wǎng)財經(jīng)-科創(chuàng) -
第十批藥品集采開啟,62品種263品規(guī)創(chuàng)歷年之最
2024-10-18 18:17 觀網(wǎng)財經(jīng)-健康 -
自然資源部:涉及國家安全,必須存儲于境內(nèi)
2024-10-18 18:14 -
京東金融:不存在網(wǎng)傳“擠兌”情況
2024-10-18 17:16 觀網(wǎng)財經(jīng)-金融 -
學(xué)會反思的國產(chǎn)大模型,真變強了?
2024-10-18 16:17 -
滬指大漲近3%,創(chuàng)業(yè)板指飆升近8%!兩市成交額創(chuàng)9日以來新高
2024-10-18 15:12 金融觀察 -
滬深兩市成交突破1.5萬億,芯片行業(yè)ETF放量飆升
2024-10-18 14:10 觀網(wǎng)財經(jīng)-金融 -
吳清:加快落實中長資金入市,嚴(yán)懲違規(guī)減持
2024-10-18 13:59 觀網(wǎng)財經(jīng)-宏觀 -
央行兩項新工具今日實施!“預(yù)計還有降準(zhǔn)降息”
2024-10-18 12:50 觀網(wǎng)財經(jīng)-金融 -
諾基亞在中國裁員近2000人,在華份額已不到5%
2024-10-18 11:19 觀網(wǎng)財經(jīng)-科創(chuàng) -
李德仁院士提出“時空智能學(xué)”
2024-10-18 10:00 觀網(wǎng)財經(jīng)-科創(chuàng) -
歐洲央行宣布降息25個基點
2024-10-17 20:34 金融觀察 -
美的科技月:累計獎勵超5億元,加強全球人才引入
2024-10-17 20:26 觀網(wǎng)財經(jīng)-科創(chuàng) -
存量房貸下調(diào)后還有紅包:下月起定價機制可重新協(xié)商?
2024-10-17 18:35 觀網(wǎng)財經(jīng)-金融 -
?茅臺在香港降價千元?門店員工稱暫未接到通知
2024-10-17 18:04 觀網(wǎng)財經(jīng)-消費 -
成都將迎大規(guī)模拆遷?房小團發(fā)布澄清聲明
2024-10-17 16:23 觀網(wǎng)財經(jīng)-房產(chǎn)
相關(guān)推薦 -
最新聞 Hot
-
歐洲多國驚覺:被美國掌握一個“致命開關(guān)”
-
對歐洲“感到憤怒”,“特朗普想把駐德美軍全撤走”
-
萬斯:親烏抗議者當(dāng)街騷擾,嚇到3歲女兒
-
紐約發(fā)生多起山火,紐約州進入緊急狀態(tài)
-
特朗普威脅“不談就打”,伊朗最高領(lǐng)袖表態(tài)
-
“烏克蘭半瞎了,歐洲急了”
-
尹錫悅獲釋第二天,首爾10萬民眾集會游行
-
美媒哀嘆:所謂的“西方”,已蕩然無存
-
“1500億歐元貸款計劃,法德又吵起來了”
-
“看看中國高鐵再看美鐵,尬死了”
-
特朗普怒砍哥大4億美元:打擊“反猶”不給力啊
-
“特朗普想重新劃定美加邊界”
-
“魯比奧與馬斯克干架了”,特朗普忙滅火
-
“因為我是美國人,在臺積電被罵又懶又蠢”,下月開庭
-
“普京愿意,但有條件”
-
“最大受害者是波音,中國要么用國產(chǎn),要么買空客”
-