2023年國(guó)家網(wǎng)絡(luò)安全宣傳周上海地區(qū)主論壇在上海國(guó)家會(huì)展中心舉行 本文圖片由主辦方提供

9月11日上午，2023年國(guó)家網(wǎng)絡(luò)安全宣傳周上海地區(qū)主論壇在上海國(guó)家會(huì)展中心舉行。

本次論壇以“數(shù)字時(shí)代如何應(yīng)對(duì)網(wǎng)絡(luò)安全新挑戰(zhàn)”為主題，多位從事各行業(yè)網(wǎng)絡(luò)安全和信息化工作專家集聚論壇，以主題分享與圓桌會(huì)議等形式共同探討關(guān)于數(shù)字時(shí)代的網(wǎng)絡(luò)安全和數(shù)據(jù)安全等問題。

論壇上，中國(guó)工程院院士、復(fù)旦大學(xué)金融科技研究院院長(zhǎng)柴洪峰院士發(fā)表寄語，并對(duì)金融大模型的監(jiān)管提出建議。柴洪峰表示，金融垂直領(lǐng)域的大模型應(yīng)用目前面臨一些挑戰(zhàn)，一是金融數(shù)據(jù)的私密性限制了共享和構(gòu)建大規(guī)模數(shù)據(jù)集的能力，二是金融數(shù)據(jù)的多模態(tài)特性增加了模型處理和建模的復(fù)雜性。為了克服這些難題，加強(qiáng)產(chǎn)學(xué)研的合作勢(shì)在必行，需要共同構(gòu)建更強(qiáng)大的金融垂直領(lǐng)域基礎(chǔ)模型，以提高大模型對(duì)多模態(tài)數(shù)據(jù)的表達(dá)能力和安全性。

柴洪峰院士發(fā)表寄語

柴洪峰院士對(duì)金融大模型的監(jiān)管提出三點(diǎn)想法。首先是在數(shù)據(jù)安全方面，需要對(duì)大模型訓(xùn)練過程中的數(shù)據(jù)安全等級(jí)做嚴(yán)格的界定。監(jiān)管機(jī)構(gòu)也應(yīng)加強(qiáng)對(duì)金融大模型的審查和風(fēng)險(xiǎn)評(píng)估，對(duì)關(guān)鍵人物和系統(tǒng)應(yīng)建立審查和測(cè)試的機(jī)制，確保其性能和安全性。其次，為了實(shí)現(xiàn)建立監(jiān)管框架與標(biāo)準(zhǔn)，確保大模型在金融領(lǐng)域的應(yīng)用符合法規(guī)與道德要求，需要通過政產(chǎn)學(xué)研的合作制定相關(guān)的政策和指南。第三，對(duì)于金融大模型的部署與使用需要協(xié)同共治，提升透明度，保證數(shù)據(jù)質(zhì)量和可解釋性的機(jī)制，這可以幫助用戶與監(jiān)管機(jī)構(gòu)理解模型的決策依據(jù)，并確保其不帶有偏見或歧視性。

此外，多位網(wǎng)絡(luò)安全的業(yè)內(nèi)大咖圍繞“數(shù)字時(shí)代如何應(yīng)對(duì)網(wǎng)絡(luò)安全新挑戰(zhàn)”的主題進(jìn)行圓桌討論。上海社會(huì)科學(xué)院互聯(lián)網(wǎng)研究中心主任、研究員惠志斌表示，網(wǎng)絡(luò)安全具有伴隨性、跟隨性，只要有新技術(shù)、新模式產(chǎn)生，必然會(huì)產(chǎn)生新的安全風(fēng)險(xiǎn)和挑戰(zhàn)。網(wǎng)絡(luò)安全是一個(gè)攻防兩端博弈的問題，它背后是技術(shù)和人才的博弈，政府、產(chǎn)業(yè)界、應(yīng)用單位各方都應(yīng)更加重視網(wǎng)絡(luò)安全，才能讓資源和博弈的對(duì)抗正向發(fā)展。

公安部第三研究所網(wǎng)絡(luò)安全法律研究中心主任、研究員黃道麗表示，從法律工作者角度看，現(xiàn)在網(wǎng)絡(luò)安全面臨的最大挑戰(zhàn)是怎么把制度的能力轉(zhuǎn)化為實(shí)際的治理能力。法律最大的特點(diǎn)是穩(wěn)定性，然而網(wǎng)絡(luò)安全風(fēng)險(xiǎn)和網(wǎng)絡(luò)安全形勢(shì)又是不斷變化的，甚至有時(shí)候它的風(fēng)險(xiǎn)會(huì)突破，比如AIGC、人工智能的風(fēng)險(xiǎn)是否會(huì)突破傳統(tǒng)認(rèn)識(shí)的數(shù)據(jù)安全與個(gè)人信息保護(hù)，網(wǎng)絡(luò)安全規(guī)則的細(xì)化需要產(chǎn)業(yè)界、運(yùn)營(yíng)者、數(shù)據(jù)處理者以及社會(huì)第三方共同地推進(jìn)。在黃道麗看來，目前針對(duì)網(wǎng)絡(luò)安全執(zhí)法的力度和覆蓋面較為有限，如何提高執(zhí)法能力，包括監(jiān)督檢查、行政執(zhí)法、執(zhí)法隊(duì)伍建設(shè)等，對(duì)網(wǎng)絡(luò)安全而言也是極大的挑戰(zhàn)。

上海市信息安全測(cè)評(píng)認(rèn)證中心創(chuàng)新研究院副院長(zhǎng)徐御從測(cè)評(píng)角度闡述了網(wǎng)絡(luò)安全面臨的幾大挑戰(zhàn)。網(wǎng)絡(luò)安全原來以系統(tǒng)與網(wǎng)絡(luò)為核心，現(xiàn)在以數(shù)據(jù)為核心。以數(shù)據(jù)為中心之后，如果數(shù)據(jù)在后端遭受泄露或篡改，對(duì)前端造成的影響算不算安全問題？這個(gè)挑戰(zhàn)可能會(huì)改變后期的測(cè)評(píng)評(píng)估規(guī)則。

對(duì)于如何應(yīng)對(duì)網(wǎng)絡(luò)安全面臨的挑戰(zhàn)，徐御表示，中國(guó)數(shù)據(jù)安全制度供給在逐步加大，包括《數(shù)安法》《個(gè)保法》等等，上海也推動(dòng)了很多試點(diǎn)工作，這些工作都是以數(shù)據(jù)安全為中心的思路去構(gòu)建整個(gè)城市的數(shù)據(jù)安全體系，但這些工作目前還處于起步階段。數(shù)據(jù)安全的供給側(cè)仍需進(jìn)一步產(chǎn)業(yè)升級(jí)，一旦數(shù)據(jù)的一鍵加密、數(shù)據(jù)脫敏等高效的產(chǎn)品推出，滿足對(duì)于數(shù)據(jù)泄露、數(shù)據(jù)篡改等方面的需求，網(wǎng)絡(luò)安全產(chǎn)業(yè)的發(fā)展會(huì)更加快速。

上海交通大學(xué)人工智能研究院院長(zhǎng)宋海濤認(rèn)為，隨著人工智能技術(shù)的發(fā)展，下一步可能會(huì)很快地進(jìn)入到算力的新型網(wǎng)絡(luò)，未來整個(gè)AI的智算資源很有可能會(huì)成為像電網(wǎng)一樣，算力入戶、算力入校。面對(duì)這樣的發(fā)展，現(xiàn)在的網(wǎng)絡(luò)安全涵蓋面會(huì)更大。另外，人工智能和AIGC的產(chǎn)生，加速了人們對(duì)于信息的有效壓縮能力和表達(dá)能力，大量的信息內(nèi)容通過網(wǎng)絡(luò)生成，這是網(wǎng)絡(luò)安全面臨的新的技術(shù)挑戰(zhàn)。宋海濤建議，不僅需要進(jìn)一步地以科技自強(qiáng)來保護(hù)人民群眾的生命財(cái)產(chǎn)安全，還要加強(qiáng)網(wǎng)絡(luò)安全方面?zhèn)惱砗椭卫眢w系的研究，下一階段的網(wǎng)絡(luò)安全工作更需要探討倫理和治理體系的建設(shè)。