7月19日下午，由觀察者網(wǎng)·心智觀察所主辦的首屆線下沙龍正式召開。本次沙龍以“無疆生成，有界行者”為主題，多位演講嘉賓圍繞AIGC技術(shù)革命牽引下的倫理難題應(yīng)對與治理，以人形機器人運動捕捉為代表的具身智能理念，以及美國對華AI算力管制等議題，與現(xiàn)場觀眾分享了在各自領(lǐng)域的真知灼見。

參加本次沙龍的演講嘉賓包括北京瑞萊智慧科技有限公司AI治理研究院院長張偉強，邁柯博科技（上海）有限公司（Movella）亞太區(qū)業(yè)務(wù)總監(jiān)魏昌，美國凱騰律師事務(wù)所上海辦公室合伙人韓利杰。

觀察者網(wǎng)總經(jīng)理李波全程參會并做了開場致辭。心智觀察所負責(zé)人孫珷主持會議。

李波：“心智觀察所”志存高遠

觀察者網(wǎng)總經(jīng)理李波在開場致辭中表示，“心智觀察所”是觀察者網(wǎng)新組建的以高科技為主要觀察方向的內(nèi)容創(chuàng)作團隊，力求將“心智觀察所”打造為觀察者網(wǎng)的精品科技內(nèi)容IP。心智觀察所將竭力追蹤國內(nèi)外科技前沿動態(tài)，把握科技產(chǎn)品市場脈搏，研判地緣政治博弈大勢，以文字、圖片、視頻等立體化內(nèi)容發(fā)布形態(tài)拓寬海內(nèi)外傳播渠道。

觀察者網(wǎng)總經(jīng)理李波

李波闡述，如何保證產(chǎn)、學(xué)、研高質(zhì)量結(jié)合，促成科技成果的有效商業(yè)轉(zhuǎn)化是業(yè)界普遍關(guān)心的話題。心智觀察所舉辦系列科技沙龍的重要目的之一，就是為了探索如何以新媒體人的視角，近距離體會和洞察科技產(chǎn)業(yè)一線群體關(guān)切，及時對接產(chǎn)業(yè)需求。

李波強調(diào)，目前國內(nèi)科技、財經(jīng)類媒體的傳播和經(jīng)營模式正在經(jīng)歷一場深層次的嬗變。觀察者網(wǎng)多年來聚焦國內(nèi)外時政新聞，已經(jīng)在海內(nèi)外積累了巨量的人氣，也總結(jié)了一套成熟有效且成體系的內(nèi)容創(chuàng)作、發(fā)布方法論。以此為依托，觀察者網(wǎng)希望科技界企業(yè)代表、投資方、高校學(xué)科帶頭人積極參會，攜手心智觀察所一起講好中國新質(zhì)生產(chǎn)力敘事。

張偉強：保障安全性是AI治理的第一要務(wù)

瑞萊智慧AI治理研究院院長張偉強發(fā)表了以《大模型時代的人工智能安全態(tài)勢與應(yīng)對實踐》為主題的演講。

張偉強首先追溯了我國的人工智能研究和治理歷程，指出AI對助力新質(zhì)生產(chǎn)力建設(shè)的重要性，特別是在提升社會治理能力、信息利用能力等方面具有的重大貢獻。但同時，AI技術(shù)發(fā)展也帶來很多新型的社會倫理問題。

瑞萊智慧AI治理研究院院長張偉強

張偉強闡述，相比傳統(tǒng)計算機技術(shù)，人工智能現(xiàn)在還沒有扎實的理論基礎(chǔ)，大模型對人類來講還是一個“黑箱”，會產(chǎn)生新型安全風(fēng)險。比如，在大模型訓(xùn)練過程中“投毒”污染數(shù)據(jù)，可誤導(dǎo)AI判斷并輸出錯誤信息；再比如，AI偽造文本、圖片、音頻和視頻會擾亂大眾信息認知，帶來嚴重的社會治安隱患。這些新型風(fēng)險，需要社會各界共同尋找應(yīng)對之策。

張偉強強調(diào)，AI風(fēng)險治理最根本的，在于建立底層技術(shù)理論，需要在數(shù)學(xué)理論、模型架構(gòu)等方面不斷創(chuàng)新突破。其次，應(yīng)當(dāng)加強治理手段的建設(shè)，如不斷增強對大模型的安全測評能力，人工智能產(chǎn)品經(jīng)過嚴格安全測評后才可以投入市場應(yīng)用；不斷提升對AI偽造信息的檢測能力，通過技術(shù)手段確保新聞、司法、社交等領(lǐng)域數(shù)字信息的真實性。

張偉強在演講總結(jié)環(huán)節(jié)中提出了“靶場”概念，認為人工智能產(chǎn)品出廠條件應(yīng)與汽車相似，在出廠前完成攻防演練，以保障其安全性。瑞萊智慧在這一領(lǐng)域已經(jīng)積累了豐富經(jīng)驗，比如開展人工智能模型安全測評、設(shè)立人臉安全防火墻、實現(xiàn)多模態(tài)信息偽造檢測等，發(fā)展和安全雙軌并驅(qū)，在“矛”和“盾”的較量中提升兩方面的技術(shù)能力。