上海人工智能實(shí)驗(yàn)室主任助理喬宇認(rèn)為，大模型還存在很多問題，例如人們常說的“幻覺”、價(jià)值對(duì)齊、效率等，但社會(huì)各界需要用發(fā)展的目光看待AI，安全和發(fā)展是“一體兩翼”的關(guān)系，特別是中國(guó)的大模型還處于追趕階段，需要從發(fā)展的角度去看待安全問題。

談及大模型可能存在的價(jià)值觀方面的問題，喬宇表示，大模型的價(jià)值觀是由訓(xùn)練數(shù)據(jù)得來的，“我們是不是能從訓(xùn)練數(shù)據(jù)端去解決？有些模型用在專業(yè)領(lǐng)域的時(shí)候，圍繞這個(gè)專業(yè)領(lǐng)域，我們對(duì)它有一些安全要求，有可能從中繼承一些。所以要從大模型技術(shù)研發(fā)的不同環(huán)節(jié)來思考安全問題?！?

喬宇強(qiáng)調(diào)，大模型的安全不單單是某一個(gè)科研團(tuán)體、某一個(gè)產(chǎn)業(yè)領(lǐng)域或是中國(guó)單獨(dú)面臨的問題，它是全世界乃至全人類面臨的問題，“所以我認(rèn)為在安全領(lǐng)域，我們應(yīng)該展開更多的國(guó)際交流和合作，來共同面對(duì)和解決?！?

“聚焦·大模型時(shí)代AIGC新浪潮論壇”圓桌討論環(huán)節(jié)

香港中文大學(xué)助理教授王歷偉從人才和研究的角度切入，他認(rèn)為，從人才培養(yǎng)的速度來看，很大的優(yōu)秀科研人員基礎(chǔ)可以降低未來研發(fā)的門檻，訓(xùn)練大模型的算力需求成本看起來也比較樂觀?！拔矣X得從短期或中長(zhǎng)期來看，無論是人才儲(chǔ)備還是算力，大模型的研發(fā)門檻可能在慢慢降低。”

王歷偉表示，科研人員需要關(guān)注如何理解和評(píng)價(jià)大模型的能力，“如果我們持續(xù)從一種評(píng)價(jià)方式去衡量大模型的能力，可能多多少少還是比較片面?！彼J(rèn)為，學(xué)術(shù)領(lǐng)域人士很適合去更多地探索安全性和AI治理等方向的內(nèi)容。

螞蟻集團(tuán)機(jī)器智能部副總經(jīng)理、螞蟻安全天筭實(shí)驗(yàn)室主任張?zhí)煲肀硎荆竽Ｐ蛶淼娘L(fēng)險(xiǎn)問題不一定是新的問題，但更加深度的應(yīng)用可能造成更全面的影響，包括生成內(nèi)容安全問題、技術(shù)安全、隱私問題、合規(guī)問題以及倫理問題等。

張?zhí)煲碚J(rèn)為，當(dāng)前大模型存在三方面的風(fēng)險(xiǎn)，一是技術(shù)相關(guān)問題，模型本身可能被攻擊、被突破、被劫持。二是產(chǎn)業(yè)類風(fēng)險(xiǎn)，AI是否會(huì)帶來壟斷、勞動(dòng)替代等問題。三是內(nèi)容類的問題，是否會(huì)向用戶提供不安全的內(nèi)容。

他表示，大模型的風(fēng)險(xiǎn)問題沒有“靈丹妙藥”，必然是一個(gè)長(zhǎng)期對(duì)抗和博弈發(fā)展的過程，“比如說現(xiàn)在安全行業(yè)內(nèi)的一個(gè)很直接的應(yīng)用，我們也會(huì)用大模型來對(duì)抗更多大模型中的風(fēng)險(xiǎn)，這也會(huì)是一個(gè)‘用魔法打敗魔法’的方向?！?

云天勵(lì)飛副總裁、AI技術(shù)平臺(tái)總經(jīng)理肖嶸則為生成式AI的發(fā)展總結(jié)了四個(gè)問題，分別是生成內(nèi)容存在“幻覺”的問題、工具使用和外部知識(shí)整合能力、邏輯推理能力和不具備持續(xù)學(xué)習(xí)能力的問題。

在安全問題上，肖嶸認(rèn)為，大模型其實(shí)具備“價(jià)值觀”，它所認(rèn)定的知識(shí)不一定就是事實(shí)，“解決這個(gè)問題其實(shí)有兩個(gè)路徑，第一個(gè)是它為什么會(huì)產(chǎn)生有錯(cuò)的東西？可能它學(xué)的東西都是不對(duì)的……所以我們需要對(duì)語料有體系地治理，保證其安全、可控。第二個(gè)也是我們正在大力推動(dòng)的，比如對(duì)模型輸出的治理?！?

但他也強(qiáng)調(diào)，AI是一種工具。“越強(qiáng)大的工具被用來作惡，可能影響也越大。”肖嶸說，“我認(rèn)為，工具用得好不好，更多是人的問題。我們不應(yīng)該因噎廢食，不是看到強(qiáng)大的工具就不去使用，而是更多地想想怎么把它有序化?！?

本文系觀察者網(wǎng)獨(dú)家稿件，未經(jīng)授權(quán)，不得轉(zhuǎn)載。