“人工智能不可能被一個(gè)國家壟斷”

面對(duì)飛速發(fā)展的人工智能技術(shù)，世界各國也開始關(guān)注治理問題。新加坡政府首席人工智能官兼副首席數(shù)字技術(shù)官何瑞敏表示，新加坡從2019年開始開發(fā)人工智能治理框架，推動(dòng)負(fù)責(zé)任地使用人工智能。在與全球和業(yè)界進(jìn)行交流后，新加坡今年也更新了人工智能框架。

何瑞敏指出，人們還無法準(zhǔn)確預(yù)測人工智能的發(fā)展方向，政策制定者需要以謙卑的態(tài)度不斷學(xué)習(xí)、探索和了解新的科學(xué)知識(shí)，并對(duì)技術(shù)對(duì)社會(huì)的影響保持清醒的認(rèn)知。他認(rèn)為，人工智能不是“黑白分明的”，對(duì)于人工智能的治理，人們需要有不同的視野。

“AI可能會(huì)幫助我們應(yīng)對(duì)氣候變化，也會(huì)因?yàn)楹哪芏绊懎h(huán)境；AI可以幫助醫(yī)療，AI也可能會(huì)生成虛假信息等等。”何瑞敏說，“AI同時(shí)也可以向善，比如在新加坡，我們用AI優(yōu)化移民的流程、預(yù)測醫(yī)院繁忙時(shí)間，政府提供服務(wù)的時(shí)候也會(huì)使用聊天機(jī)器人。我們需要積極創(chuàng)新，讓我們更好利用它有益的方面，并防止它對(duì)我們?cè)斐刹缓玫挠绊??！?

他認(rèn)為，有必要鼓勵(lì)政策制定者多使用人工智能，以了解其潛力和限制，“我們要減少AI帶來的有害影響，我們需要讓人們參與到數(shù)據(jù)環(huán)境中，培養(yǎng)他們的技能和就業(yè)能力，讓我們的公民和企業(yè)從AI中獲益，這是我們國家人工智能戰(zhàn)略的重要支柱。”

新加坡政府首席人工智能官兼副首席數(shù)字技術(shù)官何瑞敏發(fā)表演講2024世界人工智能大會(huì)

他強(qiáng)調(diào)，人工智能是在全球供應(yīng)鏈中產(chǎn)生的，芯片制造、數(shù)據(jù)訓(xùn)練、模型訓(xùn)練、應(yīng)用程序開發(fā)等每一個(gè)環(huán)節(jié)的參與者來自全世界，不可能由一家公司、一個(gè)國家或者一個(gè)機(jī)構(gòu)壟斷。因此新加坡希望加強(qiáng)監(jiān)管，共享經(jīng)驗(yàn)和做法，從而實(shí)現(xiàn)互惠互利。

新加坡政府在今年5月發(fā)布了《生成式人工智能治理模型框架》。據(jù)新加坡資訊通信媒體發(fā)展局發(fā)布的聲明，該框架旨在促進(jìn)創(chuàng)新的同時(shí)解決生成式人工智能問題，以構(gòu)建一個(gè)可信的生態(tài)系統(tǒng)?？蚣芎粲跽咧贫ㄕ摺a(chǎn)業(yè)界、研究界和公眾等所有利益攸關(guān)方共同發(fā)揮作用。

美國加州大學(xué)伯克利分校人類兼人工智能中心執(zhí)行主任馬克·尼茲伯格（Mark Nitzberg）則指出，美國在人工智能領(lǐng)域擁有主權(quán)目標(biāo)，尋求保持美國在人工智能領(lǐng)域的領(lǐng)先地位，也希望借助人工智能推動(dòng)美國經(jīng)濟(jì)增長，以及推動(dòng)美國國家安全發(fā)展。

他表示，在美國的監(jiān)管過程中，不同利益團(tuán)體有著不同的訴求，這導(dǎo)致美國現(xiàn)在存在三組法律，分別是白宮去年簽署的行政令、參議院民主黨領(lǐng)袖查克·舒默發(fā)布的路線圖以及加利福尼亞州發(fā)布的SB-1047法案。

美國總統(tǒng)拜登在去年10月簽署了一項(xiàng)行政令，要求美國政府機(jī)構(gòu)制定標(biāo)準(zhǔn)，防止使用人工智能設(shè)計(jì)生物或核武器等威脅，并尋求“水印”等內(nèi)容驗(yàn)證的最佳方法，擬定先進(jìn)的網(wǎng)絡(luò)安全計(jì)劃。行政令還要求企業(yè)將人工智能產(chǎn)品的測試結(jié)果報(bào)告給美國政府，并提出吸引全球人工智能人才留在美國。

美國參議院民主黨領(lǐng)袖舒默領(lǐng)導(dǎo)的一個(gè)跨黨派小組則在今年5月發(fā)布了一項(xiàng)人工智能監(jiān)管路線圖。據(jù)美國“政治新聞網(wǎng)”報(bào)道，該路線圖將增加創(chuàng)新資金、制定人工智能安全的國家標(biāo)準(zhǔn)、加強(qiáng)美國國家安全、解決人工智能可能導(dǎo)致的失業(yè)問題、應(yīng)對(duì)大選期間的“深度偽造”等列為優(yōu)先事項(xiàng)。

美國加州州參議院則在近期通過了SB-1047法案。據(jù)《福布斯》雜志報(bào)道，這項(xiàng)法案主要側(cè)重于解決人工智能失控等潛在威脅，降低人工智能帶來的生存風(fēng)險(xiǎn)。法案要求人工智能開發(fā)者進(jìn)行嚴(yán)格的安全評(píng)估，并允許監(jiān)管機(jī)構(gòu)關(guān)?！耙圆话踩绞竭\(yùn)行”的人工智能產(chǎn)品。

去年10月，美國總統(tǒng)拜登在白宮簽署人工智能行政令視覺中國

尼茲伯格表示，所有這些問題都還在辯論中，美國還沒有大型的法律框架落地。他承認(rèn)人工智能安全是一個(gè)重要問題，但他也認(rèn)為，部分過于嚴(yán)格的規(guī)定可能會(huì)阻礙創(chuàng)新，“人們經(jīng)常會(huì)把性能和安全混為一談，我們的系統(tǒng)正變得越來越強(qiáng)大，但強(qiáng)大的性能并不一定與安全問題直接相關(guān)?！?

他表示，在人工智能治理方面，有關(guān)機(jī)構(gòu)可以向各行業(yè)的安全和監(jiān)管組織學(xué)習(xí)并達(dá)成一系列協(xié)議。

尼茲伯格說：“我們希望能夠?qū)I的行為做出某種量化的分析，這樣就可以做出限制。我們的目標(biāo)是盡量讓AI變得安全，我們希望過程可以變得透明，而且語義可以分析，這樣我們可以對(duì)一個(gè)系統(tǒng)進(jìn)行某種形式的安全驗(yàn)證。這方面我們需要安全的生態(tài)系統(tǒng)，或者除非知道它是安全的，要不我們什么都不能運(yùn)行，這方面我們已經(jīng)取得了一些了不起的進(jìn)展。”