-
谷歌打響OpenAI反擊戰(zhàn),最新大語言模型PaLM 2直指GPT-4痛點
最后更新: 2023-05-11 10:28:28北京時間5月11日凌晨1點,Google I/O 2023開發(fā)者大會如期而至。在美國加州山景城總部,谷歌在多項產(chǎn)品和服務(wù)方面推出了重磅更新,涉及谷歌地圖、人工智能、搜索、安卓、谷歌云和Pixel等多個領(lǐng)域。其中,谷歌在巴德和生成式AI方面的最新進展備受外界關(guān)注。
PaLM 2打響GPT-4反擊戰(zhàn)
谷歌CEO皮查伊在發(fā)布會現(xiàn)場表示,此次谷歌發(fā)布的PaLM 2是目前最先進的語言模型,也是其PaLM語言模型的第二個版本。相比PaLM 1,新版本具有升級的多語言、推理和編碼能力,將為25種谷歌產(chǎn)品提供支持。
圖源:谷歌
在多語言能力方面,PaLM 2進行了更多訓練,文本橫跨100多種語言,很大程度上提高了其理解、生成和翻譯細微差異化文本的能力,解決了對成語、詩歌和謎語這類文本的理解能力,這種文本的處理門檻較高。此外,PaLM 2能夠通過很高級別的語言能力考試。
推理能力方面, 由于PaLM 2在包含科學論文和數(shù)學表達式的網(wǎng)頁上進行了訓練,因此具備了在邏輯、常識推理和數(shù)學方面的改進能力。
編碼能力上,PaLM 2支持20多種編程語言。由于它是在大量公開可用的源代碼數(shù)據(jù)集上進行預訓練,因而擅長Python和JavaScript等流行編程語言,同時也可進行Prolog、Fortran和Verilog等小眾語言的編程。
圖源:谷歌
據(jù)皮查伊介紹,PaLM 2將擁有從小到大四種尺寸,分別為Gecko、Otter、Bison和Unicorn。
圖源:谷歌
Gecko:最小尺寸,可以在移動設(shè)備上運行,速度足夠快,即使離線狀態(tài)也可以進行交互應用。
Otter:中等大小模型,適合各種任務(wù),包括自然語言處理、機器翻譯和代碼生成。
Bison:更大的模型,可以處理更復雜任務(wù),例如生成逼真的圖像和視頻。
Unicorn:最大尺寸,可處理最復雜的任務(wù),比如編寫創(chuàng)意文本,如詩歌、代碼、腳本、音樂作品、電子郵件、信件等。
不同尺寸模型帶來的功能性意味著PaLM 2可以進行微調(diào),以多種方式支持整類產(chǎn)品,幫助到更多用戶。
圖源:谷歌
PaLM 2的多模態(tài)能力體現(xiàn)在能看懂和生成音頻和視頻內(nèi)容之上,皮查伊在現(xiàn)場對這些能力進行了少量展示。他用谷歌內(nèi)部基于PaLM 2針對醫(yī)療領(lǐng)域微調(diào)而成的Med-PaLM 2舉例,后者是第一個在醫(yī)學執(zhí)照考試上表現(xiàn)出專家水平的專用語言模型,已經(jīng)可以在醫(yī)院看片室?guī)椭派淇漆t(yī)生解讀圖像,可以根據(jù)X光片分析病人的狀況,此后還將用于更多領(lǐng)域。
圖源:谷歌CEO皮查伊稱Med-PaLM已經(jīng)可以達到人類專家醫(yī)生的水平
皮查伊指出,雖然PaLM 2的能力已經(jīng)很強,但只有在對特定領(lǐng)域的知識進行微調(diào)時,才能真正發(fā)揮作用。與基礎(chǔ)模型相比,微調(diào)幫助Med-PaLM 2實現(xiàn)了將近十倍的精確度,從而在醫(yī)學問題回答上能做到接近臨床專家的表現(xiàn)。
“我們還在努力增加Med-PaLM 2的功能,使其能夠綜合來自醫(yī)學影像的信息,如乳腺X射線?!逼げ橐翉娬{(diào)。
據(jù)谷歌搜索部門高管介紹,Med PaLM 2的訓練集使用的是各國醫(yī)療診所數(shù)據(jù)樣本
與之類似,谷歌還基于PaLM 2訓練了一個針對安全領(lǐng)域的垂直模型Sec-PaLM,它可以利用AI來檢測惡意腳本,幫助安全專家理解和解決各類攻擊和威脅問題。
據(jù)谷歌介紹,PaLM 2的用戶既包括世界各地的消費者,也包括開發(fā)者和各類規(guī)模的企業(yè)。
皮查伊還宣布,谷歌已經(jīng)在著手開發(fā)下一代多模態(tài)大模型Gemini,這一模型在工具和API集成方面非常高效,并在記憶力和規(guī)劃能力上擁有相當創(chuàng)新突破,目前仍在訓練之中。“Gemini展示出了相較其他模型前所未見的多模態(tài)能力。一旦經(jīng)過微調(diào)和嚴格安全測試,也將擁有各種尺寸和功能,可以部署在不同的產(chǎn)品、應用和設(shè)備上,使每個人受益?!逼げ橐帘硎?。
從PaLM2到Gemini,谷歌本次找準了GPT-4的痛點下手,用多模態(tài)能力直擊靶心,又用專用領(lǐng)域模型拉開差距,可以說打了一個漂亮的反擊戰(zhàn)。
谷歌研究部副總裁左賓·蓋若曼尼指出了一個值得關(guān)注的問題,即模型并不是“越大越好”那么簡單,研究的創(chuàng)造性才是建立偉大模型的關(guān)鍵。他表示,谷歌近期在構(gòu)建和訓練模型方面取得的進展使之了解到如何真正釋放多模態(tài)能力,如何比以往更有效地構(gòu)建模型。此后,谷歌會致力于那些為人們的日常生活帶來真正好處的模型構(gòu)建。
谷歌在本次I/O大會上并沒有給出PaLM 2的更多技術(shù)細節(jié),這也與OpenAI對待ChatGPT和GPT-4的態(tài)度相似,但谷歌的上述表態(tài)與其內(nèi)部堅持的技術(shù)路線一脈相承。雖然自去年年底開始,谷歌就因為ChatGPT橫空出世陷入極為被動的局面,但谷歌實際上早于OpenAI看到了超大規(guī)模語言模型的必要性,并堅持在稀疏模型架構(gòu)上做了深入探索。在DeepMind與谷歌分治之前,其語言模型麻雀就走上了小模型參數(shù)打敗精調(diào)的道路,而與谷歌合兵一處之后,勢必在思路上對PaLM 2也做出了相當貢獻。
皮查伊也強調(diào),PaLM 2的成果建立在谷歌大腦和DeepMind這兩個世界級研究團隊所取得的進展之上。
Bard一雪前恥
在I/O大會上,另一個為世界矚目的進展來自此前折戟的Bard。
谷歌宣布了Bard的多項功能更新,總體來看可謂是針對BingChat新晉更新的重量級回應。首先是與圖像配合的多模態(tài)查詢功能,用戶可以使用圖像向Bard提問,也可以讓Bard使用圖像內(nèi)容向用戶進行回應。
如果用戶想查詢關(guān)于某個旅游目的地的信息,Bard的表現(xiàn)像一個大眾點評,可以向用戶展示該處目的地附近的所有熱門景點。
圖源:谷歌
圖源:谷歌
在文字之外,Bard可以做到很好的理解圖片,可以根據(jù)圖片信息抽象出文字。谷歌在現(xiàn)場進行了演示,如果發(fā)給Bard一個狗狗的照片,Bard可以根據(jù)圖片來分析其中的有趣之處。
圖源:谷歌
在這個過程里,谷歌也展示出通過最近幾個月的訓練,Bard對語言文字理解力有了進一步增強,這是上次Bard問世被群嘲的核心點。
在I/O大會現(xiàn)場,Bard有兩項功能演示獲得了分貝最高的歡呼聲,第一次來自Bard的深色模式更新,第二次是因為Bard的新晉搜索功能與谷歌地圖形成了完美整合。
圖源:谷歌
圖源:在現(xiàn)場演示中,谷歌高管詢問Bard哪個城市比較適合自己18歲時讀書,并給出了幾項條件,Bard首先使用文字作答給出了若干選項,之后被要求用谷歌地圖來展示位置。
圖源:谷歌
Bard的另一項重大進益在編程側(cè)。谷歌正在增強下一代Bard版本的編程能力,希望Bard不僅能夠生成代碼,還能夠解釋一些代碼片段并幫助用戶調(diào)試代碼,還希望Bard能具備更強的代碼引用能力。
新版本中Bard的編程能力非常強大,足以與CoPilot媲美?,F(xiàn)場演示引發(fā)了陣陣掌聲。
在先前的迭代中,Bard已經(jīng)能夠?qū)ython代碼導出到谷歌的Colab。而谷歌正在擴大這一功能,希望將Python代碼導出到Replit,使得開發(fā)者更容易使用。
本次,谷歌取消了Bard的用戶等待名單,使其在180多個國家和地區(qū)都可以使用。英語之外,Bard目前可以支持日語和漢語,不久之后可以支持40種語言。
據(jù)悉,谷歌目前在與第三方合作伙伴合作,將其技術(shù)支持引入Bard。但谷歌強調(diào)自己唯一的第三方合作伙伴是Adobe的圖像生成器Firefly,后續(xù)會開展與專注數(shù)學計算的引擎WolframAlpha等的合作。有趣的是,微軟Bing日前的那場升級也調(diào)用了Wolfram Alpha插件。
有分析指出,谷歌自身的圖像生成能力本就很強,此次卻選擇與Adobe Firefly聯(lián)手令人意外,這更多應該是出于安全方面考慮。
圖源:谷歌
谷歌方面表示,還將很快推出Bard的其他擴展功能,主要是將其融入自己的各類應用程序,尤其是Google maps、Google Docs、Google Sheets和Gmail。目前看來,這類更新的力度會比微軟Edge瀏覽器與GPT-4的結(jié)合力度更大。
圖源:Google Bard與Gmail結(jié)合
(界面新聞記者 | 李京亞)
- 原標題:谷歌打響OpenAI反擊戰(zhàn),最新大語言模型PaLM 2直指GPT-4痛點
- 責任編輯: 房佶宜 
-
轉(zhuǎn)基因作物能留種嗎?農(nóng)民日報解答
2023-05-11 08:38 轉(zhuǎn)基因 -
量子處理器上首次“造出”任意子,有望提升容錯能力
2023-05-11 08:32 科技前沿 -
首個人類泛基因組草圖發(fā)表,這項數(shù)據(jù)增加104%
2023-05-11 08:17 -
又一大國重器迎來關(guān)鍵節(jié)點
2023-05-11 08:14 科技前沿 -
天舟六號瞄準今日21時22分發(fā)射
2023-05-10 16:01 航空航天 -
天舟六號發(fā)射任務(wù),圓滿成功
2023-05-10 15:11 航空航天 -
國內(nèi)規(guī)模最大高原風電基地800兆瓦全容量投產(chǎn)
2023-05-08 10:03 -
建月球基地的玻璃有了?中國科學家月壤最新發(fā)現(xiàn)
2023-05-08 07:51 航空航天 -
科大訊飛發(fā)布星火認知大模型,算力方面將聯(lián)手華為
2023-05-07 20:59 觀網(wǎng)財經(jīng)-科創(chuàng) -
我國科研人員開發(fā)出可精準檢測與治療癌癥的納米粒子
2023-05-06 19:29 -
防范數(shù)據(jù)風險,首個國產(chǎn)化船舶交通管理系統(tǒng)試運行
2023-05-06 14:11 -
全球首例!北京成功完成非人靈長類動物介入式腦機接口試驗
2023-05-05 16:57 科技前沿 -
華龍一號全球首堆示范工程通過竣工驗收
2023-05-05 16:20 核電 -
我國科學家發(fā)明“進化透鏡”,馬鈴薯育種取得世界性突破
2023-05-05 16:18 -
陳剛等8位華人當選美國科學院院士
2023-05-04 13:22 -
中國科學家發(fā)現(xiàn)火星近期水活動新證據(jù)
2023-04-27 13:59 航空航天 -
我國科學家領(lǐng)銜,拍到黑洞“尾巴”
2023-04-27 08:13 -
最新研究:地球能量失衡加劇
2023-04-24 13:38 全球變暖 -
載人航天總師周建平獲“錢學森最高成就獎”
2023-04-24 10:43 航空航天 -
迄今最重“薛定諤的貓”出現(xiàn)
2023-04-24 08:13 科技前沿
相關(guān)推薦 -
“剛剛,我看到了未來,它不在美國” 評論 93特朗普竟對中國征收34%“對等關(guān)稅” 評論 964解放日?“對于市場而言這是‘屠戮日’” 評論 69“世界變了”,加拿大汽車零部件巨頭瞄準中國市場 評論 35“中國對美反制,巴西看到了機會” 評論 43最新聞 Hot
-
“剛剛,我看到了未來,它不在美國”
-
結(jié)束全球化?“不是按個開關(guān),美國就能變成工業(yè)國家了”
-
諾獎得主克魯格曼:特朗普在貿(mào)易上已經(jīng)徹底瘋了
-
特朗普“汽車關(guān)稅”也落地了,“日本GDP將萎縮0.3%”
-
“白宮已接近批準”,美方想租用算法?
-
提到日本關(guān)稅還念念不忘:我說的話,安倍秒懂
-
“沒有美國這么對朋友的!但…”
-
連企鵝都不放過!特朗普向無人島征稅10%
-
美媒感慨:面對特朗普威脅,中國毫不退縮
-
美對等關(guān)稅清單竟將臺灣列為“國家”
-
前谷歌學者羅劍嵐加入智元機器人,任首席科學家
-
遼吉蒙2024年常住人口總量繼續(xù)下降,出生人口略回升
-
比歐盟少一半,英國樂了
-
這個時候,澳企緊急喊話:必須對華合作,這是當務(wù)之急
-
四川省委原常委崔保華,被逮捕
-
特朗普私下放風?白宮、馬斯克雙雙否認
-