大模型將重塑人工智能產(chǎn)業(yè) 發(fā)展與治理同步推進(jìn)

  新華網(wǎng)北京7月3日電（記者 孫云龍）人工智能已經(jīng)成為新一輪科技革命和產(chǎn)業(yè)變革的重要驅(qū)動(dòng)力。以預(yù)訓(xùn)練大模型引領(lǐng)的人工智能創(chuàng)新浪潮呼嘯而來(lái)。“大模型將重塑人工智能產(chǎn)業(yè)鏈競(jìng)爭(zhēng)格局。”國(guó)家工業(yè)信息安全發(fā)展研究中心人工智能所副所長(zhǎng)劉永東表示，“大模型正處于快速發(fā)展的窗口期，同時(shí)也暴露出諸多安全隱患，引發(fā)熱議和擔(dān)憂(yōu)，還需不斷完善針對(duì)性的監(jiān)管政策，做到發(fā)展與治理‘同謀劃、同布局’。”


  7月2日，以“智能涌現(xiàn)，重塑未來(lái)”為主題的2023全球數(shù)字經(jīng)濟(jì)大會(huì)人工智能高峰論壇在京舉辦。劉永東在論壇間隙接受記者采訪時(shí)如此表述。

  類(lèi)ChatGPT產(chǎn)品正不斷涌現(xiàn)，標(biāo)志著大模型時(shí)代正在來(lái)臨。北京市經(jīng)濟(jì)和信息化局黨組書(shū)記、局長(zhǎng)姜廣智在當(dāng)日論壇致辭中表示，人工智能產(chǎn)業(yè)風(fēng)頭正勁，迄今已有八十余個(gè)大模型公開(kāi)發(fā)布，其中北京約占一半。大模型產(chǎn)品數(shù)量眾多，百度、騰訊、華為、阿里、商湯、科大訊飛、360等企業(yè)和清華大學(xué)、智源研究院、浦江實(shí)驗(yàn)室等高校和科研機(jī)構(gòu)相繼推出了大模型產(chǎn)品或解決方案。360集團(tuán)創(chuàng)始人周鴻祎在論壇上表示，大模型在城市、行業(yè)、企業(yè)數(shù)字化轉(zhuǎn)型到智能化的過(guò)程中大有可為，進(jìn)化迭代剛剛開(kāi)始，相信未來(lái)會(huì)成為數(shù)字化系統(tǒng)的標(biāo)配。未來(lái)可能不是“百模大戰(zhàn)”，而是“萬(wàn)模群舞”。

  劉永東認(rèn)為，以ChatGPT為代表的生成式人工智能將推動(dòng)跨時(shí)代的范式變革。它提供了人工智能商業(yè)化落地新范式，可以為各個(gè)領(lǐng)域帶來(lái)巨大的生產(chǎn)力提升，引發(fā)行業(yè)重要升級(jí)，提振了產(chǎn)業(yè)信心。多模態(tài)預(yù)訓(xùn)練大模型將成為人工智能基礎(chǔ)設(shè)施。“多模態(tài)大模型將成為具有泛化能力的模型底座、不同領(lǐng)域的共性平臺(tái)技術(shù)，成為邁向通用人工智能的重要探索，也是解決人工智能應(yīng)用落地所面臨的需求碎片化、多樣化等問(wèn)題的有效解決方式。”

  劉永東強(qiáng)調(diào)，大模型將重塑人工智能產(chǎn)業(yè)鏈競(jìng)爭(zhēng)格局。一是開(kāi)發(fā)范式變革，逐漸形成圍繞大模型結(jié)合特定領(lǐng)域模型微調(diào)的方式，打造垂直應(yīng)用模型，科技巨頭圍繞大模型的生態(tài)競(jìng)爭(zhēng)加劇。二是擠占技術(shù)層企業(yè)生存空間。生成式大模型的出現(xiàn)嚴(yán)重沖擊了以人工智能單一算法開(kāi)發(fā)為主的初創(chuàng)企業(yè)，如圖像識(shí)別、語(yǔ)音識(shí)別等。

  “與此同時(shí)，我們也應(yīng)關(guān)注到大模型帶來(lái)的挑戰(zhàn)。”劉永東表示，一是訓(xùn)練大模型所需的算力資源被科技巨頭掌控，在新一輪競(jìng)爭(zhēng)中筑起較高的行業(yè)壁壘。二是訓(xùn)練大模型所需的高質(zhì)量數(shù)據(jù)集匱乏，大模型所需的數(shù)據(jù)資源掌握在傳統(tǒng)行業(yè)巨頭和行業(yè)協(xié)會(huì)手中，需統(tǒng)籌行業(yè)力量加大開(kāi)源數(shù)據(jù)集的建設(shè)力度。三是人工智能安全治理面臨的挑戰(zhàn)加劇，需不斷完善有針對(duì)性的監(jiān)管政策，做到發(fā)展與治理“同謀劃、同布局”。

  劉永東介紹，大模型具有算法不透明、數(shù)據(jù)強(qiáng)依賴(lài)、易被濫用等人工智能固有的風(fēng)險(xiǎn)，與其平臺(tái)性、易使用、超能力等特點(diǎn)相互交織，風(fēng)險(xiǎn)快速傳遞并極速放大。敏感數(shù)據(jù)泄露、虛假信息生成、漏洞攻擊加劇等安全風(fēng)險(xiǎn)頻現(xiàn)，給人工智能治理帶來(lái)新挑戰(zhàn)，引發(fā)熱議和擔(dān)憂(yōu)，多個(gè)國(guó)家和地區(qū)已經(jīng)著手研究和探索應(yīng)對(duì)舉措。

  “如何對(duì)具有生成式特征的大模型進(jìn)行監(jiān)管，以確保其發(fā)展符合公共利益，已成為全球人工智能治理的新課題。”劉永東稱(chēng)。當(dāng)日論壇上，清華大學(xué)計(jì)算機(jī)系長(zhǎng)聘教授、人工智能研究院副院長(zhǎng)朱軍介紹，大模型在安全方面的問(wèn)題表現(xiàn)為數(shù)據(jù)泄露、算法偏見(jiàn)、虛假信息等多個(gè)方面，需要有相應(yīng)的防范措施。周鴻祎也認(rèn)為，大模型產(chǎn)業(yè)化方案需要遵循安全、可信、可控的原則。

  劉永東表示，國(guó)家工業(yè)信息安全發(fā)展研究中心正聯(lián)合有關(guān)單位共同發(fā)起人工智能可信安全護(hù)航計(jì)劃，探索人工智能安全可信管理解決方案，護(hù)航大模型健康良性發(fā)展。該中心建議要明確各方責(zé)任，加強(qiáng)安全技術(shù)，推動(dòng)行業(yè)自律，強(qiáng)化宣傳引導(dǎo)，堅(jiān)持“以人為本”的初心，積極參與全球監(jiān)管規(guī)則建立。