本周，在上海舉辦的2025世界人工智能大會(huì)，在繼續(xù)帶給我們驚奇之外，還有一個(gè)大大的問(wèn)號(hào)。

先看驚奇，大會(huì)從2018年創(chuàng)辦，到現(xiàn)在已舉辦了8屆。本屆大會(huì)展覽面積首次突破7萬(wàn)平方米，有800余家企業(yè)參展，又推出了百余款“全球首發(fā)”“中國(guó)首秀”的產(chǎn)品。而除了企業(yè)，參會(huì)的還有來(lái)自70多個(gè)國(guó)家和地區(qū)的1500余位頂尖專家，包括12位圖靈獎(jiǎng)、菲爾茲獎(jiǎng)、諾貝爾獎(jiǎng)獲得者，80多位中外院士，以及200多位行業(yè)領(lǐng)軍人物。

大家來(lái)上海，不僅僅是關(guān)注人工智能的突飛猛進(jìn)，而更加關(guān)注越來(lái)越急迫的安全問(wèn)題。本屆大會(huì)一個(gè)極為重要的主題，也恰恰是如何在發(fā)展和安全之間尋求平衡，并進(jìn)一步凝聚共識(shí)。多場(chǎng)論壇、多位專家都把目光聚焦在人工智能已經(jīng)開(kāi)始深入人類生活的當(dāng)下，如何守衛(wèi)好它的邊界。

人工智能的發(fā)展有多快，先看看這兩年的變化。去年，還是“百模大戰(zhàn)”剛剛拉開(kāi)大幕，今年，具備深度思考、自主規(guī)劃與決策執(zhí)行能力的人工智能體就已經(jīng)開(kāi)始進(jìn)入激烈的競(jìng)爭(zhēng)。

從年初DeepSeek推出開(kāi)源模型成為全球焦點(diǎn)，短短一個(gè)月內(nèi)，國(guó)內(nèi)外企業(yè)就相繼推出各具特色的智能體產(chǎn)品，并以前所未有的速度，在消費(fèi)、出行、辦公、醫(yī)療、教育等多元場(chǎng)景中“多點(diǎn)開(kāi)花”。面對(duì)不斷快速迭代的智能體產(chǎn)品，僅僅從消費(fèi)角度，就可以感受到這場(chǎng)深刻的科技革命。

驚奇，似乎每一個(gè)人都在以驚奇的眼光注視著這場(chǎng)變革。作為全球人工智能領(lǐng)域規(guī)模最大、專業(yè)度最高、影響力最強(qiáng)的盛會(huì)，世界人工智能大會(huì)更是一下子亮相了3000余款前沿展品，其中100余款為“全球首發(fā)”或“中國(guó)首秀”。

從多模態(tài)大模型到智能硬件，創(chuàng)新不僅在消費(fèi)端繼續(xù)顯現(xiàn)著吸引力，還在產(chǎn)業(yè)端釋放出巨大潛能。例如，在當(dāng)下火熱的低空經(jīng)濟(jì)領(lǐng)域，國(guó)產(chǎn)EVTOL飛控系統(tǒng)，借助自主人工智能算法，已經(jīng)開(kāi)始出口海外。

此外，在基礎(chǔ)算力不斷取得突破的推動(dòng)下，賦予消費(fèi)品和工業(yè)品更多可能的智能體，也開(kāi)始出現(xiàn)“隨身化”的趨勢(shì)，焦點(diǎn)轉(zhuǎn)向如何在手機(jī)、電腦等終端設(shè)備上獨(dú)立運(yùn)行復(fù)雜任務(wù)，這意味著人工智能可以不再依賴遠(yuǎn)端服務(wù)器，而是能隨時(shí)隨地提供支持。

技術(shù)突破正推動(dòng)中國(guó)人工智能產(chǎn)業(yè)，從基礎(chǔ)層、技術(shù)層到應(yīng)用層形成完整鏈條。在大模型、智能硬件及邊緣計(jì)算等領(lǐng)域的持續(xù)投入，已經(jīng)讓我國(guó)在全球數(shù)據(jù)量和技術(shù)創(chuàng)新上占據(jù)了重要位置。

來(lái)自大會(huì)的數(shù)據(jù)，在全球已發(fā)布的3755個(gè)大模型中，中國(guó)的大模型數(shù)量達(dá)1509個(gè)，居全球之首。這個(gè)數(shù)字背后，不僅體現(xiàn)著技術(shù)實(shí)力，更得益于電子、原材料、消費(fèi)品等行業(yè)紛紛引入人工智能“大腦”，工廠質(zhì)檢、商場(chǎng)客服、醫(yī)院影像分析等等多領(lǐng)域，都在加速智能化轉(zhuǎn)型。

中國(guó)政法大學(xué)數(shù)據(jù)法治研究院教授、聯(lián)合國(guó)高級(jí)別人工智能咨詢機(jī)構(gòu)專家 張凌寒：今年提出“人工智能+”意味著在未來(lái)五到十年，我們將會(huì)把人工智能和各個(gè)應(yīng)用場(chǎng)景、各個(gè)產(chǎn)業(yè)深度融合。中國(guó)的土壤在于我們有足夠多的人口、應(yīng)用場(chǎng)景、用戶數(shù)據(jù)支撐人工智能產(chǎn)業(yè)發(fā)展。

技術(shù)創(chuàng)新的背后，離不開(kāi)政策的支撐。連續(xù)兩年，“人工智能+”行動(dòng)正在不斷取得進(jìn)展。近日，國(guó)務(wù)院常務(wù)會(huì)議審議通過(guò)相關(guān)意見(jiàn)，強(qiáng)調(diào)大力推動(dòng)人工智能規(guī)?；虡I(yè)化應(yīng)用，發(fā)揮我國(guó)產(chǎn)業(yè)鏈完備、市場(chǎng)巨大、場(chǎng)景豐富的優(yōu)勢(shì)。同時(shí)，強(qiáng)調(diào)提升安全水平，構(gòu)建動(dòng)態(tài)、多方協(xié)同的治理體系。發(fā)展與安全并重，這與本屆世界人工智能大會(huì)關(guān)注的主題也高度契合。

隨著人工智能的快速發(fā)展，安全治理顯然已成世界各國(guó)的共識(shí)。在本屆大會(huì)的多場(chǎng)論壇中，中國(guó)專家也可以借此與全球同行展開(kāi)對(duì)話，共同探討如何在技術(shù)迅猛迭代中，確保人工智能惠及全人類。

國(guó)際標(biāo)準(zhǔn)化組織主席曹誠(chéng)煥：標(biāo)準(zhǔn)的安全性和質(zhì)量至關(guān)重要。但僅僅是安全使用AI并非問(wèn)題的全貌，我們還要考慮到AI治理、AI公平性，以及AI在人文要素和技術(shù)要素之間的平衡。

在20世紀(jì)60年代，有一部具有劃時(shí)代意義的科幻電影——《2001太空漫游》，直到現(xiàn)在，它的創(chuàng)作者依然讓我們心生敬佩，因?yàn)樵谀菚r(shí)，就已經(jīng)開(kāi)始探討人工智能的自主意識(shí)，以及它可能產(chǎn)生的風(fēng)險(xiǎn)問(wèn)題。

而現(xiàn)在，人工智能開(kāi)始真正進(jìn)入我們的生活，在帶來(lái)便利的同時(shí)，它所帶來(lái)的風(fēng)險(xiǎn)和治理問(wèn)題也已經(jīng)不能再停留在想象階段了。

本屆上海世界人工智能大會(huì)，至少有10場(chǎng)論壇都在探討人工智能治理問(wèn)題，特別是在大會(huì)首日的主論壇上，首位上場(chǎng)演講的杰弗里·辛頓，演講主題就是數(shù)字智能是否會(huì)取代生物智能，這位圖靈獎(jiǎng)與諾貝爾物理學(xué)獎(jiǎng)雙料得主的科學(xué)家，把人與人工智能的關(guān)系，比喻為將老虎養(yǎng)做寵物，小的時(shí)候它可能很可愛(ài)，但如果不想被長(zhǎng)大后的老虎殺掉，只有兩種方法，一是訓(xùn)好它，二是擺脫它。

那么，當(dāng)人工智能比人更聰明，科學(xué)家的擔(dān)心會(huì)成為現(xiàn)實(shí)嗎？虎崽長(zhǎng)大的那一天，離我們還有多遠(yuǎn)？

走進(jìn)上海世博展覽館的二層，這里幾乎是人形機(jī)器人的世界，表演架子鼓、制作冰激凌、分揀搬運(yùn)貨物……

上一屆世界人工智能大會(huì)，人們還在為首次集中亮相的18款人形機(jī)器人驚嘆，僅僅一年，又一屆世界人工智能大會(huì)展出的人形機(jī)器人已經(jīng)超過(guò)150臺(tái)，并且它們的大腦正在變得更“聰明”。

于是，在本屆世界人工智能大會(huì)就出現(xiàn)了這樣的場(chǎng)景：這一邊，是觀眾無(wú)限的想象與驚奇；那一邊，卻是科學(xué)家們嚴(yán)肅的、對(duì)于人工智能安全的、日益緊迫的擔(dān)憂。

今年77歲的杰弗里·辛頓，從1985年就開(kāi)始進(jìn)行語(yǔ)言模型的研究，被稱為深度學(xué)習(xí)領(lǐng)域的奠基人。本屆大會(huì)首日的主論壇，他的演講就引起了輿論極大的關(guān)注。他在演講中進(jìn)一步指出，幾乎所有專家都認(rèn)為，我們將開(kāi)發(fā)出比人類更智慧的人工智能。但是，我們?nèi)祟愒缫蚜?xí)慣作為頂級(jí)智能體存在，導(dǎo)致很多人難以想象被更智慧的人工智能主宰世界會(huì)是如何？

2018年圖靈獎(jiǎng)得主 2024年諾貝爾物理學(xué)獎(jiǎng)得主 杰弗里·辛頓：人工智能體會(huì)產(chǎn)生兩個(gè)訴求：一是維持生存，即維持完成既定目標(biāo)的基礎(chǔ)運(yùn)行能力；二是增強(qiáng)控制，即追求既定目標(biāo)的完成質(zhì)量。所以，我們必將面對(duì)兼具生存訴求和控制訴求的人工智能體。

人工智能會(huì)比人更聰明嗎？它會(huì)脫離人類的掌控嗎？這一天離我們還有多遠(yuǎn)？事實(shí)上，在過(guò)去兩年，隨著Chat GPT和Sora以及DeepSeek等大模型的出現(xiàn)，這些問(wèn)題已經(jīng)多次被提起。

在本屆世界人工智能大會(huì)開(kāi)幕前一天，還召開(kāi)了一場(chǎng)人工智能國(guó)際安全對(duì)話，與會(huì)的二十余名國(guó)內(nèi)外行業(yè)專家共同簽署發(fā)布了《AI安全國(guó)際對(duì)話上海共識(shí)》。

共識(shí)明確提出：人工智能系統(tǒng)正迅接近并可能超越人類智能水平。這些未來(lái)的系統(tǒng)可能在操作者毫不知情的情況下，執(zhí)行并非操作者所期望或預(yù)測(cè)的行動(dòng)。這可能導(dǎo)致失控，而一旦失控，就有可能帶來(lái)災(zāi)難性甚至是生存層面的風(fēng)險(xiǎn)。

國(guó)際標(biāo)準(zhǔn)化組織主席曹誠(chéng)煥：人工智能的迭代速度驚人之快。我們既不了解它的潛能，也不理解它的性能、成果、影響的產(chǎn)生機(jī)制。所以，我們有必要治理這項(xiàng)技術(shù)，我們需要讓它的運(yùn)作符合開(kāi)發(fā)者的預(yù)期。

今年7月，OpenAI官宣發(fā)布迄今為止最強(qiáng)的AI智能體，據(jù)稱這一新產(chǎn)品擁有自主思考與行動(dòng)能力，能夠完成包括在線購(gòu)物、撰寫研究報(bào)告、制作PPT在內(nèi)的多步驟復(fù)雜任務(wù)。同樣在7月，馬斯克也發(fā)布了號(hào)稱“全球最強(qiáng)大”的AI模型Grok4，稱“它幾乎比所有學(xué)科的研究生都更聰明”。

人工智能會(huì)不會(huì)變得比人更聰明，盡管在一些細(xì)節(jié)上仍有分歧，但是，目前其不斷迭代發(fā)展的速度卻不可小覷。

在《AI安全國(guó)際對(duì)話上海共識(shí)》中提到，與人工智能能力的快速發(fā)展相比，我們對(duì)人工智能安全研究的投入明顯滯后，亟須采取進(jìn)一步行動(dòng)。而在主論壇演講的最后，辛頓也呼吁，全球應(yīng)該共同探討如何訓(xùn)練AI向善。

中國(guó)政法大學(xué)數(shù)據(jù)法治研究院教授、聯(lián)合國(guó)高級(jí)別人工智能咨詢機(jī)構(gòu)專家 張凌寒：人工智能的問(wèn)題并不是一個(gè)國(guó)家能夠應(yīng)對(duì)的，所有的研究機(jī)構(gòu)、國(guó)家、大的公司企業(yè)都沒(méi)有辦法去獨(dú)自處理人工智能安全的問(wèn)題，人工智能全球治理的合作也必須由多個(gè)國(guó)家來(lái)共同進(jìn)行。

當(dāng)下，世界對(duì)于人工智能發(fā)展的投入正如日中天，誰(shuí)也不想掉隊(duì)。那么，當(dāng)發(fā)展成為一種必然，危險(xiǎn)又該如何防范呢？

能不能首先為人工智能劃下現(xiàn)在的、將來(lái)的安全紅線，在《AI安全國(guó)際對(duì)話上海共識(shí)》中，也首次呼吁全球各國(guó)政府及研究人員要“確保高級(jí)人工智能系統(tǒng)的對(duì)齊與人類控制，保障人類福祉”。

與世博展覽館的熱鬧相比，世博中心的氣氛就顯得有些嚴(yán)肅，因?yàn)檫@里事關(guān)人工智能安全與治理的論壇，一場(chǎng)接一場(chǎng)。而會(huì)場(chǎng)之外，輿論自然也會(huì)極為關(guān)注，中國(guó)在人工智能治理方面所取得的進(jìn)展。

來(lái)自世界知識(shí)產(chǎn)權(quán)組織的數(shù)據(jù)，2014年至2023年，中國(guó)生成式人工智能專利申請(qǐng)量超過(guò)3.8萬(wàn)件，居世界第一。

正是在2023年，我國(guó)開(kāi)始要求所有生成式人工智能進(jìn)行統(tǒng)一備案。黨的二十屆三中全會(huì)則明確提出，要建立人工智能安全監(jiān)管制度，完善生成式人工智能發(fā)展和管理機(jī)制。今年4月，中央政治局會(huì)議也再次強(qiáng)調(diào)，要完善人工智能監(jiān)管體制機(jī)制，牢牢掌握人工智能發(fā)展和治理主動(dòng)權(quán)。可以看出，法治的不斷完善，將成為持續(xù)扎牢監(jiān)管與防范人工智能風(fēng)險(xiǎn)的防護(hù)欄。

中國(guó)政法大學(xué)數(shù)據(jù)法治研究院教授 聯(lián)合國(guó)高級(jí)別人工智能咨詢機(jī)構(gòu)專家 張凌寒：國(guó)務(wù)院和全國(guó)人大立法計(jì)劃中提到人工智能相關(guān)立法，使用的詞匯和表述都是促進(jìn)人工智能健康發(fā)展的立法。從這個(gè)詞就可以看出來(lái)，我們的宗旨一定是統(tǒng)籌安全和發(fā)展。

來(lái)自相關(guān)部門的信息，目前，我國(guó)正在穩(wěn)步推進(jìn)綜合性人工智能高位階的立法。

張凌寒介紹，一直以來(lái)，我國(guó)的人工智能立法主要依靠的是部門規(guī)章和法律性文件，位階相對(duì)較低。而高位階立法能夠有效解決傳統(tǒng)法律和人工智能技術(shù)產(chǎn)業(yè)發(fā)展不相適應(yīng)的地方，高位階立法并不是為了回應(yīng)人工智能時(shí)代帶來(lái)的所有問(wèn)題，我覺(jué)得最重要的目的是定方向和劃底線。

回到會(huì)場(chǎng)，27日上午，在一場(chǎng)圍繞全球人工智能治理前沿問(wèn)題的主題論壇上，人工智能的法治建設(shè)正是與會(huì)專家討論的重點(diǎn)。參會(huì)的就有來(lái)自歐盟《人工智能法》的起草專家。作為全球首部全面規(guī)范人工智能的高位階法律，該法將人工智能系統(tǒng)風(fēng)險(xiǎn)分為四個(gè)等級(jí)，分別采取針對(duì)性監(jiān)管方式，于去年8月生效。

交流、借鑒，人工智能領(lǐng)域高位階的立法，也需要進(jìn)一步形成國(guó)際共識(shí)。

人工智能治理，攸關(guān)人類命運(yùn)，是各國(guó)都在面對(duì)的問(wèn)題。專家警示，治理問(wèn)題上存在“決堤”效應(yīng)，也就是說(shuō)，任何一個(gè)國(guó)家不重視人工智能的安全，都可能讓整個(gè)人類面對(duì)人工智能的系統(tǒng)性風(fēng)險(xiǎn)。所以，搭建全球合作機(jī)制，已成為必然。

國(guó)際標(biāo)準(zhǔn)化組織主席曹誠(chéng)煥：放眼全球，幾乎各國(guó)政府發(fā)布的人工智能治理方案都不盡相同，這種碎片化的局面風(fēng)險(xiǎn)巨大、危機(jī)四伏，所以這就是國(guó)際標(biāo)準(zhǔn)的作用所在。我們可以提供通用語(yǔ)言和共同平臺(tái)，為人工智能治理奠定基礎(chǔ)。

2023年，中國(guó)提出《全球人工智能治理倡議》，2024年，第78屆聯(lián)合國(guó)大會(huì)以協(xié)商一致的方式，通過(guò)了主要由中國(guó)提出的“加強(qiáng)人工智能能力建設(shè)國(guó)際合作”決議，這也是全球首個(gè)聚焦人工智能能力建設(shè)的共識(shí)性文件。

本屆世界人工智能大會(huì)，中國(guó)也會(huì)同各方發(fā)布了《人工智能全球治理行動(dòng)計(jì)劃》，十三項(xiàng)內(nèi)容，從“倡議”走向“行動(dòng)”，更提出成立世界人工智能合作組織，這是中國(guó)給予世界人工智能治理問(wèn)題的思考和方案。

面對(duì)一日千里的人工智能發(fā)展，如何保持警惕，加強(qiáng)國(guó)際合作，已經(jīng)是一道同時(shí)擺放在所有國(guó)家面前的限時(shí)必答題，而答題時(shí)間似乎也很快就要到了，正如本屆大會(huì)的主題“智能時(shí)代 同球共濟(jì)”一樣，此時(shí)此刻，也是大家必須攜起手來(lái)共同作答的時(shí)刻。