當(dāng)前，隨著生成式AI、大模型等創(chuàng)新技術(shù)競相涌現(xiàn)，人工智能前沿技術(shù)正在持續(xù)迭代發(fā)展，廣泛應(yīng)用于千行百業(yè)，產(chǎn)業(yè)規(guī)模快速增長。作為新一代科技和產(chǎn)業(yè)變革的重要驅(qū)動(dòng)力量和發(fā)展新質(zhì)生產(chǎn)力的重要引擎，人工智能的發(fā)展趨勢備受全球矚目。

10月23日上午，2024年世界科技與發(fā)展論壇“人工智能治理創(chuàng)新為培育科技治理生態(tài)構(gòu)建國際信任基礎(chǔ)”主題會(huì)議在北京科技會(huì)堂召開。全球頂尖專家學(xué)者、國際組織代表和企業(yè)領(lǐng)袖齊聚一堂，共同探討人工智能的創(chuàng)新突破、產(chǎn)業(yè)應(yīng)用、場景拓展與風(fēng)險(xiǎn)治理，旨在增進(jìn)共識(shí)互信，推動(dòng)形成全球人工智能治理合力，共謀人工智能領(lǐng)域創(chuàng)新發(fā)展未來。

2024年世界科技與發(fā)展論壇“人工智能治理創(chuàng)新為培育科技治理生態(tài)構(gòu)建國際信任基礎(chǔ)”主題會(huì)議在北京科技會(huì)堂召開。[2024年世界科技與發(fā)展論壇 供圖]

在此前的開幕式上，2024年世界科技與發(fā)展論壇主席、中國科學(xué)技術(shù)協(xié)會(huì)主席萬鋼指出：“希望全球科技界更加重視發(fā)揮人工智能對(duì)科學(xué)研究的促進(jìn)作用。構(gòu)建以人工智能為基礎(chǔ)支撐的前沿科學(xué)研究的新范式，加快培育新業(yè)態(tài)，打造新引擎。”他強(qiáng)調(diào)，要共同推進(jìn)法律法規(guī)、標(biāo)準(zhǔn)規(guī)范的銜接與協(xié)作，建立人工智能前沿研究和技術(shù)應(yīng)用的評(píng)價(jià)、教育、預(yù)警和控制機(jī)制，加強(qiáng)人工智能的可信性、可靠性、可控性等安全風(fēng)險(xiǎn)的評(píng)價(jià)。

技術(shù)突破激發(fā)創(chuàng)新潛力 具身智能引領(lǐng)科技新潮

在此次會(huì)議上，專家學(xué)者與企業(yè)領(lǐng)袖圍繞人工智能的技術(shù)突破和產(chǎn)業(yè)化應(yīng)用展開了深入探討。世界機(jī)器人合作組織理事長、中國科學(xué)院院士喬紅指出，人工智能已成為科技革命的驅(qū)動(dòng)力，廣泛應(yīng)用于智能制造、智慧城市、醫(yī)療健康和金融服務(wù)等領(lǐng)域。”她發(fā)布了《2024年人工智能十大前沿技術(shù)趨勢展望》，涵蓋AI共性技術(shù)、大規(guī)模預(yù)訓(xùn)練模型、具身智能及生成式人工智能等多個(gè)方面，展現(xiàn)了AI技術(shù)的無限潛力與可能。

喬紅表示，“人工智能的發(fā)展正以前所未有的速度推進(jìn)科技進(jìn)步和社會(huì)變革，無論是AI共性技術(shù)、大規(guī)模預(yù)訓(xùn)練模型、具身智能還是生成式人工智能等前沿領(lǐng)域，都充滿了無限的可能和潛力。這些技術(shù)的發(fā)展不僅將為人們帶來更加便捷、高效的生活方式，還將推動(dòng)各行各業(yè)的創(chuàng)新和發(fā)展。”

北京智源人工智能研究院理事長、前任院長、北京大學(xué)教授黃鐵軍表示，人工智能作為機(jī)器智力，對(duì)人類社會(huì)的影響前所未有。他預(yù)測，未來幾十年內(nèi)，人工智能有可能全面超越人類智能。

韓中科技合作中心首席代表、韓國科技部下屬軟件政策研究所首席研究員金俊淵（Jun-Youn Kim）分享了韓國在人工智能領(lǐng)域的研究成果。他表示，當(dāng)前正處于AI發(fā)展的“寒武紀(jì)大爆發(fā)”時(shí)代，每天都有數(shù)百種新人工智能服務(wù)涌現(xiàn)。預(yù)計(jì)到2030年，人工智能的規(guī)模將達(dá)到目前的10倍。

作為人工智能領(lǐng)域的前沿賽道，具身智能正逐步走進(jìn)現(xiàn)實(shí)，也成為了本次會(huì)議的熱點(diǎn)話題。多位專家與企業(yè)領(lǐng)袖圍繞具身智能展開了深入探討，展示了其在未來科技與社會(huì)發(fā)展中的巨大潛力。

樂聚機(jī)器人創(chuàng)始人常琳稱，具身智能、人形機(jī)器人已從小眾行業(yè)概念走向大眾視野。“人工智能，尤其是大模型的發(fā)展，極大提升了人形機(jī)器人的泛化能力，使其通用性能顯著提高，為解決機(jī)器人進(jìn)入家庭等場景中的柔性工作和智能化問題帶來可能。”常琳表示，“未來，人工智能和機(jī)器人技術(shù)將解放人類，讓人們從繁重單一的工作中解脫，投身更多創(chuàng)造性工作。”

萬境千尋創(chuàng)始人韓峰濤指出，具身智能并非新詞，近年來的技術(shù)創(chuàng)新突破使其走入大眾視野。以機(jī)器人行業(yè)為例，“核心突破在于將人工的智能轉(zhuǎn)化為人工智能，不再需要人工參與每個(gè)環(huán)節(jié)，”而是讓機(jī)器人通過文生圖、文生動(dòng)作等技術(shù)實(shí)現(xiàn)更加自主的任務(wù)執(zhí)行。

技術(shù)進(jìn)步伴隨風(fēng)險(xiǎn) 安全與倫理挑戰(zhàn)并存

人工智能的快速發(fā)展也引發(fā)了一系列的倫理問題和社會(huì)挑戰(zhàn)，需要國際社會(huì)共同推動(dòng)人工智能治理合作。

中國工程院院士、北京郵電大學(xué)教授張平指出：“生成式人工智能突破性的進(jìn)展為我們?nèi)祟悗肀憷耐瑫r(shí)也帶來一些安全和倫理的挑戰(zhàn)。基于AIGC的身份造假，還有不當(dāng)?shù)难哉搯栴}頻發(fā)。” 他介紹了其所在的AI安全治理實(shí)驗(yàn)室研究進(jìn)展，包括通過構(gòu)建通用人工智能的理論框架，從技術(shù)層面確保AI技術(shù)發(fā)展的安全可控；研發(fā)超級(jí)對(duì)齊技術(shù)，確保AI輸出與人類觀點(diǎn)、決策對(duì)齊。同時(shí)，通過可解釋性和自動(dòng)化評(píng)估，通過外部監(jiān)測的角度保障通用人工智能技術(shù)是科技向善的。

黃鐵軍教授也警示了人工智能發(fā)展的潛在風(fēng)險(xiǎn)，并呼吁企業(yè)在面對(duì)商業(yè)利益與人類福祉的選擇時(shí)，應(yīng)以人類福祉為導(dǎo)向。他強(qiáng)調(diào)，全球范圍的監(jiān)管至關(guān)重要，以防止掌握先進(jìn)人工智能技術(shù)的壟斷企業(yè)謀取超額利益，導(dǎo)致社會(huì)財(cái)富集中、加劇貧富差距和社會(huì)不平等。

常琳表示，企業(yè)需承認(rèn)人工智能存在風(fēng)險(xiǎn)，并以負(fù)責(zé)任的態(tài)度持續(xù)迭代和修復(fù)問題。加速進(jìn)化創(chuàng)始人、CEO程昊指出，機(jī)器人的安全問題復(fù)雜，需關(guān)注物理安全和算法安全等方面。他提到，機(jī)器人運(yùn)行中可能出現(xiàn)故障或算法問題，對(duì)人類造成傷害，因此需在系統(tǒng)層面進(jìn)行安全設(shè)計(jì)，確保機(jī)器人在危險(xiǎn)情況下及時(shí)停止運(yùn)行。銀河通用創(chuàng)始人、CEO王鶴分享了自動(dòng)駕駛行業(yè)在物理安全方面的經(jīng)驗(yàn)，強(qiáng)調(diào)了安全治理的重要性。

秉持人類命運(yùn)共同體理念 以國際合作共筑智慧未來

針對(duì)人工智能的風(fēng)險(xiǎn)和挑戰(zhàn)，多位嘉賓強(qiáng)調(diào)了國際合作與全球治理的重要性。黃鐵軍教授表示，人工智能力量強(qiáng)大，必須在國際范圍內(nèi)充分合作，確保其不被少數(shù)集團(tuán)濫用。他直言：“國際合作探討人工智能治理方案至關(guān)重要。這是人類共同面對(duì)的挑戰(zhàn)，解鈴還須系鈴人，需用技術(shù)手段進(jìn)行管理，確保其不被濫用。” 

黃鐵軍還提到，全球科學(xué)家在人工智能技術(shù)上的共識(shí)遠(yuǎn)大于分歧。他認(rèn)為，科技合作往往比政治合作更加開放，科學(xué)家們更多關(guān)注技術(shù)的應(yīng)對(duì)方案，而非制造國家間的沖突。“世界科技發(fā)展論壇這樣的國際交流平臺(tái)，對(duì)于推動(dòng)人工智能行業(yè)的發(fā)展起到了非常重要的作用，雖然當(dāng)前國際形勢復(fù)雜，但通過面對(duì)面的交流，很多問題都能夠得到緩解，合作的機(jī)會(huì)也會(huì)因此增加。”

黃鐵軍表示，在構(gòu)建人類命運(yùn)共同體的框架下，確保人工智能的發(fā)展服務(wù)于全人類的共同福祉，這是我們必須要遵循的方向。”

常琳指出，盡管地緣政治帶來了諸多挑戰(zhàn)，但民間的國際交流依然十分活躍，全球范圍內(nèi)對(duì)中國技術(shù)的合作需求持續(xù)增加。“不論在哪個(gè)國家，大家都渴望與中國展開合作。中國的國企、央企、大型民營企業(yè)在國際市場上做了很多努力。我們需要克服障礙，繼續(xù)推動(dòng)國際合作。”

銀河通用創(chuàng)始人王鶴則強(qiáng)調(diào)了國際市場的戰(zhàn)略重要性，尤其是在人工智能和人形機(jī)器人領(lǐng)域。“人形機(jī)器人在全球范圍內(nèi)具有廣闊的市場潛力。中國企業(yè)在出海過程中，需要積極融入當(dāng)?shù)厥袌觯⑶以趪H市場上營造出科技向善的風(fēng)氣，減少摩擦。”

世界工程組織聯(lián)合會(huì)前任主席龔克則強(qiáng)調(diào)了幫助發(fā)展中國家和地區(qū)的重要性，指出很多國際沖突源自發(fā)展的不平衡。他認(rèn)為應(yīng)當(dāng)利用先進(jìn)技術(shù)幫助發(fā)展中國家走出可持續(xù)發(fā)展的道路。“好的生產(chǎn)力能夠推動(dòng)世界走向和平。” 龔克表示。