人工智能(AI)正以指數(shù)級速度重塑技術(shù)范式、產(chǎn)業(yè)格局與人類生活方式。當(dāng)未來AI走向千行百業(yè)、千家萬戶，如何兼顧發(fā)展與安全，實(shí)現(xiàn)技術(shù)可信、可持續(xù)？2025中關(guān)村論壇年會期間，中外嘉賓聚焦AI，探討其場景化應(yīng)用與普惠化路徑。

隨著科技進(jìn)步和產(chǎn)業(yè)變革的加速演進(jìn)，推動AI發(fā)展已成為全球趨勢。世界知識產(chǎn)權(quán)組織總干事鄧鴻森表示，當(dāng)前，以AI、量子計(jì)算等為代表的數(shù)字技術(shù)專利申請量約占全球總數(shù)的1/3。在生成式AI領(lǐng)域，2017年以來的專利申請量增長超800%，中國、美國、韓國走在前沿。

今年以來，伴隨DeepSeek等大模型的爆發(fā)應(yīng)用，中國多地正積極發(fā)力AI產(chǎn)業(yè)。“AI是未來產(chǎn)業(yè)重要賽道之一，通過大模型突破為代表的技術(shù)創(chuàng)新，推動新質(zhì)生產(chǎn)力的提升。”中國電子信息產(chǎn)業(yè)發(fā)展研究院未來產(chǎn)業(yè)研究中心所長蒲松濤提到，當(dāng)前，北京、上海等地持續(xù)支持大模型前沿研究及應(yīng)用發(fā)展，推出更多具有示范性和代表性的應(yīng)用場景。

隨著AI大模型領(lǐng)域的飛速發(fā)展，通用能力不斷提升，各行業(yè)細(xì)分領(lǐng)域的大模型和垂直大模型如雨后春筍般涌現(xiàn)。本屆中關(guān)村論壇年會上，包括“AI+工業(yè)制造”“AI+生活服務(wù)”“AI+醫(yī)藥健康”等9個應(yīng)用場景在內(nèi)的北京人工智能創(chuàng)新應(yīng)用成果正式發(fā)布，系統(tǒng)展示AI賦能材料、醫(yī)藥等領(lǐng)域的前沿創(chuàng)新成果。

西門子中央研究院研發(fā)部總裁諾伯特·高斯(Norbert Gaus)表示，西門子正利用AI技術(shù)解決工業(yè)領(lǐng)域的多項(xiàng)挑戰(zhàn)，通過發(fā)揮機(jī)器人與AI深度融合等技術(shù)優(yōu)勢，不僅顯著提升傳統(tǒng)制造業(yè)的創(chuàng)新力與小批量制造的響應(yīng)速度，更通過加速產(chǎn)品從研發(fā)到市場的全過程，帶來更多創(chuàng)新產(chǎn)品。

隨著AI技術(shù)的進(jìn)一步成熟、普及，其在加速賦能的同時，潛在的安全風(fēng)險(xiǎn)也在不斷增加。“在應(yīng)用層面，大模型面臨信任壁壘等問題。”北京北方算力智聯(lián)科技有限責(zé)任公司研究院院長劉秦豫說，隨著AI規(guī)模擴(kuò)大，其決策過程不透明、決策邏輯可解釋性差，可能在高風(fēng)險(xiǎn)領(lǐng)域造成嚴(yán)重后果，限制了社會層面對其的信任，也難以滿足業(yè)務(wù)和監(jiān)管的需求，需要建立可解釋、符合道德規(guī)范的大模型，從而更安全、透明地服務(wù)千行百業(yè)。

面對機(jī)遇與挑戰(zhàn)并存的技術(shù)“雙刃劍”，人類已出招積極應(yīng)對。歐盟《人工智能法案》已于2024年8月1日生效，通過法律手段規(guī)范AI技術(shù)的應(yīng)用。在中國，涉網(wǎng)絡(luò)安全、數(shù)據(jù)安全等的法規(guī)陸續(xù)頒布執(zhí)行，《人工智能生成合成內(nèi)容標(biāo)識辦法》也將于今年9月1日起施行，標(biāo)志著中國在生成式AI領(lǐng)域邁出構(gòu)建安全可信生態(tài)的關(guān)鍵一步。

韓國生成式人工智能研究院院長盧圭成表示，從世界范圍來看，中國、美國、歐盟等均聚焦AI技術(shù)研發(fā)與產(chǎn)業(yè)應(yīng)用，但其背后的數(shù)據(jù)安全性、算法偏見與歧視等問題值得重視。一旦AI深度偽造與欺詐等問題被惡性利用，將為各行業(yè)帶來巨大風(fēng)險(xiǎn)，增加社會治理成本。因此，世界各國應(yīng)加強(qiáng)國際合作，制定并完善AI安全監(jiān)管制度，從而更好地引領(lǐng)產(chǎn)業(yè)創(chuàng)新，讓AI真正成為推動人類社會進(jìn)步和創(chuàng)新的強(qiáng)大動力。

關(guān)鍵詞：