AI詐騙頻發(fā)，名人屢被“冒充”，青少年與AI對話后自殺……AI技術(shù)發(fā)展過程中，安全挑戰(zhàn)一直如影隨形。如何確保“AI向善”，發(fā)展負責任的人工智能？11月21日，2024世界互聯(lián)網(wǎng)大會烏鎮(zhèn)峰會人工智能負責任開發(fā)與應用論壇在浙江烏鎮(zhèn)舉行，來自政、產(chǎn)、學、媒的多位與會嘉賓對此作了深度討論。

中國國家互聯(lián)網(wǎng)信息辦公室總工程師孫蔚敏、浙江省人民政府副省長張雁云出席論壇并致辭。人民網(wǎng)董事長、傳播內(nèi)容認知全國重點實驗室主任葉蓁蓁出席論壇并發(fā)言。

世界知識產(chǎn)權(quán)組織駐華代表劉華在致辭中指出，人工智能的發(fā)展正在對知識產(chǎn)權(quán)工作產(chǎn)生前所未有的影響，人工智能參與下的知識產(chǎn)權(quán)保護問題成為全球關(guān)注的焦點。各國在司法判例和實踐中對人工智能對知識產(chǎn)權(quán)的影響有不同的處理方式，這進一步凸顯了人工智能技術(shù)給知識產(chǎn)權(quán)帶來的挑戰(zhàn)。因此，需要進一步加強人工智能領(lǐng)域的國際協(xié)調(diào)與合作，以應對這些挑戰(zhàn)。

全國政協(xié)委員、中國網(wǎng)絡(luò)空間安全協(xié)會理事長趙澤良發(fā)言。主辦方供圖

第十四屆全國政協(xié)委員、中國網(wǎng)絡(luò)空間安全協(xié)會理事長趙澤良在發(fā)言中指出，人工智能的安全治理要把握好三個方面，一是要高度關(guān)注和注意解決人工智能本身和人工智能在使用過程中可能產(chǎn)生的安全問題；二是要善于、注重用人工智能，包括用大模型來解決其他類型的網(wǎng)絡(luò)安全問題；三是人工智能安全治理，要以保障和促進人工智能的發(fā)展應用為出發(fā)點。這三點哪一點都離不開創(chuàng)新，創(chuàng)新是核心，創(chuàng)新是靈魂。

中國工程院院士、同濟大學校長鄭慶華發(fā)言。主辦方供圖

“AI向善”首先意味著要以人為本。中國工程院院士、同濟大學校長鄭慶華表示，讓科技與人類價值對齊，是引導人工智能科技向善、以人為本的重要基礎(chǔ)。鄭慶華強調(diào)，作為教育工作者，既要發(fā)揮人工智能的賦能作用，又要防止技術(shù)凌駕于人之上，在人才培養(yǎng)領(lǐng)域堅持德智體美勞全面發(fā)展，避免技術(shù)“物化”和“異化”。

香港理工大學視覺計算講座教授、歐洲人文和自然科學院外籍院士陳長汶發(fā)言。主辦方供圖

“AI向善”也意味著要可持續(xù)發(fā)展。香港理工大學視覺計算講座教授、歐洲人文和自然科學院外籍院士陳長汶坦言，從實踐看，人工智能在多方面與可持續(xù)發(fā)展存在著爭奪寶貴資源的博弈。目前的大模型仍依賴于超大規(guī)模的算力和能源資源的供給。跟人腦的低功耗相比，差別巨大。需要我們對下一代人工智能訓練、推理設(shè)計提出新的架構(gòu)要求。

螞蟻集團副總裁李俊奎發(fā)言。主辦方供圖

“AI向善”要具體問題具體分析。在螞蟻集團副總裁李俊奎看來，AI如同高速行駛的汽車，需要道路和信號的引導。他提出“紅燈停、黃燈等、綠燈行”的理念，即對違反人類價值觀的AI應用進行防御和抵制，對潛在風險的AI應用進行慎重對待，對有益于人類的AI應用予以鼓勵和支持。

深圳理工大學計算機科學與控制工程學院院長、講席教授，美國醫(yī)學與生物工程院院士潘毅發(fā)言。主辦方供圖

“AI向善”依托于技術(shù)的發(fā)展。深圳理工大學計算機科學與控制工程學院院長、美國醫(yī)學與生物工程院院士潘毅說，從應用看，人工智能正經(jīng)歷普通模型、行業(yè)模型、場景模型和問題模型四個發(fā)展階段，每個階段的發(fā)展，都依賴于更多的知識和參數(shù)微調(diào)。目前人工智能更多是基于參數(shù)的預測推理，后續(xù)還需不斷攻克算力限制、AI幻覺、風險識別等問題，最終在各領(lǐng)域?qū)崿F(xiàn)高價值賦能。

安恒信息董事長范淵發(fā)言。主辦方供圖

“我們應該以工具視之，以工具用之，以工具治理之。”安恒信息董事長范淵提出，新一代人工智能技術(shù)，不僅僅是人機交互體驗、協(xié)作的革命，更是專家經(jīng)驗傳承的一次變革。在網(wǎng)絡(luò)安全、數(shù)據(jù)安全領(lǐng)域，AI正在重構(gòu)安全工作協(xié)同關(guān)系，助力安全產(chǎn)業(yè)發(fā)展和行業(yè)應用價值化呈現(xiàn)，為行業(yè)應用帶來質(zhì)的變化。

宜人智科董事會主席、首席執(zhí)行官唐寧發(fā)言。主辦方供圖

通過積極的治理和技術(shù)創(chuàng)新，AI可以成為推動社會進步和提升生活質(zhì)量的有力工具。宜人智科董事會主席、首席執(zhí)行官唐寧談到，從理論研究到商業(yè)運用，人工智能通過技術(shù)創(chuàng)新與應用創(chuàng)新發(fā)揮了眾多積極作用。將人工智能技術(shù)轉(zhuǎn)化為具體且可行的解決方案與產(chǎn)品，對推動人工智能行業(yè)的發(fā)展以及實現(xiàn)商業(yè)價值，有著至關(guān)重要的意義。

圓桌對話“洞見與人工智能共存的未來”。主辦方供圖

圓桌對話“構(gòu)建可互操作的人工智能治理框架”。主辦方供圖

在圓桌討論環(huán)節(jié)中，嘉賓一致認為：全球協(xié)作是AI治理的關(guān)鍵，需要各方共同努力，形成系統(tǒng)性共識，推動AI治理的有效實施。隨后，圍繞AI治理的具體路徑，中國科學院自動化研究所人工智能倫理與治理中心主任曾毅、中國電信研究院副院長李安民、浙江大學傳媒與國際文化學院常務副院長方興東、浙江大學濱江研究院數(shù)智融合研究中心主任韓蒙、劍橋大學智能未來研究中心項目主任肖恩·歐·海格緹、美國奧爾布賴特石橋集團合伙人及副總裁保羅·特里奧洛、香港醫(yī)院管理局資訊科技及醫(yī)療信息部總經(jīng)理余法昌、鈦媒體聯(lián)合創(chuàng)始人劉湘明、印象筆記董事長兼首席執(zhí)行官唐毅等多位專家進行了深入探討。

本次論壇由世界知識產(chǎn)權(quán)組織、人民網(wǎng)、中國網(wǎng)絡(luò)空間安全協(xié)會、安恒信息主辦，英國標準協(xié)會、印象筆記、鈦媒體協(xié)辦，旨在促進建設(shè)多主體參與、多層面治理的人工智能科研、轉(zhuǎn)化與發(fā)展機制，推動構(gòu)建人工智能技術(shù)和產(chǎn)業(yè)發(fā)展的良好生態(tài)。