中新社北京3月4日電 題：AI“李鬼”迭出，代表委員建言人工智能治理
中新社記者 常濤
在履職過程中，全國人大代表、美的集團(tuán)副總裁兼首席財務(wù)官鐘錚注意到一種現(xiàn)象：網(wǎng)絡(luò)上有大量AI(人工智能)生成的視頻內(nèi)容，有的模仿明星或?qū)＜业男蜗蠛吐曇簦械奶摌?gòu)人設(shè)、推銷產(chǎn)品，誤導(dǎo)消費(fèi)者購買不必要的商品，造成財產(chǎn)損失，甚至產(chǎn)生信任危機(jī)。
不光是視頻，伴隨人工智能技術(shù)快速進(jìn)步，文、視、圖、聲等的合成和制作門檻大幅降低，一些人工智能生成的內(nèi)容“李逵”“李鬼”難辨，給用戶帶來困擾。2025年全國兩會期間，多位代表委員對此現(xiàn)象予以關(guān)注，并提出建議。
鐘錚認(rèn)為，現(xiàn)在生成式人工智能在法律法規(guī)體系上仍不完善，特別是在界定AI生成內(nèi)容的版權(quán)歸屬，以及侵權(quán)責(zé)任認(rèn)定、隱私保護(hù)標(biāo)準(zhǔn)方面存在空白。此外，目前對于生成式人工智能視頻的審核，技術(shù)條件有限，還需要繼續(xù)完善技術(shù)手段。
全國人大代表，TCL創(chuàng)始人、董事長李東生也關(guān)注到了“AI深度偽造欺詐治理”的話題，“生成式人工智能技術(shù)迅速發(fā)展，這個問題的‘B面’——深度偽造技術(shù)也在快速發(fā)展，并可能帶來新的社會問題。”
李東生表示，近年來，中國相關(guān)立法雖關(guān)注“AI深度偽造欺詐”這一議題，但已出臺的規(guī)章制度尚不成體系，還不具備可操作的細(xì)則和明確的處罰標(biāo)準(zhǔn)。
全國人大代表、小米集團(tuán)創(chuàng)始人雷軍也注意到了“AI換臉擬聲”帶來的問題。他表示，不當(dāng)使用、濫用易引發(fā)侵犯肖像權(quán)、侵犯公民個人信息以及詐騙等犯罪行為。
全國政協(xié)委員、安徽省律師協(xié)會監(jiān)事長周世虹在接受中新社記者采訪時介紹，中國于2023年8月起施行《生成式人工智能服務(wù)管理暫行辦法》(以下簡稱《暫行辦法》)，從而形成以《暫行辦法》為核心，輔以數(shù)據(jù)安全法、個人信息保護(hù)法等單行法的人工智能規(guī)范，但缺乏高位階的專門立法，覆蓋范圍有限，難以應(yīng)對技術(shù)發(fā)展可能引發(fā)的各種社會問題。
周世虹建議將生成式人工智能納入專項(xiàng)立法，明確開發(fā)者、運(yùn)營者、用戶三方責(zé)任；完善監(jiān)管協(xié)同機(jī)制，建立網(wǎng)信、工信、公安等多部門聯(lián)動的動態(tài)監(jiān)管體系；設(shè)立AI生成內(nèi)容標(biāo)識制度，強(qiáng)制標(biāo)識AI生成內(nèi)容，防范虛假信息傳播。
關(guān)于生成式人工智能視頻傳播管理機(jī)制，鐘錚建議，修訂著作權(quán)法等相關(guān)法律法規(guī)，加強(qiáng)原創(chuàng)版權(quán)和隱私保護(hù)；利用AI技術(shù)審核AI合成的視頻內(nèi)容，同時投入更多資源開發(fā)高效的AI審核工具，并結(jié)合人工審核，通過雙重校驗(yàn)提高識別準(zhǔn)確率等。
全國人大代表、科大訊飛董事長劉慶峰表示，生成式人工智能存在幻覺，特別是深度推理模型的邏輯自洽性提升，使得AI生成內(nèi)容真假難辨。他建議，研究幻覺自動分析的技術(shù)和軟件平臺，開展幻覺自動分析、AIGC(生成式人工智能)深度鑒偽、有害內(nèi)容識別以及互聯(lián)網(wǎng)傳播溯源，由相關(guān)部門定期清理幻覺數(shù)據(jù)，為公眾提供AIGC幻覺信息檢測工具與服務(wù)。(完)