歐洲在人工智能技術(shù)應(yīng)用監(jiān)管領(lǐng)域邁出了標(biāo)志性一步。據(jù)央視新聞報道，歐洲議會與歐盟成員國于近日達成協(xié)議，計劃通過修訂《人工智能法案》的條款，明確禁止利用人工智能技術(shù)生成“深度偽造”(Deepfake)形式的色情內(nèi)容，為相關(guān)領(lǐng)域劃定了法律紅線。

　　提出此項提案的歐洲議會議員邁克爾·麥克納馬拉對外闡述了此舉的核心目的。他強調(diào)，這一立法行動的核心在于為人工智能的應(yīng)用設(shè)定明確的“邊界”與禁令，旨在從根本上禁止任何利用AI技術(shù)進行羞辱、剝削或危害他人的行為。這是歐盟首次以立法形式，對“AI脫衣換臉”等具體濫用行為進行明確禁止，標(biāo)志著對AI風(fēng)險的認(rèn)識與規(guī)制正在迅速深化。

　　近年來，生成式AI濫用問題已成為全球關(guān)注熱點。特別是今年以來，以馬斯克旗下社交平臺X中的AI聊天機器人“Grok”事件為例，凸顯了問題的嚴(yán)峻性。人工智能取證組織的監(jiān)測數(shù)據(jù)顯示，僅2025年12月下旬至今年1月初的數(shù)天時間內(nèi)，通過Grok生成的深度偽造圖像中，涉及人物暴露著裝或直接生成裸體的內(nèi)容占比竟超過一半。其中，約八成受害者是女性，更有近2%的內(nèi)容涉嫌瞄準(zhǔn)未成年群體。

　　此次法律危機的持續(xù)發(fā)酵，直接推動了服務(wù)提供商的整改行動。在輿論壓力下，X平臺安全團隊已于今年1月宣布對Grok功能實施了多項技術(shù)限制，禁止其生成真人裸露圖像和允許用戶編輯他人穿著暴露服飾的圖片。此項限制對所有用戶均生效，付費訂閱用戶也無法例外。

　　此外，X平臺安全團隊還表示，他們將持續(xù)進行全天候工作，通過增設(shè)更多技術(shù)防護層、主動移除違規(guī)或非法內(nèi)容，以及在必要時與執(zhí)法部門展開合作等方式，進一步加強對該濫用行為的管控。歐盟此番立法行動與相關(guān)科技公司的主動糾偏措施同步進行，意味著對AI生成有害內(nèi)容的社會與法律治理正進入多管齊下的新階段。