欧洲在人工智能技术应用监管领域迈出了标志性一步。据央视新闻报道，欧洲议会与欧盟成员国于近日达成协议，计划通过修订《人工智能法案》的条款，明确禁止利用人工智能技术生成“深度伪造”(Deepfake)形式的色情内容，为相关领域划定了法律红线。
提出此项提案的欧洲议会议员迈克尔·麦克纳马拉对外阐述了此举的核心目的。他强调，这一立法行动的核心在于为人工智能的应用设定明确的“边界”与禁令，旨在从根本上禁止任何利用AI技术进行羞辱、剥削或危害他人的行为。这是欧盟首次以立法形式，对“AI脱衣换脸”等具体滥用行为进行明确禁止，标志着对AI风险的认识与规制正在迅速深化。
近年来，生成式AI滥用问题已成为全球关注热点。特别是今年以来，以马斯克旗下社交平台X中的AI聊天机器人“Grok”事件为例，凸显了问题的严峻性。人工智能取证组织的监测数据显示，仅2025年12月下旬至今年1月初的数天时间内，通过Grok生成的深度伪造图像中，涉及人物暴露着装或直接生成裸体的内容占比竟超过一半。其中，约八成受害者是女性，更有近2%的内容涉嫌瞄准未成年群体。
此次法律危机的持续发酵，直接推动了服务提供商的整改行动。在舆论压力下，X平台安全团队已于今年1月宣布对Grok功能实施了多项技术限制，禁止其生成真人裸露图像和允许用户编辑他人穿着暴露服饰的图片。此项限制对所有用户均生效，付费订阅用户也无法例外。
此外，X平台安全团队还表示，他们将持续进行全天候工作，通过增设更多技术防护层、主动移除违规或非法内容，以及在必要时与执法部门展开合作等方式，进一步加强对该滥用行为的管控。欧盟此番立法行动与相关科技公司的主动纠偏措施同步进行，意味着对AI生成有害内容的社会与法律治理正进入多管齐下的新阶段。
