8 月 2 日起,在欧盟,一个 AI 跟你说话,它得先说"我是 AI"。这不是礼貌,是法律。
你刷到一个视频,看起来像某政要说了句离谱的话。以前你得自己琢磨真假。从 8 月 2 日开始,欧盟的规则变了:凡是 AI 生成的深度伪造内容,必须打上标识,还得附机器可读的标记,让平台和内容系统能自动识别。聊天机器人、AI 助手,必须在交互一开始告知用户"你正在和 AI 对话"。
这次扩大的到底是什么
欧盟委员会 7 月 31 日宣布,自 8 月 2 日起扩大《人工智能法》的适用范围。此前法规主要卡"高风险"场景(招聘、信贷、执法等),这次把通用 AI 的日常交互层也纳入了:
- 聊天机器人 / AI 助手:须在交互初始明确告知用户正在与 AI 互动。
- 深度伪造(deepfake)内容:须强制标识,并附机器可读标记,方便自动检测。
- 通用 AI 模型提供商:欧洲 AI 办公室(European AI Office)可对这些规则直接执行、问责。
翻译成人话:监管从"管用途"补到了"管身份"。不管你这 AI 用在哪,只要它开口说话或生成以假乱真的内容,就得亮明身份。这等于给所有面向欧盟用户的 AI 产品加了一道"强制自我介绍"的门槛。
对做 AI 产品的人意味着什么
如果你做面向欧盟市场的产品,三件事要补:
第一,对话入口加一行告知——"您正在与 AI 对话"。别藏进折叠条款,要交互一开始就可见。
第二,生成图像、音频、视频的管线,要嵌入可见水印 + 机器可读元数据(C2PA 这类标准正成为事实规范)。没标的内容,在欧盟可能被下架或罚。
第三,通用模型_if_你提供的是面向欧盟的通用 AI 服务,欧洲 AI 办公室有了直接执法抓手。合规不再是"写份白皮书",是会被追责的真实义务。
泼盆冷水:标识不是万能药
几个现实局限:
第一,机器可读标记能被故意剥离。水印和元数据可以后期抹掉,深度伪造的"暗网版"照样流通。法规管得住守规矩的平台,管不住故意绕开的黑产。
第二,"告知是 AI"降低不了所有风险。用户知道对面是 AI,不代表不会被 AI 生成的虚假论证带偏——标识解决的是"知情权",不是"辨别力"。
第三,合规成本会转嫁。中小团队要接 C2PA、改交互流、做审计,又是一笔开发和法务开支。大厂有合规团队扛,小团队可能被门槛劝退欧盟市场。
第四,跨境摩擦难免。一套欧盟标准、一套其他地区标准,做全球产品的团队要维护多套标识逻辑,复杂度上升。
跟你有啥关系
如果你做 AI 产品(尤其面向海外):欧盟这波是合规风向标。即便你主市场不在欧洲,C2PA 水印、AI 身份告知正在变成"国际默认配置"——现在顺手把标识逻辑做进架构,比以后被各个市场追着补省事。
如果你做内容 / 自媒体:以后看到带"AI 生成"标识的内容会越来越多,这是好事——至少知情权回来了。但别因为"它标了 AI"就放松警惕,标识只代表来源,不代表内容对。
如果你只是普通用户:8 月 2 日之后,欧盟区的 AI 聊天会更"诚实"地亮身份,深度伪造视频也更可能被标出来。你多了一层保护,但最终按不按暂停键,还是你自己的手。
欧盟这套打法,本质是用"强制透明"替代"事前审查"——不拦你做什么,但要求你让人看清楚是什么。方向有争议,但至少把"AI 该不该自报家门"这件事,从行业自律变成了法律底线。
