AI生成内容迎来“身份证”

WPS产品体验官
💡 | 9月1日起,我国正式实施《人工智能生成合成内容标识办法》,要求所有AI生成的文本、图像、音视频等内容必须添加显著标识,以规范内容生成、传播的管理。根据新规,所有AI生成的内容都必须拥有“明暗”双重标记,这标志着行业进入了一个全新的强监管时代。根据《标识办法》,在中国境内由AI生成的所有内容,包括文本、图片及视频,都必须附带用户可以明确感知的显式标识,以及采取技术措施在生成合成内容文件数据中添加的隐式标识。此举旨在提升信息透明度、确保内容可追溯,对国内所有AI服务提供商提出了前所未有的合规要求。 |
核心监管框架:“显隐双标识”成硬性指标
据法规文件显示,此次监管的核心是“显隐双标识”机制。
“显式标识”规定,服务提供商需在AI生成内容或其交互界面的显眼位置,添加易于识别的标签,明确告知用户该内容源自人工智能。
“隐式标识”更为精妙,它仿佛为内容植入了不可磨灭的“数字指纹”,即利用数字水印等技术手段添加不可见的标记,以构建一条明确的“监管轨迹”。该标识旨在确保当AI内容被用于不当行为或传播有害信息时,监管机构能够有效追溯其生成服务源头及传播路径。
分析人士指出,该双重机制全面覆盖了AI内容的生成与传播链条,彰显了中国在AI治理上由被动审核向主动追溯的战略转型。
技术挑战:文本水印的“攻防战”仍在继续
与图片、视频相比,为纯文本内容添加隐式水印在技术上更具挑战。目前,业界主流方案是基于统计概率的嵌入方法,即在文本生成时对词元选择进行微调,植入统计学上的异常特征作为“水印”。
然而,该技术并非万无一失。OpenAI的担忧表明,尽管文本水印技术在检测AI生成文本方面有效性高达99.9%,但其可能被用户识别的风险以及通过转述、跨语言翻译等手段规避的可能性,使得这场围绕水印鲁棒性(抗篡改性)的技术“军备竞赛”预计将长期持续。
国内市场反应:百度、阿里依法合规,WPS另辟蹊径
面对严格的监管指令,国内主要AI服务提供商已迅速采取行动。
百度与阿里巴巴:作为“文心一言”和“通义千问”等大型语言模型的运营方,这两家科技巨头被法律规定必须严格遵守《标识办法》。尽管其未公开具体技术细节,但其在中国境内提供的所有AI生成服务,都必须依法集成显式与隐式两种标识机制,这是其在国内市场运营的法律先- 决条件。
WPS的“巧解”:将责任与用户共担:金山办公旗下的WPS AI,则为其国内市场制定了一套独特的合规策略。其核心策略并非单纯依赖技术嵌入,而是结合了法律框架与用户责任机制来共同实现。根据其国内版服务协议,WPS要求用户必须进行实名注册,并承诺遵守严格的内容行为规范。尤为重要的是,协议规定用户需承担添加“显式标识”的责任,即在公开发布WPS AI生成内容时,用户必须自行标注。
这一举措被视为务实有效的合规策略,通过“实名制+用户协议+内容审核”的综合手段,WPS在满足监管要求、确保内容安全与可追溯性的同时,也清晰界定了平台与用户间的责任边界。
AI治理进入“强监管”时代
随着《标识办法》的实施,中国正式步入了AI治理的新阶段,这一制度的全面落地标志着全球AI治理正迎来一个重要的转折点。它不仅为在中国运营的科技公司划定了清晰的法律红线,也为全球数字内容溯源体系的建设提供了一个由国家强力推动的实践范例。未来,内容的可追溯性与透明度,将成为所有AI服务商无法回避的核心议题。这意味着,从普通用户到内容创作者,未来每一次与AI的互动都将有章可循。一个更加透明但也更受约束的AI时代已经到来。