据Ars Technica 10月6日报道,OpenAI宣布将开始为欧盟地区ChatGPT生成的文本自动添加水印。其他地区也将提供这项功能,但默认关闭。这是一项即将实施的安排,报道并未将其描述为已经全面启用。

报道指出,欧盟地区的默认开启安排是为遵守《欧盟人工智能法案》。该法案于8月生效,要求对AI模型生成的内容作出能够被另一种工具检测到的标记。此次OpenAI公布的方案针对ChatGPT生成的文本。

OpenAI把这项专有水印方法称为textGrain,并已发表技术论文解释其工作方式。它通过在用词选择中嵌入模式留下标记:这些模式对人类读者并不明显,也不会实质改变输出的整体质量,但持有密钥的人可以使用专门的检测器识别。

检测器的开放范围与水印功能本身不同。OpenAI表示,将向有限数量的研究人员和组织提供检测器访问权限,并设置申请审批流程,逐步纳入其他申请者。Ars Technica同时提醒,目前仍没有完全有效且可靠的AI内容标记方法,并判断OpenAI的水印也可能被绕过;这是报道的判断,而不是对textGrain实测效果的确认。

原始来源:OpenAI will watermark ChatGPT outputs by default—but only in the EU