资讯
8月5日消息，OpenAI最近确认，他们确实在研发一种高精度识别ChatGPT生成文本的创新工具，该技术涉及文本水印，意在提升内容溯源与真实性验证的能力。
不过，OpenAI官方指出，该技术目前仍面临多重技术挑战，因此尚未公开发布。这反映了OpenAI在追求技术进步的同时，也兼顾着技术成熟度与实际应用的考量。
据了解，通过文本水印，OpenAI 将只专注于检测来自 ChatGPT 的文字，而不是来自其他公司模型的文字。其将通过对 ChatGPT 选择单词的方式进行微小的更改来实现这一点，本质上是在文字中创建一个不可见的水印，以后可以被一个单独的工具检测到。
OpenAI 称，文本水印是他们探索的多种解决方案之一，其他还包括分类器和元数据，旨在确定文本的来源。尽管在某些情况下，文本水印技术表现出色，但面对翻译、改写或插入特殊字符等篡改行为时效果会下降。此外，该技术可能对某些群体产生不成比例的影响，例如非英语母语人士。
OpenAI 表示，由于这些复杂因素及其对整个生态系统潜在的影响，OpenAI 表示将谨慎推进文本溯源技术的研究，并优先考虑视听内容的认证工具。
文明上网，理性发言，共同做网络文明传播者