资讯
近日消息，腾讯正式推出了一款专门用于鉴别 AI 生成图片的工具。这款工具的诞生，犹如一道强光，照亮了人们在辨别图片真伪之路上的前行方向，为应对日益泛滥的 AI 生成图片问题提供了有力的解决方案。
腾讯混元安全团队的朱雀实验室研发的AI生成图片检测系统，通过上传图片、等待验证，几秒钟就能判断图片是否由AI生成。该系统主要通过捕捉真实图片与AI生图之间的差异来区分，如AI生图有时不符合常识逻辑，会出现带着翅膀飞的小狗、叼着雪茄的猫咪等不符合现实的内容；AI生成图片需要“加水印”，即添加显式或隐式标识，这些标识可能肉眼可见，也可能不明显，需用检测工具读取；AI生成图片还包含一些肉眼不可见的隐层特征，如调整HSV色彩空间后，AI生成的图片会出现局部纹理密集分布的亮点等。
鉴别AI生成图片不能仅依靠单一依据，检测系统需利用AI模型捕捉各类特征差异，包括图片的纹理、语义及隐形特征。朱雀实验室使用了140万份正负样本进行模型训练，涵盖多种生成内容场景，最终测试检出率达95%以上，且还在持续优化提升中。
朱雀实验室还开发了文本检测系统，通过对海量数据学习实现文本检测，背后也搜集了大量正负样本进行训练，并运用对比方式推断文章的AI生成概率，以增强对未见过数据的检测能力。目前，该系统涵盖了新闻通讯、公文、小说、散文等多样化文体，后续还将对诗歌等体裁进行补强。
朱雀实验室开发AI检测工具的初衷是优化混元大模型的训练语料，但随着AI的爆发式增长，学界和业界对“用AI检测AI生成”的需求增多，实验室便开发了AI生成图片检测、AI生成文本检测两款工具，并提供体验服务。
未来，还将推出AI生成视频的检测工具，进一步完善检测能力。
文明上网，理性发言，共同做网络文明传播者