100 和 0。这是一位开发者用腾讯云 AI 识别能力做「AI 打假侦探」时,一次配置失误导致的结果:填对一个字段,AI 生成图识别准确率是 100 分;不填,全判「真实」。这个细节告诉我们:AI 检测工具的真正门槛,不在算法,而在那些文档没写清楚的配置。

这是什么

作者用腾讯云 AI Skills 矩阵里的四块能力——图片识别(ims.ImageModeration)、文本识别(tms.TextModeration)、视频识别(vm)和人脸换脸防护(faceid),搭了一个 Agent(能自主调用工具完成任务的 AI 助手):丢图、丢文、丢视频进去,自动判断「人做的」还是「AI 做的」。架构不复杂,Skill 负责感知,WorkBuddy(腾讯云的开发助手)负责编排。真正卡住他的,是创建一个叫 Biztype 的审核策略时,没填「场景」字段(新闻、小说、博客、商业文案等)。不填场景,系统就拿不到判断依据,干脆一刀切全判真实,整个检测能力形同虚设。

行业怎么看

支持者认为,AI 生成内容已经下沉到家庭群和朋友圈,平台强制打标、给普通人能用的鉴别工具是刚需;这位开发者的开源项目本身就是一次「工具下沉」的尝试,值得鼓励。

但我们也要看到三个风险。第一,检测永远落后于生成,今天能识别 SD/Midjourney,明天 Veo3 升级就可能失效。第二,误判会发生——作者自己也发现,同一段文字前后检测结果不一致,「AI 写的」标签可能被滥用,误伤真实内容。第三,「一个配置项」就能让整套能力归零,说明厂商对开发者的友好度仍有缺口,调用门槛远不止一行代码。

对普通人的影响

对企业 IT:内容审核、平台合规可以调用现成 API(应用程序接口),但要明白「接入」不等于「管用」,内部必须有懂行的同学盯配置和误判率。

对个人职场:自媒体、运营、内容审核岗要意识到,AI 检测本身也有假阴假阳;「AI 写的」这个标签不能成为扣帽子或甩锅的依据。

对消费市场:朋友圈、家庭群的「真假嗅觉」会越来越难保持,普通人能用的轻量鉴别工具会是一门生意。