一只虾，长着两个头。这不是基因突变，而是《南海海洋生物科普丛书》第13册“斑节对虾”的封面与内页插图。这套丛书，2026年还入选了全国优秀科普图书作品。它的序言里写得明明白白：“本套丛书里绝大多数图片由AI绘图工具生成。”10月27日，出版社回应称，正在通知全网下架并召回涉事图书，读者可以申请退货。

应该说，下架召回的态度是负责的。但问题是：一只“一眼假”的双头虾，是怎么穿过编辑、校对、外审等一道道关卡印在封面上，还一路评上了“优秀科普图书”的？这个传播错误知识的责任，AI能承担和负责吗？

“双头虾”问题并不是孤例，它只是近两年AI翻车清单上的一个新样本。今年10月纸质书《终焉路独行》正文里，赫然横插一句“需要我再微调部分语句，让整体文风更贴合悬疑灵异的氛围吗？”的提示词。出版社回应回收后全部销毁，重新修订。更早些的1月，一本传授摄影技巧的《人像摄影口袋书》出现人像模特六根手指的现象。

如果把时间刻度拉到去年，2025年5月，美国《芝加哥太阳报》随报夹送的夏季特刊《The Heat Index》（《热度指数》）里有一份“2025年夏季阅读书单”，其中10本根本不存在——作者名字是真的，书名和简介全由AI编造。2025年8月，良品铺子的电商广告把花生画成了挂在树枝上的果实。

在国内，AI幻觉已经侵入了最不该出现的地方。2026年7月，湖北宜昌审理一起“以非药品冒充药品”案，当庭核查发现代理律师提交的案例材料多数是AI生成。上海市第二中级人民法院民事审判庭收到的一份上诉状里，援引了所谓《关于审理社会保险纠纷案件适用法律若干问题的解释（二）》，经核查这个解释纯属AI编造。

从科普封面到广告海报，从报纸书单到法庭文书——这说明，AI已经深度渗透到了很多行业。既然如此，AI编造的问题就是一个不可忽视的严肃问题。

从法律角度看，首先要厘清的，是“标识”与“免责”的关系。2025年9月1日，《人工智能生成合成内容标识办法》正式施行，要求AI生成的内容必须明确标识。平心而论，《南海海洋生物科普丛书》在序言里注明“绝大多数图片由AI绘图工具生成”，在目前已曝光的图书事件里已属难得——《终焉路独行》和《人像摄影口袋书》连这一句提示都没有。

但明确标识只是知情权问题，“审核不严”是质量责任问题。“明确标识”并不等于“免责”。AI不是法律主体，它只是工具，承担责任的人只能是工具使用者。这就好比广告欺骗和误导了消费者，一句“广告是AI生成的”，当然不能免责。根据《中华人民共和国广告法》第四条，广告主应当对广告内容的真实性负责。

当然，《人工智能生成合成内容标识办法》主要规制网络信息，纸质书无法植入数字水印，只能靠显性标识。网信办在答记者问时也说明，新闻出版等特定活动“对内容标识另有规定的，从其规定”。但这个“另有规定”至今依然不明：标在哪里、字多大、AI参与程度如何量化、出错后如何追责，大多还停留在倡导层面。

尽管如此，在AI生成内容日益普遍的今天，人类知识的护城河还得守护住。2026年8月发布的《出版业人工智能应用指南》明确，AI素材必须先审后用、人工核验，内容科学性的最终责任由人承担。

AI可以当“生成者”，但“承担责任者”必须是人。一份AI生成的诊断报告，哪怕准确率再高，也得有主治医生签字、用职业声誉背书，信任链条才建得起来。

回到那只双头虾，它出现在给孩子们看的科普书里。孩子没有能力分辨“这是AI的失误”，他们只会记住“斑节对虾有两个头”。你可以召回书籍，却召不回孩子脑袋里已经长成的那个错误印象。

说到底，AI是好用的工具，但使用工具的人必须带着敬畏。AI能生成图像，却生成不了对科学的敬畏；能生成流畅的文字，却生成不了承担文字责任的肩膀。它不会因为给出了错误答案而歉疚，也不会因为自己的判断引发后果而被追责——一个不能承担责任的知识生产者，其知识不可能被信任，在社会意义上也不能被称为知识。

这就是人最该守住的东西：知识和理性。换句话说，在知识生产、出版和传播的各个环节，人类都不应该把思考、研究、验证、审核的责任交给AI。