从AI造谣案看技术监管与社会责任

福建宁德一名男子林某某为博流量涨粉，利用AI生成网文，谣传四川南充高坪区某中学食堂用淋巴肉做包子致87名学生中毒，警方迅速介入调查，最终该男子受到行政处罚，同时还探讨了AI内容监管等相关问题。

在如今这个网络流量至上的时代，竟有人为了博眼球、涨粉丝，不惜使用AI来编造谣言。近日，福建宁德就有这样一名男子，做出了令人不齿的行为。他利用AI生成网文，谣传四川南充高坪区某中学食堂用淋巴肉做包子，导致87名学生中毒。3月21日，警方正式公布了这起造谣案的详细侦办过程。

时间回溯到3月18日，高坪公安接到辖区某中学的报案。该校称，网上突然出现了一条“中学食堂用淋巴肉做包子，学生集体食物中毒”的谣言。此谣言迅速引起了学校和社会的关注。接到报警后，高坪公安高度重视，立即组织网安、龙门派出所等部门的警力迅速介入调查。民警们不辞辛劳，一路前往发帖人所在地——福建省宁德市展开深入调查。

经过民警们细致的调查核实，最终确定此信息为虚假信息。原来，为了吸引眼球、增加粉丝数量，35岁的男子林某某在3月17日动起了歪脑筋。他利用某AI软件，通过输入指令的方式来制作文案。他多次输入不同指令，最终合成了一条关于南充高坪区某中学食物中毒案的信息。这条信息中包含了淋巴肉做包子、87名学生中毒、家长怒撕检测报告等一系列博人眼球的情节。

警方进一步查实，发帖男子林某某从未到过南充，整篇贴文完全是AI在人工指令下自动生成的。然而，这条谣言在网上迅速流传开来，造成了不良的社会影响，给南充高坪区的这所中学带来了极大的困扰。

（图片为造谣男子受审，高坪警方供图）

目前，林某某已被警方依法进行行政处罚。据南充市公安局高坪区分局网安大队指导员寇德宝介绍，林某某是当地一家私人小额贷款公司的业务员，收入并不高。他一心想做自媒体，“养”个号来挣钱。当警察突然找上门时，林某某一脸不解，他还反问：“我按网上的教程，用AI写了一篇文章发布出来，这也违法了？”警察现场对他进行了普法和教育，这时林某某才意识到，自己短短三五分钟创作的网文，竟然给千里之外的南充某中学带来了巨大的麻烦。

那么，林某某为什么要虚构食堂用淋巴肉做包子、导致87名学生中毒这样的事件呢？林某某交代，这是网上的热点给他的“灵感”。他输入淋巴肉、食堂、学生中毒等关键词后，网络自动匹配了相应的图片和学校，一篇绘声绘色的网文就自动生成了。AI自动生成后，林某某根本就没仔细看具体内容，就立即在自己的社交账号上发布了。直到警方找上门来，他才如梦初醒，意识到自己已经触及了法律的红线。

为了提高自己账号文章的浏览量，林某某还经常蹭网络热点，要么断章取义，要么添油加醋，制造新的网络热点。

不过，这起AI造谣案背后还有一个人性化的执法故事。林某某的家庭状况让人感到唏嘘不已。他离婚后自己带着一个有点轻微脑瘫的5岁孩子，还有60多岁年迈的父母需要他供养。考虑到林某某的实际处境，警方对他的处罚由拘留改为罚款。但罚款需要交到南充当地指定的银行，林某某写出申请后，罚款由警方回到南充“代缴”。

记者手记

强制标识AI内容刻不容缓

AI是怎样收集网络信息并自动合成的呢？能否使用AI技术来监管AI的使用呢？这些问题都值得我们深入思考。

值得注意的是，《人工智能生成合成内容标识办法》将从今年9月1日起施行。届时，人工智能合成的内容将进行强制标识，这样可以方便大众识别并提高警惕性。这一举措有助于明确AI技术使用的法律边界，鼓励将AI技术用于合法、健康的领域，推动技术创新与社会责任的平衡。

福建宁德男子林某某为博流量用AI编造南充中学食物中毒谣言的事件，警方迅速侦破并对其进行行政处罚。同时也展现了执法的人性化，考虑到林某某家庭状况对处罚进行调整。此外，还引出了对AI内容监管的思考，强调了即将施行的AI内容强制标识办法的重要性，提醒人们在享受AI技术便利的同时要注重合法合规使用。