近日，教育部基础教育教学指导委员会正式发布《中小学生成式人工智慧使用指南(2025年版)》(以下简称《使用指南》)。 《使用指南》提出，小学阶段禁止学生独自使用开放式内容产生功能，教师不得将生成式人工智慧作为替代教学主体。

在人工智慧应用越来越普及的当下，“禁止小学生独自使用开放式内容生成功能”，这一要求在互联网上引发热议。开放式内容产生功能的使用门槛早已降低，如今许多人都在使用相关功能来提升日常工作效率，不少学生也在学习中用它来答疑解惑。

只不过，目前开放式内容生成功能存在诸多问题待解。 《使用指南》的禁止性建议，不仅旨在防范学生因过度依赖生成式人工智慧而弱化独立思考能力，还有更深层的考量。 “禁止小学生独自使用”的表述，显示了《使用指南》的相关建议并非只是为了防止学生投机取巧完成作业。

值得关注的现像是，目前开放式内容产生功能尚不完善，最核心的问题在于，人工智慧所产生的内容并非完全精确。胡编乱造、断章取义乃至虚构新闻、杜撰文献和法律条文等情形的出现，使得人们透过人工智慧所获得的结果未必都是真实的。 “一本正经地胡说八道”，是许多人对当前开放式内容生成功能的观感和评价。面对人工智慧提供的五花八门的生成内容，一部分成年人尚可以透过社会经验或产业经验来判断其可靠性，但小学生群体显然不具备这样的能力。因此，教育部发布政策性指引文件，有其现实必要性。

开放式内容生成功能依托的是机器学习、深度学习等人工智慧演算法，对于资讯内容来者不拒，这让一部分使用者可以透过大量灌输无意义内容，训练人工智慧产生难以判断真假的讯息，并“污染”其他使用者的正常使用结果。譬如，一些社会机构开始盯上人工智慧生成工具，生成假文章上传到多个网路平台，实现流量变现，以此进行牟利。 2024年，江西南昌警方查处的一起利用人工智慧技术批量造谣案件，某MCN机构(网路资讯内容多通路分发服务机构)最高峰时单日能产生4000至7000篇虚假文章，并透过800多个自媒体帐号分发。上述情形所制造的大量资讯垃圾，不仅中小学生难以辨别，许多成年人同样招架不住，一定程度上造成了网路内容更加鱼龙混杂。尽管“AI污染”是人工智慧发展初期所必须经历的问题，但这也提醒我们，在人工智慧适用人群足够广泛的当下，保护好认知能力较弱的小学生尤其必要。

长远看，《使用指南》的发布也对开放式生成内容产业提出了更高要求。 《互联网资讯服务深度合成管理规定》要求，智能对话、智能写作等模拟自然人进行文本的生成或者编辑服务，可能导致公众混淆或者误认的，应当在生成或者编辑的信息内容的合理位置、区域进行显著标识，向公众提示深度合成情况。如何让生成式人工智慧更具资讯辨识能力，如何让开放式内容生成功能尽快走出“AI污染”发展阶段，需要包括研发主体、使用主体在内的全社会一同共同努力解决。