□陳城
近日，教育部基礎教育教學指導委員會正式發布《中小學生成式人工智能使用指南（2025年版）》（以下簡稱《使用指南》）。《使用指南》提出，小學階段禁止學生獨自使用開放式內容生成功能，教師不得將生成式人工智能作為替代性教學主體。
在人工智能應用越來越普及的當下，“禁止小學生獨自使用開放式內容生成功能”，這一要求在互聯網上引發熱議。開放式內容生成功能的使用門檻早已降低，如今許多人都在使用相關功能來提升日常工作效率，不少學生也在學習中用它來答疑解惑。
只不過，當前開放式內容生成功能存在諸多問題待解。《使用指南》的禁止性建議，不僅旨在防范學生因過度依賴生成式人工智能而弱化獨立思考能力，還有更深層的考量。“禁止小學生獨自使用”的表述，表明了《使用指南》的相關建議并非只是為了防止學生投機取巧完成作業。
值得關注的現象是，當前開放式內容生成功能尚不完善，最核心的問題在于，人工智能所生成的內容并非完全準確。胡編亂造、斷章取義乃至虛構新聞、杜撰文獻和法律條文等情形的出現，使得人們通過人工智能獲取到的結果未必都是真實的。“一本正經地胡說八道”，是許多人對當前開放式內容生成功能的觀感和評價。面對人工智能提供的五花八門的生成內容，一部分成年人尚可以通過社會經驗或行業經歷來判斷其可靠性，但小學生群體顯然不具備這樣的能力。因此，教育部發布政策性指南文件，有其現實必要性。
開放式內容生成功能依托的是機器學習、深度學習等人工智能算法，對于信息內容來者不拒，這讓一部分使用者可以通過大量灌輸無意義內容，訓練人工智能生成難以判斷真假的信息，并“污染”其他用戶的正常使用結果。譬如，一些社會機構開始盯上人工智能生成工具，生成虛假文章上傳到多個網絡平臺，實現流量變現，以此進行牟利。2024年，江西南昌警方查處的一起利用人工智能技術批量造謠案件，某MCN機構（網絡信息內容多渠道分發服務機構）最高峰時單日能生成4000至7000篇虛假文章，并通過800多個自媒體賬號分發。上述情形所制造的大量信息垃圾，不僅中小學生難以辨別，許多成年人同樣招架不住，一定程度上造成了互聯網內容更加魚龍混雜。盡管“AI污染”是人工智能發展初期所必須經歷的問題，但這也提醒我們，在人工智能適用人群足夠廣泛的當下，保護好認知能力較弱的小學生尤為必要。
長遠看，《使用指南》的發布也對開放式生成內容行業提出了更高要求。《互聯網信息服務深度合成管理規定》要求，智能對話、智能寫作等模擬自然人進行文本的生成或者編輯服務，可能導致公眾混淆或者誤認的，應當在生成或者編輯的信息內容的合理位置、區域進行顯著標識，向公眾提示深度合成情況。如何讓生成式人工智能更具信息辨識能力，如何讓開放式內容生成功能盡快走出“AI污染”發展階段，需要包括研發主體、使用主體在內的全社會一道共同努力解決。
（原載2025年5月15日《光明日報》）
