随着AI技术的快速发展，虚假信息、网络谣言、大量同质化发文、低质AI生成内容等问题，不仅影响了用户体验和平台生态健康，也给互联网内容生态管理带来了挑战。

对此，今日头条是如何应对和处置的？2月24日，记者从今日头条平台治理开放日活动上获悉，2024年，平台全年累计拦截不实信息超500万条，拦截和处置涉嫌诈骗内容超200万条。其中，在涉AI方面，根据《2024今日头条治理年度报告》，2024年全年，平台共拦截低质AI内容超93万条，处罚同质化发文超781万篇。

“作为内容资讯平台，今日头条有责任、有义务让我们的用户看到真实、有用的信息”，今日头条内容策划负责人刘姗姗表示，“为此，我们一方面要消灭假的信息，另一方面更要主动传播真的信息，这也是我们团队最重要的工作之一。”

今日头条安全运营负责人闫梦茹介绍，平台在2024年的治理过程中建立了完善的治理机制，覆盖了从风险发现到识别再到处置的全流程。在风险发现环节，平台有专业的审核团队实时巡查站内的情况。其次，平台通过模型识别和人工评估相结合的方式对数据进行深度学习。对同质化内容进行二次判定和综合评估，以确保其准确性。风险识别能力方面，平台设有样本库，以便对新的风险和内容进行快速识别和处理。在风险处置环节中，平台采用模型与人工相结合的方式。机器模型负责识别准确，人工审核进行二次校准。同时保障安全以及审核体验。

“AI技术的广泛应用为内容创作带来了便利，但也催生了大量低质、虚假内容。”今日头条生态治理运营负责人韩雨桐表示，AI生成内容的低质化问题尤为突出。许多AI生成的内容缺乏信息增量，逻辑混乱，甚至存在抄袭和侵权现象。这不仅损害了用户体验，还挤压了优质原创作者的生存空间。

韩雨桐强调，AI技术的应用是一把“双刃剑”，平台在鼓励AI辅助创作的同时，必须严格管控低质内容的泛滥。未来，今日头条将继续优化AI识别模型，提升对低质内容的识别和处置能力，确保平台内容的多样性。

清华大学新闻与传播学院副教授陆洪磊指出，AI谣言具有自我学习和自我强化的特性，能够通过交叉共振和放大效应加剧谣言的传播效果。传统谣言依赖互信传播，而AI技术使得谣言的模糊性降低，变得越来越逼真，甚至接近真相。这使得即使是专业的媒体人也需要进行事实核查，才能判断信息的真实性。

陆洪磊指认为，今日头条建立的内容治理制度、内容审核、辟谣教育、内外联动治理方式，给AI谣言治理提供了一条具有可行性的发展之路。同时平台也需要多方力量联合：比如执法机构需要做好法治保障的护盘手，建立“技术取证-电子证据-司法鉴定”的全链条执法标准；每位用户也都应当成为理性的受者和传者，对可疑内容主动进行核实，共同应对AI谣言带来的挑战。

当天的活动中，北京师范大学法学院院长、教授梁迎修发表了题为《网络谣言治理：法治引领与多元共治》的演讲，系统分析了网络谣言的类型、变体及发展趋势，从概念层面厘清了治理的理论基础，并基于我国法律法规梳理了网络谣言治理的法律依据。梁迎修教授提出，随着AI技术的发展，AI虚假谣言层出不穷，增加了甄别和治理难度，加快了谣言的传播速度。但同时我们可以利用AI技术作为新工具，在谣言内容识别、路径追踪和自动化辟谣等方面“用魔法打败魔法”。

梁迎修还指出，网络平台要积极承担社会责任，重视内容整治，同时政府机构、媒体、公众等更应加强协同，网络谣言治理需要多方综合施策。

《2024今日头条治理年度报告》显示，平台在AI治理、法律合规、同质化内容治理等方面取得了显著成效。然而，互联网内容生态的治理是一项长期而复杂的工作，离不开各方的共同努力。今日头条表示，未来将继续与监管部门、媒体、学术界等各方合作，共同构建健康、真实的网络生态。（法治网 郑淳心）