Abiri教授通过本次讲座深度拆解了全球虚假信息治理的系统性失效，揭示了生成式 AI 对国家治理认知基础的双重冲击，为数字时代的信任重建与监管重构，提供了一套全新的理论框架。

讲座的核心起点，是对当下主流虚假信息治理路径的根本性质疑。当前全球各国应对虚假信息危机，普遍采用“基于真相的监管模式”（The Truth-Based Approach）：通过立法明确传播明知虚假且有害信息的违法性，依托平台开展大规模的虚假内容删除、事实核查与透明度标注，形成了人类历史上规模最大的x信息真实性执法行动。但这场声势浩大的治理最终彻底失效，认知鸿沟（epistemic divide）非但没有弥合，反而持续加深。

基于真相的监管之所以失败，是因为它只针对虚假内容这一表象，却忽视了问题的根源——公众对科学、司法、专业行业、媒体等知识生产机构的信任已然崩塌。所有真相治理手段都有一个无法绕开的前提：公众需要信任事实核查者、认同内容审核的标准、对 “何为真实与有害” 形成基本共识。而当公众对知识生产机构的信任彻底瓦解，再严厉的内容管控、再全面的事实核查，都失去了赖以存续的根基，最终只会沦为无效的空中楼阁。

基于这一判断，监管目标需要进行根本重构：治理的核心，不应再是司法层面裁定何为绝对真相，也不是规模化处理海量有害内容，而是重建公众对知识生产机构的普遍信任（common trust）。这一目标的底层逻辑，是民主治理的核心悖论：国家治理需要学科化的专业权威，专业者的观点理应具备更高的权重；而合法性则要求公共话语的绝对平等，所有公民的发声权利完全一致。二者的平衡，完全依赖 “信任” 这一纽带 —— 公民在公共话语中拥有平等的参与权，同时自愿尊重并接纳知识生产机构输出的专业知识，由此形成全社会共享的事实基础。而信任的价值，也印证了经典的伯肯弗尔德悖论（Böckenförde Paradox）：自由世俗国家的存续，依赖于其自身无法通过武力强制创造的公众信任。无论是疫苗接种、环境治理还是公共卫生政策，都离不开公民对背后专业机构的信任与自愿配合。

前数字时代，媒体传播的技术门槛形成了天然的“守门人机制”（Gatekeeping），有限的传播渠道维系了全社会共享的认知规范与共通的媒体体验，构成了信任的基础设施。而数字化彻底打破了这一格局：平台取代了传统守门人，算法个性化推荐、社群化的产品设计、以身份认同为核心的传播逻辑，彻底撕裂了全社会共享的媒体体验，将公众分割进一个个相互隔绝的认知孤岛，最终形成了数字认知鸿沟。值得强调的是，数字化并未破坏大学、法院、科研机构的内部运作与知识生产流程，只是彻底切断了机构与公众之间的信任联结——机构体系完好无损，但公众的信任已然崩塌。

而生成式 AI 的出现，不仅加剧了危机，更带来了此前框架完全无法解决的全新挑战。

首先，AI 通过两大核心机制，让本就严重的数字认知鸿沟进一步恶化。第一是工业化的认知污染：AI 让虚假信息的生产成本几乎归零，同时能完美复刻专业内容的形式、语气与权威感，产出的虚假内容与真实知识真伪难辨，彻底瓦解了社会辨别信息真伪的底层规范。第二是被无限放大的说谎者红利（The liar’s dividend）：当任何真实的音视频、文本证据，都能被轻易污蔑为“AI 生成的伪造内容”，证明与证据的底层概念彻底失效，全社会共享的证据体系从根基上被动摇。

更关键的是，此前的数字化仅冲击了机构与公众的外部信任联结，而 AI 首次直接冲击了知识生产机构的内部运转，引发了严重的制度完整性危机。AI 系统性地窄化了知识生产的视野，造成了学术领域的认知污染，更让科研人员陷入 “产出越多、理解越少” 的理解错觉；同时，AI 以权威口吻输出不可靠内容的“轻率言论”（careless speech）之特性，形成了“无需理解的权威”（authority without understanding），彻底绕过了传统知识生产机构的同行评审、可证伪、问责制等核心机制，从内部瓦解了机构的权威根基。

针对这一困境，讲座提出了基于信任的三大解决工具：一是重构认知基础设施，通过平台监管重建全社会共通的媒体体验；二是为认知权威提供法律制度支撑，通过职业问责、行业规范等机制，让公众对机构的遵从具备理性基础；三是为知识生产机构提供长期的文化与资金支持，从教育层面培育全社会的共享认知共识。

讲座最终也点明了当下 AI 治理的核心困境：双重适用认知伯肯弗尔德悖论（The Epistemic Böckenförde — Applied Twice）。一方面，国家的治理依赖于自身无法强制创造的公众信任，仅能通过有限的工具加以引导；另一方面，权威的存续依赖于自身无法完全保障的机构完整性 ——强行监管科研领域的 AI 使用，反而会破坏公众对学术机构的信任，放任自流则会导致知识生产体系的根基崩塌，这也是 AI 时代留给所有治理者的核心难题。

问答讨论环节

问题 1（学生提问）

①数字认知鸿沟的严重程度究竟如何？“自以为理解的错觉”是否比无知更糟糕？②教育、基础设施等治理工具过去已然存在，却未能阻止认知格局的撕裂，当下这些工具如何才能发挥作用？

核心回答：

数字认知鸿沟已造成严重的双重冲击：在人才培养端，学生的文本阅读、理解与整合能力被严重削弱；在知识生产端，学术同行评审体系正在崩塌，科研机构的可信度与公众信任度同步下滑，“理解的错觉” 比纯粹的无知危害更甚，其会从内部瓦解知识生产体系的根基。

传统工具失效的核心原因，是数字化消解了其赖以生效的天然技术门槛，当下需通过法律手段重构适配数字时代的规则，而非简单复用过往模式。例如通过立法强制平台重建共通的媒体体验、为 AI 生成内容制定强制引用规范，让法律替代消失的天然门槛，发挥治理作用。

问题 2（左亦鲁老师）

①传统知识生产机构的权威衰落是否不可逆，我们能否重建公众对其的信任？②我们是否必须对抗虚假信息？能否以更高的容忍度接纳虚假信息，在思想市场中实现新的平衡？

核心回答：

对传统机构权威的重建持悲观态度，核心障碍并非技术，而是全球范围内缺乏治理的政治意愿，即便是欧盟的数字监管立法，也长期处于执行不足的状态。但即便无法回到过去的状态，也需通过制度设计缓解信任崩塌的趋势，而非放任其恶化。

不认同“放弃对抗虚假信息、等待社会自然适应” 的思路，核心原因是技术迭代速度远超社会文化的适应速度，没有证据表明年轻一代对虚假信息的甄别能力更强。放任虚假信息泛滥，只会让认知鸿沟持续加深，最终瓦解民主治理的认知基础，因此必须通过制度干预主动应对。

问题 3（戴昕老师）

未来数字认知格局可能出现两种极端场景，一是少数主体掌控 AI 形成认知垄断，二是认知碎片化的混沌均衡长期存续，二者之中哪种更具可接受性？

核心回答：

技术对社会的深层影响是长期过程，AI 对认知体系的彻底重塑还需要很多年，不会在短期内出现极端的认知垄断场景，当下的核心风险并非技术突变，而是持续的认知碎片化。

相较认知垄断，更需警惕认知碎片化的长期危害。从全球经验来看，拥有强社会规范、强凝聚力的社会，对数字化和 AI 冲击的韧性显著更强；而社会撕裂、认知碎片化的地区，正面临愈发严重的治理危机。未来更具韧性的社会治理模式，会成为全球各国借鉴的方向。