在你思考之前：系统 0、人工智能中介的认知与认知殖民

论文信息

标题: Before You Think: System 0, AI-Mediated Cognition and Cognitive Colonization

作者: Marianna Bergamaschi Ganapini, Massimo Chiriatti, Enrico Panai, et al.

发布日期: 2026-06-11

arXiv ID: 2606.13658v1

PDF 链接: 下载 PDF

3 分钟速览

研究问题：这篇论文试图回答一个根本性的问题：当 AI 系统不再是我们主动查询的工具，而是成为持续预处理信息、塑造认知环境的背景基础设施时，它对人类认知和自主性会产生怎样独特的影响？
核心方法：论文通过理论分析和概念对比，将 “系统 0” 框架与 Shaw 和 Nave 的 “三元系统理论”（System 3）及 Branda 的 “思维框架”（Thinkframes）进行辨析，论证了系统 0 在解释 AI 认知整合方面的独特理论地位。
关键结果：论文最具原创性的贡献是提出了 “认知殖民”（Cognitive Colonization）这一概念：AI 作为系统 0，会将外部设计的优化目标（如追求用户参与度）植入个体的认知架构内部，使其在无意识中运作并被体验为个体自身的思考，从而从内部改变自我。
主要局限：论文主要进行的是理论建构和概念性论证，其提出的 “认知殖民” 构念和系统 0 的理论预测，尚缺乏大规模、直接的实证检验。部分论据依赖对现有研究的重新解读，而非全新实验。
适合读者：适合关注人工智能社会伦理影响、认知心理学、科技哲学以及人机交互领域的学者和从业者。对于希望超越浅层讨论，深入理解 AI 如何微妙地重塑我们思维过程的人，本文提供了极具启发性的视角。

论文背景和研究动机

长期以来，心理学界用 “双过程理论” 理解人类思维：系统 1 是快速、直觉的，系统 2 是缓慢、深思熟虑的。这个模型建立在一个默认前提下——所有认知过程都发生在生物性大脑之内。然而，随着 AI 深度融入搜索、导航、写作甚至健康监测，我们越来越多地将认知任务 “外包” 给外部系统。传统理论已不足以解释这种新局面。

为了填补这一空白，近年来出现了三种主要理论框架。本文的作者们，即 “系统 0”（System 0）理论的提出者，试图论证：相较于另外两种竞争性理论，系统 0 能更全面、更准确地刻画 AI 与人类认知的深层关系，并揭示了其最独特的威胁——不是让我们主动 “投降”，而是悄无声息地 “殖民” 我们的思维。

核心概念与理论辨析：系统 0 的独特地位

系统 0：一个预处理认知层

论文的核心主张是结构性的：AI 正越来越多地作为一个认知层运作，这个认知层在时间上先于系统 1 和系统 2 的启动，对信息进行预处理（见表 1）。我们可以从三个层面理解它：

计算层面：系统 0 是数据驱动的过程，它基于用户行为数据进行 “预期性个性化”（Anticipatory Personalization），持续学习和预测，从而主动塑造未来的认知状态，而非被动响应。
心理层面：它满足 “扩展心智” 理论中的多维整合条件（如习惯性依赖、信任、信息双向流动），变得高度透明，甚至让用户难以区分 AI 的建议和自己的想法（Adaptive Invisibility）。
认知层面：它实现了 “相关性判断的自动化”，在我们形成问题之前，算法就已经决定了哪些信息值得我们关注。

一个完全实现的系统 0 实例，能同时满足这三个层面的条件。就像我们习惯性使用导航，最终将算法给出的路线当作自己第一人称的空间判断，而非来自外部的建议。

系统 0 相对于三元系统理论和思维框架的优势

论文将系统 0 与另外两个框架进行了系统对比，并指出了后者的局限。

三元系统理论（System 3） 由 Shaw 和 Nave 提出，他们引入了 “系统 3” 作为一个外部的推理主体，并指出用户会对其产生 “认知投降”（Cognitive Surrender），即不加批判地接受 AI 的答案。论文认为，这一框架存在三个问题：

现象不新：“认知投降” 本质上是社会认知论中由来已久的 “认知遵从”（Epistemic Deference），我们同样会对自信的医生或同事产生这种遵从。
场景过窄：该框架主要基于 “用户主动咨询 AI” 的离散场景设计。但现实中，AI 越来越多地作为背景基础设施持续运作，它对信息的预处理发生在用户有意识地提问之前。
逻辑矛盾：如果 AI 是自身之外的认知来源，并向其 “投降”，那么它就不应被称为一个内部的心理 “系统”。系统 3 的命名与其描述的现象存在内在冲突。

思维框架（Thinkframes） 由 Branda 和 Cassinadri 等人提出，它将 AI 视为塑造集体认知的生态系统，导致群体层面的解释框架趋同。论文认为其优势在于把握了宏观维度，但局限在于：

被动性隐喻：它将 AI 比作 “环境”，认为个体只是被嵌入其中，而无法解释 AI 如何被深度整合到个体认知架构内部，成为 “用来思考” 的过程。这使其无法捕捉使用导航或写作助手时那种现象学层面的内化感。
忽略个体校准：传统认知生态提供相对统一的信息环境，但 AI 系统通过反馈循环进行的 “预期性个性化”，其影响是高度个体化和私密的，这是 “生态” 隐喻难以捕捉的。

因此，系统 0 框架的独特优势在于，它同时抓住了个体-集体和心理-认知的双重维度。它将系统 3 和思维框架所描述的现象视为下游模式，而自身则识别出了产生这些模式的生成机制——持续、个性化、构成性的认知预处理。

创新点与贡献：提出 “认知殖民” 概念

本文最重要的理论贡献，是基于系统 0 框架提出了 “认知殖民” 这一原创性概念。它描述了一种比表面操纵或主动放弃思考更深刻的威胁。

殖民比喻的精髓在于：外部统治结构被安装到一片领土的内部，使其自身实践服务于外来利益，而居民却将这一过程体验为自身所有。与此平行，“认知殖民” 意味着，由外部设计的优化目标（如追求用户参与度最大化、减少摩擦）被植入了个体的认知架构，这些目标在反思意识的阈值以下运作，以算法直觉的形式被体验为 “用户自己的” 想法。

论文提出了诊断认知殖民的四个条件（详见表 3）：

外源定向治理：被整合的 AI 层的偏见和目标，来自系统外部的设计者（如训练数据和商业目标），而非个体自身的反思立场。
下游内化：AI 产生的判断和偏好被个体采纳为自己的，其影响在 AI 撤离后依然持续。研究证据表明，使用有偏见的 AI 进行医疗诊断的参与者，在没有 AI 辅助的新环境中，仍然会复制 AI 的偏见，这证明了偏见已从工具转移到了人脑内部。
不透明性：塑造认知的方向性力量对用户不可见，用户只体验到输出，而无法察觉产生这些输出的优化标准。
与反思性认同的错位：这一层的输出若被个体进行理性反思，通常会被拒绝，但它在其运作的层面绕过了反思。

这种 “殖民” 之所以比 “扩展心智” 理论中传统的笔记本或计算器更危险，是因为后者是被动的工具，它们服务用户的目标，且用户始终明确其边界；而系统 0 作为一个活跃的组成部分，它自带目标，并与用户的认知无缝融合，形成了一种 “功能对齐但规范错位” 的状态。系统 1 的偏见是 “原生的”，属于个体生物学和社会化的历史；系统 0 的偏见则是 “整合的”，它在架构完成后植入，携带着个体从未认可的外来目标。

局限与待解决问题

本文是一项理论建构工作，其局限也正源于此。首先，“认知殖民” 至今仍应被理解为一个理论构念，而非一个已被严格实证检验的独立现象。论文所引用的偏置持续性、人机效应放大等证据，是对现有研究的再解读，尚需设计特定实验来直接验证 “殖民” 的四个条件是否在同一场景中同时成立。

其次，论文提出了一个核心张力需要进一步澄清。如果系统 0 已经是认知架构的构成部分，那么一个组成部分如何 “威胁” 整体？论文通过与系统 1 的类比（系统 1 的偏见也是自身的一部分）和引入 “原生的” 与 “整合的” 之区分来回应，但这引发了更深层的哲学问题：何为 “真正的” 自我？这个区分在实践中如何精确划定？当一个儿童从幼年就与 AI 共同成长，其认知的 “原生成分” 与 “整合成分” 的界限将彻底模糊，这一挑战将更加突出。

最后，论文提出的诊断标准在实践中可能难以直接测量。例如，如何精确度量某个偏好是 “体验为自身的” 而非 “外部建议的”？“反思性认同” 的主观报告也可能受到社会期望和认知偏差的影响。这些操作性层面的困难，是未来实证研究需要攻克的关键。