1.1 简述
情境意识（Situation Awareness，SA）由认知工程学家 Mica Endsley 于 1995 年在论文中系统化提出：
Endsley, M.R. (1995). "Toward a Theory of Situation Awareness in Dynamic Systems." Human Factors, 37(1), 32–64.
Endsley 曾任美国空军首席科学家（2013-2015），是人因工程领域最具影响力的学者之一，发表论文逾 200 篇。
情境意识的定义：在特定时间和空间范围内，对环境中各要素的感知，对其含义的理解，以及对其近未来状态的预测。
1.2 三级模型
Level 1：感知（Perception）
↓
Level 2：理解（Comprehension）
↓
Level 3：预测（Projection）
Level 1 — 感知：察觉到环境中的相关要素。（飞行员看到仪表读数）
Level 2 — 理解：理解这些要素对当前目标意味着什么。（飞行员理解燃油量代表的续航时间）
Level 3 — 预测：预判事态在近未来的发展。（飞行员预判如果不改变航线，将在哪里耗尽燃油）
决策发生在 Level 3 之后，依赖于完整的 SA 基础。
1.3 与 AI 的关系
Endsley 本人于 2023 年发表论文专门讨论 AI 与情境意识的张力：
Endsley, M.R. (2023). "Supporting Human-AI Teams: Transparency, explainability, and situation awareness." Computers in Human Behavior, 140.
AI 的黑箱特性系统性地损害所有三个层级：
| SA 层级 | 正常场景 | AI 场景的问题 |
|---|---|---|
| Level 1 感知 | 人类直接观察环境 | AI 过滤、摘要、压缩了原始信息——人类看到的是 AI 的感知，不是现实 |
| Level 2 理解 | 人类基于经验建构意义 | AI 给出结论但不展示推理过程——人类接受理解，但未真正理解 |
| Level 3 预测 | 人类基于理解外推 | 人类无法预测 AI 在新情境下的行为——无法形成对系统未来状态的预判 |
核心矛盾： 可解释 AI（XAI）主要是回顾性的（解释过去决策），但情境意识需要的是当前性和前瞻性的信息——两者在设计上存在根本张力。
1.4 三类 SA 需求
在人机协作场景中，Endsley 区分了三类情境意识需求：
- 任务 SA：对任务本身及相关环境的理解
- 智能体 SA（Agent SA）：对 AI 能力、局限、当前状态的理解
- 团队 SA：对整个人机系统如何运作的共享理解
多数人机协作设计只关注 Task SA，忽略了 Agent SA——人们不知道 AI "现在在想什么"、"能做什么"、"哪里可能出错"，导致过度信任或无效使用。
1.5 应对策略：SA 导向设计
Endsley 提出了针对 AI 系统的"SA 导向设计"（SA-Oriented Design，SAOD）原则：
- 透明化关键信息：让人类能看到 AI 正在处理哪些输入，而不只是输出结果
- 暴露置信度：AI 应表达不确定性，而非总是给出单一答案
- 支持预测：设计应帮助人类预判 AI 在边界条件下的行为
- 避免过度自动化：自动化应保留人类的感知通道，不能因为"AI 在处理"就切断人的信息流
1.6 来源
- Endsley, M.R. (1995). "Toward a Theory of Situation Awareness in Dynamic Systems." Human Factors, 37(1), 32–64.
- Endsley, M.R. (2023). "Supporting Human-AI Teams: Transparency, explainability, and situation awareness." Computers in Human Behavior, 140.
- SA Technologies: satechnologies.com