Hallucinations: 当 AI 把红细胞认成神经元：单细胞大模型的"幻觉"危机

WeChat科普推文 第6期 · 2026-05-11
话题: 幻觉问题、分布外泛化、不确定性量化

当 AI 把红细胞认成神经元：单细胞大模型的"幻觉"危机

💡 核心创新

• 大模型不止会编造文本，在单细胞领域也会认错细胞
• scGPT / Geneformer 在跨组织预测时，可能把红细胞标成神经元
• 根源：训练数据 ≠ 真实世界，分布外（OOD）场景下模型容易脑补

🎮 怎么来的

• 模型在海量细胞图谱上学到了统计规律，但没见过 ≠ 真懂了
• 遇到训练时没见过的组织或物种，就像只会背单词但不会造句
• OOD 泛化是核心瓶颈——模型出了舒适区就容易翻车

🏷️ 怎么应对

• 不确定性量化：让模型不光给答案，还告诉你我有多不确定
• MC Dropout、Ensemble 等方法给每个预测打一个置信分
• 低置信度 → 交给人类复核：AI 做初筛，人做终审

🔑 一句话总结

单细胞大模型不是万能的——它在训练数据覆盖不到的角落会脑补出幻觉，应对之道不是追求100%准确率，而是诚实地说我不知道。