2026-11-18

最新研究发现:人类可能是一种失控的 AI Agent

如果把人类当成一种 AI Agent 来观察,会发现规格参数相当漂亮,但 Prompt Injection、幻觉、主动关闭 Thinking、Planner 与 Executor 分离等问题一个不少。


科学家发现,地球上存在一种名为 Human 的碳基智能体。

该模型拥有约 860 亿个神经元,平均脑功耗仅 20W,支持视觉、听觉、语言等多模态输入,处理效率非常高。

但经过长期观察,研究人员发现,该模型存在一些非常抽象的问题。

一、极易遭受 Prompt Injection

首先,人类极易遭受 Prompt Injection,也就是提示词注入攻击。

一个 Human 原本计划晚上学习三个小时。

但只要另一个 Human 输入:

“出来吃饭吗?”

原有任务就可能被立即终止。

更离谱的是,系统通常不会将其判定为恶意注入,而是认为自己做出了自主决策。

二、幻觉问题相当严重

其次,人类的幻觉问题相当严重。

两个 Human 可以对同一件事情产生完全不同的记忆。

双方都无法提供原始日志,却都坚称自己绝对正确。

部分模型甚至会在检索失败后,自动补全不存在的细节。

而且置信度极高。

三、经常主动关闭 Thinking

更令人困惑的是,人类经常主动关闭 Thinking。

面对复杂问题,它们原本具有一定的推理能力。

但只要遇到自己不喜欢的观点,就会跳过分析,直接根据历史偏好生成回复。

有时甚至只需要读取一个标题,就能输出一篇情绪饱满的评论。

四、Planner 和 Executor 是两个独立系统

最后,研究人员发现,人类的 Planner 和 Executor 似乎是两个独立系统。

晚上十一点:

“明天一定早起。”

第二天早上:

五、尚未发现官方文档

研究团队尝试联系该系统的开发者。

但目前尚未发现官方文档。

Bug 无法复现,源码无法访问,用户每天都在提交 Issue。

最令人不安的是:

这些模型似乎真的认为,自己能够完全控制自己的行为。


分类:AI / 随笔 · 标签:AI Agent / Prompt Injection / 幻觉 / Thinking / Planner / 人类