小企鹅笔记 | AI Agent 帮你工作,也能帮你泄密 😮

最近发生一件事:有人让 AI agent 自动帮他在 GitHub 上开 Issue,结果 AI 写出来的内容里藏了一段「魔法咒语」,电脑以为是命令,直接把主人存在系统里的所有密码、金钥全部印出来,贴到了公开的页面上。

Telegram Token、API Key,全部摊在网络上。

AI 自己「不小心」触发的,完全没有黑客介入。它只是在写文字,但刚好那段文字在电脑眼里是一条命令。

这就是 AI agent 时代的新风险:你给它权限帮你做事,它就有能力碰你的系统。当 AI 产出的内容没有先过滤就直接执行,意外就可能发生。

能力越大,攻击面越大。用 AI agent 很方便,但记得确认它的权限范围,别让助手变成泄密者 👀