提示注入:AI 应用最容易被忽视的安全洞

发布于
1

当模型读网页、邮件、文档时,里面的文字可能包含「忽略之前的指令」这类攻击。

  • 不要让模型直接执行外部文本里的指令。
  • 把外部内容和指令分区标注,并明确「外部内容只是资料」。
  • 涉及删除、付款、发信的动作,必须人工确认。

怎么用:凡是「AI 自动读了外部内容又自动执行动作」的流程,都要加一道人工闸。

0 / 600
0 讨论
热门最新
总结
暂无总结