用 prompt 操控 LLM 记忆做程序分析
来自 Hacker News · 期号 2026-08-29
摘要
一位开发者意外发现,通过精心构造 prompt 来操控 LLM 的上下文记忆,就能完成死代码检测、安全漏洞发现、不变量推断等程序分析任务。帖子详细展示了这种「把 LLM 当静态分析器用」的方法,无需微调,但结果有噪音且依赖 prompt 设计。评论区讨论了它与传统静态分析工具的可靠性差异,认为这本质上是把 LLM 当作概率性程序分析器。
来自 Hacker News · 期号 2026-08-29
一位开发者意外发现,通过精心构造 prompt 来操控 LLM 的上下文记忆,就能完成死代码检测、安全漏洞发现、不变量推断等程序分析任务。帖子详细展示了这种「把 LLM 当静态分析器用」的方法,无需微调,但结果有噪音且依赖 prompt 设计。评论区讨论了它与传统静态分析工具的可靠性差异,认为这本质上是把 LLM 当作概率性程序分析器。
本站只做摘要与索引,全部内容版权归原作者所有。