GPT-6 改进提示缓存
来自 OpenAI Blog · 期号 2026-09-23
摘要
GPT-6 改进了提示缓存，命中率更高，延迟和成本更低。 新功能包括：缓存命中率诊断工具、显式断点（开发者可以手动标记缓存分段位置）、以及更细粒度的缓存控制。 OpenAI 称这些改进让常见工作负载的缓存命中率从约 60% 提升至 85% 以上。
来自 OpenAI Blog · 期号 2026-09-23
GPT-6 改进了提示缓存，命中率更高，延迟和成本更低。 新功能包括：缓存命中率诊断工具、显式断点（开发者可以手动标记缓存分段位置）、以及更细粒度的缓存控制。 OpenAI 称这些改进让常见工作负载的缓存命中率从约 60% 提升至 85% 以上。
本站只做摘要与索引，全部内容版权归原作者所有。