Read the Loop · 第二章(共八章)

上下文窗口

模型在两次调用之间什么都不记得,所以智能体每次都要把整段对话发给它。在真实项目上,这段对话涨得很快。下面是一次真实的会话,逐次调用测量。

真实项目里的一个 bug


  

上下文和上下文窗口