설계

LLM

LLM 호출을 캐시해도 되는지는 온도가 아니라 출력 구조가 정합니다

LLM 호출을 캐시하려다 조건이 temperature 가 아니라는 것을 알았습니다. 절반만 캐시했을 때 합계가 조용히 틀리는 것도요.