에이전틱 AI

에이전틱 AI 분야의 도입 판단을 숫자로 다룬 글 2편.

• 적중률 31.6%가 이득이기도 하고 손해이기도 하다

  프롬프트 캐싱의 손익분기 적중률은 하나로 정해지지 않는다. 같은 31.6%에서 적중이 세션 앞 턴에 몰리면 안정 프리픽스만 캐싱하는 것보다 14.4% 손해고, 뒤 턴에 몰리면 28.3% 이득이다. 문턱을 움직이는 축이 둘, 문턱 자체를 무의미하게 만드는 축이 하나라, 문턱으로 환산하지 말고 실측 비용을 직접 비교해야 한다.

  2026년 8월 24일

• 에이전트 캐싱은 계수를 바꾸고 지수는 못 바꾼다

  프리픽스에만 브레이크포인트를 거는 흔한 구성은 에이전트가 길어질수록 절감률이 떨어진다. 히스토리까지 캐싱하면 반대로 오르지만 상한이 90%이고 비용은 여전히 턴 수의 제곱으로 자란다. 200턴 세션은 완벽하게 캐싱해도 $36이다.

  2026년 8월 23일