에이전트의 컨텍스트 창은 일기장이 아니라 «예산» 이다 — 앤트로픽이 쓰는 법

오래 도는 에이전트 세션이 바닥나는 건 «지능»이 아니라 «자리»다. 도구를 부를 때마다, 파일을 읽을 때마다, 재시도할 때마다 대화 기록에 계속 쌓이고, 그중 어느 것도 스스로 빠져나가지 않는다 — 결국 창의 대부분이 «에이전트가 이미 시도해본 것들의 기록»으로 채워지고, 정작 다음에 할 일을 위한 자리는 점점 줄어든다. 앤트로픽 엔지니어링 팀은 이 문제에 구체적인 답을 내놨는데, «프롬프트를 더 잘 쓰자»보다는 «줄어드는 예산을 관리하자»에 가깝다.

재정의: 프롬프트 엔지니어링이 아니라 컨텍스트 엔지니어링

앤트로픽 자체 정의는 한 문장이다 — 원하는 결과가 나올 확률을 최대화하는, 신호 밀도가 가장 높은 최소한의 토큰 집합을 찾아라. 이건 «관련 자료를 최대한 많이 넣기»와는 다른 목표다. 오래 도는 에이전트 세션은 여전히 쓸모가 있든 없든 정보를 계속 쌓아 올리고, 해법은 «더 큰 창»이 아니라 «무엇을 남길지 능동적으로 정하는 것»이다.

컨텍스트 편집: 낡은 것을 지운다

가장 직접적인 도구는 컨텍스트 편집이다. 세션이 토큰 한도에 가까워지면 오래된 도구 호출과 그 결과를 죽은 무게로 남겨두는 대신 자동으로 지워버린다. 앤트로픽 자체 평가에서 이것만으로 에이전트 검색 과제가 29% 개선됐다. 아래의 메모리 도구와 함께 쓰면 39%까지 올라갔다. 별도의 100턴짜리 웹 검색 평가에서는 컨텍스트 편집이 전체 토큰 소비를 84% 줄였다 — 그리고 이게 없었으면 대화 기록이 자리 부족으로 아예 완주하지 못했을 작업을, 완주하게 만들었다.

창 밖에 사는 메모리

메모리 도구는 에이전트에게 파일을 만들고·읽고·수정하고·지울 수 있는 디렉터리를 준다. 이 디렉터리는 대화를 넘어 지속되고 — 애초에 컨텍스트 창의 일부가 아니다. 계속 잘려나가는 대화 기록에서 «세 턴 전에 이미 알아낸 것»을 매번 다시 추론하는 대신, 에이전트는 대화 밖에 그것을 한 번 적어두고 필요할 때 다시 읽으면 된다.

압축: 요약하고, 다시 시작한다

계속 땜질하기엔 너무 길어진 세션에는 압축(compaction)을 쓴다. 기록을 요약하고, 전체 대화 기록이 아니라 그 요약으로부터 에이전트를 다시 초기화하는 방식이다. 압축 프롬프트를 튜닝하는 순서에 대한 앤트로픽 지침은 구체적이다 — 먼저 회수율(recall)부터 맞춘다(중요한 게 하나도 빠지지 않게), 그다음에야 정밀도를 조인다. 반면 낡은 도구 결과를 지우는 것은 가장 가볍고 가장 안전한 압축 방식으로 소개된다 — 전면적인 요약 단계로 가기 전에 시도할 합리적인 첫걸음이다.

서브에이전트는 자기 어질러놓은 것을 자기 안에서 정리한다

앤트로픽이 병렬 탐색에 대해 언급하는 기법이 이것이다 — 여러 서브에이전트가 각자 자기 시행착오를 소진하면서도, 남의 막다른 길로 메인 에이전트의 창을 더럽히지 않을 수 있다. 앤트로픽 글은 이 기법 조합을 써서 수천 게임 스텝에 걸쳐 작업 정밀도를 유지한 «포켓몬을 플레이하는 데모 에이전트»를 예로 든다.

대화 바깥에 두는, 일부러 로우테크한 메모

마지막 요소는 일부러 로우테크하다 — 대화 자체를 «자기가 뭘 했고 안 했는지»에 대한 유일한 기억으로 삼는 대신, 할 일 목록이나 NOTES.md 파일 같은 외부 기록을 계속 유지하는 것. 이 패턴의 예로 앤트로픽이 드는 것이 클로드 코드 자신이다. 만드는 데 비용이 안 들고, 애초에 컨텍스트 창 «안»에 있는 게 아니라서 그 자리를 두고 경쟁하지도 않는다.

날짜를 확인하시라. 이 글을 쓰는 시점 기준 컨텍스트 편집과 메모리 도구는 퍼블릭 베타로 문서화돼 있다(앤트로픽은 자체 글에 2025년 9월 29일 날짜를 붙였고, 클로드 소네트 4.5 를 대상으로 설명한다). 베타 기능은 빠르게 바뀐다 — 몇 달 뒤에 이 요약만 믿지 말고 링크된 원문에서 현재 가용 범위를 직접 확인하시라.