Fable 모델 출시 이후 Fable만 주구장창 사용하고 있습니다. 이하 모델은 이제 더 이상 만족스럽지 못하게 되었는데요. 문제는 토큰의 소비량이 급증했다는 겁니다. 좋은 모델을 더 효율적으로 잘쓰고 싶다는 생각으로 정보를 찾다가 역시나 공식 문서에서 힌트를 주고 있었습니다. 가이드의 지시문을 주고 셋팅의 기본값을 수정했는데 과정에서 정리한 내용입니다.
——
✅토큰을 효율적으로 사용하기
Effort는 토큰의 효율과 결과물의 균형을 잡는 핵심입니다. high가 기본값이라 쓰고 있는데, 복잡한 작업은 xhigh 그 외 작업에는 medium이나 low를 권합니다. 낮은 설정도 충분하다는데 그동안 여유를 너무 부렸나봅니다. Fable 5.1의 낮은 effort가 이전 모델의 xhigh 성능을 뛰어넘는다고 하니 믿고 가봅니다.
✅불필요한 일을 하는 것을 막아주기
effort가 높으면 요청하지도 않은 정리와 리팩터링까지 손대기도 합니다. 저도 굳이 시키지 않은 것에 토큰을 태우다 보니 프롬프트가 길어지고 불필요한 컨텍스트가 쌓였습니다. Anthropic에서 이걸 방지하는 예시 지시문을 공유했습니다. “일어날수 없는 일까지 예외처리하지 말것“ 이란 지침은 너무 공감됩니다😁 이전 모델에 맞춰 촘촘하게 짜둔 프롬프트와 스킬은 출력 품질을 떨어뜨릴 수 있으니 걷어 내는 것을 권장했습니다.
✅컨텍스트가 한도가 남았다고 알려주기
긴 세션에서 새 세션을 열자고 하거나 스스로 작업을 줄이는 일이 있습니다. 이런 현상은 하네스가 남은 토큰 카운트다운을 모델에 노출할 때 자주 나온다고합니다. 그냥 컨텍스트가 충분하니 멈추지 말고 계속하라는 문장을 넣으라고 합니다. 실행하겠다고 하고 턴 끝나는 경우도 종종 있는데, 작업 계속 이어가라는 입력이 필요합니다.
✅ 기록을 유지하기
이전 모델보다 병렬로 서브에이전트를 더 적극적으로 띄웁니다. 각 서브에이전트가 돌아올 때까지 막혀 있기보다 비동기로 주고받으라고 권장합니다. 서브태스크마다 새로 띄우지 않고 컨텍스트를 유지하는 방식으로 서브에이전트를 쓰면 캐시 읽기로 시간과 비용이 함께 줄어든다고 합니다. 메모리는 md로 기록해서 중복되는 지침없이 쌓아가면 좋다고 합니다.
✅ 이유를 항상 남겨주기
작업 요청의 의도를 알 때 더 좋은 결과가 나온다고 합니다. 누구를 위해 어떤 작업을 하는 중이고 그 결과물로 무엇을 할 건지 먼저 밝힌 뒤 요청을 붙이는 형식을 제안합니다. 이런 방식으로 여러 턴을 이어가는 것을 줄일수 있다고 합니다.
——
모델의 성능은 경쟁 때문에라도 지속적으로 성능 향상이 있을 거라고 봅니다. 다만 성능을 100% 발휘 못하는 것은 인간에게 달려있는 것 같습니다. 더 효율적인 방법을 찾기 위해 이것저것 찾아서 따라해보고 있는데 하면서 느끼는 점이 많습니다. 남들이 주는 해답을 가져다 쓰기 보다 본인에게 잘 맞는 방법과 셋팅값을 찾아가셨으면 좋겠습니다🙌
#AI #Fable5 #Claude #Anthropic
[출처 : Claude code docs]
