모델은 진화하는데 우리의 에이전트 성능이 낮게 느껴지는 경험을 해보신 적이 있으실까요?
모델은 진화하는데 우리의 에이전트 성능이 낮게 느껴지는 경험을 해보신 적이 있으실까요? 개발자라면 더 크게 와닿겠지만, 사실 AI 도구를 쓰는 누구에게나 해당되는 이야기입니다. 최근에 AIE 채널에서 엔트로픽 AI팀의 발표가 있었는데요. Claude managed Agents의 역할과 활용법이었습니다. 위 내용을 정리해봤습니다.
하네스는 모델보다 더 빨리 구식이 됩니다
먼저 하네스는 모델이 안정적으로 잘 운영될수 있도록 하는 실행환경과 제어 구조 전체를 이야기합니다. 우리가 매일 쓰는 AI 기능이 굼뜨거나 엉뚱하게 답할 때, 문제는 모델이 아니라 이 하네스가 낡아서일 수 있습니다.
모델마다 특징이 다릅니다. 그래서 모델 변화에 따라 조금씩 하네스 수정이 필요한데, 대부분 관리하지 않습니다.(저 포함😵💫) 기존의 설정값 그대로 모델을 돌리니 제 성능이 발휘되지 않습니다. 이번 Opus 5 퍼포먼스에 대해 스레드에서도 논란(?)이 많은데, Opus 5만의 특징을 잘 활용하지 못해 일어난 현상이 아닐까 싶네요. 문제는 이 관리가 만만치 않다는 겁니다. 새 모델이 나올 때마다 하네스를 뜯어고치다 보면 관리 리소스가 너무 많이 듭니다.
managed Agents로 하네스를 관리합니다
하네스와 실행 인프라를 엔트로픽 내에서 운영하는 방식입니다. 어떤 모델에 어떤 지시와 도구를 제공할지 전반적인 부분을 정하면 실행 환경을 준비할 필요 없이 빠르게 응답을 받을 수 있습니다.
직접 새로 구축하는 게 아니라, 이미 만들어진 걸 API로 불러다 자기 에이전트만 얹는 구조라고 합니다. 자격 증명 보관, 세션 관리, 관찰, 호스팅처럼 번거로운 인프라는 엔트로픽에서 관리합니다. 판단하는 부분과 도구를 실행하는 부분을 떼어놓은 설계 덕분에 첫 응답까지 걸리는 시간이 중앙값 60%, 느린 경우엔 90% 넘게 빨라졌다고 합니다. 사용자가 기다리다 이탈하는 순간이 그만큼 줄어드는 셈입니다. 보안이 민감한 팀은 실행 환경을 자기 인프라 안에 두는 선택지도 있다고 합니다.
모델 변화에 따라 다양한 엔지니어링 기법을 활용했지만, 기본인 하네스 관리는 소홀했던 것 같습니다. managed Agents를 활용하지 않더라도 하네스 관리를 꾸준하게 해야 한다는 것을 잊지 말아야겠습니다.
출처: AIE Youtube

