최근 Codex의 인기(?)를 실감하고 있습니다. 주변 개발자들 중 Codex를 메인으로 활용하고 계신 분들도 많습니다. 저도 호기심에 써보고 있고 활용법을 찾다가 5.6 모델을 더 잘 쓰는 방법을 찾게 되어 정리해봤습니다. 모델의 성능과 기술 이야기보다는 일을 어떻게 맡기는 것이 효율적인지에 대한 방식입니다.
모든 작업에 같은 모델을 사용할 필요는 없습니다.
작업의 난이도에 따라 모델과 추론 수준을 선택하는 방식을 제안합니다. 반복적인 작업에는 효율적인 모델을 사용하고, 복잡한 판단이 필요한 작업에는 더 높은 추론을 사용하는 방식입니다. Sol은 복잡하고 긴 작업에, Terra와 Luna는 비용과 속도가 중요한 작업에 활용하는 식으로 작업의 성격에 맞춰 모델을 선택하는 방식을 제안합니다.
이전에 한 작업을 다시 시키지 않습니다.
긴 작업에서는 이전 내용을 검토하고 판단한 내용을 바탕으로 작업을 이어가는 것을 권장합니다. 같은 GPT-5.6 Sol에서도 이전 작업의 내용을 이어가고 긴 맥락을 압축하는 구조를 적용하자, ARC-AGI-3 성능이 13.3%에서 38.3%로 높아지고 출력 토큰은 약 6배 줄어든 사례도 소개했습니다.
나눌 수 있는 일은 여러 AI에게 나눠서 시킵니다.
시장조사, 데이터 분석처럼 독립적으로 진행할 수 있는 작업은 여러 에이전트가 동시에 수행하고, 마지막에 결과를 종합하는 구조입니다. 하나의 AI에게 모든 일을 맡기는 것보다 역할을 나눈 AI들이 함께 일하는 방식을 제안했습니다.
AI가 잘하는 일과 도구가 잘하는 일을 나눕니다.
데이터를 필터링하고 집계하는 작업은 SQL이나 분석 도구에서 수행하고, AI에게는 결과를 해석하고 판단하는 역할을 맡기는 것이 더 효과적이라고 합니다.
비개발자라 사실 아직 코덱스, 클로드 누가 좋고 나쁜지는 잘 모르겠습니다. 개인적으로 둘 다 좋은데 익숙한 클로드에서 활용을 많이 하는 것 같습니다. 그럼에도 둘의 차이가 존재는 하니 써보면서 특징을 파악하고 이해하려고 노력해봐야겠습니다.
또 판이 어떻게 달라질지는 모르니깐요😂
출처 : Openai blog