최근 앤트로픽 다리오 아모데이가 긴 장문의 글을 썼는데, 역시나 AI 선두 그룹 답게 넒은 관점에서 다양한 시사점들이 담겨 있었습니다. AI 발전 속도가 빨라질수록 더 중요해진 것을 뭘까요?
——
1. 만드는 속도보다 검증하는 속도가 중요해집니다.
AI가 콘텐츠, 코드, 리서치, 분석까지 만들어내는 비용은 빠르게 낮아지고 있습니다. 반면 그것이 정말 좋은 결과인지 판단하는 일은 여전히 어렵습니다. 앞으로의 생산성은 얼마나 많이 만들어내는가보다 얼마나 빠르게 만들고 검증할 수 있는가로 바라볼 필요가 있다고 제안합니다. 개인적으로 이 부분이 가장 공감되는 부분이였네요.
2. AI의 능력에 맞춰 평가 기준도 달라져야 합니다.
기존 테스트를 통과했다고 해서 더 진화된 AI 모델까지 같은 방식으로 평가하기는 어렵다고 합니다. 새로운 능력이 생기면 새로운 위험도 생길 수 있기 때문입니다. AI의 능력이 한 단계 올라갈 때마다 그 수준에 맞는 평가 기준을 함께 마련하는 방식을 제안합니다.
3. 평가는 개발이 끝난 뒤가 아니라 개발 과정에 들어가야 합니다.
완성된 결과물을 마지막에 검수하는 것만으로는 부족할 수 있다고 합니다. AI가 어떤 방식으로 개발되고, 어떤 환경에서 작동하며, 어떤 위험을 만들어낼 수 있는지 개발 과정에서부터 지속적으로 살펴볼 필요가 있습니다. 눈에 보이는 결과물은 빠르게 확보하고 검증 안하는 사람들도 많습니다. 결과물을 받는 시간이 좀 늦더라도 개발 과정에 이슈가 없는지를 지속 점검하는 세팅이 필요하겠습니다.
4. 모델의 성능만큼 운영 역량도 중요해집니다.
좋은 AI를 만드는 것과 그것을 안전하게 운영하는 것은 다른 문제라고 합니다. 데이터, 권한, 모니터링, 필터링처럼 눈에 잘 띄지 않는 요소들이 실제 서비스에서는 더 큰 영향을 줄 수도 있습니다. 사실 이 부분은 현장에서 많이 느끼실 것 같습니다. 모델의 성능이 아무리 좋아도 우리의 인프라, 데이터, 권한 관리, 모니터링 체계가 따라가지 못하면 실제 서비스에서 그 성능을 제대로 활용하기 어려운 경우가 상당히 많습니다.
5. AI를 잘 사용하는 능력 > 잘 평가하는 능력
AI에게 일을 맡기는 것만으로는 충분하지 않습니다. 수정하는 시간이 만드는 시간 보다 오래 걸리는 경우도 있습니다. 결과를 평가,문제를 발견, 개입까지 구조를 설계 해야합니다. AI의 능력이 커질수록 AI가 제대로 작동하도록 만드는 사람의 가치가 커질 것리라고 예상합니다.
——
원문은 AI의 발전을 무조건 늦추자는 이야기는 아니었습니다. 더 빠르게 발전하되, 그 속도를 우리가 이해하고 검증하고 통제할 수 있는 수준과 맞추자는 이야기입니다. 많이 공감되는 글이었고 많은 분들이
보셨으면 좋겠습니다. 🙂
#AI #Anthropic
이미지 출처 : darioamodei
