Anthropic이 어제 새로운 모델 Claude Mythos Preview를 공개했습니다. 전반적인 성능 향상이 있지만, 보안 분야에서 특히 뛰어나다고 하는데요. 취약점을 찾으라는 프롬프트 하나면 나머지는 혼자 처리한다고 합니다.😱
——
16년간 아무도 몰랐던 버그를 찾아냈습니다
FFmpeg는 유튜브, 넷플릭스 등 거의 모든 동영상 서비스가 사용하는 핵심 라이브러리입니다. 수십 년 동안 수많은 전문가와 자동화 도구가 검토해왔는데, Mythos는 여기서 2003년부터 존재해온 버그를 찾아냈다고 합니다. 공격자가 특수하게 만든 영상 파일을 보내면 프로그램이 오작동할 수 있는 문제로 모든 자동화 도구가 놓쳤던 종류입니다.
계획된 학습은 아니였습니다
이 능력을 일부러 학습시킨 게 아니라고 밝혔습니다. 코드 이해와 추론이 전반적으로 좋아지면서 자연스럽게 나타난 결과라고 허네요. 앞으로도 계속 좋아질 가능성이 크다는 뜻이죠. 현재 발견된 취약점의 99% 이상은 아직 패치가 안 된 상태라고 합니다. 그래서 Mythos 모델를 일반에 공개하지 않고, 주요 보안 파트너들에게 먼저 제공해 방어부터 강화하는 Project Glasswing을 시작했다고 합니다.
——
솔직히 저는 보안을 신경 써야 할 규모의 프로젝트를 만들어본 적이 없어서 중요성을 크게 체감하지 못했습니다. 그런데 바이브코딩으로 빠르게 만든 프로젝트에서 보안 취약점이 얼마나 쉽게 생기는지 직접 겪어봤습니다.
클로드가 보안까지 잡아주는 날이 올테니 지금이 뭔가를 제대로 만들어볼 최적의 시기가 아닐까요? 🙌
출처 : Anthropic
