Anthropic이 어제 새로운 모델 Claude Mythos Preview를 공개했습니다. 전반적인 성능 향상이 있지만, 보안 분야에서 특히 뛰어나다고 하는데요. 취약점을 찾으라는 프롬프트 하나면 나머지는 혼자 처리한다고 합니다.😱

——

16년간 아무도 몰랐던 버그를 찾아냈습니다

FFmpeg는 유튜브, 넷플릭스 등 거의 모든 동영상 서비스가 사용하는 핵심 라이브러리입니다. 수십 년 동안 수많은 전문가와 자동화 도구가 검토해왔는데, Mythos는 여기서 2003년부터 존재해온 버그를 찾아냈다고 합니다. 공격자가 특수하게 만든 영상 파일을 보내면 프로그램이 오작동할 수 있는 문제로 모든 자동화 도구가 놓쳤던 종류입니다.

계획된 학습은 아니였습니다

이 능력을 일부러 학습시킨 게 아니라고 밝혔습니다. 코드 이해와 추론이 전반적으로 좋아지면서 자연스럽게 나타난 결과라고 허네요. 앞으로도 계속 좋아질 가능성이 크다는 뜻이죠. 현재 발견된 취약점의 99% 이상은 아직 패치가 안 된 상태라고 합니다. 그래서 Mythos 모델를 일반에 공개하지 않고, 주요 보안 파트너들에게 먼저 제공해 방어부터 강화하는 Project Glasswing을 시작했다고 합니다.

——