# 노벨상과 흑백요리사 (스포 없습니다! 안심하세요!)
지난주는 놀라움이 가득했던 한 주였습니다. ‘한강’ 작가님이 대한민국 최초로 노벨문학상을 수상하며 역사적인 성과를 이뤄냈고, 그동안 ‘학계’의 영역으로 여겨졌던 노벨과학상에 ‘업계’ 출신으로 분류될 수 있는 제프리 힌튼과 데미스 하사비스가 수상하며 AI 대세론에 정점을 찍었습니다. 그런데 이 노벨상 수상자들과 더불어 주목받은 인물이 있으니, 바로 OpenAI CEO 샘 알트만입니다.
인공 신경망을 통한 기계 학습 기술 개발에 기여한 공로로 노벨물리학상을 수상한 제프리 힌튼은 파격적인 수상소감으로도 주목을 받았습니다. 그는 AI와 기계 학습 분야에 큰 기여를 했다는 점에 자부심을 표하면서도, AI의 발전이 가져올 잠재적인 위험성에 대해서도 경고했는데요. 특히, 자신의 제자인 일리야 수츠케버가 샘 알트만의 해임 과정에서 중요한 역할을 한 것에 대해 자랑스럽다고 밝히며, 알트만의 경영 방식에 대한 간접적인 비판을 던졌습니다.
“I’m particularly proud of the fact that one of my students fired Sam Altman”
이 대목에서 문득 저는 ‘흑백요리사’가 떠올랐습니다. 이 프로그램은 유명한 스타 셰프(백수저)들과 은둔 고수 셰프(흑수저)들이 계급장을 떼고 요리로 경쟁하면 누가 이길까라는 호기심에서 탄생한 프로그램인데요. 콘셉트에 걸맞게 흑수저 셰프들은 열의에 가득 차 백수저를 어떻게든 이기고자 하는 모습을 보인데 반해, 백수저 셰프들은 상대적으로 차분하게 관망하면서 상황에 맞는 요리에 집중하는 모습을 확인할 수 있습니다.
이 프로그램에 비유해 본다면, 제프리 힌튼은 오랜 연구 경력을 바탕으로 AI 발전의 안정성과 윤리적 문제에 대한 깊은 통찰을 중시하는 ‘백수저’에 가깝습니다. 반면, 샘 알트만은 위험을 감수하며 혁신을 우선시하고, AI 기술을 과감히 상용화하는 ‘흑수저’에 가까운 모습을 보입니다. 두 사람은 각기 다른 철학으로 AI 업계를 이끌어가고 있는데요. 오늘은 이 두 인물의 흑백 전쟁에 대한 이야기를 들려드리고자 합니다.
# 믿는 도끼에 발등 찍힌 힌튼
힌튼이 개발한 ‘볼츠만 머신’은 인공 신경망 모델 중 하나로, 데이터에서 패턴을 학습하고 이를 바탕으로 새로운 데이터를 생성하는 방식의 토대를 마련했습니다. 이 모델은 오늘날 생성형 AI가 사용자의 요청에 가장 적합한 답을 확률적으로 선택해 결과를 도출하는 원리에 큰 영향을 미쳤습니다. 약간의 과장을 보태 이야기하면, 힌튼의 연구가 없었다면 오늘날 OpenAI의 성공 역시 없었을 수도 있습니다.
그러나 아이러니하게도, 힌튼은 자신이 개발한 이 기술과 그 유산이라 할 수 있는 생성형 AI가 인류에게 잠재적인 위협이 될 수 있다고 경고하고 있습니다. 이 경고는 AI가 지나치게 발전할 경우 인간의 통제를 벗어나 사회적, 윤리적 문제를 일으킬 가능성이 있다는 우려에서 비롯된 것입니다.
사실 힌튼의 이러한 경고는 갑작스럽게 나온 것이 아닙니다. 지난 2023년, 그는 10년 넘게 재직하던 구글을 퇴사하며 AI의 위험성을 공론화하기 시작했습니다. 당시 그는 수십 년간 AI를 연구해 온 것에 대해 후회하며, AI 기술이 킬러로봇과 같은 위험한 형태로 발전할 가능성을 경고했습니다. 이후로도 힌튼은 안전한 AI 개발의 중요성을 꾸준히 강조해 왔고, 이번 노벨상 수상으로 그의 발언에 더욱 무게가 실리자 다시 한번 경고의 목소리를 높인 것입니다.
# 적은 내부에도 있다
흥미로운 점은 OpenAI를 비판하는 인물이 외부뿐만 아니라 내부에도 있다는 점입니다. 지난 5월, AI의 안전성 강화를 목표로 했던 슈퍼얼라인먼트(Super Alignment) 팀이 전격 해체됐는데요. 이 과정에서 회사를 떠난 직원 중 일부는 OpenAI가 지나치게 상업화에 집중하며 AI 안전 문화를 소홀히 했다고 공개적으로 비판했습니다.
특히, 샘 알트만 해임 사태에 결정적인 역할을 했던 일리야 수츠케버 역시 OpenAI 퇴사 후 새로운 AI 스타트업을 설립했는데요 이름부터가 Safe Superintelligence Inc(SSI)로 직역하자면 안전한 초지능을 뜻하며, 이는 OpenAI가 AI 안전성에 충분히 주의를 기울이지 않았다는 암시로 해석될 수 있습니다. 수츠케버와 함께 퇴사한 OpenAI 안전 책임자 얀 라이케도 경쟁사인 앤트로픽으로 이직했으며, 무라티 CTO를 포함한 설립 멤버들의 연이은 퇴사 또한 내부 갈등의 신호로 볼 수 있습니다.
이러한 논란에 있어서 빠질 수 없는 인물이 한 명 더 있는데요. 바로 일론 머스크입니다. 샘 알트만과 더불어 OpenAI를 설립하는 데 중추적인 역할을 했던 일론 머스크는 이견 대립이 심해지자 회사를 떠났고, xAI라는 AI 스타트업을 설립했습니다. 머스크는 회사를 떠난 이후에도 OpenAI가 설립 취지와 달리 상업적 이익을 우선시하고 있다며 샘 알트만과 대립각을 세우고 있는데요. 점점 궁지에 몰리고 있는 샘 알트만을 보며 내심 미소 짓고 있지 않을까 싶습니다.
# 중요한 건 꺾이지 않는 마음
힌튼은 AI 발전의 최전선에서 자신이 이룩한 성과(노벨상)를 뒤로하고, 더 큰 윤리적 위험성을 경고하며 샘 알트만에게 묵직한 한방을 날렸습니다. 기존에도 힌튼의 목소리에는 큰 힘이 실려 있었지만, 이제는 대중들까지 그의 목소리를 듣게 됐는데요. 샘 알트만은 개의치 않는다는 듯 아직까지 별다른 반응을 보이지 않고 있습니다.
이번뿐만 아니라 과거에도 경고를 받을 때마다 크게 동요하지 않는 모습이었는데요. 자신은 이러한 문제를 충분히 인지하고 있으며, 관련 연구도 꾸준히 진행하고 있다는 원론적인 메시지만 전할 뿐이었습니다. 그마저도 AI 발전을 늦추는 것보다는 혁신 속에서 문제를 해결해 나가는 것이 더 효과적이라는 신념을 굽히지 않고 있습니다.
알트만이 이러한 신념을 굳건히 밀고 나갈 수 있었던 배경에는 앞선 기술력과 서비스가 뒷받침하고 있습니다. 모델이 업그레이드될 때마다 생성형 AI의 최대 적이라 할 수 있는 할루시네이션 문제가 크게 개선되고 있으며, 이미지 생성 분야에서도 인종적 편견에 과도하게 대응해 문제가 됐던 구글의 제미나이나 폭력적이고 선정적인 이미지를 제한 없이 생성하는 그록2와 비교했을 때 상대적으로 큰 이슈를 발생시키지 않고 있습니다.
또한, SORA와 같이 범죄에 악용할 우려가 있는 기술에 대해서는 출시를 최대한 늦추면서 안전성을 우선시하는 모습을 보여주고 있는데요. 이처럼 안전을 강조하고 있는 OpenAI이지만 많은 비판의 대상이 되는 이유는, 설립 취지와 달리 영리 기업으로의 전환이 사실상 확정되면서 신뢰도에 부정적인 영향을 미친 것으로 보입니다. 특히 AI 업계에서 여전히 선두를 지키고 있는 만큼, 더 많은 비판과 의심의 시선을 받는 것은 불가피한 상황입니다.
# 마라탕 같은 생성형 AI
흑백요리사로 시작한 만큼 결론도 음식에 비유해 보려고 합니다. 생성형 AI는 마라탕에 비유할 수 있을 것 같습니다. 특유의 자극적인 맛(기술)과 중독성으로 대중들의 인기를 끌고 있지만, 전문가들은 이를 과하게 섭취할 경우 건강(안전)에 악영향을 미칠 수 있다고 경고하고 있습니다.
샘 알트만은 마라탕에 대해서는 본인이 가장 잘 알고 있으니, 앞으로도 계속 맛을 발전시키면서도 동시에 건강에 좋은 마라탕을 만들겠다고 주장하고 있습니다. 그러나 힌튼이 보기에 OpenAI가 건강을 고려하지 않은 채 계속 자극적으로 마라탕을 만들고 있고, 애석하게도 대중들은 OpenAI의 마라탕에 중독되어 가고 있다고 판단했습니다. 이에 레시피를 공개하고 머리를 맞대어 건강한 레시피를 찾자고 제안하고 있습니다.
언뜻 보기에 두 사람의 말 모두 일리가 있어 보이는데, 과연 흑백 AI 대전에서 누가 승리하게 될까요?
참고로, 흑백요리사는 흑수저와 백수저 간의 치열하고 건강한 경쟁이 이어지며 큰 인기를 끌며 요식업계의 부흥을 이끌었습니다. AI 업계에서도 힌튼으로 대표되는 백수저와 샘 알트만으로 대표되는 흑수저 간의 건강한 경쟁이 수반되어야 지속 가능한 발전으로 이어지지 않을까 예상해 보며 글을 마치겠습니다.
*위 글은 ‘테크잇슈’ 뉴스레터에 실린 글입니다.
테크잇슈는 제가 직접 만드는 쉽고 재밌는 IT 트렌드 레터입니다.
IT 이슈 모음과 위와 같은 칼럼을 전달드리고 있으니, 관심 있는 분들은 구독 부탁드립니다 🙂
테크잇슈 구독하러 가기
이재훈님의 더 많은 생각이 궁금하다면?
