올트먼과 수익·공익성 두고 충돌
수츠케버, 오픈AI 떠나 SSI 설립
“안전한 초지능 구축이 가장 중요
상업적 압력과 완전히 격리할 것”

인공지능(AI) 개발 논쟁에서 ‘두머’(파멸론자)의 대표적인 인물로 꼽히는 일리야 수츠케버(38)가 ‘안전한 AI’를 개발하는 회사를 세웠다. 생성형 AI 챗GPT를 만든 오픈AI의 공동 창업자이지만 사업 방향에 회의감을 갖고 회사를 그만둔 지 한 달 만이다.

그는 19일(현지시간) ‘안전한 초지능’(SSI)이란 회사명의 계정으로 엑스(X·옛 트위터)에 SSI 연구소 설립 소식을 알리며 “안전한 초지능은 이 시대에 가장 중요한 기술적 도전”이라면서 “우리의 사명(使命)이자 회사 이름이며, 모든 제품의 로드맵”이라고 썼다. 또 “우리의 비즈니스 모델은 모두 단기적인 상업적 압력으로부터 분리돼 있다”고 강조했다.

SSI는 미국 캘리포니아 팰로앨토와 이스라엘 텔아비브에 사무실을 두고 있다. 회사의 투자자와 투자받은 금액은 알려지지 않았지만, 수츠케버의 행보와 언급을 미뤄 상업적 압력에서 벗어나 인간의 인지능력을 대체할 수 있는 안전한 기계 지능을 개발하는 데 초점을 둘 것으로 보인다.

AI 산업에서 신화적 인물로 여겨지는 그의 엑스 게시물에는 “왕이 돌아왔다”란 환영과 “어떤 게 안전한지 누가 판단할 수 있나”란 비판이 함께 제기됐다.

블룸버그통신과의 단독 인터뷰에서 수츠케버는 “첫 번째 제품으로 안전한 초지능을 내놓을 때까지 다른 어떤 것도 하지 않을 계획”이라며 “경쟁적인 외부 압력으로부터 완전히 격리된다는 점이 매우 특별하다”고 말했다.

러시아에서 태어나 이스라엘과 캐나다에서 공부한 수츠케버는 구글 연구소에서 일했으며, 2015년 샘 올트먼 최고경영자(CEO) 등과 함께 오픈AI를 설립하고 수석과학자로서 챗GPT 개발에도 핵심적인 역할을 맡았다.

그러나 지난해 11월에는 올트먼 CEO 축출을 주도했다. 당시 올트먼 CEO가 AI의 공익성보다 수익성에 몰두하자 이에 반발하면서 이사회와 함께 해임을 결정하고 임시 대표를 맡았다. 올트먼 사태는 닷새 만에 끝났지만, AI 발전 속도를 두고 올트먼 CEO을 중심으로 한 부머(개발론자)와 수츠케버와 일론 머스크 테슬라 CEO가 주축이 된 두머로 진영이 양분돼 논쟁이 본격화하기 시작했다.

지난달 14일 오픈AI를 떠난 수츠케버는 새 회사 설립에 대해 올트먼도 알고 있으며, 그와의 관계도 매우 좋다고 블룸버그에 털어놓았다. 그는 “AI의 안전이란 원자력 안전과 같은 것”이라고 덧붙였다.

올트먼 해고 사태 이후 회사를 떠난 전 오픈AI 직원들은 마이크로소프트(MS)로부터 대규모 투자를 받은 오픈AI가 인류를 멸망시킬 수도 있는 AI의 안전 문제를 무시한다는 비판의 목소리를 내고 있다. 수츠케버는 AI의 안전이 철학적 문제란 지적에 “수년간 안전 문제를 고민했으며 자유 민주주의와 같은 가치를 토대로 운영하겠다”며 “초지능은 자동으로 기술을 개발하는 거대 데이터 센터와 같을 것”이라고 전망했다.