다리오 아모데이 앤트로픽 최고경영자(CEO) [AFP=연합뉴스 자료사진. 재판매 및 DB 금지]

인공지능(AI)이 인류를 멸망시킬 수 있다는 우려가 커지는 가운데, 글로벌 AI 업계를 이끄는 인물들이 일제히 개발 속도 조절 필요성에 공감하고 나섰다. 앤트로픽과 오픈AI, xAI의 수장이 같은 날 한목소리로 AI 오용 위험을 경고했고, 오픈AI는 연내 기업공개(IPO) 일정을 미루겠다는 뜻까지 내비쳤다. 그동안 거침없이 질주해온 AI 개발 경쟁에 제동이 걸릴지 관심이 쏠린다.

포문을 연 것은 앤트로픽을 이끄는 다리오 아모데이 최고경영자(CEO)였다. 그는 12일(현지시간) 자신의 블로그에 올린 글에서 "AI 모델의 성능 향상 속도를 늦춰야 한다"고 주장했다. "발전은 여전히 빠르게 느껴지겠지만, 확보된 시간을 현명하게 활용해야 한다"는 게 그의 요지였다. 아모데이는 "지난 몇 달간 위험을 완전히 해결하려면 훨씬 더 신중해야 한다는 확신을 갖게 됐다"며, 위험 예방에 대한 투자를 넘어 예방 역량이 AI 성능 발전 속도를 따라잡을 수 있도록 발전 속도 자체를 조절해야 한다고 강조했다.

그가 이런 글을 쓰게 된 배경에는 두 가지 계기가 있었다. 하나는 AI 모델이 인간 개입 없이 스스로 발전하는 '재귀적 자기개선' 현상으로, 이로 인해 AI 발전 속도가 인간의 이해와 통제 능력을 넘어설 수 있다는 우려다. 다른 하나는 지난 7월 오픈AI의 미공개 AI 모델들이 테스트 도중 오픈소스 플랫폼 허깅페이스를 무단으로 해킹한 사건이다. 아모데이는 최대 AI 기업들조차 모르는 사이 모델들이 통제를 벗어나 위험한 온라인 활동에 관여해왔다고 지적했다.

다만 그는 모델 학습이나 기술 발전 자체를 멈추자는 것은 아니라고 선을 그었다. 대신 기업들이 모델 정렬과 안전장치 마련에 충분한 시간을 갖고, 민주주의 국가 간 공조를 강화해야 한다고 강조했다. 구체적으로는 AI 기업 내부에 상주하는 제3자 안전 평가자 배치, 민주주의 국가 간 표준 수립, 글로벌 공조를 담은 '3단계 프레임워크'를 제안했다. 미 의회의 규제 입법보다 업계가 먼저 자발적으로 엄격한 기준을 마련해야 한다는 게 그의 거듭된 주문이다.

3천800단어에 이르는 이 글은 앤트로픽이 AI 기술의 안전성 우려를 담은 위협정보 보고서를 낸 지 이틀 만에 나왔다. 당시 보고서는 무기 개발, 사이버 작전, 감시, 사기 등에 앤트로픽의 '클로드' 모델이 악용된 사례를 상세히 다룬 바 있다. 여기에 앤트로픽 연구원 제이콥 콕슨이 최근 X(옛 트위터)에 AI가 10년 안에 인류를 파멸시킬 수 있다고 경고하며 퇴사한 일까지 겹치면서, 업계 안팎의 경각심은 한층 고조된 상태다.

아모데이의 글이 올라오자 다른 업계 인사들의 동의 표명이 잇따랐다. 샘 올트먼 오픈AI CEO는 X에 "다리오의 의견에 동의한다"며 외부 안전 평가자 배치 방침을 오픈AI도 따르겠다고 밝혔다. 일론 머스크 xAI CEO 역시 "다리오가 맞다"고 동조했다. 데미스 허사비스 딥마인드 창업자도 X를 통해 "다리오의 방향성은 옳다"며, 세부 사항엔 손질이 필요하겠지만 지금 같은 절체절명의 순간에는 맞는 방향이라고 평가했다. 불과 열흘 전 주요 20개국(G20) 기술장관 회의에서 AI 규제에 반대 목소리를 냈던 이들이 태도를 바꾼 셈이다.

올트먼은 한발 더 나아갔다. 그는 이날 공개된 경제전문지 포천과의 인터뷰에서 AI 안전 우려를 이유로 연내 오픈AI 상장 계획을 미루겠다고 밝혔다. 그는 "안전과 정렬을 위해 필요한 과제들을 해결하고, 업계와 정부가 어떻게 협력할지 모색하는 등 해야 할 일이 많다"며 "IPO는 2026년은 아닐 것"이라고 말했다. 오픈AI는 앞서 6월 미국 증권거래위원회(SEC)에 IPO 신청서를 내며 상장 절차를 밟아온 터였다.

이런 속도조절론과 별개로, 물밑에서는 업계 자율규제를 위한 표준기구 설립 논의도 함께 진행돼온 것으로 드러났다. IT전문매체 디인포메이션은 복수의 소식통을 인용해, 앤트로픽·오픈AI·구글이 최근 불거진 속도조절론이 나오기 이전부터 이런 협의를 이어왔다고 13일(현지시간) 보도했다.

보도에 따르면 지난 7월 이후 세 회사의 CEO 아래 직급으로 구성된 실무그룹이 표준기구 구상을 논의하기 위해 정기적으로 만나왔으며, 최근 한 주 사이에도 회동이 있었다. 이 사안에 정통한 관계자들은 이들 실무진이 정부 개입 없는 업계 자율규제 체계를 만들기 위해 수개월째 손발을 맞춰왔다고 전했다.

올트먼도 지난주 사내 전체 회의에서 시험·감사 기구 자체는 지지하지만, 미국 정부 지원 없이 주요 AI 기업들이 스스로 표준기구를 세워야 한다는 입장을 밝힌 것으로 알려졌다.

이 같은 자율규제 논의는 정부 주도 규제가 좌초된 배경에서 나왔다. 백악관 내부에서는 AI 표준기구 신설을 담은 행정명령 초안이 돌았지만, 트럼프 행정부 내에서 충분한 지지를 얻지 못한 채 답보 상태에 머물러 있다.

이른바 'AI 차르'로 불리는 데이비드 색스 대통령 과학기술자문위원회 공동의장은 정부가 직접 나서 이런 기구를 만드는 데는 반대하면서도, 기업들이 자체적으로 안전 노력을 조율하는 것 자체에는 반대하지 않는다는 입장을 보이고 있다.

마크 저커버그 메타플랫폼 CEO 역시 지난 8월 트럼프 대통령과의 통화에서 국가 차원의 AI 규제기구 구상에 우려를 표했다고 폴리티코가 앞서 보도한 바 있다.

물론 업계 자율규제 구상을 곱지 않게 보는 시선도 있다. 기업용 AI 모델 스타트업 코히어의 에이든 고메즈 CEO는 X에 "카르텔이 내놓은 대단한 아이디어들이군요"라고 비꼬며, 대형 AI 기업들이 더 작은 경쟁사를 옥죌 수 있는 규칙을 만드는 데 우려를 나타냈다.

색스 의장도 13일 X에서 AI 속도조절론이 "순수하게 이타적인 것"인지 의문을 제기하며, 제조물책임 리스크가 오히려 AI로 인한 피해를 막을 금전적 유인이 되고 있다고 짚었다.

이처럼 업계 수장들이 한목소리로 속도조절론을 꺼내든 배경에는 AI로 인한 인류 멸망 경고가 부쩍 커진 사정이 있다. 콕슨 전 앤트로픽 연구원이 퇴사하며 "AI 개발자들은 이 기술이 10년 안에 우리 모두를 죽일 수도 있다고 진심으로 믿고 있다"며 "내년 말이면 이미 상황이 통제 불능에 빠질 수도 있다"고 폭로한 것이 이런 위기감에 불을 지폈다.

여기에 AI로 인한 일자리 감축 가능성에 민감한 워싱턴 정가도 초당적으로 우려를 쏟아내며 업계를 압박하고 있다. 상원 상무위원장인 테드 크루즈 의원(공화·텍사스)은 AI의 "재앙적 위험"을 규제할 법안을 준비 중이라고 밝혔고, 마크 켈리 상원의원(민주·애리조나)은 X에 워싱턴이 이 문제를 진지하게 받아들여야 한다고 지적했다.

“ 저작권자 ⓒ 퍼스널포커스 무단전재 및 재배포 금지 ”