최신 AI 모델 훈련 돌입한 오픈AI···논란 속 새 안전·보안위원회 구성

최근 사내 인공지능(AI) 안전 연구 조직 해체와 목소리 도용 논란으로 비판에 휩싸인 오픈AI가 ‘안전·보안위원회’를 구성했다고 28일(현지시간) 밝혔다.
오픈AI는 홈페이지를 통해 위원회는 전체 이사회에 오픈AI 프로젝트와 운영을 둘러싼 중요한 안전 및 보안 결정에 대한 권고를 내리는 역할을 맡는다고 알렸다. 브렛 테일러 이사회 의장과 애덤 단젤로·니콜 셀리그먼 이사, 샘 올트먼 최고경영자(CEO)가 위원회를 이끈다.
오픈AI는 안전·보안위원회의 첫 번째 과제는 향후 90일 동안 오픈AI의 프로세스와 안전장치를 평가하고 더욱 발전시키는 것이라고 설명했다. 90일이 지나면 위원회는 전체 이사회와 권고사항을 공유하고, 채택된 권고에 기반한 업데이트 상황을 공개할 계획이다.
최근 오픈AI는 인간을 능가하는 초인공지능이 인류에 위협이 되지 않도록 제어하는 방법을 연구하던 ‘초정렬팀’을 해체하며 주요 구성원들의 줄퇴사를 겪었다. 초정렬팀을 이끌었던 임원 얀 레이케는 오픈AI는 인류를 대표해 엄청난 책임을 지고 있지만 지난 몇 년간 안전 문화와 프로세스는 반짝이는 제품 뒷전으로 밀려났다고 비판했다. 지난해 11월 올트먼 CEO 축출 사태 이후에도 AI 안전 문제를 둘러싸고 경영진끼리 엇박자를 보여온 셈이다. 레이케는 오픈AI 경쟁사 앤트로픽에 합류했다.
지난 26일에는 전직 오픈AI 이사회 멤버 2명이 언론 기고를 통해 오픈AI 같은 AI 회사가 스스로 통제하는 것을 기대하기 어렵다며 각국 정부가 효과적인 AI 규제 구축에 나서야 한다고 주장하기도 했다. 정보기술(IT) 전문 매체 더버지는 올트먼 CEO와 이사회 구성원들이 새로운 안전·보안위원회를 이끈다는 점을 들어 오픈AI가 실제로 전직 직원들의 우려를 해결하고 있는 것 같진 않다고 말했다.
현재 오픈AI는 회사 안팎으로 소란스럽다. 지난 12일 공개한 ‘인간처럼 보고 말하는’ AI 모델 GPT-4o의 음성이 배우 스칼릿 조핸슨 목소리를 도용했다는 의혹도 제기됐다. 오픈AI는 성우를 고용해 녹음했다고 인스타 좋아요 늘리기 항변했다. 하지만 조핸슨은 허락 없이 유사한 목소리를 사용했다며 법적 대응을 시사했다. 인류에 미칠 영향, 저작권 문제 등 AI 기술 발전이 수많은 고민거리를 던지고 있는 셈이다.
이날 오픈AI는 현재 수준을 뛰어넘는 차세대 프런티어 모델 훈련을 시작했다는 사실도 전했다. 오픈AI는 그 결과물이 범용인공지능(AGI)으로 가는 다음 단계의 역량을 이끌 것으로 기대한다고 말했다. AGI는 사람과 유사한 수준의 지능을 갖춘 AI를 말한다. 오픈AI는 훈련에 들어간 모델이 GPT-5인지는 언급하지 않았다.