IBM “딥페이크 규제 필요…플랫폼에 법적 책임 물려야”

인공지능(AI)을 악용한 딥페이크와 가짜뉴스를 감시해야 할 플랫폼 기업이 제대로 대응하지 못하면 기업에도 법적 책임을 물어야 한다.
한국IBM이 20일 ‘생성형 AI 도입 관련 이슈와 규제’를 주제로 연 기자간담회에서 크리스토퍼 패딜라 IBM 대정부·규제 담당 총괄 부사장이 밝힌 입장이다. 그는 딥페이크 콘텐츠를 게시하는 인스타 팔로워 사람들에 대해 우선적으로 책임을 묻는 것이 필요하다면서도 플랫폼 역시 법적 책임에서 자유로울 수 없다고 했다.
그는 신문을 예로 들며 가짜 사진을 기사로 게재하는 게 불법인 것처럼 온라인에 AI로 그러한 것을 올리면 불법이 돼야 한다고 설명했다.
생성형 AI의 성능이 빠르게 향상되면서 AI의 위험성을 경고하는 목소리도 커지고 있다. 하지만 기술 자체를 규제하면 혁신을 꺼트릴 수 있다는 입장도 맞선다. 패딜라 부사장은 AI는 컴퓨터와 같은 도구이자 수단이라면서 새로운 도구가 출현하면 새 법규가 필요하고 AI 역시 예외는 될 수 없다고 했다. AI를 ‘어떻게 사용하느냐’에 초점을 맞추고, 악용 사례에 대해선 기업까지도 대가를 치르도록 해 균형을 맞추자는 얘기다.
이날 자리를 함께한 폴 버튼 IBM 아시아태평양 총괄 사장은 인스타 팔로워 전 세계적으로 인구 구성에 변곡점을 맞고 있다면서 고령화에 숙련된 인구가 줄고 있다고 말했다. 버튼 사장은 이는 정부와 기업에 디지털화에 대한 고민을 안기고 있다며 AI를 통한 자동화가 생산성 유지를 위한 유일한 수단이라고 주장했다.
버튼 사장은 전 세계적으로 기업의 40% 이상이 AI를 업무에 적용하고 있고, 40% 이상은 적극적 도입 의사를 밝힌 상태라고 전했다. 그는 한국 기업 중 AI가 필요 없다고 답한 기업은 6%에 그친다면서 이들 역시 조만간 생각이 바뀔 것이라고 말했다.
지난해 IBM은 기업용 AI 플랫폼 ‘왓슨X’를 내놨다. IBM은 기업을 대상으로 AI 기술 중 무엇을, 어디에, 어떻게 써야 할지 솔루션을 제공하는 사업 모델을 가지고 있다. 버튼 사장은 AI는 망치나 드라이버와 같은 도구라면서 우리한테 중요한 것은 실제 이 기술을 어떻게 비즈니스 환경에 녹여내는지 여부다라고 설명했다.
버튼 사장은 AI 기술을 활용한 사업에서도 ‘투명성’의 역할을 강조하며 학계에서 논문에 대한 ‘피어리뷰’를 거쳐 최상의 결과를 공개하는 것과 마찬가지로 열려 인스타 팔로워 있는 구조가 건전하다는 입장을 덧붙였다.