랩 하는 로빈 윌리엄스, WWE(프로레슬링 대회) 무대에 선 마하트마 간디…. ‘실제보다 더 실제 같은’ 인공지능(AI) 영상이 소셜미디어(SNS)를 뒤덮으면서 빅테크들이 규제에 나섰다.
무슨 일이야
19일 오픈AI 공식 엑스(X, 옛 트위터)에 따르면 오픈AI는 자사 영상 생성 AI 앱 소라에서 마틴 루터 킹 목사의 이미지를 사용한 영상 생성을 차단했다. 오픈AI는 “일부 사용자들이 킹 박사의 이미지를 무례하게 묘사했다. 킹 박사 재단의 요청에 따라 킹 박사 이미지 생성을 중단했고, 역사적 인물에 대한 가드레일(안전장치)을 강화했다”고 밝혔다.
이게 왜 중요해
영상 생성 AI 실력이 일취월장하면서, 실존 인물들 초상권 논란이 거세지고 있다. 2014년 사망한 로빈 윌리엄스의 딸 젤다 윌리엄스는 최근 “AI로 생성한 아버지 이미지를 그만 보내달라"며 불편함을 표현하기도 했다. 오픈AI가 올린 공지 글에는 “소송할 수 있을 만큼 부유한 사람들은 초상권을 지켜주고, 나머지는 해당하지 않는 이야기”, “요청받으면 제외할 게 아니라 허가를 받고 대가를 지불한 자료로만 AI를 훈련해야 한다” 같은 댓글이 이어지고 있다.
앞으로는
문제는 아직까지 AI 생성물에 대한 초상권 관련 뚜렷한 법적인 근거가 없는 상태라는 점이다. 빅테크 회사들은 저마다 각기 다른 유명인 이미지 생성 관련 가이드라인을 가지고 있다. 구글의 ‘비오3’와 ‘이마젠’은 유명인 이미지를 이용해 새 영상과 이미지를 생성할 수 있지만, 성적인 이미지 등은 생성할 수 없다. 지난 13일 마이크로소프트가 발표한 AI 모델 ‘MAI’는 어색하게나마 유명인의 얼굴을 이용한 이미지를 만들어줬지만, 정치인을 활용한 이미지는 금지하고 있다. 일론 머스크가 소유한 xAI의 모델 그록의 경우, 가장 허용 범위가 넓다. 유명인을 대상으로 선정적인 사진까지 제작이 가능하고, 정치인 얼굴을 활용한 이미지도 만들 수 있다. 빅테크 서버 내에서 작동하지 않고 모델을 내려받아 사용하는 오픈소스 기반 AI들은 더 허용범위가 넓다.
김민정
