‘스테이블 디퓨전’, 근거 없는 주장 – 고등법원에서 기각된 AI 저작권 소송

고등법원은 이제 ‘게티 이미지 대 스테빌리티 AI’사건에 대한 판결을 내렸으며, 이 판결은 AI가 발전해 나가는 과정에서 법적 환경을 형성할 것입니다. 판결 결과에 대해 항소가 제기될 수는 있겠지만, 이번 판결이 생성형 AI와 이에 대한 온라인 접근, 그리고 생성형 AI가 만들어내는 콘텐츠를 영국 법이 어떻게 바라보는지에 대한 중요한 지침을 제시하고 있으므로, 현재 확립된 판례를 이해하는 것이 중요합니다.

어떻게 이런 지경에 이르렀을까?

게티 이미지는 글로벌 시각 미디어 기업으로, 특히 스톡 이미지 분야의 주요 라이선스 제공업체입니다.

한편, Stability AI는 런던에 본사를 둔 기업으로, ‘Stable Diffusion’이라는 생성형 AI 모델을 활용하고 있습니다. Stable Diffusion은 사용자가 프롬프트를 입력하면 이를 바탕으로 이미지를 생성하도록 설계되었습니다.

프롬프트: ‘말을 타고 있는 우주비행사의 사진’

Stable Diffusion으로 생성된 이미지:

Stability AI는 모델 훈련을 위해 게티 이미지(Getty Images)가 소유한 이미지와 캡션을 포함해 50억 장 이상의 이미지와 해당 캡션을 활용했습니다.

게티 이미지는 2023년 고등법원에 스테이블리티 AI를 상대로 5건의 소송을 제기했습니다:

• Stability AI가 Stable Diffusion 훈련 과정에서 게티(Getty)의 저작권이 있는 이미지를 무단 복제했다는 주장을 바탕으로 한 1차 저작권 침해;
• Stability AI가 게티(Getty)의 저작물을 침해한 복제본인 ‘기사’를 가져왔다고 주장하는 2차 저작권 침해;
• 게티의 이미지 라이브러리를 불법으로 스크래핑했다는 주장을 바탕으로 한 수이 제네리스 데이터베이스 권리 침해;
• AI가 생성한 결과물에 게티(Getty)의 상표로 등록된 워터마크가 포함되어 있다는 주장을 근거로 한 상표권 침해; 그리고
• AI로 생성된 워터마크가 존재한다는 점을 들어 소비자를 오인시킬 수 있다고 주장하며 부정경쟁행위를 제기함.

게티는 훈련 및 데이터 스크래핑이 영국에서 이루어졌다는 사실을 입증할 수 없었기 때문에, 재판 과정에서 1차 저작권 침해 및 데이터베이스의 고유권에 대한 주장을 철회했다.

AI 모델과 모델 가중치란 무엇인가요?

계속하기 전에, ‘AI 모델’과 ‘모델 가중치’라는 용어가 이 결정 과정 전반에 걸쳐 등장하므로, 이 용어들이 무엇을 의미하는지 간략히 설명해 두는 것이 도움이 될 것입니다.

AI 모델에는 ‘모델 가중치’라고 불리는 수백만 개, 심지어 수십억 개에 달하는 수치 값이 포함되어 있습니다. 모델 가중치는 입력을 변환하여 출력을 생성하는 데 사용됩니다. 또한 각 AI 모델에는 입력을 변환하여 출력을 생성하는 데 필요한 정확한 순서를 모델에 알려주는 아키텍처가 있습니다.

AI 모델(예: Stable Diffusion)이 학습될 때, 이 모델은 (이미지 캡션과 같은) 방대한 양의 데이터를 분석하고, 캡션과 관련된 이미지를 정확하게 생성할 수 있도록 가중치를 점진적으로 조정합니다.

이를 이해하는 데 도움이 되는 관점은, 각 모델 가중치가 특정 특징(예: 색상, 모양, 단어 패턴 등)이 다른 특징에 얼마나 큰 영향을 미쳐야 하는지를 모델에 알려준다는 점입니다. 이러한 모든 가중치가 결합되면 모델의 내부 ‘지식’을 형성합니다. 비록 이러한 모델 가중치는 수백만 개의 예시를 검토한 결과물이지만, 이는 단순히 숫자의 집합일 뿐이며 훈련 데이터의 사본을 직접 저장하는 것은 아닙니다.

훈련 과정에서 AI 모델은 훈련 데이터셋의 이미지 캡션을 입력받을 때마다 이미지를 생성하고, 해당 캡션과 연관된 실제 이미지와 얼마나 잘 일치하는지 확인합니다. 모델은 이러한 차이를 바탕으로 모든 모델 가중치를 조정합니다.

저작권

게티의 주요 저작권 및 데이터베이스 권리 침해 주장은 최종적으로 확정되지 않았다. ‘훈련’ 관련 주장은 게티가 영국 내에서 어떠한 훈련도 이루어졌음을 입증하지 못해 기각되었으며, ‘출력물’ 관련 주장은 근거로 삼았던 구체적인 프롬프트가 차단됨에 따라 순전히 이론적인 문제가 되어버렸다. 이로 인해 게티에게는 2차적 저작권 침해 및 상표권 침해 주장만 남게 되었다.

2차 저작권 침해 주장은 ‘Stable Diffusion’ 모델이 ‘침해 복제물’로 간주될 수 있는지 여부에 초점을 맞췄다. 법원은 이를 기각했다. 법이 무형 대상에도 적용될 수 있지만, 원본 훈련 이미지를 저장하거나 복제하지 않는 AI 모델은 침해 복제물에 해당하지 않는다.

법원은 해당 모델 가중치가 저장된 복제물이 아닌 학습된 정보를 기록한 것이라는 사실에 근거하여, 법에 대한 엄격하고 실증주의적인 해석을 제시했다.

법원은 모델 가중치를 영국으로 다운로드하는 행위가 무형 자산의 수입에 해당할 수 있다고 판단했다. 그러나 이는 해당 자산 자체가 저작권을 침해하는 경우에만 적용되며, 해당 모델은 침해에 해당하지 않았다. 반면, 호스팅 방식의 접근(사용자가 모델을 다운로드하지 않고 온라인에서 실행하는 방식)은 수입과 전혀 무관하다.

그 결과, 2차 저작권 주장은 기각되었다.

상표

게티는 상표권 침해 주장에서 부분적으로만 승소했다. 법원은 게티 이미지(Getty Images) 나 아이스톡(iStock) 워터마크가 표시된 이미지를 생성한 스테이블 디퓨전 ( Stable Diffusion ) 모델의 특정 초기 버전에 대해서는 침해 사실이 있다고 판단했다. 이러한 판단은 구형 모델 버전에서 추출한 소수의 사례에만 국한되었으며, 해당 도구의 최신 버전에는 적용되지 않았다. 워터마크가 재현된 사례는 아래에서 확인할 수 있다:

법원은 이러한 조사 결과를 더 광범위하게 일반화하지 않도록 주의를 기울였다. 법원은 초기 출력물 몇 개에 워터마크가 존재한다는 사실만으로 스테이블 디퓨전(Stable Diffusion) 의 모든 버전이나 더 광범위한 출력 영역 전반에 걸쳐 체계적인 문제가 있음을 입증한다고 인정하지 않았다. 이 모델의 후속 버전에는 워터마크를 탐지하고 제거하기 위한 필터링 메커니즘이 도입되었으며, 법원에 제출된 증거에 따르면 이러한 메커니즘은 대체로 효과적인 것으로 나타났다. 또한 게티(Getty)는 최신 버전에서 워터마크가 복제된 영국 내 사례를 제시하지 못했다.

게티는 스테이블리티가 ‘게티 이미지(Getty Images) ’ 상표의 명성을 악용하거나 훼손했다고 주장했습니다. 그러나 부당한 이득이나 피해에 대한 증거가 부족하여 이 주장은 받아들여지지 않았으며, 법원은 워터마크가 삽입된 이미지는 바람직하지 않아 대개 폐기된다는 점을 지적했습니다.

상표권 소송 승소가 제한적이었던 이유

법원이 게티 측에 유리한 판결을 내린 것은, 증거가 제한적이었을 뿐만 아니라 생성형 AI 시스템의 발전 양상도 반영된, 매우 제한적인 범위에서 내려진 것이었다.

증거와 관련하여, 법원은 특정 모델 버전 및 플랫폼과 연계된 침해 결과물에 대한 명확하고 검증 가능한 사례를 요구했다. 모델이 어떻게 작동했는지에 대한 일반적인 주장만으로는 충분하지 않았다.

안정성 모델의 후속 버전에서는 워터마크 필터 및 개선된 안전 장치와 같은 효과적인 해결책이 도입되었습니다. 그 결과, 이 발견은 모델 자체의 일반적인 결함이라기보다는 몇 가지 과거 사례에 국한된 것으로 밝혀졌습니다.

상표권 침해 위험은 여전히 존재하지만, 권리자는 침해 대상 결과물에 대한 명확하고 버전별 증거를 수집함으로써 이에 대응할 수 있습니다. 성공 여부는 일반적인 모델의 작동 방식에 대한 포괄적인 주장에 의존하기보다는, 침해 자료와 개발자의 플랫폼 간의 직접적인 연관성을 입증하는 데 달려 있습니다.

AI와 지적재산권에 대한 시사점

저작권과 관련하여 메시지는 분명합니다. 모델이 훈련 데이터의 복제물을 실제로 저장하지 않는 한, 저작권 침해물로 간주되지 않습니다. 『저작권·디자인·특허법』(CDPA)은 영국 밖에서 이루어지는 훈련에는 쉽게 적용되지 않으며, 호스팅된 모델은 ‘수입’의 범위에 포함되지 않습니다. 법원은 또한 이러한 종류의 기술을 포함하도록 저작권법을 확대하는 것은 법원이 아닌 의회의 소관 사항임을 분명히 했다. 이에 따라 이번 판결은 생성형 AI 개발자들이 저작권 침해를 피하기 위해 취할 수 있는 몇 가지 실질적인 조치를 제시하고 있다.

상표의 경우, 권리자는 여전히 어느 정도 영향력을 행사할 수 있지만, 이는 상표가 명확하고 구체적으로 재현된 경우에 한합니다. 기술이 발전하고 더 강력한 필터링 기술이 도입됨에 따라, 상표가 포함된 데이터가 훈련에 사용되었다는 사실을 입증하기가 점점 더 어려워지고 있습니다. 현재 생성된 결과물에서 워터마크나 로고가 재현될 가능성은 훨씬 낮아졌습니다. 효과적인 필터링 시스템을 구축함으로써, 생성형 AI 개발자들은 이러한 유형의 침해를 방지할 수 있습니다.

향후 항소가 제기될 경우, 저작물을 저장하거나 복제하지 않는 모델은 저작권 침해 사본에 해당하지 않는다는 법원의 핵심 판결과, 상표권 청구에 대한 증거 심리에 있어 법원이 보인 신중한 접근 방식을 다뤄야 할 것이다. 한편, 텍스트 및 데이터 마이닝과 AI 훈련을 둘러싼 논쟁은 더욱 거세질 것으로 보인다. 현재로서는 영국의 입장이 명확하다. 즉, 가중치만 저장하는 모델의 경우 2차 저작권 침해가 성립하지 않으며, 상표권 침해 책임은 워터마크나 로고가 복제된 명백한 사례로만 제한된다는 것이다.

이 사안에 대해 더 자세히 논의하고 싶으시다면, 저자인 제이콥 라킹 ( Jacob Larking) 과프란체스코 디 랄로 (Francesco Di Lallo )에게, 또는 평소 상담하시는 Barker Brettell 담당 변호사에게 언제든지 연락해 주시기 바랍니다.