Cover · Issue 085 — "겹겹이 덧붙은 종이 중에서, 지금 유효한 것은 맨 위 한 장이다."
회사가 드는 배상책임보험 증권에 올해부터 새 배서가 붙기 시작했다. 생성형 AI 때문에 생긴 손해는 이 증권으로 물어주지 않는다는 문장이다. 우리가 사내 지침을 다 정하기도 전에, 보험사 쪽에서 계산이 먼저 끝났다.
회사가 드는 보험 이야기를 매거진에서 다루게 될 줄은 몰랐다. 보험은 총무나 법무 쪽 서랍에 들어가는 서류고, 만드는 사람이 읽을 일은 거의 없다. 그런데 이번에 자료를 뒤지다가 올해 초부터 그 서랍 안에서 조용히 진행된 변화를 봤고, 읽다 보니 이건 우리 층 이야기였다.
상업일반배상책임보험이라는 게 있다. 회사가 남에게 끼친 손해를 대신 물어주는, 가장 기본적인 기업 보험이다. 게임 회사도 든다. 신체 상해나 재물 손괴 같은 것도 여기에 들어가고, 광고나 홍보물이 남의 권리를 침해했을 때 생기는 배상도 여기 담보에 들어간다. 트레일러, 스토어 키아트, 마케팅 영상 — 우리가 밖으로 내보내는 물건들이 전부 그 담보 안에 있다.
여기에 올해 1월부터 배서 한 장이 붙기 시작했다. 배서란 증권 뒤에 덧붙여서 원래 계약을 고치는 종이다. 붙은 내용은 짧다. 생성형 AI에서 비롯되거나 그에 기인한 손해는 이 증권이 담보하지 않는다. 갱신 시점에 조용히 얹히기 때문에, 계약을 새로 맺는 느낌도 없다. 작년과 같은 보험을 그대로 갱신했다고 생각하는 사이에 담보 범위만 바뀐다.
이 배서를 처음 만든 곳은 보험사가 아니라 ISO라는 조직이다. Verisk 산하에서 미국 손해보험 약관의 표준 양식을 찍어내는 곳인데, 여기서 만든 양식을 각 보험사가 가져다 자기 증권에 붙인다. 올해 1월, ISO는 상업일반배상책임 약관에 생성형 AI 배제 조항을 넣었다. 신체 상해, 재물 손괴, 그리고 인격·광고 침해까지 — "생성형 AI에서 비롯되거나 그에 기인한(arising out of, or attributable to, generative AI)" 손해를 담보에서 빼는 문구다.
양식은 세 종류다. CG 40 47은 담보 A와 B를 한꺼번에 덮는 넓은 배제고, CG 40 48은 인격·광고 침해 쪽만 좁게 빼는 것이다. CG 35 08은 제품과 완성작업 담보에 같은 배제를 적용한다. 번호를 굳이 옮겨 적는 이유가 있다. 우리가 게임을 어떤 도구로 만들었는지와 무관하게, 이 세 개의 번호 중 무엇이 우리 증권에 붙었느냐가 사고가 났을 때 누가 값을 치르는지를 정하기 때문이다.
Verisk에서 책임보험을 총괄하는 조 램(Joe Lam) 부사장은 인슈어런스저널에 배제가 왜 필요한지를 이렇게 설명했다.
"인수 심사자가 위험을 받아들일 만한 안정성을 확보할 배제 조항이 없으면, 그들이 아예 발을 빼버릴 위험을 감수해야 한다."
— Joe Lam · Verisk 책임보험 부문 부사장 (Insurance Journal)읽고 나서 한동안 앉아 있었다. 배제 조항이 보험을 좁히려고 생긴 게 아니라, 보험사가 이 시장에서 완전히 나가버리지 않게 붙잡아두려고 생겼다는 설명이다. 그러니까 밖에서 보기에 우리 업계의 AI 사용은 지금, 값을 매길 수는 있지만 통째로는 못 받겠는 위험으로 분류돼 있다.
우리 안에서 AI 사용은 도구 선택의 문제로 다뤄진다. 어떤 걸 켤지, 어디까지 쓸지. 밖에서는 같은 사실이 담보 범위의 문제로 번역된다. 같은 파이프라인을 두고 안에서는 생산성을 재고 밖에서는 배상 한도를 잰다.
여기서 흥미로운 건, 이게 업계 전체가 한 방향으로 도는 이야기가 아니라는 점이다. 같은 기사에서 로펌 래스롭 GPM의 파트너 얼레이나 맥멀린(Alana McMullin)은 "이 ISO 배제 조항들이 지금 벌어지고 있는 AI 배제 붐에 불을 붙인 불씨였다"고 짚었다. 그런데 그는 같은 입으로 반대편도 지적한다. "공격적인 배제는 그 보험사의 증권을 오히려 덜 매력적으로 만들 수 있다. 오늘날 사업에서 AI가 어디에나 스며들어 있다는 점을 생각하면 더욱 그렇다." 빼버리면 팔리지 않고, 두면 물어줘야 한다. 보험사도 이 사이에서 아직 자리를 못 잡았다.
그러니까 지금 벌어지는 일은 밖에서 우리에게 일방적으로 선을 긋는 장면이라기보다는, 그 선을 어디에 그을지를 두고 보험사들끼리 서로 다르게 베팅하는 중간 상태에 가깝다. 어떤 증권은 넓게 배제하고, 어떤 증권은 광고 침해 쪽만 좁게 배제하고, 어떤 증권은 아직 손대지 않았다. 같은 회사가 같은 도구를 쓰고 있어도, 어느 보험사와 계약했느냐에 따라 노출된 위험이 다르다.
선을 긋게 만든 숫자도 있다. 인슈어런스저널이 인용한 갤러거(Gallagher) 조사에 따르면 AI 관련 소송은 2021년부터 2025년 사이 978퍼센트 늘었고, 2024년에서 2025년 한 해 사이에만 137퍼센트 늘었다. 보험사가 먼저 움직인 이유는 예언이 아니라 이 곡선이다.
세 번째 숫자가 이 호에서 제일 마음에 걸렸다. GDC의 올해 업계 조사에서, 윤리적 AI 사용에 대한 정책이나 지침이 있는 회사에 다닌다고 답한 사람은 29퍼센트였다. 열 명 중 일곱은 아무 지침 없이 각자 알아서 쓰고 있다는 뜻이다. 그 사이에 보험 증권 쪽에서는 배서 세 종류가 이미 인쇄돼 돌아다니고 있다. 속도가 반대다. 밖은 문서화를 끝냈고, 안은 아직 시작을 안 했다.
지난달에 이 자리에서 저작권 이야기를 하면서, 어느 에셋에 사람 손이 들어갔는지 적어두는 칸 하나가 필요하다고 썼다. 그때는 자산 등록과 공시를 염두에 두고 한 말이었다. 이번 자료를 읽고 나서는 같은 칸의 쓸모가 하나 더 늘었다고 본다. 사고가 나서 배상 문제가 붙었을 때, 그 산출물이 배서에 적힌 범주에 들어가는지 아닌지를 판단하는 근거도 결국 그 칸이다. 기록이 없으면 유리한 쪽으로도 불리한 쪽으로도 주장할 재료가 없다.
당신 자리에서 당장 할 수 있는 일은 사실 하나뿐이다. 우리 회사 증권에 저 배서가 붙었는지, 붙었다면 세 종류 중 어느 것인지를 담당 부서에 물어보는 것. 그 답이 없으면 그다음 이야기는 전부 가정 위에서 도는 이야기가 된다.
편집부 판단을 분명히 적어둔다. 이건 AI를 덜 쓰라는 신호가 아니다. 보험사는 도구를 금지하지 않았고, 금지할 위치에 있지도 않다. 그들이 한 일은 값이 붙지 않는 구간을 명시한 것이고, 그 구간이 어디까지인지를 우리가 모르는 상태로 두는 것이 위험하다. 도구를 켜는 결정은 이미 내려졌다. 남은 건 그 결정을 기록으로 남기느냐다.
같은 파이프라인에서 나온 두 에셋이 소유 관계에서는 다른 물건이 된다는 이야기.