AI 의견에
서명하는 법.

기계가 늘 맞으면 이야기는 간단하다. 문제는 기계가 틀린 답을 자신 있게 내밀 때다.

한 연구에서 이런 장면을 지켜봤다고 한다. 화면에 또렷한 소견이 떠 있을 때, 그게 틀린 소견이면 사람의 판단도 함께 끌려 내려갔다. 경력이 적은 사람만 그런 게 아니었다. 오래 본 사람도, 평소라면 한눈에 잡아냈을 것을 놓쳤다.

이상한 일이 아니다. 옆에서 누가 또렷한 목소리로 "이건 이거다" 하고 말하면, 내 흐릿한 직감은 자리를 비켜준다. 더 또렷한 쪽이 이긴다. 그 또렷함이 맞았는지 틀렸는지는 나중 문제다.

그래서 그 방의 규칙은 사람을 의심하기 전에 또렷함을 먼저 의심한다. 받아들이는 순간을 일부러 한 박자 늦춘다.

더 깊은 문제는 다른 곳에 있다. 사람이 기계의 답이 틀렸다는 걸 알면서도, 물리쳤다는 사실을 끝내 적지 않는 경우다.

왜 안 적을까. 적는 게 귀찮아서만은 아니다. 적는 순간 그건 내 판단이 된다. 나중에 기계가 맞은 걸로 드러나면, 그 한 줄은 내가 틀렸다는 증거로 남는다.

그러니 차라리 아무것도 안 적는 편이 안전하다. 받아들이면 기계 뒤에 숨을 수 있고, 물리치면 혼자 책임을 진다. 이 작은 차이가 사람을 조용히 받아들이는 쪽으로 민다.

그래서 그 방은 물리치는 일을 외롭지 않게 만들려 한다. 이유를 적는 건 변명이 아니라 절차다. 모두가 적으니, 누구의 한 줄도 혼자 튀지 않는다.

그 방에는 손끝을 받쳐주는 장치가 몇 가지 더 있다.

• 기계의 소견을 무게에 따라 나눈다. 가벼운 건 그냥 흘려보내고, 무거운 건 반드시 두 번 본다.
• 사람과 기계의 답이 크게 엇갈리면, 세 번째 눈이 자동으로 불려 온다. 부를지 말지를 그 자리에서 혼자 고민하지 않아도 된다.
• 받아들였는지, 물리쳤는지, 고쳐 썼는지 — 그 세 갈래가 그대로 남는다. 나중에 누가 돌아봐도 어디서 갈렸는지 보인다.

핵심은 이 장치들이 개인의 용기에 기대지 않는다는 점이다. 용감한 사람만 물리치고 적는 게 아니라, 방의 구조가 그걸 당연한 일로 만든다.

그런데도 현장의 솔직한 이야기는 조금 다르다고 한다. 규칙이 있어도, 물리친 이유를 끝까지 또박또박 남기는 자리는 의외로 드물다. 왜 물리쳤는가라는 한 줄이, 가장 자주 비어 있다.

여기까지는 먼 방의 이야기다. 그런데 거울에 비춰보면, 우리 책상이 보인다.

우리도 매일 기계의 답을 받는다. 코드 한 조각, 문장 한 줄, 기획의 가지 하나. 받아들일지 물리칠지를 하루에도 수십 번 정한다. 다만 우리에겐 그 방의 규칙이 없다.

• 리뷰에서 기계 제안을 물리칠 때, 왜 물리쳤는지를 코멘트에 남기는 사람은 많지 않다. 받아들일 때는 더 조용하다.
• 마감이 가까울수록 통째로 받아들이는 손이 늘어난다. 한 줄씩 따져볼 시간이 없으니, 또렷한 쪽에 기댄다.
• 마음 한구석엔 같은 셈법이 있다. "물리쳤다가 저게 맞으면 내 손해" — 그래서 애매하면 받아들이고 만다.

우리 일에선 영상 한 장이 곧바로 사람을 다치게 하진 않는다. 그래서 절차도 느슨하다. 하지만 받아들인 것과 물리친 것이 아무 데도 남지 않으면, 반년 뒤 우리는 왜 그때 그렇게 정했는지를 아무도 설명하지 못한다.