사람 확인을
뺀 경로.

이번에 읽은 조사에서는 낮은 숫자 하나가 유독 눈에 걸렸다.

Grant Thornton 이 2026년 2월 23일부터 3월 18일까지, 10개 산업의 비즈니스 리더 950명을 대상으로 진행한 2026 AI Impact Survey 다. 고위험 판단을 사람 확인 없이 에이전트가 그대로 실행하도록 둔 곳은 5%뿐이었다. 나머지 다수는 에이전트를 "중위험" 업무 자동화로 묶어뒀다 — 60%가 그렇게 답했다.

숫자만 보면 안심이 된다. 그런데 같은 조사에 다른 문장도 있었다. 에이전트에 데이터·프로세스 접근을 이미 내준 곳은 73%였고, 검증된 AI 사고 대응 계획을 갖춘 곳은 20%뿐이었다. "접근은 줬는데, 사고가 나면 어떻게 할지는 아직 안 정했다"는 말이 된다.

이 문장을 들고 한 회의실 장면을 떠올렸다. 파이프라인 설정 화면 맨 아래, 체크박스 하나. 라벨은 짧다. "반영 전 사람 확인." 이 칸을 끌지 켤지를 두고, 회의가 예정보다 15분 더 붙었다. 데이터로는 아무도 위험을 못 봤다. 그런데도 손이 그 칸 위에서 멈췄다.

5%라는 숫자만 놓고 보면 이야기는 단순하다. 대부분의 회사가 "고위험" 판단에는 사람을 세워둔다는 뜻이니까. 그런데 찾아보니 비슷한 시기에 나온 다른 조사가 전혀 다른 숫자를 내놓고 있었다.

직원 100명 이상 기업 157곳을 물은 VentureBeat 의 VB Pulse 2026-06 조사에서, 사람 확인 없는 프로덕션 반영을 이미 허용했거나 1년 안에 그렇게 만들고 있다고 답한 곳이 66%였다. "고위험"이라는 문서상 말은 5%만 건드리는데, "반영"이라는 실행 단계에서는 66%가 같은 칸을 이미 지웠거나 지우는 중이다.

두 조사가 쓴 단어도 달랐다. Grant Thornton 은 "고위험"이라는 말을, VentureBeat 는 "프로덕션 반영"이라는 말을 썼다. 같은 결정을 다른 이름으로 부르면, 다른 숫자가 나온다.

금지와 허용이 같은 회사 안에 나란히 있다. 이걸 통제가 무너지는 신호로 읽고 싶은 유혹이 있다. 하지만 자세히 보면 이건 통제와 자유의 문제가 아니다. "고위험"이라는 한 단어를 누가, 언제 정의하느냐의 문제다.

편집부는 이런 자리를 다룰 때 늘 "통제냐 자유냐"로 나누는 게 맞다고 생각했다. 이번 자료를 나란히 놓고 보니, 그 이분법 자체가 틀렸다는 생각이 든다. 같은 회사가 문서 위 판단에는 조심하고, 실제 반영 단계에서는 대담해질 수 있다 — 이게 이번 호가 붙든 사실이다.

VentureBeat 조사를 더 들여다보면 숫자가 하나 더 나온다. 내부 평가를 통과한 에이전트·LLM 기능이 실제로 "고객이 겪는 실패"로 이어진 곳이 절반이었고, 그중 4곳 중 1곳은 두 번 이상 겪었다.

그런데도 그 릴리스 판단을 자동 평가에 온전히 맡기겠다는 응답은 5%뿐이었다. 못 믿는 이유를 물으니 답은 흩어졌다 — 실제 결과와 안 맞는다 29%, 편향·비일관 21%, 설명이 안 된다 18%, 데이터 프라이버시 우려 17%. 넷 중 어느 것도 "성능이 나빠서"는 아니었다.

규모가 큰 쪽이 더 빨랐다. 직원 2,500명 이상 기업의 70%가 사람 없는 배포로 더 빨리 옮겨가고 있었고, 소규모 기업은 64%였다. 고객이 겪는 실패도 큰 쪽이 더 많았다 — 54% 대 48%.

빠른 쪽이 더 자주 넘어진다는 뜻이다. 그런데도 빠른 쪽이 계속 빨라지고 있다. 멈추는 회사는 없었다.

당신 팀에도 이런 체크박스가 있을 것이다. 라이브 서비스 핫픽스를 사람 확인 없이 올릴지, 밸런스 수치 패치를 자동 반영으로 돌릴지, 문의 답변 큐를 사람 검수 없이 그대로 내보낼지, 자동 제재를 사람 확인 없이 집행할지, 빌드 실패를 스스로 되돌리게 둘지 — 이름은 다 다르지만 같은 칸이다. 어떤 팀은 이 칸을 "속도"라고 부르고, 어떤 팀은 "위험"이라고 부른다. 둘 다 틀린 이름은 아니다.

이 칸을 지우는 결정은 대개 큰 회의에서 내려지지 않는다. 설정 화면 앞에 앉은 한두 사람이 정한다. 회의록에는 "일단 켜자" 한 줄만 남는다. 그 앞뒤 15분은 아무 데도 안 남는다.

편집부는 이 칸을 지우는 일 자체를 문제라고 보지 않는다. 문제는 그 결정이 누구 책상에서, 어떤 문장으로 내려졌는지 아무도 기록하지 않는다는 것이다. 기록이 없으면, 다음번에 같은 칸을 다시 지울 때도 같은 15분을 처음부터 다시 싸워야 한다.

5%와 66%는 서로 다른 질문에 대한 답이다. 하나는 "고위험 판단을 사람 확인 없이 맡기겠는가"였고, 하나는 "반영 단계에서 사람 확인을 빼겠는가"였다. 같은 회사가 앞 질문에는 조심하고 뒤 질문에는 대담해질 수 있다는 것 — 이게 이번 호가 붙든 사실이다.

체크박스 하나를 지우는 데 15분이 걸렸다면, 그 15분 동안 오간 말을 어딘가에 남겨두시길. 그 말이 다음번 사고 대응 계획의 첫 줄이 될 것이다.