AI 전사 확산 실패 원인 3가지: 파일럿은 성공했는데 왜 멈추나

6개월 전 그 회의를 떠올려봅니다. 기획팀 세 명이 챗GPT로 경쟁사 리포트 초안 시간을 반으로 줄였다고 보고했고, 전사 확산 지시까지 떨어졌죠.

그리고 지금, 사용 현황을 열어본다. 여전히 그 세 명만 쓴다. 무엇이 문제인지 짚어낼 말이 없습니다.

우리 조직의 병목이 어디인지 점수로 먼저 보려면 17문항 정밀 진단이 5분 안에 그 역할을 합니다.

핵심 요약

• 실패율 수치 차이의 원인은 모델 성능이 아니라 ‘실패’의 정의
• 확산을 멈추는 병목: 오너십 공백, 신뢰 격차, 죽은 데이터
• 정체 비용의 97%는 라이선스가 아닌 인건비와 기회비용
• 가장 낮은 점수의 병목 하나부터 손대는 순서

실패율 숫자가 제각각인 이유는 ‘실패’의 정의가 다르기 때문이다

MIT의 생성형 AI 파일럿 연구는 약 95%를 실패로 본다. 기준은 측정 가능한 손익 기여가 없다는 것. 맥킨지는 약 80%로, EBIT에 유의미한 영향이 없다고 답한 임원 비율이다. 원티드랩 2026 AX 인사이트 리포트는 국내 전사 도입이 한 자릿수대에 머문다고 봅니다. 기준이 엄격해질수록 숫자가 커집니다.

중요한 건 공통점입니다. 어느 조사도 모델 성능 부족을 1순위 원인으로 지목하지 않는다. 손실은 파일럿에서 운영 전환으로 넘어가는 구간에서 발생합니다. 잘 쓰는 개인의 성과가 조직 손익으로 합산되지 않는 것, 이게 개인 AI 활용 전사 확산이 막히는 지점이죠.

사내 보고서에는 MIT나 맥킨지로 보편성을 세우고 원티드랩으로 국내 맥락을 붙이는 편이 안전합니다. 정의와 조사 시점을 각주로 달면 반문에 대응할 수 있죠.

AX 전환의 성공 조건을 다룬 분석도 같은 결론에 닿는다. 조직 전체 위치가 궁금하다면 AI 활용 성숙도 5단계 로드맵을 먼저 보시라. 이 글은 1~2단계를 벗어나지 못하는 구간만 다룹니다.

첫 번째 병목: TF가 끝나면 성과 지표의 주인이 사라진다

중견 제조사 마케팅팀이 3개월간 콘텐츠 초안 생성 PoC로 작업 시간을 절반으로 줄였다. 임원 보고에서 박수도 받았다. 문제는 그다음이었습니다. 라이선스 예산이 TF 운영비에 잡혀 있었고, 프롬프트 자산 담당자는 원래 소속으로 복귀했죠. 3개월 뒤 남은 건 결과 보고서 한 부.

TF 종료가 프로젝트 종료가 되는 이유는 단순합니다. 성과 지표의 소유자가 없기 때문입니다.

파일럿 KPI는 ‘시간 절감률’이었다. 그런데 현업 팀장이 평가받는 KPI는 여전히 매출과 납기다. 두 지표가 연결되지 않으면 확산은 늘 다음 분기로 밀립니다. 팀장의 미온적 태도를 저항으로 읽으면 진단이 틀립니다. 그분은 바뀌지 않은 평가 기준에 합리적으로 반응하는 중이죠.

제가 결재하는 쪽에서 교육 품의서를 반려한 이유는 대개 하나였다. ‘누가, 어떤 예산으로, 무엇을 책임지는가’가 비어 있었습니다. 그래서 AI 도입 병목의 첫 칸은 네 줄로 닫힙니다.

• 예산 라인 — 확산 비용이 TF 임시비가 아닌 정규 예산에 잡혀 있는지
• 오너 직책 — 확산 결과를 자기 성과로 보고하는 사람의 직책이 문서에 있는지
• 확산 KPI — 활용률·재사용 건수처럼 분기 단위로 추적되는 숫자가 정의됐는지
• 회수 기준 — 6개월 내 목표 미달 시 중단·축소 조건이 사전 합의됐는지

이 네 칸을 결재 문서로 옮기려면 AI 교육 품의서 작성법을 참고하면 빠릅니다.

두 번째 병목: 직원은 못 쓰는 게 아니라 안 쓰는 것이다

교육을 한 번 더 돌려도 사용률은 안 오른다. “젊은 직원은 잘 쓰고 관리자만 저항한다”는 통념도 틀렸다. 국내 도입 실패 원인을 조직에서 찾은 분석을 보면 저연차 층의 미사용 비율도 낮지 않습니다. 세대 문제가 아니라 구조 문제죠.

저항은 여러 얼굴로 온다. 평가 불안, “AI 썼다고 하면 내 실력이 아니라고 볼 것 같다”는 감각. 품질 불신, 한 번 환각을 겪은 뒤 검증 시간이 더 든다는 판단.

마지막이 핵심인데, 결과가 틀렸을 때 누가 책임지는지 아무도 문서로 정해두지 않았다. 책임은 개인에게, 도구 승인 권한은 조직에 있죠. 이 비대칭이 남는 한 최적 선택은 ‘안 쓰거나, 숨기고 쓰기’입니다.

어느 금융 계열사에서 보고서 초안 품질이 갑자기 좋아진 팀이 있었다. 팀원 다수가 개인 계정으로 외부 서비스를 쓰고 결과물만 사내 양식에 옮기고 있었죠. 로그가 없으니 추적이 불가능했습니다.

격차를 좁힌 조직들은 레버를 이렇게 건드렸다. 사용 허용 범위를 문서로 명문화하고, 정해진 검토 절차를 지켰다면 개인에게 책임을 묻지 않는다는 면책 기준을 정하고, 사례를 공개한 사람에게 보상했다. 숨기는 것보다 드러내는 게 이득이 되게 방향을 뒤집는 것이죠.

한 제약사 사업부는 부서용 앱까지 만들어 쓰면서도 다음 고민이 도구가 아니라 출처 신뢰였습니다. 허용 범위와 면책에 답이 없으면 교육을 몇 번 더 해도 곡선은 그대로다. 심리적 안전감이 먼저다. 스킬은 그다음입니다.

세 번째 병목: 문서는 있는데 최신화 주체가 없다

개인이 쓰는 프롬프트는 대부분 범용 지식만 요구한다. 반면 전사 확산 단계에서 필요한 건 “우리 회사의 지난달 단가표”입니다.

여기서 죽은 데이터가 발목을 잡는다. 파일이 없다는 뜻이 아니다. 2년 전 규정과 올해 규정이 같은 폴더에 섞여 있는 상태죠. 검색 엔진은 둘 다 근거로 제시하고, 사용자는 한두 번 틀린 답을 받으면 다시 쓰지 않는다. 데이터 신선도를 다룬 현장 기록이 짚는 지점이 이겁니다.

권한도 조용한 뇌관이다. 자동화 워크플로를 개인 계정에 물려두면 그 사람이 퇴사하는 순간 프로세스가 멈춘다. 비인간 신원을 분리하지 않으면 감사 대응도 어려워지죠. HRD나 현업이 IT에 요청할 최소 항목은 이렇습니다.

• 문서 최신화 오너 — 핵심 문서별 담당자 이름과 갱신 주기
• 접근권한 정책 — 직급·부서별로 AI가 참조할 폴더 범위 분리
• 로그 수집 — 질의·응답 이력 저장과 오답 신고 경로

나머지는 확산 규모가 커진 뒤에 붙여도 늦지 않습니다. 파일럿은 성공하고 전사 확장은 실패하는 구조도 이 전환 구간을 공통 병목으로 봅니다.

정체 비용의 97%는 장부에 잡히지 않는다

경영진이 안 움직이는 이유는 정체 비용이 장부에 안 잡히기 때문이다. 라이선스비는 보이지만 멈춰 있는 인건비와 놓친 절감분은 어디에도 기록되지 않죠. 그래서 네 항목으로 환산합니다.

실패 비용 = (투입 인건비 × 정체 개월) + 재작업 + 중복 라이선스 + 기회비용(미절감 시간 × 인건비 단가)

50명 조직에서 파일럿 이후 6개월간 확산이 멈췄다고 가정하면 합계는 약 1억 원. 시간당 3만 원, 파일럿 참여 4명 기준입니다. 눈에 보이는 라이선스 비용은 전체의 3% 수준. 나머지 97%는 정체 인건비와 기회비용, 아무도 청구서를 받지 않는 항목입니다.

단가와 절감 가정은 자사 숫자로 바꿔 넣으면 된다. 중요한 건 화법이다. “예산을 더 주십시오”가 아니라 “이 손실을 멈추려면 확산 오너를 지정해 주십시오”로 프레이밍하는 것이죠.

결재하는 쪽에서는 이미 새고 있는 비용을 막는 제안이 통과 확률이 높았습니다. 산식을 품의 양식으로 옮기는 방법은 기업 AI 교육 비용 시뮬레이션에 정리돼 있습니다.

12문항으로 주 병목을 확정한다

병목은 동시에 오지 않는다. 한 영역이 유독 낮고, 그게 나머지를 끌어내립니다.

병목별 4문항 채점표

0점(전혀 아니다) / 1점(부분적) / 2점(대체로 그렇다) / 3점(문서와 담당자까지 있다)로 채점합니다. 영역별 12점, 총 36점.

• 오너십 A1 확산을 책임지는 사람의 직책이 문서에 있다
• 오너십 A2 확산 예산 라인이 내년 계정과목에 잡혀 있다
• 오너십 A3 현업 팀장 평가 지표에 AI 활용 항목이 최소 1개 있다
• 오너십 A4 경영진이 최근 3개월 안에 공식 자리에서 두 번 이상 언급했다
• 신뢰 B1 어떤 업무에 써도 되는지 범위가 문서로 공개돼 있다
• 신뢰 B2 오류 발생 시 책임 소재 기준이 정해져 있다
• 신뢰 B3 사용 사실을 숨기지 않아도 되는 분위기다
• 신뢰 B4 잘 쓴 사례를 공유하면 인정·보상이 돌아온다
• 데이터 C1 참조 문서의 최신화 담당자가 지정돼 있다
• 데이터 C2 부서별 접근권한 정책이 AI 도구에도 적용된다
• 데이터 C3 사용 로그를 수집하고 월 단위로 보는 사람이 있다
• 데이터 C4 자동화가 개인 계정이 아닌 시스템 계정으로 돌아간다

점수 해석과 규모별 첫 수

총점보다 가장 낮은 영역이 주 병목이다. 그곳부터 손대지 않으면 나머지에 쓴 돈은 회수되지 않는다. 신뢰 4점·데이터 10점인 조직이 RAG를 더 붙여도 사용률은 오르지 않죠. 0~15점이면 도구가 아니라 오너 지정이 먼저, 16~26점이면 전환 설계와 신뢰 규칙, 27점 이상은 확산 표준화 단계입니다.

혼자 채점하면 대부분 과대평가가 나온다. 팀장 3~5명이 각자 매긴 뒤 편차 2점 이상인 문항만 토론하는 방식이 가장 빠릅니다. 40곳 이상의 기업·기관에서 채점해 보면, 담당자가 예상한 병목과 팀장들이 지목한 병목이 다른 경우가 흔했습니다.

같은 병목이라도 규모별 생성형 AI 확산 전략은 순서가 다르다. 100명 이하 스타트업은 표준 부재가 주 병목이라 잘 쓴 사례 20건 문서화가 첫 90일 처방. 100~1,000명 중견기업은 오너십 공백이라 CoE 3인과 현업 KPI 연결이, 1,000명 이상 대기업은 거버넌스 과잉이라 금지 목록 대신 허용 목록이 답입니다.

이 채점표는 어느 영역이 낮은지까지만 알려줍니다. 다음 90일에 무엇부터 손댈지 못 정했다면, 3계층 8차원 점수 차트와 병목 차원 30/60/90일 로드맵이 나오는 17문항 진단으로 이어보시면 됩니다.

파일럿 하나를 운영으로 넘기는 90일

0~30일은 오너와 성공 기준을 확정한다. 확산 대상 업무는 하나만 고른다. 반복 빈도 주 3회 이상, 산출물이 정형인 업무가 적합합니다. 오너십 합의문은 1장으로. 오너 직책, 예산 라인, 실패 시 회수 조건.

KPI는 초안 리드타임과 재작업 건수처럼 2개로 좁힙니다. 로그인 수는 KPI가 아니다. 기준선을 재두지 않으면 90일 뒤 성과를 증명할 방법이 사라집니다.

31~60일은 현업 워크플로에 박아 넣는다. “필요하면 AI를 쓰세요”가 아니라, 업무 SOP 몇 단계에서 무엇을 입력하는지 적는다. 참조 문서의 최신화 담당자와 갱신 주기를 지정하고, 오류 시 책임 기준을 공지하죠.

신뢰 점수가 낮은 조직은 이 한 장으로 사용률이 움직입니다. 주 1회 30분 리뷰로 막힌 지점을 모으되, 원칙은 교육 추가가 아니라 절차 수정입니다.

61~90일은 표준화다. 업무명·입력·출력·절감시간 4칸짜리 재사용 사례 라이브러리를 만든다. 두 번째 부서 이관 규칙, 즉 재승인 없이 재사용 가능한 범위도 명시합니다. 기준선 대비 결과는 예산 증액보다 오너 지정 근거로 쓸 때 통과율이 높았습니다.

하지 말아야 할 것도 분명하다. 전사 동시 롤아웃, 도구 다변화, 만능 챗봇 시도. 파일럿 연옥이 길어지는 전형적 경로입니다.

90일이 끝나면 한 개 업무의 운영 전환과 재사용 자산이 남는다. 대신 부서 확산 속도와 내년 예산 배분은 숙제로 넘어옵니다. 다음 분기 계획은 기업 AI 교육 도입 8단계 로드맵에 붙여 이어가는 편이 안전합니다.

AI 전사 확산 실패 원인 자주 묻는 질문

파일럿은 성공했는데 왜 전사 확산은 실패할까요?

합격 기준이 애초에 다릅니다. PoC는 ‘이게 되는가’만 증명하면 통과다. 운영은 매주 반복 가능한가, 누가 책임지는가, 데이터가 계속 살아 있는가를 요구합니다. 본문의 병목이 그 질문들에 그대로 대응합니다.

실패의 가장 큰 원인은 기술인가요, 사람인가요?

대부분의 리포트는 조직과 프로세스를 지목합니다. 다만 기술이 사람 문제를 만들기도 하죠. 사내 문서가 6개월째 갱신되지 않아 답이 틀리는 건 운영 문제이고, 그 결과 직원이 도구를 불신하게 됩니다.

중소기업이나 스타트업도 전사 확산이 가능한가요?

가능하고, 작을수록 유리한 지점이 있다. 오너십을 대표 한 사람이 바로 지정할 수 있고 의사결정 단계가 짧죠. 다만 도구를 늘리는 방향으로 가면 실패합니다. 잘 되는 업무 한 개의 프롬프트와 검수 기준을 문서로 남기는 순서가 먼저입니다.

활용 격차 때문에 조직 분위기가 나빠지면 어떻게 하나요?

한 IT 기업 마케팅팀의 요청이 이것이었다. 잘 쓰는 직원과 못 쓰는 직원의 간극이 벌어지자 생산성이 아니라 위화감이라는 조직 문제가 됐죠. 개인기가 아니라 팀의 표준, 즉 공용 지시서를 만드는 쪽이 답에 가깝습니다.

자가진단 체크리스트만으로 충분한가요?

체크리스트는 증상이 몇 개인지까지 알려줍니다. 몇 점이고 어느 차원이 막혔고 90일간 무엇을 할지는 점수형 진단이 필요합니다.

멈춘 건 기술이 아니라 소유권입니다

실패율 숫자보다 정의를 본다. 20%든 95%든 결론은 하나, AI 파일럿 정체는 운영 전환 구간에서 생긴다. 병목은 오너십 공백, 신뢰 격차, 죽은 데이터뿐이고 가장 낮은 점수를 받은 영역이 지금 조직을 멈춰 세운 지점이죠. 확산은 예산보다 소유권 문제입니다.

이번 주에 할 첫 행동은 하나다. 정체된 파일럿 하나를 골라 예산 라인·오너 직책·확산 KPI·회수 계획 네 칸 표를 채워보는 것. 두 칸 이상 비어 있다면 그 프로젝트는 기술이 아니라 소유권 때문에 멈춘 겁니다.

그런데 빈칸을 확인하는 것과, 그 칸을 채울 사람의 이름을 임원 앞에서 지목하는 건 다른 일입니다. ‘왜 하필 그 부서인지’를 설명할 근거는 감이 아니라 점수여야 설득됩니다.

이미 파일럿을 한 번 돌려봤는데 다음 카드를 못 꺼내고 있다면, 17문항 5분 진단이 200~1,000점 AMI 점수와 그림자 AI형·정체 표류형 같은 조직 유형 판정을 돌려줍니다. 로그인 없이 제출 즉시 웹 리포트로 나오고, 이메일을 남기면 같은 리포트를 메일로 받아 품의서에 첨부할 수 있습니다.