AI & Tech

AX 사례와 뜻, 그리고 성공적인 조직적 AX를 위한 컨설팅 고민 공유

AX(AI Transformation)는 AI를 업무 절차와 판단 구조에 결합해 조직이 일하는 방식을 다시 설계하는 전환입니다. AX 뜻과 DX와의 차이, 엔비디아의 토큰 사용량 평가, 컨설팅 현장에서 확인한 평범한 병목을 공개 연구 자료와 함께 정리했습니다.

Share
AX 사례와 뜻, 그리고 성공적인 조직적 AX를 위한 컨설팅 고민 공유 대표 이미지

AX(AI Transformation)는 AI를 업무 절차와 판단 구조에 결합해 조직이 일하는 방식을 다시 설계하는 전환입니다. 도구를 몇 개 도입하는 일과 다르고, 업무 수단을 디지털로 바꾸는 DX(Digital Transformation)와도 목표가 다릅니다.

올해부터 AX 컨설팅을 진행하면서 예상과 다른 상황을 반복해서 마주했습니다. 모델 선택 기준이나 프롬프트 작성법 같은 기술적인 질문이 주로 나올 줄 알았습니다. 실제로 진행이 막히는 구간은 그보다 훨씬 앞이었습니다.

이 글에서는 AX 뜻과 DX와의 차이를 먼저 정리하고 엔비디아 같은 크고 앞서가는 곳에서 말하는 AX도 올바른 AX인지 생각해보고, 실제 컨설팅 현장에서 기업들을 마주하며 확인한 평범한 병목과 그 원인을 함께 다뤄보겠습니다.

AX는 DX와 정확히 무엇이 다를까요?

AX는 정의가 아직 하나로 모이지 않았습니다. 현장에서도 회사마다 다른 뜻으로 썼습니다. 사내 챗봇 도입을 AX라고 부르는 곳이 있었고, 의사결정 절차를 다시 짜는 일을 그렇게 부르는 곳도 만났습니다. 정의를 못 박기보다 반복해서 마주친 장면을 적어 두겠습니다.

자산: DX 완료 범위가 AX 가능 범위

가장 자주 걸린 곳은 자산이었습니다. RAG를 검토하든 온톨로지를 논의하든 사내 위키를 손보든 막히는 지점은 비슷했습니다.

  • 종이로만 있는 문서: 캐비닛 안의 계약서와 회의록은 후보에 오르지 못했습니다.
  • 글자가 없는 PDF: 이미지로만 스캔된 파일은 검색 대상이 되지 않았습니다.
  • 개인 저장소에 있는 파일: 담당자 노트북에만 있는 자료는 조직 자산 목록에서 빠져 있었습니다.

AX를 어디까지 할 수 있는지가 DX를 어디까지 마쳤는지에 따라 갈렸습니다. 순서로 보면 DX가 AX의 재료를 만드는 단계에 가깝다는 인상을 받았습니다.

사람: 도메인 이해와 AI 응용 능력의 합

자산이 정리된 곳에서도 결과물의 편차는 컸습니다. 쓸 만한 결과가 나온 경우에는 두 가지가 겹쳐 있었습니다. 자기 도메인을 잘 아는 것, 그 이해 위에 AI 응용 능력을 얹는 것입니다.

하나만 있을 때는 결과가 잘 나오지 않았습니다. 도메인만 아는 쪽에서는 AI가 겉도는 답을 내놓았고, 응용만 잘하는 쪽에서는 그럴듯하지만 쓰기 어려운 결과가 나왔습니다. 이 둘의 합은 사람마다 크게 벌어져 있었고, 취향과 방향 차이까지 겹쳤습니다.

지금까지 본 것을 표로 정리했습니다. 정해진 답이라기보다 현재까지의 관찰에 가깝습니다.

구분DX(Digital Transformation)AX(AI Transformation)
순서앞 단계DX 위에 올라가는 뒷 단계
다루는 것자산이 놓인 형태자산을 쓰는 판단
남는 결과AI가 읽을 수 있는 자산예측, 추천, 초안
자주 걸리는 곳종이와 수작업이 남아 있을 때판단 기준이 글로 없을 때

AX 사례는 지금 어디까지 왔을까요?

국내 대기업의 AX는 2026년 들어 도입 발표 단계를 넘어서고 있습니다. 삼성전자는 챗GPT, 제미나이, 클로드 같은 외부 생성형 AI를 전사에 도입했고, 2026년 하반기 임원 평가에서 AX 항목 배점을 최대 10배 높인 것으로 알려졌습니다.

발표는 늘었지만 성과가 숫자로 확인된 사례는 그만큼 늘지 않았습니다. MIT NANDA가 2025년 7월 낸 보고서 "The GenAI Divide"는 기업의 생성형 AI 도입 시도 가운데 약 95%가 재무 성과로 이어지지 못했다고 보고했습니다. 도입 사례 300여 건 검토, 경영진 인터뷰 52건, 설문 153건이 근거입니다.

MIT NANDA가 2025년 7월 발표한 보고서 The GenAI Divide: State of AI in Business 2025 표지

보고서는 실패 원인으로 모델 성능을 지목하지 않았습니다. 도구가 피드백을 기억하지 못하고 업무 흐름에 결합되지 못한 점을 짚었습니다. 같은 보고서에는 직원의 약 90%가 개인 AI 도구를 업무에 쓰는 반면 공식 구독을 갖춘 기업은 약 40%라는 수치도 담겼습니다.

엔비디아의 토큰 사용량 평가는 올바른 AX일까요?

토큰은 프롬프트나 모델 이름보다 상대적으로 낯선 단위입니다. AI가 글을 처리할 때 쓰는 최소 단위이고, 영문 네 글자 정도가 한 토큰에 해당합니다. 이 단위가 평가에 어떻게 쓰이는지 실제 발언으로 보여드리겠습니다.

2026년 3월 GTC 기간에 엔비디아 젠슨 황 CEO가 토큰 사용량을 직원 평가 지표로 언급했습니다. 발언과 이후 보도를 정리하면 다음과 같습니다.

  • 개인 기준: 연봉 50만 달러 엔지니어가 25만 달러어치 토큰을 쓰지 않으면 크게 우려하겠다고 말했습니다.
  • 조직 기준: 엔지니어링 조직 전체로 연 20억 달러 규모의 토큰 지출을 목표로 한다고 답했습니다.
  • 확산 상황: 메타는 사내 토큰 사용량 상위 인원을 공개하고, 오픈AI와 쇼피파이도 사용량을 내부 순위나 평가에 반영한다고 알려져 있습니다.

최선두 기업이 택한 방식이니 정답에 가까울 것이라고 보기 쉽습니다. 지표만 놓고 보면 약점이 뚜렷합니다.

  • 양을 재는 숫자입니다: 잘못 쓴 프롬프트가 잘 쓴 프롬프트보다 토큰을 더 씁니다. 두 번 헤맨 사람이 한 번에 끝낸 사람보다 높은 점수를 받습니다.
  • 행동이 숫자를 따라갑니다: 측정값이 목표가 되면 좋은 측정값이기를 멈춘다는 굿하트의 법칙 그대로입니다.
  • 비용이 빠져 있습니다: 상담원의 15분을 아끼려고 추론 비용 4달러를 썼다면 조직에는 손해입니다.

근무 시간으로 생산성을 재던 방식, 클릭률로 광고 성과를 재던 방식과 같은 계열입니다. 재기 쉬운 숫자로 정작 재고 싶은 값을 대신한다는 점이 닮았습니다.

그러면 엔비디아는 왜 이 지표를 골랐을까요? 공식 설명이 없으므로 추정에 가깝습니다. 토큰 사용량은 부서와 직무를 가리지 않고 즉시 집계되는 공통 숫자이고, 판단 품질 기준을 팀마다 합의하는 데 걸리는 시간이 도입 속도를 크게 늦춥니다. 초기에는 잘못 쓰는 쪽보다 아예 쓰지 않는 쪽의 손실이 더 큽니다.

AI 최선두 기업조차 성과 지표 대신 대리 지표를 쓰고 있다는 뜻이기도 합니다. 판단 기준을 글로 만드는 일이 그만큼 어렵다는 신호로 읽었습니다. 다만 대리 지표를 최종 지표로 굳히면 조직이 그 숫자를 채우는 쪽으로 움직이는 모습을 여러 곳에서 봤습니다.

조직의 AX 수준은 왜 개인의 AI 이해에서 갈릴까요?

인지 욕구(need for cognition)는 국내에서 자주 쓰이지 않는 심리학 용어입니다. 머리 쓰는 일 자체를 얼마나 즐기는지를 가리킵니다. 이 성향에 따라 결과물이 어떻게 달라지는지 칼럼과 뇌파 연구로 보여드리겠습니다.

디 애틀랜틱에 2026년 6월 실린 데이비드 브룩스의 칼럼은 사람을 가르는 기준이 머리가 얼마나 좋은지가 아니라 정신적 수고를 대하는 태도라고 정리했습니다. 지능이 흔해질수록 값이 나가는 쪽은 의지라는 이야기입니다. 칼럼은 사람을 셋으로 나눕니다.

  • 생산적 승객: 인지 욕구가 낮습니다. AI가 주는 것은 수련 없는 능숙함, 이해 없는 유창함입니다.
  • 마지못한 최적화자: 중간입니다. 처음에는 직접 하다가 바쁜 시기에 복사와 붙여넣기 비중이 늘어납니다.
  • 정신적 마라토너: 인지 욕구가 높습니다. AI를 능력을 넓히는 도구로 쓰고 일부러 어려운 쪽을 고릅니다.

MIT 미디어랩 연구진이 2025년 발표한 논문 "Your Brain on ChatGPT"는 이 차이를 뇌파로 관찰했습니다. 참가자 54명을 LLM 사용군, 검색엔진 사용군, 도구 없이 쓰는 군으로 나눠 같은 글쓰기 과제를 맡겼습니다.

MIT 미디어랩 Your Brain on ChatGPT 논문의 뇌파 알파 대역 연결성 분석 그림, LLM 사용군과 검색엔진 사용군과 도구 없이 쓴 군의 뇌 연결 강도 비교

외부 도구의 도움이 클수록 뇌 연결이 약해지는 순서가 그대로 나타났습니다. 첫 세션이 끝난 뒤 LLM 사용군의 80% 이상이 방금 자기가 쓴 문장을 정확히 떠올리지 못했습니다. 연구진은 이 상태를 인지 부채(cognitive debt)라고 이름 붙였습니다.

같은 도구를 줘도 세 유형이 만드는 결과물은 달랐습니다. 다행히 인지 욕구는 타고난 성질이 아니고, 브룩스도 의지가 맥락에 민감하다고 짚었습니다. 도구 사용법 강의를 하면 생산적 승객이 늘었고, 결과물을 놓고 무엇이 왜 좋은지 말하게 하면 옮겨 가는 사람이 생겼습니다.

내 결과물은 만족스러운데 남의 것은 왜 불만족스러울까요?

AI 격차는 이미 조직 안에서 벌어져 있고, 각자 자기 수준에서는 대체로 만족합니다. 문제는 결과물을 나란히 놓고 볼 때 생깁니다. 취향과 수준이 다르니 남의 결과물은 대체로 만족스럽지 않습니다.

알토대학교 연구진이 2026년 학술지 Computers in Human Behavior에 낸 논문은 AI를 쓸 때 사용자 전원이 자기 성과를 실제보다 높게 평가했다고 보고했습니다. 방향도 뒤집혔습니다. 보통은 실력이 낮은 쪽이 자기를 과대평가하는데, AI 상황에서는 스스로 잘 안다고 여기는 사람일수록 과대평가가 심해졌습니다.

받는 쪽 반응은 정반대였습니다. 하버드 비즈니스 리뷰가 2025년 9월 소개한 조사에서 미국 정규직 1,150명 가운데 41%가 겉보기에는 그럴듯하지만 일을 진척시키지 못하는 AI 생성물을 최근 한 달 안에 받았습니다. 받은 사람들의 반응은 다음과 같습니다.

  • 53%: 짜증이 났다고 답했습니다.
  • 42%: 보낸 사람을 이전보다 덜 믿게 되었다고 했습니다.
  • 약 50%: 그 동료를 이전보다 덜 유능하다고 평가했습니다.
  • 약 33%: 그 사람과 다시 일하고 싶지 않다고 밝혔습니다.

만드는 쪽은 만족하고 받는 쪽은 불만족한다는 구도가 숫자로 나타납니다. 사람이 모인 조직에서 이 어긋남을 없앨 수 있을까요? 취향 차이 자체는 사라지지 않으므로 완전한 해소는 어려워 보입니다.

줄이는 방향은 있었습니다. 지금은 만든 사람과 받는 사람이 각자 자기 눈으로 판단합니다. 서로 다른 자를 들고 같은 물건을 재는 셈입니다. 합격선이 글로 있으면 두 사람이 같은 자를 쓰고, 반박 대상이 사람이 아니라 문서가 되므로 감정 소모가 줄었습니다.

다른 부서의 전문성을 AI로 침범하면 어떻게 될까요?

디자인, 개발, 마케팅 카피라이팅처럼 오래 훈련해야 했던 일들이 동시에 흔들리고 있습니다. 예전에는 다른 부서의 결과물이 마음에 들지 않아도 내놓을 대안이 없었습니다. 지금은 AI의 도움을 받아 내 선에서 시안을 만들고 그것을 근거로 들고 갑니다.

Nature가 발행하는 학술지 Humanities and Social Sciences Communications에 실린 논문은 이 변화를 전문성 민주화가 만드는 딜레마라고 정리했습니다. 훈련이 적은 사람도 예전에는 수년 경력이 필요했던 수준을 내놓게 되면서, 누구를 믿어야 하는지가 새 문제로 떠올랐다는 내용입니다.

현장에서 이 상황은 매끄럽지 않았습니다. 시안은 만든 사람의 눈에만 만족스러운 결과물이고, 해당 분야를 오래 한 사람이 보면 대개 기준 미달입니다. 전문성이 침범당한다고 느끼면 사람은 방어적인 태도가 됩니다. 한 조사에서 직원의 37%가 AI 과의존으로 자기 기술과 전문성이 무뎌질까 걱정한다고 답했습니다.

시안을 들고 가는 쪽에서는 개선 제안이지만 받는 쪽에서는 실력 평가로 읽힙니다. 감정 대립은 대체로 여기에서 시작됐습니다. 효과를 본 대응은 넷이었습니다.

  • 완성본이 아니라 질문으로 전달: "이렇게 바꿔 주세요" 대신 "이 화면에서 이탈이 많은데 원인이 무엇일까요"로 시작합니다.
  • 판정 권한은 해당 부서에 유지: 결정권을 가져가지 않는다고 먼저 밝히면 방어 반응이 줄었습니다.
  • 부서끼리 합격선 교환: 상대의 기준을 모르면 시안은 계속 어긋납니다.
  • 시안에 의도 명시: 무엇을 해결하려 했는지 한 줄만 붙어도 결과물 평가가 아니라 문제 논의로 시작됩니다.

기술 이해보다 앞서 막히는 병목은 무엇일까요?

AX의 난이도가 기술 이해에 있을 것이라는 예상은 초기에 어긋났습니다. 부딪힌 병목은 대체로 그보다 앞단의 기본적인 상황이었습니다.

  • 업무가 문서로 없음: AI가 맡을 작업의 기준이 담당자 머릿속에만 있습니다. 지시를 글로 옮기는 순간 기준이 없다는 점이 드러납니다.
  • 합격선 미정의: 무엇이 잘된 보고서인지 합의된 적이 없습니다. 회의마다 다른 평가가 나옵니다.
  • 결정권자 부재: 도구 결제, 데이터 반출 범위, 규정 해석을 누가 정하는지 불명확했습니다.
  • 절차가 그대로: 작성 시간이 줄어도 결재 단계와 회의 주기가 그대로면 전체 시간은 거의 변하지 않습니다.

마지막 항목은 예로 보는 편이 빠릅니다. 어떤 조직에서 주간 보고서 초안 작성이 30분에서 5분 수준으로 줄었는데, 최종 승인까지 걸리는 시간은 거의 그대로였습니다. 초안을 기다리는 시간이 아니라 검토 순서와 회의 일정이 전체 시간을 결정하고 있었습니다.

조직에서 프롬프트는 왜 공유되지 않을까요?

조직 단위 AX는 공유를 요구합니다. 잘 작동한 프롬프트, 성공한 작업 순서, 도구 설정값이 개인 화면 안에만 있으면 조직 성과로 쌓이지 않습니다. 그런데 이런 결과물을 개인 자산으로 구분하고 공유를 꺼리는 경향이 자주 보였습니다.

PagerDuty의 2026년 직장 내 AI 사용 조사 결과 그래픽, 사무직 1,250명 중 72%가 자사 IT 조직보다 자신이 AI를 더 잘 안다고 답한 내용

위 그래픽은 PagerDuty가 2026년 발표한 조사입니다. 연매출 5억 달러 이상 기업의 사무직 1,250명이 대상이었습니다.

  • 66%: 회사가 승인하지 않은 AI 도구를 업무에 썼습니다.
  • 88%: 업무 관련 정보를 공개형 AI 도구에 넣은 경험이 있습니다.
  • 72%: 자사 IT 조직보다 자신이 AI를 더 잘 안다고 생각합니다.
  • 77%: 회사의 AI 사용 제한이 본인 성장을 막는다고 봅니다.

세 번째 수치는 앞의 과대평가와 겹칩니다. 공유를 꺼리는 이유도 비합리적이지 않습니다. 다듬은 프롬프트는 실제로 결과물 차이를 만들고, 그 차이가 평가로 이어지는 조직이라면 공유는 손해로 느껴집니다.

다만 이 선택은 조직에 비용으로 남았습니다. 같은 프롬프트를 부서마다 다시 만들고, 담당자가 퇴사하면 작업 순서도 함께 사라집니다. 성과 지표가 즉시 나빠지지 않으므로 문제로 인식되는 시점도 늦어집니다.

조직적 AX는 무엇부터 정해야 할까요?

앞에서 본 병목을 마주했을 때 먼저 손댔던 것들을 순서대로 적어 두겠습니다. 모든 조직에 맞는 순서는 아니고, 지금까지 효과를 본 범위 안에서의 정리입니다.

  1. 합격선 문서: 최근 통과한 결과물 3건과 반려된 3건을 놓고 무엇이 차이를 만들었는지 적었습니다. 이 문서가 생긴 뒤에야 AI 결과물을 같은 기준으로 놓고 이야기하게 됐습니다.
  2. 판단 훈련 방식의 교육: 도구 사용법 강의만 했을 때는 생산적 승객이 늘었습니다. 결과물을 펼쳐 놓고 무엇이 왜 통과인지 말하게 하는 자리를 두자 옮겨 가는 사람이 생겼습니다.
  3. 부서 간 합격선 교환: 서로의 기준을 모르는 상태에서는 시안이 계속 어긋났습니다. 기준 문서를 주고받은 뒤로 시안 논의가 짧아졌습니다.
  4. 공유의 손익 조정: 프롬프트 공유를 평가에 넣고 공유한 사람의 이름을 결과물에 남겼습니다. 익명 저장소는 대체로 채워지지 않았습니다.
  5. 절차 동시 수정: 작성 시간만 줄였을 때는 전체 시간이 그대로였습니다. 결재 단계와 회의 주기를 같이 줄이자 숫자가 움직였습니다.
  6. 성과 기준 단일화: 시간 절감과 품질과 처리량을 한꺼번에 목표로 두면 판정이 되지 않았습니다. 사용량 지표는 확산 단계까지만 쓰고 그다음에는 합격선으로 옮겼습니다.

여섯 가지 가운데 기술 지식이 필요한 항목은 없었습니다. AX를 기술 사업보다 조직 사업에 가깝다고 보는 이유도 여기에 있습니다.

3줄 요약

  • AX는 DX가 끝난 범위 안에서만 움직였습니다. 자산이 디지털로 있어야 하고, 그 위에 판단 기준이 글로 있어야 합니다.
  • 조직의 AX 수준은 계약한 도구 수가 아니라 구성원이 머리 쓰는 일을 대하는 태도에서 갈립니다.
  • AI를 쓰면 누구나 자기 결과물을 실제보다 높게 평가합니다. 만드는 쪽과 받는 쪽의 어긋남은 판정 주체를 사람에서 합격선 문서로 옮길 때 줄었습니다.

Sources

이 글이 도움이 되셨다면 공유해 주세요

메신저로 바로 보내거나 링크를 복사할 수 있습니다.

다음으로 읽어볼 글

퀴즈

AI를 쓸 때 자기 결과물의 품질을 평가하는 능력은 어떻게 달라질까요?