커뮤니케이션과 지혜

AI활용이 어려운 이유

skcho 2025. 11. 17. 13:54

AI 기술은 빠르게 발전하고 있다. 그러나 단순히 도입했다는 사실만으로 업무 효율이 높아지는 것은 아니다. 최근 맥킨지 보고서는, 조직들이 생성형 AI를 적용하면서 단순히 기술을 설치하는 차원을 넘어 **워크플로우를 근본적으로 재설계하고**, **경영진이 거버넌스를 직접 책임지고**, **조직체계·역할·역량을 다시 짜는 변화**를 겪고 있다고 밝힌다. 25개 조직 속성 중에서도 **워크플로우 재설계가 EBIT 개선과 가장 강하게 연결된다**는 분석도 제시한다. AI의 가치는 결국 “회사가 돌아가는 방식을 다시 배선하는 것”에서 나온다는 의미다.

이 메시지는 현장에서 체감되는 현실과도 맞닿아 있다. AI를 사용하는 사람은 많지만 실제 업무 일부를 **지속적으로·구조적으로** AI로 고도화한 사례는 개인·조직 모두에서 드물다. 개인 자원으로 가볍게 활용하는 경우는 많지만, 업무 방식 자체가 바뀌었다고 말할 수 있는 경우는 거의 없다. 한편으로는 “AI가 곧 인간 일을 다 대체할 것”이라는 두려움이 존재하고, 다른 한편으로는 정작 업무에는 깊게 들어오지 못한 아이러니도 있다. 왜 이런 간극이 생기는가.

 

 

Singla, Alex; Sukharevsky, Alexander; Yee, Lareina; Chui, Michael; Hall, Bryce. The State of AI: How organizations are rewiring to capture value. McKinsey Global Survey on AI, March 12, 2025. McKinsey & Company.  

https://www.mckinsey.com/~/media/mckinsey/business%20functions/quantumblack/our%20insights/the%20state%20of%20ai/2025/the-state-of-ai-how-organizations-are-rewiring-to-capture-value_final.pdf?utm_source=chatgpt.com

1. AI와 인간은 오류를 다르게 다룬다

사람은 작은 이상 신호에서 전체 문제를 추론한다. 숫자만 있어야 하는 열에 문자가 들어가면 즉시 멈추고 “왜 문자가 들어갔지?”를 생각한다. 이런 감각이 더 큰 오류를 미리 막는다.

AI는 이 방식으로 사고하지 않는다. 문자를 만나면 그것을 **오류로 처리**하거나 **그냥 무시**하는 방식으로 대응한다. 원인을 찾지 않는다. 그래서 오류가 **드러나지 않고 숨는다**.

실제로 데이터 분석에서도 이런 일이 발생한다. AI가 데이터를 정리하는 과정에서 사용자가 예상하지 못한 방식으로 삭제·변형을 수행해 분석할 만한 자료가 거의 남지 않는 경우가 있다. 규칙에 따라 처리하면서 이 규칙이 타당한가를 생각하지 않는다.

 


2. AI는 인간처럼 ‘알아서’ 하지 않는다

AI는 주어진 지시를 **자신이 이해한 범위 안에서만** 수행한다. 사람은 경험과 상식으로 공백을 메우지만 AI는 그러지 않는다.

문제는, AI가 ‘알아서 잘한 것처럼’ 보이는 순간에도 우연히도 AI일하는 방식이 최적이었을 수 있다. 실제로는 극히 제한된 방식**으로만 처리하고 있고 그래서 상황이 바뀌면 에러가 발생할 수 있다. 예를 들어 “다음 글을 통합하라”고 하면 사람에게 통합은 논지 정리·구조 조정·중복 조정일 수 있지만, AI는 이를 대부분 **중복 제거 → 분량 축소**로 해석한다. 그래서 원치 않게 글의 양이 계속 줄어든다.

자연어를 이해한다고 해도 맥락판단과 개념적 해석이 인간과 다르다. 지피티 사용 과정에서 생기는 많은 문제는 “AI는 사람과 다르게 사고한다”는 기본 전제가 고려되지 않은 채 지시를 내릴 때 발생한다.


3. 개인도 자신의 업무 수행 방식을 다시 설계해야 한다

사람이 하던 일을 AI에게 시킬 때는 이 차이를 반드시 감안해야 한다. 사람은 모호한 지시도 자연스럽게 메우지만, AI는 그 모호함을 그대로 받아들인다.

그래서 실제 작업에서는 다음 변화가 생긴다. 작성 시간보다 **입력 설계 시간**이 늘어난다. AI가 표 구조를 잘못 읽지 않도록 데이터를 정리해야 하며, 엑셀 병합 셀을 AI가 엉뚱하게 해석하는 문제도 직접 잡아줘야 한다.

결과적으로

  • 오류의 유형이 달라지고
  • 검증의 포인트가 달라지고
  • 업무 흐름도 바뀐다.

즉 개인 수준에서도 AI가 정확히 일을 수행할 수 있도록 **업무 방식을 재설계해야 한다**. 기존 방식 그대로 두고 AI만 끼워 넣으면 품질은 오르지 않고, 예상하지 못한 오류가 생긴다.


4. 조직도 업무 구조를 다시 짜야 한다

조직의 기존 프로세스는 인간의 처리 속도와 판단 방식에 맞춰 설계돼 있다. 여기에 AI가 들어오면 흐름이 어긋난다.

맥킨지 보고서에서도, AI를 도입하는 조직 상당수가 **업무 흐름 자체를 재설계**하는 작업을 거쳤을 때만 실제 효과가 나타났다고 밝힌다.

조직이 조정해야 할 기본 요소는 다음과 같다.

  • AI가 투입되는 단계의 명확화
  • 단계별 오류·품질 기준
  • 인간과 AI의 역할 분리
  • 데이터 흐름 재설계

이 과정을 생략하면 AI는 해결책이 아니라 새로운 혼란의 원인이 된다.


5. AI 도입이 성공한 영역의 특징

지금까지 성공한 사례의 대부분은 **속도 개선**이다. 정형적·반복적·대량 처리 업무는 AI가 인간보다 빠르다.

예컨대 100페이지분량의 문서를 번역하는데 불과 몇분이면 된다. 그러나 그 번역의 품질이 인간의 번역만큼 좋지는 않다. 이것은 AI의 한계일 수도 있지만, 번역의 과정을 설계하기에 따라 번역의 품질이 확연히 달라진다. 따라서

속도와 품질이 동시에 개선하는 것이 가능하다.


6. AI 활용을 위한 작업 설계에 ‘누가 먼저 성공할까 ’

AI가 모든 것을 대체하는 시대가 아니라, AI를 제대로 활용하는 개인과 조직이 먼저 성과를 얻는 시대로 이동하고 있다.

핵심은 다음이다.

  • AI의 작동 방식을 이해하고
  • 업무 구조를 재설계하며
  • 오류·품질·입력 기준을 명확하게 정의하는 개인과 조직

이러한 기반을 갖춘 쪽이 더 빠르게 우위에 선다. AI 도입은 속도 개선만의 문제가 아니다. **품질과 효율을 동시에 끌어올리는 재설계의 문제**이며, 누가 먼저 이 변화에 적응하느냐가 성패를 가른다.


7. 그래서 카스텀 GPT가 필요하다

사람들이 **AI를 자신의 업무 방식 안에서 직접 통제해 본 경험이 많지 않다. 대부분 주어진 대로 사용한다. AI의 일하는 방식가 그것이 에러를 범하기 쉬운 경우 등을 골하면서 일을 시켜보는 것이 중요하다.

카스텀 GPT는 이 경험을 직접 제공한다.

같은 AI라도 규칙·지시·역할 정의가 바뀌면 전혀 다른 결과가 나온다는 점을 체감하게 된다. AI를 어떻게 자신의 업무 구조에 통합할 수 있는지를 보다 잘 이해할 수 있다. 이제는 누가 먼저 누가 먼저 이 능력을 가지느냐가 경쟁력을 결정한다.