최근 ChatGPT의 OpenAI가 “2025년 엔터프라이즈 AI 현황 보고서“를 발표했습니다. 이 보고서, 그냥 지나치기엔 담긴 내용이 너무나 좋습니다. 2025년은 AI가 단순한 ‘신기한 도구’를 넘어 기업의 심장(핵심 인프라)으로 자리 잡는 원년이 될 거라고 분석합니다. 보고서에 담긴 핵심 내용과 우리가 무엇을 준비해야 할지, 쉽게 풀어서 정리해 보려 합니다.
1. AI, 이제는 기업의 ‘범용 기술’이 되다
증기 기관이나 반도체처럼 산업의 판도를 완전히 바꾼 기술을 ‘범용 기술(General Purpose Technology)‘이라고 합니다. 2025년의 AI가 딱 그 위치에 서 있다고 보고서는 말합니다.
지난 3년이 소비자들이 AI에 열광하던 시기였다면, 이제는 그 열기가 기업 내부의 거대하고 복잡한 업무 현장으로 옮겨붙고 있습니다. 전 세계 100만 개 이상의 기업이 OpenAI의 솔루션을 쓰고 있다고 하고, 이건 단순한 유행이라고 볼수 없습니다. 기업들이 가장 까다롭게 따지는 신뢰성, 안전성, 보안의 벽을 AI가 넘고 있다는 뜻입니다.
2. 폭발하는 사용량, 그런데 ‘질’이 달라졌습니다
가장 눈에 띄는 건 사용량의 폭발적인 증가입니다. 2024년 11월 이후 기업용 메시지 양이 무려 8배나 늘었다고 합니다. 그런데 더 무서운 건 따로 있습니다.
- 추론 토큰(Reasoning Token) 소비 320배 증가! 이게 무슨 뜻이냐면, 사람들이 이제 AI에게 단순히 이메일 요약 같은 쉬운 일만 시키는 게 아니라는 겁니다. 전략 수립, 복잡한 데이터 분석, 코딩 리팩토링처럼 ‘머리를 써야 하는’ 고차원적인 업무를 AI에게 맡기기 시작했다는 거죠. AI가 기업의 ‘두뇌’ 역할을 분담하고 있는 셈입니다.
- 대화창을 넘어 ‘워크플로우’ 속으로 ‘Custom GPTs’ 사용자가 19배나 늘었다는 점도 주목해야 합니다. 우리 회사의 규정, 기술 문서, 노하우를 학습시킨 ‘우리 회사 맞춤형 AI‘가 실제 업무 프로세스를 자동화하고 있다는 증거입니다.
3. 생산성의 혁명: 시간과 능력의 확장
“AI 쓰면 진짜 빨라져?”라고 묻는다면, 수치가 답해줍니다. ChatGPT Enterprise 사용자들은 하루 평균 40~60분을 절약하고 있습니다. 1년이면 직원 한 명당 200시간의 여유가 생기는 거죠.
- 능력의 증폭: 특히 개발자나 데이터 과학자 같은 고숙련 직군일수록 더 많은 시간을 절약하며 효율을 높이고 있습니다.
- 역할의 확장: 더 놀라운 건, ‘못 하던 걸 하게 됐다‘는 겁니다. 마케터가 SQL 쿼리를 짜서 데이터를 뽑고, 재무 담당자가 파이썬으로 분석을 돌립니다. 기술 장벽이 무너지면서 누구나 ‘기술 활용 인력’이 되고 있는 거죠.
4. 하지만 ‘빈익빈 부익부’ 격차는 커지고 있습니다
여기서 우리가 경각심을 가져야 할 부분이 있습니다. 바로 격차(Divide)입니다.
- 슈퍼 유저(Frontier) vs 일반 유저: 상위 5%의 직원들은 일반 직원보다 코딩 업무에 AI를 17배나 더 활용합니다. 이들은 생산성을 10배 이상 높이는 ‘슈퍼 직원’으로 진화하고 있지만, 나머지는 제자리걸음 중이죠.
- 선도 기업 vs 후발 기업: 기업 간에도 차이가 벌어집니다. 선도 기업들은 AI를 시스템 깊숙이 연결해서 쓰지만, 후발 기업은 보안 걱정 때문에 기능을 제한하거나 단순 챗봇으로만 씁니다. 심지어 비싼 돈 내고 기능을 10%도 활용 못 하는 기업도 많다고 합니다.
5. 실제 돈이 되나요? (사례로 보는 성과)
네, 실제 돈이 됩니다. 보고서에 소개된 사례들을 보면 대단합니다.
- Intercom (고객 상담): AI가 통화 내용을 듣고 답변을 준비해서 지연 시간을 48%나 줄였습니다. 상담 비용이 엄청나게 절약된 건 당연하고요.
- Lowe’s (유통): 수만 가지 자재 정보를 AI가 꿰뚫고 있어서, 직원이 고객에게 전문가처럼 답변할 수 있게 되었습니다. 덕분에 구매 전환율이 2배나 뛰었죠.
- Moderna (제약): 신약 개발 문서 분석과 초안 작성에 몇 주가 걸리던 걸 단 몇 시간으로 줄였습니다. 신약 개발에서 시간 단축은 곧 천문학적인 돈을 의미하죠.
BCG 연구에 따르면, AI 선도 기업은 후발 기업보다 매출 성장률이 1.7배, 주주 수익률이 3.6배나 높았다고 합니다.
6. 그래서, 우리는 무엇을 해야 할까요?
보고서는 성공하는 기업들의 5가지 공통 전략을 제시합니다.
- 깊이 연결하세요: AI를 채팅창에만 가두지 말고, 사내 데이터(ERP, CRM 등)와 API로 연결해야 합니다.
- 자산화하세요: 직원이 만든 좋은 프롬프트나 GPT를 전사적으로 공유해서 모두의 능력을 상향 평준화하세요.
- 리더가 움직이세요: 경영진이 확고한 비전을 갖고 지원해야 합니다.
- 데이터를 준비하세요: AI의 먹이는 데이터입니다. 비정형 데이터를 잘 정리해두는 게 필수입니다.
- 문화를 바꾸세요: 기술보다 어려운 게 사람 마음이죠. AI가 내 일자리를 뺏는 게 아니라 나를 돕는 도구라는 걸 인식시켜야 합니다.
챗봇의 시대는 가고, ‘에이전트’의 시대가 옵니다
2025년 보고서가 주는 메시지는 명확합니다. “질문하면 답하는 챗봇 시대는 지났다. 일을 맡기면 알아서 처리하는 에이전트(Agent)의 시대가 왔다.”
지금의 격차는 앞으로 더 벌어질 거라고 생각합니다. 지금이라도 데이터를 정비하고, 업무 방식을 바꿔서 AI를 우리 회사의 심장으로 받아들여야 하지 않을까요?. 선택이 아니라, 생존을 위한 필수 조건이 되가는 느낌입니다.
2026년은 어떤 모습이 될까요 AI와 함께 달려야 할 때입니다.