AI가 이미 성과를 내고 있는 다섯 가지 분야
생성형 AI는 상담원의 응답 시간을 최대 35%까지 단축하고, 다양한 지식 소스를 효과적으로 관리하여 문제 해결 과정에서 컨설턴트를 지원하며, 결과의 품질을 최대 40%까지 향상시킬 수 있습니다.
일반적으로 기술 변화 초기에는 빠르게 따라가는 기업들이 선도 기업의 실수를 관찰하며 경쟁 우위를 확보합니다. 하지만, AI는 다른 양상을 보이고 있습니다.
초기 도입 기업들은 도입 후 18~36개월 이내에 최대 20% 수준의 실적 향상을 경험하고 있으며, 이러한 역량과 자신감을 바탕으로 지속적인 경쟁 우위를 확보하고 있습니다.
초기 도입 기업들은 운영을 재설계하고 새로운 비즈니스 모델을 개발해 나가고 있습니다. 인터넷이 등장했던 1990년대 이후 이 정도로 강력한 기술 변화는 처음이며, 이번에는 변화의 속도도 훨씬 빠릅니다.
한편, 일부 투자자와 애널리스트들은 여전히 AI 투자 수익에 대해 회의적입니다. 이는 단순히 기술을 시험해보거나 도입하는 것만으로는 충분하지 않기 때문입니다.
인터넷이나 클라우드 같은 과거의 기술 변화보다도 AI는 기업의 운영 방식 자체를 바꾸는 것이 필요합니다. 비즈니스 진단을 수행하고, 명확한 성과 목표를 설정하며, 프로세스를 재설계한 후 AI 도구를 개발·적용한 기업들이 실질적인 가치를 실현하고 있습니다.
이러한 초기 성공은 더 큰 투자로 이어지고 있습니다. 지난 1년 동안 AI에 1억 달러 이상을 투자한 대기업 수는 2배 이상 증가했습니다.
수백 가지의 사용 사례 실험이 진행되고 있지만, 현재 가장 높은 가치를 창출하는 다섯 가지 핵심 분야가 존재합니다.
소프트웨어 및 제품 개발
생성형 AI가 소프트웨어 개발에서 활용되는 대표적인 사례는 코드 생성, 문서화, 리팩토링, 디버깅, 테스트, 운영 및 유지보수 등입니다.
일부 개발 조직은 코드 생성과 문서화에서 15~40%, 리팩토링 및 특정 테스트·디버깅에서 30~50% 이상의 비용을 절감하고 있습니다. 이는 코드 베이스를 넘는 특정 패턴과 풍부한 데이터셋을 활용했기 때문입니다.
일부 기업에서는 AI 도입을 계기로 소프트웨어 개발 생산성을 평가하고 있으며, 제품 관리, 데이터 기반 우선순위 설정, 프로세스 단계별 관리, 애자일(Agile), QA 조기 품질 관리 등 전통적인 개선 영역으로도 확대하고 있습니다.
소비자와 중소기업을 위한 핀테크 플랫폼 Intuit는 30개 이상의 다양한 AI 활용 사례를 테스트하며 소프트웨어 개발 생애주기 전반에서 속도를 높이고 있습니다.
Intuit는 자체 개발 플랫폼에 생성형 AI 기술을 통합하여 개발자, 디자이너, 제품 관리자, 데이터 엔지니어, 분석가, 기술 프로그램 관리자 등 제품 팀의 생산성을 향상시키고 있습니다.
코드 생성 분야에서는 Intuit 특화 코드 문맥 및 리포지토리 기반으로 튜닝된 코딩 도우미를 통해 평균 이상의 효율을 확보했습니다. 또한 코드 기반 현대화를 위한 리팩토링 작업에도 집중하면서 개발 속도를 더욱 가속화하고 있습니다.
고객 지원
생성형 AI는 고객 지원을 자동화하고 최적화하는 데 그치지 않고, 애초에 고객 지원 수요 자체를 줄이는 데도 기여하고 있습니다.
고객 지원 분야에서의 주요 활용 사례로는 고객 문제를 예측·방지·해결하는 분석 도구, 디지털 셀프 서비스 확장을 위한 챗봇, 고객을 적절한 담당자에게 연결하는 알고리즘, 에이전트의 효율성을 높이는 지식 도우미 등이 있습니다.
생성형 AI는 상담 응답 시간을 최대 35%까지 단축하고, 다양한 지식 소스를 관리해 문제 해결을 지원하며, 결과 품질도 최대 40% 향상시킬 수 있습니다.
예를 들어, 한 기술·제조 기업은 현장 서비스용 생성형 AI 프로토타입 두 가지를 개발했습니다. 첫 번째는 유지보수 작업자의 생산성을 높이는 보조 AI이며, 두 번째는 건물 센서 데이터를 분석하고 긴급 상황 대응 의사결정을 지원하는 시스템입니다.
영업 및 마케팅
영업 및 마케팅 분야에서 생성형 AI는 맞춤형 콘텐츠 생성, 이메일 마케팅, 소셜미디어 자동화, 계정 계획 자동화, 고급 교육 및 지원 등에 활용되고 있습니다.
이로 인해 영업 및 마케팅 직원의 생산성이 높아지고, 영업 주기가 단축되며, 고객 이탈이 감소하고, 하이퍼 개인화(hyper-personalization)를 통한 클릭률이 향상되고 있습니다.
예를 들어, 한 기술 하드웨어 기업은 콘텐츠 생성 및 시스템 자동화를 통해 콘텐츠 제작과 게시 워크플로우를 간소화하고 있으며, 일부 역할에 생성형 AI를 적용했습니다. 이 기업은 콘텐츠 생성 시간의 30% 절감을 목표로 했고, 다양한 사례에서 기대 이상의 성과를 이미 확인했습니다.
신제품 및 기능 개발
기업들은 생성형 AI를 제품 및 기능 개발에 활용해 더욱 간단하고 사용하기 쉬운 인터페이스를 구현하고, 더 나아가 맞춤화된 사용자 경험을 제공합니다.
예를 들어, 의료 분야에서는 환자 데이터를 신속히 분석해 개인 맞춤형 치료 계획을 제시할 수 있습니다. 다른 산업에서는 음성 또는 텍스트 기반 챗봇을 통해 제품과의 상호작용을 간소화할 수 있습니다.
예를 들어, Carrefour의 웹사이트는 고객 정보와 입력을 기반으로 쇼핑 목록과 메뉴를 추천해주는 생성형 AI 쇼핑 어시스턴트를 제공하고 있습니다. 이를 통해 쇼핑 경험을 단순화하면서도 흥미롭게 만듭니다.
백오피스
백오피스 영역은 반복적인 프로세스가 많아 생성형 AI 적용에 적합한 분야입니다. 예를 들어, 금융 부문에서는 내부 감사 보고서 작성, 세무 감사 문서 작성, 맞춤형 재무 분석 등의 효율을 AI를 통해 향상시킬 수 있습니다.
독일 Deutsche Telekom은 자사 조달 부서에 맞춤화된 챗봇을 개발했습니다. 이 챗봇은 정책 준수, 벤더 및 계약 관련 추천, 제안 요청에 대한 적정 가격 추천 등 다양한 요청에 응답할 수 있으며, 기업 전반에서 시범 적용한 결과, 일반 사용자 기준 월 2,000시간, 조달 담당자 기준 월 5,000시간을 절약할 수 있을 것으로 나타났습니다.
예상되는 과제
AI 도입은 생산성을 획기적으로 향상시키는 변화의 여정이지만, 기술 통합, 직원의 업무 방식 변화, 운영 프로세스 재설계 등 다양한 과제를 동반합니다.
• 비즈니스 프로세스 정비: 기존의 복잡한 운영을 그대로 자동화하지 않도록 해야 합니다. 자동화에 앞서 프로세스를 간소화하고 불필요한 단계를 제거해 에너지와 역량을 확보해야 합니다.
• 데이터 및 애플리케이션 환경 현대화: 방대한 데이터베이스, 다양한 진실의 원천(multiple sources of truth), 복잡한 애플리케이션 환경은 AI의 신속한 도입을 방해합니다. 먼저 데이터 거버넌스와 시스템 현대화에 투자하면 생산성 향상 효과가 극대화됩니다.
• 기술 및 서비스 지원 확보: AI를 클라우드 혹은 온프레미스에 도입하려면 참조 설계(reference designs), LLM 추천, 프롬프트 엔지니어링, 애플리케이션 개발 지원 등이 필요합니다. 하지만 이러한 자원은 공급이 부족하며, 특히 GPU 인프라는 수요가 매우 높습니다.
AI 전환 리더십
AI를 전략적으로 구현하려면 조직의 비즈니스 목표와 일치하는 방향으로 추진해야 하며, 변화가 점진적이든 급진적이든 몇 가지 모범 사례를 따르는 것이 중요합니다.
- 최고경영자(CEO)부터 AI를 가치 창출 수단으로 명확히 인식하고 ROI 목표를 설정한 후 예산 프로세스를 통해 실행을 책임지도록 해야 합니다.
- 비즈니스 진단을 먼저 실시하고, 비효율적인 프로세스를 자동화하지 않도록 해야 합니다. 자동화 전에는 가치 창출 기회를 정의하고 프로세스를 재설계해 효율 향상 목표를 설정해야 합니다.
- AI를 도입할 구체적인 로드맵을 정의하고, 영업·마케팅, 고객 지원, 소프트웨어 개발, 운영 등 고부가가치 기능에 집중해야 합니다.
- 셀프 서비스 툴(Microsoft 365 Copilot 등), 벤더 솔루션, 맞춤형 AI 모델 등 다양한 AI 도입 방식을 병행해 데이터 민감도 및 차별화 요구에 대응해야 합니다.
- 공유 가능한 데이터셋, AI 모델, 기술 컴포넌트 및 플랫폼을 구축해 규모의 경제를 실현하고, 제품 관리 및 Agile, DevOps 기반의 고속 개발을 지원해야 합니다.
- 리스크 관리, 책임 있는 AI, 거버넌스 역할을 마련하고, 인재 전략과 소통 전략을 명확히 해야 합니다.
기업마다 AI 여정은 다르게 전개되겠지만, 한 가지는 분명합니다. AI의 급격한 부상은 일시적인 유행이 아니며, 향후 10년 이상 경쟁우위를 확보하는 핵심 수단이 될 것입니다.
지금 도입을 망설이는 기업은 시간 여유가 없으며, 변화를 따라잡지 못하면 시장에서 입지를 유지하거나 회복하기 어려울 수 있습니다.
핵심 요약
▶ 많은 기업들이 소프트웨어 개발, 고객 지원 등 다양한 영역에서 생성형 AI에 대한 투자를 확대하고 있습니다.
▶ AI는 기능 전반에서 실질적인 효율성을 개선하고 있으며, 예를 들어 고객 응답 시간을 3분의 1 수준으로 줄이고, 일부 코드 생성 시간은 절반으로 단축시키고 있습니다.
▶ 다른 기술 변화보다 AI는 가치를 실현하기 위해 비즈니스의 재설계가 필요합니다. 단순히 기술만 도입해서는 투자 수익이 크지 않습니다.
Bain & Company가 발행한 "Technology Report 2024" 내용의 일부를 번역하고 정리한 포스팅입니다.
자세한 내용은 Bain & Company의 리포트 원문을 살펴봐 주세요.
