[BCG] 전문직군의 생성형 AI 도입 현황 (25.04)

핵심 요약

BCG의 2025년 설문조사는 전문 분야에 특화된 생성형 AI(GenAI)의 강력한 이점을 보여주며, 전문 서비스 기업과 정보 서비스 제공자가 도입률을 높이기 위해 어떤 조치를 취해야 하는지를 제시합니다.

 

 

• 특화된 GenAI는 범용 도구보다 더 많은 시간 절약과 높은 품질을 제공하지만, 법률, 세무 및 회계, 금융 분야 전문가 중 40% 미만만이 이를 실제로 사용하고 있습니다.
  
  
• 데이터 프라이버시와 기밀성에 대한 우려, 한정된 맞춤화 가능성, 교육 필요성 등 여러 장벽이 도입 확대를 저해하고 있습니다.
  
  
• 이러한 문제를 극복하기 위해 정보 서비스 제공자는 전문 고객들과 긴밀히 협력할 필요가 있으며, 전문 서비스 기업은 새로운 도구의 기능 확장을 최대한 활용할 수 있도록 데이터와 인력을 사전에 준비해야 합니다.

 

 

목차

1. 전문 서비스 분야에서의 생성형 AI 활용
2. 범용 생성형 AI : 기본적인 기능, 제한적인 영향
3. 특화된 생성형 AI : 더 나은 성능, 더 높은 영향력
4. 생성형 AI 도입 장벽

 

이 글은 BCG가 2025년 4월에 발행한 "New GenAI Tools Offer an Edge. Why Aren’t More Professional Services Firms Using Them?"를 의역한 글입니다.

아티클의 정확한 내용이 궁금하신 분들은 원문(영어)을 참고해 주세요.

 

 

---

1. 전문 서비스 분야에서의 생성형 AI 활용

업종별로 특화된 새로운 생성형 AI가 등장하면서, 전문 서비스 종사자들에게 막대한 혜택을 제공할 가능성이 커지고 있습니다.

 

이렇게 특화된 도구는 ChatGPT와 같은 범용 툴보다 더 큰 시간 절약 효과, 풍부한 인사이트, 실질적인 결과물을 제공하는 것으로 입증되고 있습니다.

 

하지만 BCG의 조사에 따르면, 이러한 잠재력에도 불구하고 법률, 금융, 세무 및 회계 전문가 중 실제로 이러한 도구를 사용하는 비율은 40% 미만에 그칩니다. 데이터 프라이버시 문제, 맞춤화의 한계, 교육에 대한 필요성 등 다양한 요인들이 도입을 가로막고 있습니다.

 

 

지금이야말로 정보 서비스 제공자와 전문 서비스 기업이 특화된 GenAI의 기회를 적극적으로 활용해야 할 시점입니다.

 

정보 서비스 기업은 제품의 기능을 지속적으로 개선하는 동시에, 전문 서비스 고객들과의 협력을 통해 도입률을 높여야 합니다. 한편 전문 서비스 기업은 이 기술이 제공하는 기능을 최대한 활용할 수 있도록 데이터 환경을 정비하고 인력을 준비해야 합니다.

 

BCG는 전문 서비스 기업들이 범용 및 특화된 생성형 AI(GenAI)를 어떻게 활용하고 있는지를 더 잘 이해하기 위해, 2024년 말 미국 내 법률, 금융, 세무 및 회계 기업의 종사자 300명을 대상으로 설문조사를 실시했습니다.

 

---

 

2. 범용 생성형 AI : 기본적인 기능, 제한적인 영향

범용 생성형 AI 플랫폼은 대체로 무료이며 접근성이 높기 때문에 전문 서비스 종사자들 사이에서 광범위하게 사용되고 있습니다.

 

OpenAI, Microsoft, Google과 같은 대형 AI 연구소들이 개발한 이 도구들은 AI 연구의 최전선을 확장하고 가능한 한 많은 사용자에게 도달하는 것을 목표로 합니다.

 

BCG의 조사 결과, 최근 몇 년 사이 범용 GenAI의 인기가 전문 서비스 업계에서 빠르게 증가하고 있음이 확인되었습니다.

 

BCG의 설문 응답자의 95%는 업무에 GenAI를 최소 월 1회 이상 사용하고 있으며, 약 86%는 12개월 전보다 더 자주 사용한다고 답했습니다.

 

 

가장 널리 사용되는 도구는 단연 OpenAI의 ChatGPT로, 응답자의 거의 80%가 이를 사용하고 있으며, 10%는 오직 이 도구만 사용한다고 밝혔습니다.

 

범용 GenAI 도구는 주로 이메일 작성과 같은 기본적인 업무에 활용되며, 업무 흐름에 미치는 영향은 긍정적이지만 눈에 띄게 혁신적인 수준은 아닙니다.

 

전체 응답자의 53%는 시간 절감 효과가 25% 미만이라고 답했으며, 15%는 10% 미만이라고 밝혔습니다. 이는 비교적 짧은 시간에 완료할 수 있는 작업에서 GenAI가 근본적인 변화를 일으키지 못하고 있음을 시사합니다.

 

 

또한, 범용 GenAI의 출력물은 여전히 사람의 손을 거쳐 다듬을 필요가 있습니다. 많은 응답자들이 범용 GenAI의 결과물이 정확성이나 깊이 있는 인사이트 면에서 여전히 부족하며, 상당한 수준의 후처리가 필요하다고 지적했습니다.

 

이러한 조사 결과를 종합해보면, 범용 도구로부터 전문 서비스 종사자들이 얻는 시간 절감이나 품질 향상 효과는 그다지 크지 않다는 결론을 내릴 수 있습니다.

 

앞으로 2~3년 동안 GenAI의 시간 절감 효과가 커질 것이라는 기대는 있지만, 이는 전문직들의 직무 자체를 근본적으로 바꿔놓을 정도로 획기적이지는 않을 것으로 보입니다.

 

---

 

3. 특화된 생성형 AI : 더 나은 성능, 더 높은 영향력

특화된 GenAI는 대형 AI 연구소들이 개발한 기술을 기반으로, 특정 산업 분야와 사용 사례에 맞게 최적화된 기능을 제공합니다.

 

BloombergGPT, FactSet Mercury, Lexis+ AI, Thomson Reuters CoCounsel, QuickBooks AI 기능 등이 전문 서비스 기업을 위해 개발된 대표적인 특화 도구입니다.

 

일반적인 GenAI와는 달리, 특화된 솔루션은 대규모 언어 모델(LLM)의 역량을 고품질의 도메인별 콘텐츠에 집중시켜 더 정확한 결과를 생성합니다.

 

또한 특화된 GenAI 도구는 종종 해당 분야의 전문 소프트웨어와 통합되도록 설계되어 있어, 작업 흐름에서 단계 수를 줄이는 데 도움을 줍니다.

 

BCG의 조사 결과에 따르면, 특화된 도구는 거의 모든 측면에서 범용 GenAI보다 훨씬 뛰어난 성능을 보였습니다. 단순한 시간 절약뿐만 아니라 정확성, 범위, 통찰의 깊이에서도 우위를 보였습니다.

 

특히 주목할 만한 지표 중 하나는 결과물에 대한 '재작업(rework)' 비율입니다. 일반 도구 사용자 중 결과물에 대해 상당한 재작업 또는 광범위한 수정을 요구했다고 응답한 비율은 49%로, 특화 도구 사용자(29%)보다 훨씬 높았습니다.

 

반면 결과물이 '재작업이 전혀 필요하지 않다'고 응답한 비율은 일반 사용자에서는 14%에 불과했으나, 특화 사용자에서는 38%에 달했습니다. (Exhibit 1 참고)

 

 

이런 데이터는 전문가들이 특화된 GenAI를 어떻게 사용하는지에 대한 유용한 인사이트도 제공합니다.

 

응답자의 80%는 내부 문서를 참고하는 데 이 도구를 '자주' 또는 '매우 자주' 사용한다고 밝혔습니다. 이에 비해 범용 GenAI를 같은 목적으로 사용하는 비율은 35%에 불과했습니다. 이 수치는 전문 서비스 기업들이 자사의 문서 유형, 언어, 맥락에 특화된 솔루션을 필요로 하고 있음을 보여줍니다.

 

앞으로 전문 서비스 종사자들은 핵심 가치 창출을 지원하는 작업에 GenAI를 더 많이 활용할 것으로 기대하고 있습니다.

 

예를 들어, 금융 서비스 분야 응답자 중 54%는 향후 정량 분석에 GenAI를 활용할 계획이라고 밝혔는데, 이는 전 산업 평균(18%)의 세 배 수준입니다.

 

법률 서비스 분야에서는 계약서 초안 작성을 위해 GenAI를 사용할 계획이라고 응답한 비율이 25%로, 전체 평균(14%)의 거의 두 배에 달했습니다.

 

---

 

4. 생성형 AI 도입 장벽

특화된 생성형 AI(GenAI)의 장점에도 불구하고, 전문 서비스 업계 종사자들의 활용은 여전히 제한적입니다.

 

전체 응답자 중 단 38%만이 이러한 도구를 실제 업무에 사용하고 있으며, 추가로 19%는 소속 기관에서 접근 권한은 있지만 사용하지 않는다고 답했습니다.

 

즉, 전문 서비스 종사자 10명 중 6명 이상은 특화된 GenAI를 사용하지 않고 있으며, 이는 사용을 꺼리거나 단순히 접근할 수 없기 때문입니다. (Exhibit 2 참고)

 

 

BCG의 조사 결과에 따르면, 전문가의 업무에 생성형 AI 도입을 가로막는 주요 장벽은 다양합니다.

 

주로 데이터 프라이버시와 기밀성 문제(입력한 데이터가 유출되거나 대규모 언어모델 학습에 활용될 수 있다는 우려)가 일반 및 특화 도구 사용자 모두에게 가장 큰 장애 요인으로 꼽혔습니다. (Exhibit 3 참고)

 

 

사용자 맞춤화 제한 또한 일반 도구 사용자(General-tool users)와 특화 도구 사용자(Specialized-tool users) 모두에게 공통된 장애 요인이었습니다.

 

반면, 일반 도구 사용자에게 주요 문제로 꼽힌 '결과의 일관성 부족 또는 신뢰성 낮음'(30%)은 특화 도구 사용자에게는 그다지 큰 문제로 인식되지 않았습니다(21%).

 

규제 준수 문제 역시 일반 도구 사용자 중 27%가 우려를 표한 반면, 특화 도구 사용자 중에서는 17%에 그쳤습니다.

 

이러한 데이터는 특화 도구가 산업별 사용 사례에 대해 더 높은 정확도를 제공하고, 재작업의 필요성을 줄이며, 사용자 신뢰도를 높인다는 사실을 뒷받침합니다.

 

BCG가 진행한 조사에서는 특화 도구의 도입을 방해하는 또 다른 요인도 확인되었습니다. 이러한 도구의 사용 여부는 개인이 아닌 조직이나 팀 차원의 결정으로 내려지는 경우가 대부분입니다. 협업의 효율성을 위해 구성원 모두가 동일한 도구를 사용하는 것이 필수이기 때문입니다.

 

따라서 특화 도구의 개발자뿐만 아니라, 해당 도구의 도입을 장려하고자 하는 기업도 이를 단순한 기술 도입이 아닌 '조직 전체의 변화'로 인식하고 접근해야 합니다.