기업에 가장 많이 배포된 AI 솔루션 유형, 29%가 ‘생성형 AI’ 꼽아

- 응답자 29%, 가장 많이 배포하는 AI 솔루션으로 ‘생성형 AI’ 꼽아 - 응답자 중 1/3, ‘기존 애플리케이션에 내장된 생성형 AI’를 주된 생성형 AI로 활용 - 응답자의 절반, AI 도입의 가장 큰 어려움으로 ‘비즈니스 가치 추정, 입증’ 지목 - 성숙한 AI 조직, ▲확장 가능한 AI 운영 모델 ▲AI 엔지니어링 역량 ▲AI 숙련도 투자 ▲TRiSM 기능 역량에 집중 - AI 성숙도를 높이고, 도입 시 어려움을 완화하기 위한 기본 AI 역량 확보 필요

2025-05-08     임병선 기자

[smartPC사랑=임병선 기자] 기업에 가장 많이 배포된 AI 솔루션 유형으로 29%가 ‘생성형 AI’를 꼽았다.

가트너(Gartner)는 2023년 4분기에 실시된 설문조사를 통해 생성형 AI가 기업에 가장 많이 배포된 AI 솔루션 유형이라고 발표했다.

응답자 중 29%는 생성형 AI를 구축하여 사용 중이며, 가장 많이 배포하는 AI 솔루션으로 생성형 AI를 꼽았다. 이는 그래프 기술, 최적화 알고리즘, 규칙 기반 시스템, 자연어 처리, 기타 유형의 머신 러닝 등 다른 솔루션보다 더 높은 것으로 나타났다.

3분의 1에 달하는 34%의 응답자는 마이크로소프트 365 코파일럿 또는 어도비 파이어플라이와 같이 기존 애플리케이션에 내장된 생성형 AI를 활용하는 것이 가장 주된 활용법이자 생성형 AI의 사용 사례를 충족하는 최적의 방법이라고 응답했다. 이는 엔지니어링을 통한 생성형 AI 모델 커스터마이징(25%), 맞춤형 생성형 AI 모델 훈련 및 미세 조정(21%), 챗GPT, 제미나이 등의 독립형 생성형 AI 도구 사용(19%) 등 다른 방법보다 자주 사용되는 것으로 나타났다.

레이나 라모스(Leinar Ramos) 가트너 시니어 디렉터 애널리스트는 “생성형 AI는 기업 내 AI 확장을 위한 촉매제 역할을 한다”며, “생성형 AI는 리더들에게 다양한 기회를 제공하는 동시에, 이를 활용해 대규모 가치를 전달할 수 있는지 물음표를 던지기도 한다”라고 말했다.

 

절반가량(49%)의 응답자는 AI 도입에서의 가장 큰 장애물로 AI 프로젝트 가치 추정과 입증을 꼽았다. 이는 인력 부족, 기술적 어려움, 데이터 관련 문제, 비즈니스 연계 부족, AI에 대한 신뢰 부족 등 다른 요소보다 더 높은 응답을 기록했다.

라모스 시니어 디렉터 애널리스트는 “AI와 관련한 비즈니스 가치는 조직이 지속적으로 직면하는 과제다. 조직은 AI를 확장할 때 프로젝트 총 소유비용과 함께, 생산성 향상 너머의 광범위한 이점도 고려해야 한다"라고 강조하며, “생성형 AI는 비즈니스 전반에 걸쳐 AI 채택 수준을 높였고, 이를 통해 AI 숙련도 향상과 AI 거버넌스와 같은 후속 논의가 이어졌다. 생성형 AI는 기업이 AI 역량을 높이도록 강제하고 있다”라고 말했다.

또한 그는 “AI를 활용한 비즈니스 가치 창출에 어려움을 겪고 있다면, 성공적인 AI 조직의 모범 사례를 참고할 수 있다”며, “성숙한 AI 조직은 다양한 비즈니스 부서와 프로세스에 걸쳐 AI를 더 광범위하게 적용하고, 보다 오래 유지되는 사용 사례를 더 많이 도입하는 조직을 말한다”라고 설명했다.

설문조사에 따르면 기업의 9%가 현재 AI 성숙기에 있으며 이에 해당하는 기업은 다음과 같은 4가지 기본 역량에 집중하는 것으로 나타났다.

 

- 중앙집중식, 탈중앙화 기능의 균형을 맞출 수 있는 확장 가능한 AI 운영 모델 활용 역량

- AI 프로젝트 구축, 배포하는 체계적인 방법을 설계하는 AI 엔지니어링 역량

- 기업 전반에 걸친 AI 숙련도 향상과 변화 관리에 대한 투자 역량

- AI 도입에 따른 위험 완화, 개선된 사업 성과 창출을 위한 신뢰, 위험, 보안 관리(TRiSM) 역량

 

라모스 시니어 디렉터 애널리스트는 “AI 성숙 단계에 접어든 기업은 AI 기술과 관련해 어떤 일이 발생하더라도 관련성을 유지할 수 있는 기본 역량에 투자한다. 이를 통해 더 큰 규모의 AI를 더 효율적이고 안전하게 배포할 수 있다”라고 말했다.

기본 역량에 집중하면 기업은 성숙도를 높이고 AI 프로젝트를 도입하는 데 따르는 여러 어려움을 완화할 수 있다. 설문조사에 따르면 평균적으로 AI 프로젝트의 48%만이 실무에 적용되며, 초기 단계에서 실무에 적용하기까지는 8개월이 걸리는 것으로 나타났다.

가트너 무료 웨비나 ‘성공적인 AI 도입을 위해 성숙기의 조직이 두는 차별점’에서 보다 자세한 내용을 알아볼 수 있으며, 가트너 고객은 ‘설문조사 결과로 확인하는 생성형 AI가 조직의 AI 성숙도를 테스트하는 방법’ 보고서를 참고할 수 있다.