“중기 XAI 적용 필요…XAI 2034년 약 65조 시장 규모”

중기연, '설명 가능한 인공지능(AI)의 부상, 중소기업 정책 방향'에 관한 보고서' 발표

설명가능한 인공지능(XAI)를 중소기업의 유망한 기술, 비즈니스 분야로 인식하고 XAI 이행 기반 강화와 전문기업을 육성하는 것이 필요하다는 연구결과가 나왔다.

중소벤처기업연구원은 31일 이 같은 내용이 담긴 'XAI의 부상 중소기업 정책 방향에 관한 보고서'를 발표했다.

김기만 중기연 부연구위원은 "AI가 산업과 비즈니스 경쟁력을 높일 강력한 기술 혁신으로 기대를 받고 있으나 동시에 AI의 의사결정에 대한 복잡성, 불투명성 등으로 인한 이슈가 제기되고 있다"며 "국내외에서 AI 활용에 따른 안전성, 책임성을 확보하기 위한 주요 원칙 중 하나로 설명 가능성이 강조되고 있는 상황에 주목해야 한다"고 말했다.

또한 "향후 중소기업 분야에서 AI 활용이 확대됨에 따라 이에 따른 의사결정 투명성, 설명 가능성에 대한 관심, 요구가 증가할 것으로 전망하며 XAI에 대한 논의와 적용에 관심을 가지는 것이 필요하다"며 "XAI는 AI 시스템의 투명성을 높이기 위해 패러다임을 전환하려는 노력이며 사용자가 AI 시스템의 의사결정 과정을 이해할 수 있도록 하는 기술, 방법으로 XAI에 대한 세계시장 규모가 빠르게 성장할 것으로 전망되고 있으며 2034년까지 약 65조원 시장 규모에 이를 것으로 예측한다"고 설명했다.

그는 "해외 사례를 보면 제조, 금융과 더불어 도소매, 무역 부문 등에서 스타트업(신생 벤처기업)이 XAI에 기반을 둔 솔루션을 개발·제공하며 이를 통해 AI 시스템의 분석 결과에 대한 신뢰성 제고, 고객사의 만족도 향상 등의 성과가 나타나고 있다"며 "공공 부문에서도 정부 운영과 공공 정책 혁신을 위해 XAI를 적용하려는 노력들이 이뤄지고 있다"고 강조했다.

또한 "보고서는 재무 정보를 토대로 중소기업의 미래 예측에 있어 XAI를 적용하는 사례를 소개했다"며 "이를 통해 고성장 기업 또는 한계 기업을 예측하고 이러한 예측에 주요하게 영향을 준 요소들을 이해하는 것이 가능하고 사례에서는 고성장 기업을 예측함에 있어 총자산증가율, 자기자본이익률의 역할이 중요하다"고 설명했다.

그는 "△XAI 이행 기반 강화 △전문기업 육성 △중소기업 위기관리모형 고도화 △신규 정책의 잠재적 영향 진단 툴 확보 등의 정책 방향이 필요하다"며 "우선 AI 활용과 설명가능성 확보에 관한 사항을 중소기업 AI 관련 전략·계획 마련 때 내용으로 반영하고 중소기업의 AI 기반 비즈니스 또는 공공부문 의사결정 때 XAI 적용을 절차적으로 포함하는 것이 바람직하다"고 강조했다.

또한 "제조 분야 등에서 더욱 확대해 다양한 분야에서 XAI 서비스 개발, 보급 전문기업 육성이 필요하다"며 "특히 기술력과 역량을 보유한 중소기업이 동 분야를 선도할 수 있도록 선도 기업 발굴·선별적 지원 방식이 바람직하다"고 언급했다.

그는 "중소기업 생태계 변화에 대한 사전 예측·진단 시스템을 확보하기 위한 노력이 필요하다"며 "기업 활동에 큰 영향을 주는 대내외 환경 등 변화 상황을 고려해 기업 성장 등 예측 후 XAI를 적용해 높은 영향력을 가지는 요소를 확인하고 주요 지표로서 이들을 모니터링·관리할 수 있도록 관심을 가져야 한다"고 제언했다.

그는 "XAI를 적용해 신규 정책 설계에 대한 잠재적 영향을 가늠할 수 있는 진단 도구를 확보하는 것이 필요하다"며 "이를 통해 이해관계자(정부·기업 등)에게 정책 수립에 대한 신뢰할 수 있는 과학적 근거를 제공할 수 있다"고 강조했다.