인공지능(AI)의 다음 단계로 주목받는 ‘에이전틱 AI(Agentic AI)’가 심각한 신뢰 위기에 직면해 있다는 조사 결과가 나왔다.
데이터 관리 플랫폼 제공업체인 데노도(Denodo)는 시장조사 업체 알링턴 리서치(Arlington Research)에 의뢰해 최근 발간한 ‘AI 신뢰 격차 보고서(AI Trust Gap Report)’를 통해, AI가 단순한 수동형 챗봇에서 벗어나 독립적으로 의사결정을 내리고 운영 워크플로를 실행하는 에이전트 형태로 진화함에 따라 데이터 정확성의 중요성이 그 어느 때보다 커지고 있다고 전했다. 그러나 이번 연구에서는 다양한 기술적 걸림돌이 이러한 발전을 저해하고 있다고 지적했다.
첫째는 맥락 확보의 어려움이다. 전체 기업의 63%가 특정 비즈니스 맥락에서 ‘관련 데이터 탐색’을 AI 도입의 주요 걸림돌로 꼽았다.
둘째는 실시간 데이터의 필요성이다. 응답 기업의 66%는 AI 데이터가 신뢰를 얻기 위해서는 반드시 실시간으로 접근할 수 있어야 한다고 답했다.
셋째는 보안의 역설이다. 67%가 시스템 전반에 일관된 보안을 적용하고 접근을 통제하는 데 어려움을 겪고 있으며, 이를 해결하는 것은 안전한 에이전틱 AI 운영에 필수적인 요소로 여겨지고 있다.
넷째는 확장성과 복잡성이다. 기업의 AI 프로젝트는 평균 400개 이상의 데이터 소스를 활용하며, 20%는 1,000개 이상의 소스를 동시에 관리해야 하기 때문이다.
다섯째는 성능 병목이다. 응답 기업의 약 60%가 대규모 AI에 필요한 고강도 워크로드의 성능 최적화에 어려움을 겪고 있다고 답했다.
도미닉 사르토리오(Dominic Sartorio) 데노도 제품 마케팅 부문 부사장은 “AI는 단순히 질문에 답하는 시스템에서 자율적으로 행동을 수행하는 시스템으로 빠르게 전환되고 있다”며 “이러한 변화는 데이터 요구 사항 자체를 근본적으로 바꾸고 있다”고 말했다. 그는 이어 “AI 에이전트가 실제 비즈니스 결과를 만들어내는 상황에서는 오래됐거나 제대로 관리되지 않은 데이터가 개입될 여지가 전혀 없다”며 “에이전틱 AI를 신뢰 기반으로 확장하려면 기업은 정적인 데이터 사일로(silos)를 넘어 실시간으로 관리되고 맥락에 부합하는 데이터 기반을 구축해야 한다”고 강조했다.
한편 보고서는 이러한 ‘신뢰 격차’가 AI 모델 자체의 문제가 아니라 이를 뒷받침하는 데이터 아키텍처의 한계를 드러낸 결과라고 진단했다. 기업이 실험 단계의 AI를 넘어 자동화된 대규모 운영으로 나아가기 위해서는 분산된 데이터 환경과 에이전틱 시스템이 요구하는 실시간 데이터 요건 사이의 격차를 해소해야 한다고 조언했다.
댓글 작성