최근 Web 3.0 담론을 넘어 차세대 웹인 'Web 4.0'이라는 화두가 부상하고 있다. 종래 인터넷 웹이 일방향적 정보습득(Read)과 사용자 참여를 통한 콘텐츠 생산(Write), 그리고 블록체인을 기반으로 한 데이터 소유(Own)에 집중했다면 Web 4.0은 AI에이전트가 사용자의 의사를 대리하여 자율적으로 의사결정하는 '집행(Execute)의 시대를 말한다. 이제 AI는 제품비교와 후기 탐색을 넘어, 사용자 성향을 분석해 구매결정과 계약체결을 수행하는 자율적 대리인으로 진화하고 있다. 특히 자율적 집행과정에서 발생할 수 있는 신뢰문제를 해결하기 위해 변경 불가능한 기록체계인 블록체인 인프라와 AI기술의 결합이 대안으로 주목받기도 한다.
그러나 이러한 기술적 변화와 달리 현재 금융권의 AI 활용은 내부프로세스 효율화라는 초기단계에 머물러 있다. 문서 검토, 계약 분석, 고객 응대 등의 업무가 주를 이루고 있는데 그 이유는 금융이 고도의 신뢰와 엄격한 내부통제를 요구하는 규제산업이기 때문이다.
그럼에도 최근 금융사와 핀테크 기업들은 '금융 AI에이전트'를 통한 종합플랫폼으로의 도약을 서두르고 있다. 마이데이터를 기반으로 소비자의 금융이슈를 선제적으로 진단하고, 대출?보험?카드 등 최적의 상품을 제안, 가입까지 실행하는 '지능형 금융비서'를 목표로 삼는 것이다. 금융당국도 이에 발맞춰 인프라 정비와 규제 합리화를 포함한 '금융권 AI 대전환'을 추진하며, 거버넌스 원칙, 합법성원칙, 신뢰성원칙 등 7대 원칙을 담은 AI 통합가이드라인(안)을 제시한 바 있다.
이러한 가이드라인 준수가 사업적 위험을 해소하지는 못한다. 금융 AI에이전트가 실질적인 비즈니스모델로 안착하기 위해서는 AI 기본법을 비롯, 금융소비자보호법, 전자상거래법, 신용정보법 등 엄격한 법적 잣대를 넘어야 하기 때문이다. 특히 플랫폼이 AI를 통해 단순 정보 제공을 넘어 구매를 유도하는 경우 금융소비자보호법상 금융상품 판매대리?중개에 해당할 가능성이 크다. 특히 자동차보험이나 신용대출처럼 정형화된 상품일수록 AI 맞춤형 안내는 권유로 해당될 수 있어 규제부담이 높다.
전자상거래법 측면의 부담도 만만치 않다. AI에이전트의 인터페이스는 소비자의 합리적 선택을 방해하는 다크패턴(Dark pattern)을 포함해서는 안되며, 추천 알고리즘의 공정성과 투명성에 대한 요구가 갈수록 강해지고 있다. AI에이전트가 제시하고 결정한 상품과 서비스가 왜 소비자에게 최선이었는지, 그 과정에서 알고리즘의 공정성과 투명성은 확보되었는지에 대해 명확한 이력을 남기고 설명할 수 있어야 한다.
결국 AI에이전트의 성공은 기술이 아닌 기술의 '설명가능성'과 '신뢰성' 및 '책임'에 달려있다. 알고리즘의 편향성을 상시 점검하고, 중요의사결정 단계마다 인간이 감독하는 체계(Human- in-the-loop)를 구축하고, 인간중심의 설계는 필수이다. '지능'의 경쟁이 아닌 '신뢰'의 경쟁임을 명심해야 할 것이다.
안수현 한국외대 법학전문대학원 교수