맞춤형 상담 위해 생성형 AI 상담 개발
금융사 검증 없이 나가 오정보 가능성도

최근 카드업계가 인공지능(AI) 기술을 토대로 한 고객 상담 등의 서비스를 개발하고 있지만, 여전히 AI를 활용한 챗봇 상담에 불편함을 느끼는 이용자가 많아 생성형 챗봇을 도입하는 데 신중한 모습이다.

신한카드는 29일 LG CNS, LG AI 연구원과 차세대 AI 공동연구에 나선다고 밝혔다. 신한카드의 소비 데이터를 바탕으로 생성형 AI 모델을 구축해 고객 맞춤 서비스를 강화하려는 것이다.

다른 카드사들도 생성형 AI 기능을 도입하고 있다. BC카드는 오픈페이 서비스인 페이북에 생성형 AI 기술을 접목해 고객의 투자 성향에 맞는 재테크 정보를 제공하고 있으며, 국민카드도 지난해 9월 ‘캐시백’과 같은 키워드를 입력하면 관련 이벤트를 안내하는 서비스를 운영한 바 있다.

생성형 AI는 텍스트 등 기존 정보 등을 활용해 유사한 콘텐츠를 만들어내는 기술로, 이용자가 입력한 단어와 질문 의도까지도 분석해 문장을 생성한다. 이전 AI 챗봇의 경우 사전에 입력된 질문과 답변을 바탕으로 시스템이 만들어져 이용자의 질문 주제와 키워드를 제대로 인식하지 못하거나, 이용자가 구어체로 입력하면 명확한 답변을 듣기 어려웠다. 이 때문에 이용자가 원하는 정보를 얻기 위해 많은 질문을 시도하다가 결국은 상담사 통화로 이어지는 경우가 많았다. 하지만 생성형 AI를 활용하면 이러한 불편을 덜 수 있으리라는 것이 업계 기대다.

다만 생성형 AI는 기존 시나리오 기반 챗봇과 달리 카드사에서 모든 응답을 확인할 수 없다는 위험 요소가 있다. 즉, AI가 정보를 자체적으로 재구성하면서 최신 정보를 제공하지 못하거나 심지어는 거짓 정보를 만들어낼 가능성도 내포하고 있다. 즉, 카드사의 검증을 거치지 않은 정보가 나갈 수 있는 것이다.

김명주 서울여대 정보보호학과 교수는 “사용자들의 편의를 위해서는 생성형 AI 도입이 필요하지만 아직은 예상치 못한 답변이 도출될 가능성이 있다”며 “챗봇의 답변도 계약에 준하는 성격을 갖는다는 점에서 완벽한 검증이 전제되어야 한다”고 말했다.

채상미 이화여대 경영학부 교수는 “기존 AI 기술이 분석과 예측에 특장점이 있다면 생성형 AI는 정보를 창작한다는 특징이 있다”며 “이를 결합한 하이브리드 모델을 개발해 서비스를 보완해야할 필요가 있다”고 말했다.