“학습이 필요한 내용이네요.”
“무슨 말인지 이해하지 못했어요.”

기업들이 비용 절감과 고객센터 효율화를 위해 저마다 도입한 인공지능(AI) 기반 챗봇에 질문한 뒤 흔히 받게 되는 답변이다. AI 챗봇이 규격별 요금 규정을 알려 달라는 단순한 질문조차 이해하지 못하면서 소비자들의 불만이 커지고 있다.

게다가 AI 챗봇이 도입된 경우 소비자들이 상담원과 직접 통화하려면 AI를 먼저 거쳐야 하는 경우가 많아 시간 손실이 되레 늘어나고 있다.

AI 챗봇이 제대로 된 답을 내놓지 못하는 문제는 △질문 자체를 이해하지 못하는 경우 △엉뚱한 답변을 하는 경우 △문제 해결 없이 매크로식 안내에 그치는 경우 등의 유형으로 나타난다.

AI 챗봇의 답변 품질이 낮은 사례는 자동차, 금융, 택배, 보일러 등 소비자 생활과 밀접한 다양한 업종에서 확인된다.

 
BMW파이낸셜 홈페이지 내 AI 기반 챗봇 조이에 "iX3 구매하고 싶어요"라며 차량 모델과 목적을 명확하게 명시했으나 "질문을 이해하지 못했어요. 다시 질문해주시겠어요?"라는 답변이 돌아왔다. 

차량 구매를 위해 현재 진행 중인 프로모션이나 가격 등의 정보를 얻기 위해 질문한 소비자로서는 황당할 수 있는 상황이다.
 

롯데글로벌로지스의 AI 챗봇 로다에 ‘택배 크기별 요금 규정 알려달라’고 물었더니 “학습이 필요한 내용이네요”라는 답이 돌아온다. 반면 동일한 질문을 한진, CJ대한통운 챗봇에 입력한 경우에는 원하는 답을 얻을 수 있었다.

롯데글로벌로지스 관계자는 “AI챗봇 로다에 택배규격 또는 택배요금과 같이 짧게 질문할 때는 정상적으로 안내하고 있다”며 “결합된 단어 질문 등은 현재 학습 진행 중이므로 곧 답변이 개선될 예정”이라고 말했다.

보일러 업체 대성쎌틱의 AI 챗봇 역시 “보일러가 고장났다“거나 “점검을 받고 싶다“는 아주 기본적인 문의에도 “무슨 말인지 이해하지 못했다”는 답변을 내놨다.
 
AI 챗봇이 질문의 의도와 다르게 엉뚱한 답변을 내놓는 경우도 어렵지 않게 찾을 수 있다. 
 

게임사 넥슨의 던전앤파이터 챗봇에 ‘미성년자 결제 환불’을 묻자 ‘결제’와 ‘환불’ 관련 도움말과 예상 질문만 안내됐다. ‘미성년자 이용 계정 결제 환불 요청’이라고 재차 질문해도 동일한 답변이 반복됐고 미성년자 관련 안내는 제공되지 않았다.

롯데온과 대교는 AI 챗봇 서비스를 종료했다. 롯데온은 2020년 4월 출범과 동시에 챗봇 '샬롯'을 운영했는데 6년 만에 종료하게 됐다. 내수 침체와 고물가 등 대외적인 변수로 어려운 상황에서 AI 챗봇 서비스를 지속할 필요성이 없다고 판단한 것으로 알려졌다.

롯데온 챗봇의 경우 지난해까지도 제대로 된 답을 내놓지 못했다. 지난해 9월 소비자가 만드는 신문이 샬롯에 '배송지 변경'을 문의했으나 '롯데마트 정기배송 서비스가 운영 종료됐다'는 등 생뚱맞은 답변이 돌아왔다. 특히 배송지 변경은 챗봇 내 문장 자동완성 기능이 있어 그대로 질문했으나 그마저 이해하지 못하고 관련 없는 내용을 안내했다. 

KG모빌리티의 EV 챗봇에 전기차 수리가 가능한 서비스센터를 물었는데 돌아온 대답은 차량 모델과 가격 정보였다.

AI 챗봇이 정해진 문구만 일명 '복붙'하는 매크로식 답변으로 소비자를 답답하게 만들기도 한다.

에어프레미아 AI 챗봇은 직접 채팅이 불가능하고 선택형 메뉴를 통해서만 문의가 가능하다. ‘기내 반입 가능한 반려동물 규정’을 묻더라도 세부 설명 없이 정해진 항목만 반복 안내하고 다시 시작 메뉴로 돌아가기를 유도하는 방식이 반복됐다.

사실상 이용자가 원하는 정보를 찾기 어려운 구조로 질문에 대한 구체적인 답변이나 문제 해결을 위한 실마리도 제공하지 않는다.
 

SSG닷컴의 AI 챗봇 역시 ‘환불은 며칠 이내 가능하냐’는 질문에 “환불 문의가 필요하신가요?”라고 응답했다. ‘환불이 필요하다’고 다시 입력하자 동일한 대답을 반복했다.

상담원 연결을 유도하는 방식으로만 같은 답변만 내놓는 경우도 있다. SK텔레콤의 ‘말로 하는 챗봇’은 ‘요금제에 대해 알려달라’거나 ‘요금제 취소 규정’을 묻는 질문에 모두 “자세한 사항은 상담사에게 문의하라”는 답변만 반복했다. 

최철 숙명여대 소비자경제학과 교수는 “AI라고 소개되고 있지만 실제로는 소비자가 문제를 해결하거나 고객센터 상담과 같은 수준의 서비스를 제공하는 데에는 아직 한계가 있다”며 “AI가 고도화되고 데이터가 더 축적돼야 할 단계”라고 말했다.

이어 “비용 절감과 효율성 측면에서 기업들이 AI 챗봇 도입을 확대하는 추세지만 오히려 소비자 불편으로 이어질 가능성도 있다”며 “고객센터나 상담사 창구를 병행하는 등 대응 수단을 함께 유지할 필요가 있다”고 덧붙였다.

이은희 인하대 소비자학과 교수는 "AI 상담원을 활용하면 당장 인력을 축소할 수 있고 상담원들이 받는 스트레스를 줄일 수는 있지만 아직 챗봇의 서비스가 고도화 되지 않아 소비자들이 불편하게 느끼고 있다"며 "AI 챗봇에 대한 소비자들의 추가적인 불만이 발생하지 않도록 테스트가 완비된 다음에 도입할 필요가 있다"고 지적했다.

[소비자가만드는신문=임규도 기자]