대출 상담은 1번, 카드 분실 신고는 2번...
모든 상담원이 통화중입니다. 계속 기다리시려면 1번...
은행 AI 상담원과의 답답한 통화, 아마 대부분 경험해 보셨을 겁니다. 딱딱한 로봇 목소리 때문에 마치 기계와 대화하는 듯한 느낌을 받고, 응답 속도도 느리며, 간단한 키워드만으로 소통할 수 밖에 없습니다. 기존의 ARS와 IVR 시스템의 한계는 이제 더 이상 고객의 기대치를 충족시키지 못하고 있습니다.
하지만 이제 생성형 AI 기술의 혁신적 발전으로 상황이 완전히 달라졌습니다. AI는 이제:
- 자연스러운 대화 맥락 파악
- 실제 사람과 같은 음성 표현
- 복잡한 문의 사항 이해와 해결
- 고객 감정까지 고려한 응대
가 가능해졌습니다.
AI는 사람의 언어를 더 잘 이해하고 대화의 흐름까지 파악할 수 있게 되었습니다. 또 실제 사람같은 목소리를 내는 음성합성 기술은 이미 컨텐츠 제작 분야에서 뺄 수 없는 도구가 되었습니다. 이 기술들과 전화를 합한 AI 전화 상담원은 고객의 문의사항을 이해하고, 공감하며, 심지어 해결하는 행동까지 할 수 있게 되었습니다. 제 말을 믿지마시고, 여기 직접 확인해보세요!
AI 전화는 어떻게 작동하나요?
여기서 가장 중요한 점은 AI 전화는 기존의 기계적 로봇이 아닌, 여러 대화 양상에서 다양한 응답을 하는 유연한 AI 입니다.
AI 전화 통화 중에 AI 전화 상담원은 사람처럼 상대의 말을 경청한 다음 응답합니다. 즉, AI 전화 상담원은 사람의 소리와 느낌을 그대로 전달합니다. 변화무쌍한 대화에 동적으로 응답하기 때문에 어떤 주제에 대해서도 대화를 나눌 수 있으며 때로는 사람보다 더 잘할 수도 있습니다.
이러한 대화를 구현하기 위해 세 가지 기본 모델을 필요로 합니다:
- 오디오를 듣고 텍스트로 변환하는 전사(Speech to Text) 모델.
- 응답 방법을 결정하는 대형 언어(Large Language) 모델
- 언어 모델의 응답을 사람의 음성으로 변환하는 텍스트 음성 변환(Text to Speech) 모델
이러한 모델은 대부분 공개적으로 사용 가능하기 때문에 초보적인 AI 전화 통화 시스템을 만드는 것은 다소 쉽습니다. 하지만 대부분의 사람들이 AI 전화 통화 시스템을 직접 구축한 후 공통적으로 아래 문제들을 직면하게 됩니다.
Problem #1: 지연 시간
곧바로 직면하는 문제는 지연 시간이 너무 길다는 것입니다. AI가 화자의 말에 응답하는 데 5초 이상 걸리거나, 응답을 하지 않아 자연스러운 대화가 이어지지 못합니다.
Problem #2: 발화 타이밍
전화 통화는 대면에서 나누는 대화보다 비언어적 의사 소통이 제한되어 있습니다. 그 결과 자연스럽게 상대방의 발화 중 끼어들거나, 맞장구를 치는 짧은 발화를 통해 자연스러운 대화를 만들어 나갑니다. 즉 전화 위의 AI는 말을 해야 하는 순간을 파악해야 합니다.
Problem #3: 전화번호 연동
위의 문제들을 모두 해결하더라도, AI가 실제 전화를 걸거나 받는 전화번호를 연동해야하는 또 다른 기술적 허들이 있습니다. 실제 통신사와의 연동, 전화 시스템 구축, 기존 CRM, ERP 데이터 연동 등 기업의 기존 시스템과 통합되어야 합니다.
세 가지 문제를 모두 해결하기 위해 저희 vox.ai 팀은 세 가지 모델 간의 상호 작용을 통합하는 대화 모델 인프라를 만듭니다. 또한 지연 시간을 더욱 단축하기 위해 자체 AI 모델을 셀프 호스팅하고, 전화번호 연동, 기업의 데이터와 연동 가능한 AI 콜센터 구축 플랫폼 vox.ai를 서비스하고 있습니다.
AI 콜센터 사용 사례
대부분의 기업은 반복적인 전화 통화가 있습니다. 예를 들어 공급사에게, 고객에게, 또는 직원과의 통화 등이 있습니다. 이러한 모든 반복적인 비즈니스 통화는 자동화 될 수 있습니다.
의료 분야에서는 예약 알림, 진료 예약, 보험사 및 약국의 기본 데이터 수집 등 아직 가시적인 성과를 거두지 못한 분야가 있습니다. 금융 서비스에서는 AI 전화를 통해 계좌 서비스, 사기 탐지, 채무 통합 및 추심 업무를 자동화할 수 있습니다. 물류 분야에서는 AI 전화 통화를 통해 중개 업무를 자동화할 수 있습니다.
AI 통화와 기계 통화의 근본적인 차이점은 AI가 즉석에서 생각하고 응답한다는 것입니다. 즉, AI 발신자는 일상적인 전화 작업을 자동화할 수 있을 뿐만 아니라 리드와 고객에게 맞춤형 서비스를 제공할 수 있습니다. 사전에 정해진 시나리오나 스크립트에 얽매이지 않고, 고객 개개인에게 전담 비서나 퍼스널 쇼퍼와 같은 수준의 맞춤형 경험을 제공할 수 있다는 것을 의미합니다.
또 AI는 제한 없이 다량의 통화를 다수에게 걸 수 있다는 사실을 알고 계셨나요? AI 콜센터를 구축해 소규모 기업, 약국, 학교, 정부 기관에 연락할 수 있습니다. 온라인에서 사용할 수 없는 정보를 수집하여 기존 데이터 세트를 생성하고 보강할 수 있습니다. 수요 예측 조사부터 고객 만족도 조사, 부동산 분양, 각종 TM콜에 이르기까지 모든 다양한 작업에서 활용될 수 있습니다.
AI 콜센터를 구축하는 방법
AI 콜센터를 구축하며 배운 세가지 레슨을 공유하고자 합니다.
Lesson #1: 명확한 목표를 가지고 시작하세요.
“고객 서비스 자동화 해"와 "영업 해"는 너무 광범위합니다. 범위를 좁혀보세요. 더 단순하게 만드세요.
AI는 각 작업마다 새로운 프롬프트를 요구하기 때문에 이는 특히 중요합니다. 거대하고 일반적인 작업으로 시작하면 (아마도) 실패할 수 있는 거대한 프롬프트를 만들어야 할 것입니다. 반면, 명확한 범위의 작업이 있다면 간단한 작업을 만들고 반복할 수 있습니다.
다음은 몇 가지 훌륭한 시작점이 될 수 있습니다:
- 환자에게 예약 시간에 오도록 상기시키기
- 다음 세 가지 질문을 통해 리드를 검증하세요...
- 각 소규모 업체에 전화하여 소유자의 연락처 정보 얻기...
Lesson #2: 올바르게 지시하기 (프롬프팅 하기).
저희 팀은 개발자들로 이루어져 있습니다. 저희는 모호한 안개 속에서 한땀 한땀 깎아내는 프롬프트 엔지니어링이 중요하다는 것을 싫어하지만, 매우 중요합니다. 잘못된 프롬프트는 나쁜 전화 통화를 만듭니다. 훌륭한 프롬프트는 경이로운 전화 통화를 만들어냅니다(정말로요).
프롬프트에 명확하고 중요한 목표를 포함하세요. 그런 다음 대화에서 따라야 할 일련의 단계, 대화의 예, AI가 알아야 할 지식을 포함하세요. 이런 대화를 자연스럽게 또 해야할 작업을 명확히 수행하는 프롬프트에 대한 가이드는 다음 편에서 더 자세히 설명 드리겠습니다.
Lesson #3: 올바른 도구 선택하기.
블랜드에서는 두 가지 솔루션을 제공합니다. 첫 번째는 직접 프롬프트를 설계하고 API로 구현하는 방법입니다. 두 번째는 기업 맞춤형 솔루션입니다. 두 가지 모두 회사의 규모와 필요에 따라 선택할 수 있는 훌륭한 옵션입니다.
개발자들은 직접 API 액세스를 선호합니다. 즉시 전화 통화를 시작하여 애플리케이션에 통합할 수 있기 때문입니다. 또한 가격 모델도 매우 간단합니다. 분당 (사용하는 모델에 따라)10 - 100원의 요금이 부과되며, 정확한 초 단위로 일할 계산됩니다. 개발자라면 지금 바로 API를 확인해 보세요. ₩10,000 상당의 무료 테스트 크레딧을 받으실 수 있습니다.
하지만 많은 기업들은 맞춤형 솔루션을 원합니다. 이들은 프롬프트 제작, 음성 및 언어 사용자 지정, 선택한 사용 사례를 안정적으로 달성하기 위한 AI 테스트에 대한 지원을 원합니다. 고객 문의 자동화, 고객 만족도 조사, 리드 검증 및 데이터 수집을 자동화하고자 합니다. 이를 위해서는 도움이 필요합니다.
이럴 때 저희 팀의 솔루션 엔지니어가 도와 드릴 수 있습니다. 함께 목표와 타임라인을 설정하고, 빠른 구현 및 테스트를 시행해 성공적으로 AI 콜센터 솔루션을 구축해드립니다.