AWS에서 딥 러닝을 사용하여 더욱 신속한 고객 서비스를 제공하는 Zendesk

Zendesk는 보다 의미 있고 개인적이며 생산적인 고객 관계를 형성하고자 하는 기업을 지원하도록 설계된 고객 서비스 플랫폼입니다. 캘리포니아주 샌프란시스코에 본사를 둔 Zendesk는 기업이 뛰어난 지원을 제공하고 셀프 서비스와 사전 예방적 참여를 통해 서비스의 완성도를 높이도록 돕습니다.

새로운 딥 러닝 고객 애플리케이션 구축

서비스형 소프트웨어(SaaS) 고객 지원 플랫폼을 제공하는 Zendesk는 고객을 위한 더욱 효율적인 신규 솔루션을 제작하기 위해 항상 노력하고 있습니다. 지원 상담원과 통화하지 않고 문의 사항에 대한 답변을 직접 빠르게 찾고자 하는 고객이 갈수록 늘어남에 따라, Zendesk도 이러한 추세에 대응할 방법을 찾아야 했습니다. Zendesk의 데이터 과학자인 Soon-Ee Cheah는 “Zendesk는 고객에게 적절한 답변을 최대한 빨리 제공하는 동시에 셀프 서비스 방식 고객 지원 모델을 실행하고자 했습니다.”라고 설명합니다. 온라인 소매업체 및 기타 대기업 등의 업체는 효율적인 고객 지원을 제공하기 위해 Zendesk를 사용합니다.

Zendesk는 이러한 업체를 지원하기 위해 AI(인공 지능) 분야에서 사용률이 갈수록 높아지고 있는 기술인 딥 러닝을 사용하기로 결정했습니다. 딥 러닝 프레임워크는 인간의 뇌를 모델로 한 신경망을 사용하여 컴퓨터가 제공되는 데이터를 기반으로 독립적으로 학습하고 인간의 감독 없이도 작업을 수행할 수 있도록 지원합니다.

Zendesk의 최신 딥 러닝 프로젝트는 Zendesk Guide 기술 자료의 콘텐츠를 사용해 고객의 질문에 자동으로 답변하는 가상 고객 비서인 Answer Bot입니다. 예를 들어 고객이 제화 소매업체에 사이즈 찾기와 관련한 도움을 요청하는 이메일을 보내면 Answer Bot이 사용 가능한 사이즈 관련 문서를 고객에게 전송합니다. Cheah는 “Answer Bot에서는 애플리케이션이 고객에게 가장 적합한 답변을 제공할 수 있도록 지속적으로 자체 미세 조정을 수행하는 과정을 딥 러닝 모델이 지원할 수 있으므로 매우 효율적입니다.”라고 설명합니다. Answer Bot을 활용함으로써 Dollar Save Club을 비롯한 수백 개 업체에 회원제 환경을 제공할 수 있게 되었습니다. Dollar Shave Club의 회원 서비스 분석 관리자인 Brian Crumpley는 “Answer Bot을 통해 당사 회원들은 필요한 답변을 간편하게 확인할 수 있습니다. 회원들의 문의가 전혀 없어진 것은 아니지만, Answer Bot을 활용함으로써 회원들에게 적절한 정보를 제공하고 문의에 대한 답변을 더 빠르게 제공할 수 있으므로 회사와 회원에게 모두 도움이 됩니다.”라고 설명합니다.

TensorFlow on AWS를 사용하여 더 적절한 답변 제공

Zendesk는 기계 학습용 오픈 소스 소프트웨어 라이브러리인 TensorFlow를 사용하여 딥 러닝 애플리케이션을 개발합니다. Zendesk는 Asnwer Bot 제작을 준비하는 과정에서 신속한 개발과 손쉬운 확장을 지원하는 기반 기술을 선택해야 했습니다. Cheah는 “알고리즘을 학습시키려면 시간이 많이 걸리는데, 저희는 고객에게 새 솔루션을 더 빨리 제공하기 위해 이 프로세스를 신속하게 진행해야 했습니다. 클라우드를 통해 프로세스 속도를 개선할 수 있었습니다.”라고 설명합니다.

Zendesk는 AWS(Amazon Web Services) Cloud에서 기본 플랫폼과 내부 데이터 로깅 애플리케이션을 이미 실행하고 있었으며, 딥 러닝도 AWS에서 실행하면 효율적임을 확인했습니다. TensorFlow를 사용하는 개발자는 AWS GPU 인스턴스를 시작하여 AWS에서 환경을 실행할 수 있습니다. Zendesk의 데이터 사이언티스트인 Arwen Griffioen은 “Zendesk에는 AWS의 기반 환경이 전사적으로 이미 구축되어 있었으며, TensorFlow는 AWS GPU 인스턴스에 번들로 포함되어 있으므로 우리 요구를 충족하는 데 가장 적합한 솔루션이었습니다.”라고 설명합니다.

Zendesk는 Amazon Simple Storage Service(S3)를 사용하여 모델 훈련용 초기화 파일을 저장합니다. 또한 GPU 기반 병렬 컴퓨팅 기능에는 Amazon Elastic Compute Cloud(Amazon EC2) P2 인스턴스를 활용합니다. Cheah는 “강력한 성능의 Amazon EC2 P2 인스턴스를 사용함으로써 연구 역량을 가속화하는 데 큰 도움이 되었습니다.”라고 강조합니다. 또한 Zendesk는 Amazon Aurora 관계형 데이터베이스 엔진을 사용해 기술 자료 문서의 변경 사항을 캡처합니다. 이 변경 사항은 거의 실시간으로 Answer Bot 훈련 모델에 다시 제공됩니다. Cheah는 “Zendesk는 딥 러닝 알고리즘을 사용해 고객 쿼리에 일치하는 문서를 찾는 프로세스를 수행합니다.”라고 설명합니다.

또한 Zendesk는 새로 출시된 Amazon SageMaker도 활용합니다. SageMaker는 개발자 및 데이터 사이언티스트가 모든 규모의 기계 학습 모델을 쉽고 빠르게 구축, 훈련 및 배포할 수 있도록 지원하는 완전 관리형 서비스입니다.

Zendesk 전략 기술 책임자인 David Bernstein은 “최근 출시된 Amazon SageMaker에 대한 기대가 매우 큽니다.”라고 말합니다. "Amazon SageMaker는 기계 학습 사용 속도를 높이고 비용을 낮출 것입니다. Zendesk는 Amazon SageMaker를 통해 기존 자체 관리형 TensorFlow 배포에서 완전관리형 서비스로 전환할 수 있습니다. 또한 Amazon SageMaker를 통해 모델을 작성, 훈련 및 제공하기 위한 인프라를 관리하는 동시에 널리 사용되는 다른 딥 러닝 프레임워크에도 더 쉽게 액세스할 수 있습니다."

딥 러닝 모델링을 더욱 빠르게 진행하여 개발 속도 향상

Zendesk는 AWS를 사용해 딥 러닝 알고리즘을 훈련시키는 데 사용되는 대규모 데이터 세트를 쉽게 수집합니다. 그 결과 온 프레미스 솔루션을 사용할 때보다 훨씬 빠른 기간 내에 Answer Bot을 빌드할 수 있었습니다. Zendesk의 데이터 엔지니어인 Wai Chee Yau는 “Zendesk의 기존 예측 모델링 스택은 이미 AWS 클라우드에서 실행되고 있었으므로 AWS에서 Answer Bot을 더 빠르게 개발할 수 있었습니다. 따라서 하드웨어를 직접 구매하고 설치하는 대신 유연한 AWS를 사용해 필요한 GPU와 CPU를 빠르게 추가할 수 있었습니다.”라고 설명합니다.

Zendesk 데이터 과학자는 AWS를 활용하여 연구를 빠르게 진행할 수 있습니다. Griffioen은 “Zendesk는 AWS를 통해 많은 아이디어를 한꺼번에 시도해 볼 수 있으므로 연구를 훨씬 더 빠르게 진행할 수 있습니다. 필요할 때 Amazon EC2 인스턴스를 매우 빠르게 구동하고, 이러한 인스턴스에서 기다릴 필요 없이 다양한 모델 순열을 수행할 수 있습니다. 이 기능이 없었다면 Answer Bot을 개발하지 못했을 것입니다.”라고 강조합니다.

Zendesk는 고객의 기대치를 훨씬 상회하는 현재 혁신적인 신규 고객 서비스 솔루션을 제공하고 있습니다. Cheah는 “Zendesk는 AWS를 통해 고객이 전에는 전혀 사용해 본 적이 없는 기능을 개발하여 제공할 수 있습니다. 예를 들어 Zendesk의 고객사는 Answer Bot을 통해 고객의 질문에 더욱 적절하고 정확한 답변을 자동으로 제공할 수 있습니다. 그리고 Answer Bot은 몇 초 내에 고객에게 직접 답변을 할 수 있으므로 지원 티켓을 상담원에게 전달하기 전에 해결할 수 있습니다. 따라서 고객 서비스 환경을 획기적으로 개선할 수 있습니다.”라고 강조합니다.

이제 Zendesk는 추가 컴퓨팅 리소스 또는 스토리지 리소스를 요청하는 개발자 요구 사항을 충족하기 위해 딥 러닝 개발 환경을 온디맨드 방식으로 확장할 수 있습니다. Cheah는 “Zendesk는 AWS의 GPU 처리 기능을 활용해 딥 러닝 모델을 매우 효율적으로 확장할 수 있으므로 더욱 많은 고객에게 서비스를 제공하기 위해 애플리케이션을 확장하는 과정에서 이점이 제공될 것으로 예상됩니다.”라고 설명합니다. Griffioen은 “AWS는 Zendesk가 대부분의 연구 작업을 수행하는 데 사용하는 유용한 딥 러닝 구상 플랫폼입니다. AWS는 매우 유연하면서도 기능성이 뛰어나므로 Zendesk는 고객 서비스 분야에 최신 딥 러닝 기술을 도입할 수 있었습니다. 즉, Zendesk는 단순히 다양한 서비스 방식을 만드는 것이 아니라 AWS를 통해 새로운 알고리즘 방식을 창조하고 있습니다.”라고 부연 설명합니다.