채팅 충돌 – 챗봇이 실패할 때

모두가 하이 웨이스트 팬츠를 입고 있고 외로운 편지 작가 테오도르가 사만다라는 AI 여자 친구를 만나는 미래 지향적인 로맨스 영화 그녀 를 기억하십니까? 영화가 끝나갈 무렵, 사만다는 엄청나게 똑똑해져서 그녀가 데이트를 하고 있다는 사실을 밝히고 "당신이 아니라 나야"라는 명언으로 테오도어를 내쫓는다.

인공 지능과 머신 러닝에 대한 일반 대중의 인식을 완벽하게 보여주는 이상한 영화적 광경입니다. "곧, 내 컴퓨터는 나보다 더 인간적이 될 것입니다!"

불행히도 이와 같은 감정이 챗봇 기술을 둘러싼 오늘날의 버즈에 스며들었습니다. 디자인 기사와 전문가 모두 대화형 로봇의 불가피한 편재에 안착한 것 같습니다. 아주 가까운 장래에 우리는 깨어 있는 시간을 기계와 즐겁게 수다떨며 보낼 것 같습니다.

문제 하나…

인간 의사 소통의 복잡성에 직면했을 때 챗봇은 벽돌 벽처럼 모든 웅변으로 응답하는 경향이 있습니다. 왜 그런 겁니까?

많은 챗봇은 경직된 IF/THEN 스크립트에서 더듬거리는 응답으로 미화되는 흐름도에 불과합니다. 인공 지능 챗봇도 인간 언어의 패턴을 감지하는 데는 능숙하지만 자연어 이해(의도를 결정하는 능력, 특히 말한 내용이 의미하는 내용과 완전히 일치하지 않는 경우)에 관해서는 부족합니다.

클릭하면 전체 크기의 이미지를 볼 수 있습니다.

여기에 더 큰 문제가 있습니다. 인간의 언어와 대화는 매우 미묘한 차이가 있습니다. 의 복잡성을 고려하십시오…

• 오용된 문구
• 인토네이션
• 이중 의미
• 수동적 공격성
• 가난한 발음
• 지역 방언
• 미묘한 유머
• 언어 장애
• 비원어민
• 속어
• 통사론

목록이 계속되고 장애물이 늘어남에 따라 디자이너는 딜레마에 직면하게 됩니다. 챗봇과 관련된 프로젝트를 피해야 할까요?

한편으로 챗봇은 과장되어 있으며 많은 사용 사례에서 완전히 비실용적인 것으로 판명되었습니다. 탭 기반 앱이 제공할 수 있는 것보다 더 간소화된 사용자 경험에 대한 잠재력을 가지고 있다고 들었지만 전반적으로 현재의 성능은 많이 부족합니다.

반면에 디자이너는 문제 해결사입니다. 챗봇은 다양한 산업 분야에서 분명히 수요가 있으며, 지금 여기에서 얻을 수 있는 이점을 활용하기 전에 인공 지능의 발전을 기다리는 것은 현실적이지 않습니다.

대신 디자이너는 현재 기술의 제약 내에서 작업하고 사용자 경험에 긍정적인 영향을 주는 방식으로 챗봇을 구현하는 전략을 개발해야 합니다.

그렇다면 챗봇이 흔들리는 이유는 무엇일까요?

5 챗봇의 실패와 개선의 길

분명히 합시다. 챗봇이 모두 나쁜 것은 아닙니다. 일부는 특히 회의를 예약하거나 보고서를 작성하거나 조명을 끄려는 경우에 매우 유용합니다. 다른 것들은 특별히 실용적이지는 않지만 우리로 하여금 봇-인간 농담의 외부적 한계에 대해 숙고하게 만드는 특정한 매력을 가지고 있습니다. 미래는 여기에 없지만 우리는 가능성에 감명을 받습니다.

그러나 챗봇이 진정으로 미래의 기술이라면(그리고 그것이 당연한 결론이 아님) 디자이너는 오늘날 챗봇을 괴롭히는 문제를 수정해야 합니다. 이를 돕기 위해 챗봇이 실패하고 사용자를 좌절시키는 5가지 시나리오를 식별했으며 각각에 대해 개선 경로를 가리키는 조언을 제공합니다.

문제 #1: 깨진 스크립트

필연적으로 IF/THEN 스크립트에서 응답을 가져오는 챗봇은 설명되지 않은 질문이나 요청에 직면하게 됩니다. 이런 일이 발생하면 대부분의 봇은 미리 결정된 응답의 안전으로 대화를 리디렉션하는 명확한 질문을 하여 복구를 시도합니다.

이것은 끔찍한 해결책은 아니지만 봇의 시정 질문이 대화의 막다른 골목으로 이어지거나 미묘하게 사용자에게 책임을 전가할 때 문제가 발생합니다. 잘못된 스크립트로 환상이 깨지고 사용자는 피고인이 됩니다. 안좋다.

해결책 #1: 겸손

챗봇은 실패합니다. 가장 정교하게 설계된 스크립트에는 문제가 발생합니다. 그런 일이 발생하면 겸손이 해독제가 됩니다. 비록 잘못이 사용자에게 있더라도 말입니다. 챗봇이 겸손하다는 것은 무엇을 의미합니까?

통신 단절의 첫 징후에서 챗봇은 다음과 같이 프로그래밍되어야 합니다.

• 혼란이 있음을 인정하십시오.
• 상황에 대한 책임을 집니다.
• 사용자가 불만을 표현할 수 있도록 합니다.
• 앞으로 나아갈 수 있는 옵션을 제공합니다.

문제 2: 비인간적인 상호작용

일부 챗봇은 특정 임무를 매우 효율적으로 수행하도록 설계되었습니다. 많은 작업의 경우 이것은 좋은 일이지만 일부 작업에는 더 동정적인 손길이 필요합니다.

답변을 마치기도 전에 계속 끼어드는 고객 서비스 상담원을 경험한 적이 있을 것입니다. 그의 목표는 생산성이었지만 당신은 아마도 과소평가되었다고 느꼈을 것입니다.

마찬가지로 챗봇은 디자이너가 봇에게 도움을 요청할 때 사용자의 실용적이고 감정적인 요구를 예리하게 인식하지 못하는 경우 비인간적일 위험이 있습니다.

솔루션 #2: 사용자 조사

효율성과 수익성이 챗봇 설계 목표의 핵심이라면 사용자는 좋든 나쁘든 느낄 것입니다. 여기에서 디자이너는 정중하게 작성된 답변이나 약간의 유머를 통해 동정심을 주입할 수 있다고 생각하고 싶을 수 있습니다. 그것은 효과가 있을 수 있지만 사용자가 다른 유형의 상호 작용을 기대하는 경우 역효과를 낼 수도 있습니다.

챗봇은 디지털 제품이므로 디자인을 뒷받침하는 결정은 실제 사용자 조사를 기반으로 해야 합니다. 예를 들어, 한 라운드의 사용자 인터뷰에서 봇에 작성된 특정 문구나 질문 라인에 대한 부정적인 태도를 발견할 수 있습니다. 또는 간단한 설문 조사를 통해 봇의 의도된 사용자가 권위 있는 분위기를 풍기는 언어를 중요시한다는 사실이 드러날 수 있습니다.

목표는 실제 사용자 통찰력을 기반으로 구축된 챗봇입니다.

문제 #3: 이상하게 개인적인 상호 작용

귀하의 개인 정보를 너무 많이 알고 있는 낯선 사람을 만난 적이 있습니까? "잠깐만요... 방금 만났는데 제 중간 이름, 생년월일, 고향, 결혼 여부, 인터넷 검색 기록을 아세요?" 소름.

글쎄요, 챗봇이 명시적으로 요구하지 않고 이러한 정보(및 그 이상)를 알고 있는 경우에도 덜 짜증스럽습니다. 사용자가 자연스럽고 인간적인 방식으로 봇과 상호 작용하기를 바란다면 봇은 인간이 서로에 대해 갖고 있는 기대에 부응해야 합니다. "제발 내 사생활을 엿보지 마세요."

그러나 일부 챗봇 설계자는 점점 더 많은 사용자 정보를 마이닝하여 봇 상호작용의 비인간적인 특성을 상쇄하려고 시도하고 있습니다. 이것이 나쁜 생각인 것은 분명한 것 같지만 일부 회사는 계속해서 어려운 방법을 배우고 있습니다.

솔루션 #3: 투명도

이것은 복잡하지 않습니다. 챗봇은 다음을 수행해야 합니다.

• 사용자에게 개인 정보를 요청합니다.
• 해당 정보를 저장할 수 있는지 사용자에게 묻습니다.
• 사용자에게 자신의 정보가 어떻게 사용되는지 명확하게 알려주세요.
• 사용자 개인 정보를 침해할 수 있는 기능을 쉽게 끌 수 있습니다.

사용자 개인 정보 보호 101: 음탕한 인간 관행이라면 음수 챗봇 관행입니다.

문제 #4: 너무 일반적

거대하지만 비현실적인 비전을 가진 고객이 접근한 적이 있습니까? "우리는 앱이 Facebook, Amazon, Reddit의 교차점이 되기를 바랍니다."

지나치게 야심차고 기능이 풍부한 디지털 제품은 특히 출시 시점에 잘 작동하지 않습니다. 사람들은 새로운 도구를 찾았을 때 그 도구가 무엇을 할 수 있는지 빠르게 이해하고 싶어합니다. 명백한 가치를 추가하지 않으면 사용되지 않습니다.

챗봇도 마찬가지입니다. 더 많이 할수록 부적절할 위험이 커집니다. 그러나 가상 비서의 부상으로 인해 봇이 사용자 삶의 모든 측면에 어떻게든 닿아야 한다는 이상한 감정이 존재합니다. "내 은행 계좌를 관리하고, 식료품을 사고, 딸의 취침 시간 이야기를 읽어줍니다!"

솔루션 #4: 집중된 기능

특정 작업을 수행하도록 설계된 챗봇은 종종 매우 능숙하게 수행합니다. 그러나 봇의 "큰 아이디어"가 구상될 때 디자이너가 항상 존재하는 것은 아닙니다. 때때로 우리는 나중 단계에서 합류하여 제품 기능의 당혹스러운 풍부함을 발견하게 됩니다. 다른 경우에는 프로젝트가 진행되는 동안 봇의 범위가 확장됩니다.

어느 쪽이든 선택의 여지가 있습니다. 위험 신호를 제기하고 방향을 바로 잡기 위해 노력할 것입니까, 아니면 침묵을 유지하고 나쁜 상황에서 최선을 다할 것입니까?

약간의 재치가 필요하지만 디자인 문제를 앞으로 가져오는 것이 가장 좋습니다. 방법은 다음과 같습니다.

• 관찰한 내용을 논의할 적절한 사람과 적절한 시간을 찾으십시오.
• 디자인 주기를 통해 챗봇이 어떻게 발전해 왔는지 이해하고 있음을 보여주십시오.
• 의도한 모든 기능을 간결하게 분석하고 봇의 목적이 흐려졌다고 생각한다는 사실을 알립니다.
• 특정 초점 영역을 강조 표시하여 앞으로 나아갈 수 있는 방법을 제공하고 이 시점까지 수행한 작업이 제안하는 중심축을 어떻게 지원할 수 있는지 보여줍니다.
• 당신의 입장을 정중하게 변호할 준비를 하고, 가능하다면 유사한 챗봇의 구체적인 예를 사용하여 당신의 주장을 더 발전시키십시오.

귀하의 사례를 뒷받침할 사용자 조사가 있다면 이 모든 것이 훨씬 쉬워집니다.

문제 #5: 고독한 레인저스

당신의 챗봇은 카우보이 정신을 가지고 있습니까? 나머지 비즈니스와 의미 있는 연결 없이 "인터웹"의 광활한 영역을 가로질러 달려가고 있습니까? 예를 들어 서비스 회사가 웹사이트에서 봇을 사용하지만 소셜 채널, 이메일 목록 또는 일정 일정에 대한 링크가 없는 경우 봇은 잠재력을 발휘하지 못하는 것입니다.

때로는 봇이 로밍하는 범위가 너무 멀어서 찾기가 거의 불가능해집니다. 솔직히 말하자. 사람들은 업데이트와 알림을 위해 회사 웹사이트를 강박적으로 확인하지 않습니다. 고객이 모이는 디지털 채널이 있으며 챗봇이 있어야 합니다.

솔루션 #5: 메신저 챗봇 및 타사 프로그램

메신저 챗봇은 더 큰 디지털 플랫폼(예: Facebook, WhatsApp, Twitter 등)의 메시징 응용 프로그램 내에 있으며 기업이 가장 많은 시간을 보내는 채널에서 고객과 상호 작용할 수 있습니다. 더 좋은 점은 다음을 수행할 수 있는 봇을 구축할 수 있는 여러 타사 프로그램이 있기 때문에 처음부터 메신저 봇을 설계할 이유가 없다는 것입니다.

• 여러 채널(소셜, 웹, 앱)에서 사용
• 맞춤형 디자인 요소(응답 시간, 연락처 버튼, 이미지, 오디오 등)
• 지불 징수
• 분석(개방률, 사용자 유지율, 구독/구독 취소율)
• 봇의 능력을 능가하는 인간 인수
• 인기 있는 디지털 플랫폼(Shopify, Zapier, Google Site Search 등)과의 통합
• 문제 발생 시 고객 지원

챗봇 토론 재구성

챗봇이 무엇인지, 무엇을 할 수 있는지, 기술이 어디로 향하고 있는지에 대해 많은 혼란이 있습니다. 물은 봇/인간의 사회적 조화에 대한 장대한 선언으로 인해 더욱 흐려졌습니다. 봇을 마케팅하기 위해 동반자 , 도우미 및 친구 와 같은 단어를 사용할 때 우리는 인간 경험의 시련과 승리에 의해 형성된 감정, 즉 신뢰 , 충성도 및 기쁨 과 같은 감정을 불러일으킵니다.

우리는 스스로에게 해로운 일을 하고 있습니까?

우리는 챗봇에 대해 생각하고 그 기능에 대해 정확하게 논의하고 있습니까?

아니면 봇이 예상할 수 있을 정도로 비인간적일 때 사용자를 궁극적으로 좌절시키는 비현실적인 기대를 만들고 있습니까?

디자이너로서 우리는 챗봇을 도구, 즉 고객이 비즈니스를 개선하는 데 도움이 될 수 있는 잠재력을 지닌 도구로 접근하는 것이 좋습니다. 도구는 목적을 위한 수단입니다. 특정한 목적을 위해 사용되는 물건이고, 작동하지 않으면 "도구는 소용없어!"라고 외치는 자신을 발견하지 못합니다. 우리는 단순히 더 나은 옵션을 찾습니다.

챗봇은 아무데도 가지 않습니다. 그들은 계속 발전할 것이며, 디자이너는 사용자가 개선된 기능을 이해하고 혜택을 받을 수 있도록 노력을 주도해야 합니다.

• • •

Toptal Design 블로그에 대한 추가 정보:

• Chatbot UX – 디자인 팁 및 고려 사항
• AI 디자인의 현재와 미래 [Infographic]
• UX 연구 방법과 사용자 공감의 길
• Design Talks: Pamela Pavliskak과 함께하는 감성 지능 디자인
• 제품 디자인에서 인간 중심 디자인의 중요성