PROS의 Michael Wu: 빅 데이터가 있어도 데이터가 충분하지 않습니다.

AI, 머신 러닝, 빅 데이터와 관련하여 제가 인정하는 업계 전문가이자 쇼핑 및 판매 경험을 최적화하는 SaaS 솔루션 제공업체 PROS의 수석 AI 전략가인 Dr. Michael Wu만큼 배우고 이야기하는 것을 좋아하는 사람은 없습니다. 그리고 최근에 저는 그와 CRM Playaz의 공동 진행자인 Paul Greenberg와 실시간 스트리밍 대화를 나누며 우리가 AI와 함께 하는 위치와 AI가 지난 18개월 동안 AI를 통해 회사를 만드는 데 어떻게 도움이 되는지에 대해 심층적으로 논의했습니다.

아래는 더 많은 비즈니스 상호 작용과 거래가 디지털화됨에 따라 윤리와 포괄성의 역할을 다루는 대화의 일부를 편집한 것입니다. 즉, AI가 예측하고 우리에게 다시 추천하기 위해 갈망하는 데이터를 제공합니다. 전체 대화를 들으려면 내장된 SoundCloud 플레이어를 클릭하십시오.

Paul Greenberg: AI 전략은 더 광범위한 비즈니스 전략에 어떻게 통합되어야 합니까?

Michael Wu: 예, 이것이 실제로 업계의 주요 문제라고 생각합니다. 내 말은, AI가 앞으로 나아가는 우리 삶의 매우 만연한 부분이 될 것이라는 데는 의심의 여지가 없습니다. 그것이 직장에서 비즈니스에 있든 아니면 우리의 일상 생활에 있든 그것은 거기에 있을 것이고, 그것의 일부가 될 것입니다. 많은 기업들이 뛰어드는 것을 가로막고 있는 것은 AI 소비자 애플리케이션이 있고 AI의 비즈니스 애플리케이션도 있다는 것입니다. 소비자의 경우, 예를 들어 스마트 홈 및 그 모든 것을 사용하여 가정 루틴을 자동화할 수 있는 것과 같은 일상적인 작업을 자동화합니다. 내 말은, 실수를 하면 약간의 불편함입니다. 내 말은, 당신이 Siri에게 무언가를 묻는다면, 나는 당신을 이해하지 못했고, 당신은 단지 그것을 바꾸어 말하십시오. 약간의 불편함이며 몇 분의 시간을 잃으며 큰 문제는 아닙니다. 따라서 AI에서 잘못된 결정으로 인한 위험과 비용은 적습니다.

하지만 비즈니스는 전혀 그렇지 않습니다. 내 말은, 비즈니스, AI에서 잘못된 결정을 내리면 수백만 달러의 손실이 발생할 수 있으며 PR 위기라고 말할 수 있습니다. 다시는 찾아오지 않을 수많은 고객을 잃게 될 수도 있습니다. 잘못된 결정으로 인한 비용 위험은 비즈니스 환경에서 훨씬 더 높기 때문에 기업은 AI에 뛰어드는 것을 꺼립니다. 그리고 그 많은 이유는 사실 AI의 기술적 구성요소가 아니기 때문입니다. 많은 부분이 비기술적 구성 요소(예: 디자인, 채택)와 관련이 있습니다. AI 기술을 구매하고 사람들이 그것을 두려워해서 신뢰하지 않기 때문에 사용하지 않는다면 아무도 혜택을 받지 못합니다.

내 말은, 당신에게 AI가 있지만 설명할 수 없어 사람들이 그것을 신뢰하지 않는다면 당신에게도 다른 문제가 있는 것입니다. 예를 들어 사용자 경험, 채택, 법률 및 디자인과 같은 비기술적 문제가 많이 있습니다. 따라서 이것은 이 전체 산업을 발전시키기 위해 해결해야 할 이 AI 기술을 둘러싼 문제라고 말하고 싶습니다.

소규모 비즈니스 동향: 물류, 주문 처리, 물건 주문과 같은 개선 측면에서 사람들이 AI를 어떻게 바라보아야 하는지에 대해 말씀해 주시겠습니까? 왜냐하면 그것이 고객 경험에 가장 직접적인 것이라고 느껴지지 않더라도 그것이 고객 경험에 미치는 영향이 매우 크고 점점 더 커지고 있다고 생각하기 때문입니다.

Michael Wu: 글쎄요, 고객 경험과 직접적인 관련이 있다고 생각합니다. 간단한 질문을 드리겠습니다. 고객 경험이 무엇이라고 생각합니까? 나에게 고객 경험은 매우 간단하게 이해할 수 있기 때문입니다. 회사가 제공하는 것과 고객이 기대하는 것의 차이입니다. 회사가 고객이 기대하는 것보다 더 많은 것을 제공한다면 그것은 좋은 경험입니다. 즐거운 경험입니다. 회사가 고객이 기대하는 것보다 적게 제공하면 실망한 고객이 됩니다. 그런 식으로 보면 정말 간단합니다. 그래서 내 말은, 나는 고객의 기대가 실제로 매우 극적으로 변화하는 부분이기 때문에 우리가 집중해야 할 부분이라고 생각합니다.

폴 그린버그: 맞습니다.

Michael Wu: 팬데믹 이후 시대의 모든 것, 모든 것이 디지털로 이동하고 모든 것이 더 투명해집니다. 사람들은 실제로 온라인에서 다른 모든 공급업체를 볼 수 있습니다. 따라서 실제로 고객이 경험을 변경하는 것은 매우 쉽습니다. 예를 들어, 제안을 본다면 고객 경험이 있을 수 있지만 내가 가서 동일한 것을 제공하는 다른 공급업체를 보는 순간, 예를 들어 10% 더 저렴한 가격으로 제공하는 즉시 고객 경험이 바뀌었습니다. 이러한 투명성은 고객의 기대치가 변할 수 있고 환경의 영향을 많이 받기 때문에 고객 경험을 정말 어렵게 만듭니다. 비가 오거나 그와 비슷한 날씨에 기상이 좋지 않은 경우에도 최악의 고객 경험을 할 수 있습니다. 따라서 항상 변화하고 끊임없이 변화하는 고객 기대에 부응하려면 "온라인으로 도와드릴 수 있습니다."라고 말하는 것과 같은 것이 필요합니다.

제 생각에 전통적인 세계에서 실제로 인간을 대할 때 인간은 고객의 기대치를 측정하는 데 매우 능숙합니다. 내가 당신과 이야기하고, 당신을 얼굴을 마주보고 있다면, 당신의 몸짓 언어는 내가 제공하는 것에 대해 당신이 행복한지 아닌지에 대해 나에게 무엇인가 말해줍니다. 그러나 온라인 상태일 때 기계와 대화할 때, 고객이 실제 사람과 연결되어 있지 않을 때 고객의 기대치가 무엇인지 측정하는 것이 정말 어려워집니다. 그래서 어떻게 합니까? 내 말은, 그렇게 하려면 실시간 라이브 스트림이 필요합니다. 제 말은 고객이 속한 환경 컨텍스트 데이터, 어떤 채널이 들어오는지, 어느 지역에 있는지, 이 고객에 대한 다른 모든 컨텍스트 데이터, 그러면 AI가 상대방을 이해하도록 도울 것입니다. 하지만 이 시대에 깨달아야 할 핵심은 우리가 빅데이터를 가지고 있다 하더라도 결코 데이터가 충분하지 않다는 것입니다.

전체적으로 빅 데이터가 있다고 생각하지만 단일 고객이나 단일 연락처를 다룰 때는 언제든지 결정을 내리는 데 사용할 수 있는 데이터가 크게 줄어듭니다. 많은 데이터가 있습니다. 많은 정보가 어떤 상황에서는 실제로 유용하지만, 지금 이 순간에 이 특정 상황에서 이 고객을 상대하고 있으므로 무엇을 해야 할지 결정하는 데 도움이 될 관련 데이터는 실제로 상당히 적습니다. 따라서 중요한 것은 이러한 데이터를 식별하는 것입니다. 두 번째는 이 정보가 들어오는 새로운 채널인 AI가 있다고 말할 때 AI의 아름다움 중 하나는 학습 능력입니다. 따라서 AI에는 데이터로부터 실제로 학습할 수 있도록 하는 기계 학습이라고 하는 내부 구성 요소가 있습니다. 따라서 적응할 수 있습니다. 배우면 적응할 수 있습니다. 따라서 이것은 실제로 인간이 작동하는 방식과 동일합니다. 이 새로운 스트림, 예를 들어 TikTok이 들어오는 것을 볼 때 먼저 "무시하자"라고 말합니다.

그런데 잠시 후 틱톡, 틱톡, 틱톡을 보고 "아, 알았어. 그 점에 주목해야 하지 않을까.” 더 자주 들어오는 것이 더 많다는 것을 알게 되었고, 따라서 점점 더 관련성이 높아집니다. 그런 다음 실제로 이 세상이 작동하는 방식에 대한 모델을 변경하고 관심을 기울이지 않은 기존의 다른 채널보다 이 특정 채널에 더 많은 가중치를 부여해야 합니다. 따라서 이것은 AI가 작동하는 방식과 정확히 동일합니다. 먼저, 이 새 채널에 거의 가중치를 두지 않았지만 점점 더 자주 등장함에 따라 관련성이 있는 것으로 판명되면 이 채널에 점점 더 많은 가중치를 부여하기 시작하도록 기본적으로 알고리즘을 수정하게 될 것입니다. 매우 시끄럽고 매우 시끄럽지만 실제로 관련이 없는 경우 해당 채널이 여전히 상당히 낮은 수준에 있는 대기 또는 영향을 계속 유지해야 합니다. 저는 그것이 학습 과정이라고 생각하고 머신 러닝을 통해 이러한 AI 시스템에서 실제로 학습이 가능합니다.

중소기업 동향: AI의 윤리적 사용에 어떤 영향을 미치고 있습니까? 우리는 어떤 수렴이나 발산을 보고 있습니까? 더 많은 데이터, 더 적은 윤리? 아니면 더 많은 데이터, 더 많은 윤리입니까? 그들은 전혀 관계가 있습니까? 우리가 찾는 데이터가 많을수록 "필요한 수단을 가리지 않고" 오래된 Malcolm X와 같은 방식으로 이 자료를 사용하고 싶은 유혹이 더 많이 생기는 것 같습니다. 그러나 AI에 대한 더 많은 데이터가 던져질수록 AI의 윤리가 더 좋아지고 있습니까?

Michael Wu: 확실히 더 많은 인식이 있다고 생각합니다. 저는 지금 공정성, 투명성이 있다고 생각합니다. 사람들은 이 블랙박스 문제에 대해 이야기합니다. 이 AI는 어떻게 결정을 내리는지 등 모든 것을 알지 못합니다. 그래서 그것은 도전이지만 실제로 점점 더 많은 사람들이 윤리와 공정성 및 책임의 이 영역에 관심을 기울이도록 하고 있습니다. 그래서 우리가 사용하고 있는 이 모든 추가 빅 데이터는 매우 매력적입니다. 그러나 이러한 데이터 과학자들에게 동등하게 도전하기 위해서는 반대 세력이 필요하다고 생각합니다. 두 그룹 사이에 건전한 긴장이 있어야 한다고 생각합니다. AI 과학자가 모든 것을 지시해야 하는 것은 아닙니다. 발전이 모든 것을 주도해서는 안 됩니다. 발전에 관한 것이 전부는 아니지만 규제에 관한 것도 아닙니다. 내 말은, 두 그룹이 우리가 걱정하는 문제를 제기하는 이런 종류의 건전한 긴장을 가질 필요가 있다고 생각합니다.

그리고 당신이 문제를 제기하지 않으면 과학자들은 그것을 해결하지 못할 것입니다. "효과가있다. 내가 왜 이 문제를 해결해야 합니까?” 따라서 그 문제를 제기하면 점점 더 많은 과학자들이 그 사실을 인지하고 "좋아, 그건 내가 해결해야 하는 도전적인 문제입니다. 이 문제를 더 좋게, 인류를 위해, 모두를 위해 더 좋게 만들기 위해 해결해야 합니다." 그렇기 때문에 건강한 긴장이 있어야 합니다. 그리고 제 생각에 바로 지금, 귀하의 질문에 대답하기 위해 그렇습니다. 그들은 점점 더 많은 문제를 제기하고 있습니다. 나는 지금 해결책보다 더 많은 질문이 있다고 생각하지만, 진자는 이리저리 흔들릴 것입니다. 예전에는 모두 AI의 진보였기 때문에 한쪽에는 모두 진자입니다. 그리고 이제 사람들은 AI의 힘, 이 모든 윤리를 알고 있습니다. 저는 거의 절반의 윤리학자입니다. 어떤 그룹이나 그 어떤 것도 소외시키지 않도록 데이터의 윤리적 사용을 살펴봐야 합니다.”

현재 그 쪽에서 많은 목소리가 나오고 있어 많은 우려를 불러일으키고 있습니다. 우리는 아직 해결책을 가지고 있지 않지만, 이제는 점점 더 많은 사람들이 실제로 이러한 문제를 해결하기 위해 관심을 기울이고 있다고 생각합니다.

소규모 비즈니스 동향: 윤리 자체 또는 AI를 프로그래밍하는 사람은 누구나 자신의 윤리 체계를 따라야 하며 모든 사람의 윤리가 같은 것은 아니므로 이것이 어려울 것이라는 것을 압니다. 그리고 제가 생각하는 또 다른 것은 데이터 과학을 실제로 만드는 사람들의 집합 또는 인구입니다. 이는 동질적인 사람들 그룹에 가깝습니다. 아주 다양하지는 않습니다. 아주 다양하지는 않습니다. 윤리적인 AI가 필요할 뿐만 아니라, 좀 더 대표성을 갖기 위해 포괄적인 AI가 필요한 것과 같습니다. 제 생각에는 이것이 가장 놓치고 있는 부분, 즉 AI를 수행하는 사람들입니다.

우리가 안면 인식에 대해 이야기할 때 훌륭한 Netflix가 있었고 AI는 다른 것에서 흑인 여성을 감지할 수 없었고 그 추론의 일부는 AI를 만들고 있었는데 탐지하려는 흑인 여성처럼 보이지 않았습니다. 그리고 이것은 이것에 누락된 요소 중 하나였습니다.