Michael Wu dari PROS: Meskipun Kami Memiliki Data Besar, Data Tidak Pernah Cukup

Ketika berbicara tentang AI dan pembelajaran mesin dan data besar, tidak ada orang yang saya sukai untuk belajar dan berbicara dengan Dr. Michael Wu, pakar industri yang diakui dan Kepala Strategi AI untuk PROS, penyedia solusi SaaS yang mengoptimalkan pengalaman berbelanja dan menjual. Dan baru-baru ini saya melakukan percakapan streaming langsung yang hebat dengannya dan co-host CRM Playaz saya Paul Greenberg di mana kami mempelajari lebih dalam tentang posisi kami dengan AI dan bagaimana AI membantu perusahaan bertahan selama 18 bulan terakhir.

Di bawah ini adalah transkrip yang diedit dari sebagian percakapan kami yang menyentuh peran etika dan inklusivitas karena semakin banyak interaksi dan transaksi bisnis menjadi digital – menyediakan AI dengan data yang dibutuhkan untuk memprediksi dan merekomendasikan hal-hal kembali kepada kami. Untuk mendengar percakapan lengkap, klik pemutar SoundCloud yang disematkan.

Paul Greenberg: Bagaimana seharusnya strategi AI diintegrasikan ke dalam strategi bisnis yang lebih luas?

Michael Wu: Ya, saya pikir ini sebenarnya masalah besar di industri. Maksud saya, tidak ada keraguan bahwa AI akan menjadi bagian yang sangat meresap dari kehidupan kita ke depan. Apakah itu dalam bisnis di tempat kerja atau hanya dalam kehidupan kita sehari-hari, itu akan ada di sana, itu akan menjadi bagian darinya. Saya pikir apa yang mencegah banyak bisnis untuk bergabung adalah, saya akan mengatakan, jika Anda melihatnya, ada aplikasi konsumen AI dan ada juga aplikasi bisnis AI. Untuk konsumen, ini mengotomatiskan tugas sehari-hari seperti, misalnya, Anda dapat mengotomatiskan rutinitas rumah Anda menggunakan rumah pintar dan semua itu. Maksud saya, jika itu membuat kesalahan, itu beberapa, saya akan mengatakan, ketidaknyamanan kecil. Maksud saya, jika Anda menanyakan sesuatu kepada Siri, saya tidak mengerti Anda, Anda hanya perlu mengulanginya. Ini sedikit ketidaknyamanan, Anda kehilangan beberapa menit waktu, dan itu bukan masalah besar. Jadi risiko dan biaya dari keputusan yang salah di AI kecil.

Tapi itu sama sekali tidak terjadi dalam bisnis. Maksud saya, bisnis, ketika Anda membuat keputusan yang salah dalam AI, itu bisa menyebabkan kerugian jutaan dolar dan, menurut saya, krisis PR. Ini bisa menjadi kehilangan banyak dan banyak pelanggan yang tidak akan pernah kembali kepada Anda. Risiko biaya keputusan yang salah jauh lebih tinggi dalam lingkungan bisnis, oleh karena itu, bisnis enggan untuk beralih ke AI. Dan banyak alasannya adalah karena, maksud saya, itu sebenarnya bukan komponen teknis AI. Banyak yang berkaitan dengan komponen non-teknis, misalnya desain, adopsi. Jika Anda membeli teknologi AI dan jika orang tidak menggunakannya karena mereka tidak mempercayainya karena mereka takut, tidak ada yang mendapat manfaat apa pun.

Maksud saya, jika Anda memiliki AI tetapi Anda tidak dapat menjelaskannya sehingga orang tidak mempercayainya, maka Anda juga memiliki masalah lain. Maksud saya, ada banyak, menurut saya, masalah non-teknis ini, misalnya, seputar pengalaman pengguna, adopsi, hukum, dan desain. Jadi, menurut saya, inilah masalah seputar teknologi AI yang perlu ditangani untuk memajukan seluruh industri ini.

Tren Bisnis Kecil: Bisakah Anda berbicara tentang bagaimana orang seharusnya melihat AI dalam hal meningkatkan hal-hal seperti logistik, pemenuhan, barang pesanan? Karena itu menurut saya memiliki dampak yang besar dan bahkan semakin berkembang pada pengalaman pelanggan, bahkan jika itu tidak terasa seperti hal yang paling langsung untuk pengalaman pelanggan.

Michael Wu: Yah, saya pikir itu memiliki hubungan langsung dengan pengalaman pelanggan karena, maksud saya, izinkan saya mengajukan pertanyaan sederhana. Menurut Anda apa pengalaman pelanggan itu? Karena, bagi saya, pengalaman pelanggan dapat dilihat, dapat dipahami dalam istilah yang sangat, sangat sederhana. Ini adalah perbedaan antara apa yang diberikan perusahaan dan apa yang diharapkan pelanggan. Jika perusahaan memberikan lebih dari yang diharapkan pelanggan, maka itu adalah pengalaman yang baik. Ini adalah pengalaman yang menyenangkan. Jika perusahaan memberikan kurang dari apa yang diharapkan pelanggan, maka Anda memiliki pelanggan yang kecewa. Ini sangat sederhana jika Anda melihatnya dengan cara itu. Jadi, maksud saya, saya pikir harapan pelanggan adalah bagian yang perlu kita fokuskan karena itulah bagian yang benar-benar berubah sangat dramatis.

Paul Greenberg: Benar.

Michael Wu: Semuanya sekarang di era pascapandemi, semuanya beralih ke digital dan segalanya menjadi lebih transparan. Orang benar-benar dapat melihat setiap vendor lain secara online. Jadi, sebenarnya, sangat mudah bagi pelanggan untuk mengubah pengalaman mereka. Misalnya, jika Anda melihat penawaran kepada Anda, Anda mungkin memiliki pengalaman pelanggan, tetapi begitu saya pergi dan melihat vendor lain menawarkan hal yang sama, katakanlah, 10% lebih sedikit, pengalaman pelanggan Anda segera berubah. Transparansi ini membuat pengalaman pelanggan sangat menantang karena harapan pelanggan dapat berfluktuasi dan sangat dipengaruhi oleh lingkungan. Bahkan ketika Anda bangun di hari yang buruk saat hujan atau semacamnya, Anda bisa mendapatkan pengalaman pelanggan yang terburuk. Jadi untuk mengikuti ini, saya akan mengatakan, harapan pelanggan yang terus berubah dan terus berubah, Anda memerlukan sesuatu seperti saya akan mengatakan, "Saya dapat membantu Anda secara online."

Saya pikir di dunia tradisional ketika Anda benar-benar berhadapan dengan manusia, manusia sangat pandai mengukur harapan pelanggan. Jika saya berbicara dengan Anda, melihat Anda berhadap-hadapan, bahasa tubuh Anda memberi tahu saya sesuatu tentang apakah Anda senang atau tidak senang dengan apa yang saya tawarkan atau apa. Tetapi ketika Anda berbicara dengan mesin ketika Anda sedang online, ketika pelanggan tidak terlibat dengan orang yang sebenarnya, maka menjadi sangat menantang untuk mengukur apa harapan pelanggan. Jadi bagaimana Anda melakukannya? Maksud saya, untuk melakukan itu, Anda memerlukan streaming langsung waktu nyata, menurut saya, data kontekstual lingkungan tempat pelanggan berada, atau saluran apa yang masuk, di wilayah mana, semua data kontekstual lainnya tentang pelanggan ini, maka Anda akan membantu AI untuk memahami pelanggan di ujung yang lain. Tetapi hal utama yang harus dikenali di zaman ini adalah bahwa meskipun kita memiliki data besar, tidak pernah ada cukup data.

Saya pikir ada data besar secara keseluruhan, tetapi kapan saja ketika kita berurusan dengan satu pelanggan atau satu kontak, data yang tersedia untuk membantu Anda membuat keputusan itu berkurang secara dramatis. Ada banyak data di luar sana. Banyak dari itu sebenarnya berguna dalam beberapa konteks, tetapi dalam konteks khusus ini pada saat ini dan saya berurusan dengan pelanggan ini saat ini, data relevan yang akan membantu Anda memutuskan apa yang harus dilakukan sebenarnya cukup kecil. Jadi kuncinya adalah mengidentifikasi data tersebut. Hal kedua adalah, ketika Anda mengatakan bahwa ada saluran baru di mana informasi ini masuk, AI, salah satu keindahannya adalah kemampuan untuk belajar. Jadi AI memiliki komponen di dalamnya yang disebut pembelajaran mesin yang memungkinkan mereka untuk benar-benar belajar dari data. Jadi, itu memungkinkannya untuk beradaptasi. Ketika Anda telah belajar, Anda dapat beradaptasi. Jadi ini sebenarnya sama dengan cara kerja manusia. Saat Anda melihat aliran baru ini, katakanlah, TikTok masuk, pertama-tama Anda berkata, "Abaikan saja."

Tetapi setelah beberapa saat, Anda melihat TikTok, TikTok, TikTok, dan kemudian Anda berkata, “Oh, oke. Mungkin aku harus memperhatikan itu.” Anda belajar, Anda melihat bahwa ada lebih banyak yang datang lebih sering, sehingga menjadi lebih dan lebih relevan. Maka Anda harus benar-benar mengubah model Anda tentang bagaimana dunia ini mengoperasikannya dan memberi bobot lebih pada saluran khusus ini daripada saluran tradisional Anda yang lain yang tidak Anda perhatikan. Jadi ini adalah cara yang persis sama dengan AI yang akan beroperasi. Pertama, Anda akan mengatakan bahwa Anda memberi sedikit bobot pada saluran baru ini, tetapi karena saluran itu semakin sering muncul, pada dasarnya Anda akan merevisi algoritme Anda untuk mulai memberi bobot lebih dan lebih pada saluran ini jika ternyata relevan. Mungkin jika banyak yang sangat keras, sangat bising, tetapi sebenarnya tidak relevan, maka Anda akan terus menunggu atau dampaknya, saluran itu masih pada tingkat yang cukup rendah. Saya pikir ini adalah proses pembelajaran dan pembelajaran sebenarnya diaktifkan dalam sistem AI ini melalui pembelajaran mesin.

Tren Bisnis Kecil: Bagaimana hal itu memengaruhi penggunaan AI secara etis? Apakah kita melihat adanya konvergensi atau divergensi? Lebih banyak data, lebih sedikit etika? Atau lebih banyak data, lebih banyak etika? Apakah mereka memiliki hubungan sama sekali? Karena menurut saya semakin banyak data yang kami temukan, semakin banyak godaan untuk menggunakan barang-barang ini dengan cara apa pun yang merupakan Malcolm X lama, "dengan cara apa pun yang diperlukan." Tetapi apakah etika di balik AI menjadi lebih baik saat kita mendapatkan lebih banyak data?

Michael Wu: Saya pikir pasti ada lebih banyak kesadaran tentang itu. Saya pikir saat ini ada, menurut saya, keadilan, transparansi. Orang-orang membicarakan masalah kotak hitam ini. AI ini, kami tidak tahu bagaimana membuat keputusan dan segalanya. Jadi ini adalah sebuah tantangan, tetapi sebenarnya membawa lebih banyak orang untuk memperhatikan bidang etika dan keadilan dan akuntabilitas ini. Jadi semua ekstra ini, menurut saya, data besar yang kami gunakan, sangat menggoda. Tapi saya pikir perlu ada kekuatan yang berlawanan untuk sama-sama menantang para ilmuwan data ini. Saya pikir perlu ada ini, menurut saya, ketegangan yang sehat antara kedua kelompok. Bukan berarti ilmuwan AI harus mendikte segalanya. Kemajuan seharusnya tidak mendorong segalanya. Ini bukan segalanya tentang kemajuan, tapi juga bukan segalanya tentang regulasi. Maksud saya, saya pikir kedua kelompok perlu memiliki ketegangan yang sehat seperti yang kita angkat pada masalah yang kita khawatirkan.

Dan jika Anda tidak mengangkat masalah ini, para ilmuwan tidak akan menyelesaikannya. "Berhasil. Mengapa saya membahas masalah ini?” Jadi jika Anda mengangkat masalah itu, maka semakin banyak ilmuwan akan menyadarinya dan berkata, "Oke, itu masalah yang menantang yang harus saya atasi untuk membuat ini lebih baik, lebih baik untuk kemanusiaan, lebih baik untuk semua orang." Itulah mengapa ketegangan yang sehat itu perlu ada. Dan saya pikir saat ini, untuk menjawab pertanyaan Anda, ya, mereka membahas lebih banyak tentang ini. Saya pikir sekarang ada lebih banyak pertanyaan daripada solusi, tetapi pendulum akan berayun. Karena, sebelumnya, itu semua kemajuan AI, jadi semua pendulum di satu sisi. Dan sekarang orang-orang menyadari kekuatan AI, semua etika ini. Saya sendiri hampir setengah dari ahli etika untuk mengatakan, “Hei, Anda tidak bisa hanya melihat menggunakan AI untuk apa pun yang Anda inginkan. Anda perlu melihat penggunaan data Anda secara etis sehingga Anda tidak meminggirkan kelompok mana pun atau apa pun.”

Sebenarnya ada banyak suara di sisi itu sekarang, dan itu menimbulkan banyak kekhawatiran. Kami belum memiliki solusi, tetapi saya pikir sekarang semakin banyak orang yang benar-benar memperhatikan untuk mengatasi masalah tersebut.

Tren Bisnis Kecil: Baik, etika itu sendiri atau siapa pun yang memprogram AI, Anda harus mengikuti etika mereka dan tidak semua etika itu sama, jadi saya tahu itu akan sulit. Dan hal lain yang saya pikir juga adalah kumpulan atau populasi orang yang benar-benar menciptakan ilmu data, hampir menjadi sekelompok orang yang homogen. Itu tidak terlalu bervariasi. Itu tidak terlalu beragam. Ini hampir seperti Anda tidak hanya membutuhkan AI etis, Anda membutuhkan AI inklusif agar sedikit lebih representatif, dan saya pikir itulah hal yang mungkin paling hilang, kumpulan orang yang melakukannya.

Saya sangat senang mendengar Anda mengatakan bahwa itu berubah, karena ada Netflix yang hebat ketika kita berbicara tentang pengenalan wajah dan AI tidak dapat mendeteksi seorang wanita kulit hitam dari sesuatu yang lain, dan sebagian dari alasan itu adalah karena orang-orang yang menciptakan AI tidak terlihat seperti wanita kulit hitam yang coba dideteksi. Dan itulah salah satu hal yang menjadi bahan yang hilang untuk ini.