Klíčové poznatky
- Programy umělé inteligence jako Cogito se snaží naučit lidi empatii při jednání se zákazníky.
- Odborníci se neshodnou na tom, zda je možné, aby stroj naučil lidi empatii, nebo zda jednoduše nachází datové body.
- Někteří experti se také obávají, že učení AI empatii by mohlo lidstvo o tyto emoce připravit.
Představte si, že pracujete v call centru a zákazník vám zavolá. Odpovíte a hned se to začne vyvíjet špatně. Zákazník je naštvaný a napětí stoupá.
Začnete říkat věci, kterých byste později mohli litovat. Najednou se na obrazovce počítače objeví zpráva. "Empathy Cue-Přemýšlejte o tom, jak se zákazník cítí. Pokuste se s ním navázat vztah."
Není to skutečný člověk, který vám říká, co máte dělat. Je to zpráva od Cogito, programu umělé inteligence, který má pracovníkům pomoci vcítit se do frustrovaných volajících a zvýšit výkon. Cogito je jedním z rostoucího počtu programů umělé inteligence, které se snaží naučit lidi empatii.
Je zde zjevná ironie. Lidští vědci se po celá desetiletí pokoušeli vyrobit počítače, které by připomínaly život. Nyní nám stroje říkají, jak se máme chovat. Může nás ale software skutečně naučit, jak být empatičtější? Je to problém, který by mohl mít hluboké důsledky, protože umělá inteligence začíná pronikat do každodenního života.
AI napodobuje lidské chování
Z technického hlediska je jasné, že umělá inteligence dokáže zachytit vodítka o tom, jak se lidé cítí, a poskytnout zpětnou vazbu.
"AI a systémy strojového učení jsou velmi dobré při hledání vzorců v datech," řekl Adam Poliak, postdoktorand v oboru informatiky na Barnard College v e-mailovém rozhovoru.
"Pokud AI uvedeme spoustu příkladů empatického textu, AI může objevit vzorce a podněty, které vyvolávají nebo demonstrují empatii."
AI může být naprogramována tak, aby odbourala některá lidská chování, která doprovázejí empatii, a připomněla lidem, aby je provedli, ale to není učení empatie.
AI, která analyzuje lidské reakce, může pomoci překlenout rostoucí propast mezi lidmi, když komunikujeme digitálně, řekl Bret Greenstein, odborník na umělou inteligenci z Cognizant Digital Business, v e-mailovém rozhovoru.
„Za poslední rok rostla real-time, video, hlas a zprávy rychleji, než si kdokoli dokázal představit, a s tím přišly obrovské výzvy při vytváření skutečně empatických vztahů, aniž bychom trávili fyzický čas s lidmi,“řekl přidáno.
AI může pomoci analyzovat a posoudit vlastnosti, jako je tón a emoce v řeči, řekl Greenstein. „To může pomoci osobě, která přijímá sdělení, lépe porozumět tomu, co bylo míněno, a pomáhá tomu ‚mluvící‘tím, že ukazuje, jak lze zprávy interpretovat,“dodal.
Zatímco společnosti spěchají, aby vydělaly na školicím softwaru AI, jako je Cogito, otázka, zda umělá inteligence může naučit lidi empatii, zůstává otevřená. A odpověď může mít stejně mnoho společného s filozofií jako technologií.
Ilia Delio je teolog na Villanova University, jehož práce se soustředí na průnik víry a vědy. Věří, že umělá inteligence může naučit empatii.
Delio poukázal na to, že tým na MIT postavil roboty, kteří dokážou napodobit lidské emoce, jako je štěstí, smutek a soucit. "Zatímco jsou robotické emoce naprogramovány, mohou roboti interagovat s lidmi a tak vytvořit nebo posílit nervové vzorce," řekla.
Může stroj porozumět empatii?
Odborníci definují nejméně tři formy empatie, všechny zahrnují schopnost porozumět druhé osobě a mít k ní vztah, řekla Karla Erickson, socioložka z Grinnell College v Iowě a autorka připravované knihy Messy Humans: A Sociology of Human/Machine Relations, která zkoumá naše vztahy s technologiemi.
„Vztahování není něco, co umělá inteligence dokáže, a je to základ pro empatii,“řekl Erickson v e-mailovém rozhovoru.
"AI může být naprogramována tak, aby odbourala některá lidská chování, která doprovázejí empatii, a připomněla lidem, aby je vykonávali, ale to není učení empatie. Související, zejména pokud jde o empatii, by vyžadovala, aby posluchač měl nezbytný kontext ke spojení – tím chci říct, že „život“umělé inteligence nezahrnuje ztrátu, touhu, naději, bolest nebo smrt."
Odborníci se však střetávají v otázce, zda nás umělá inteligence může naučit, jak se vcítit. Část problému spočívá v tom, že ne všichni souhlasí s tím, co vůbec znamená „empatie“nebo „AI“. Termín umělá inteligence se často skloňuje, ale v současné době to není druh inteligence, kterou považujeme za lidskou.
Toto je čistá inženýrská práce a nedělám si takovou iluzi, že dotyčná umělá inteligence sama o sobě má emoce nebo jim skutečně rozumí.
„Tyto „náznaky empatie“nemají nic společného s empatií,“řekl v e-mailovém rozhovoru Michael Spezio, profesor psychologie, neurovědy a datové vědy na Scripps College.
"Jsou to podněty z hlasů, které lidští hodnotitelé klasifikovali jako hlasy lidí, kteří jsou podráždění/otrávení. Jde tedy pouze o použití lidských znalostí v matematickém modelu a následné tvrzení, že model založený na lidské odbornosti je inteligentní. Omezené přístupy strojového učení, jako je tento, jsou často propagovány jako umělá inteligence, aniž by byly inteligentní."
Na polytechnickém institutu Rensselaer vytváří laboratoř Selmera Bringsjorda matematické modely lidských emocí. Cílem výzkumu je vytvořit AI, která dokáže dosáhnout vysokého skóre v testech emoční inteligence a aplikovat je na lidi. Ale Bringsjord, odborník na AI, říká, že jakékoli učení AI je neúmyslné.
„Tohle je ale čistě inženýrská práce a nedělám si takovou iluzi, že dotyčná AI sama o sobě má emoce nebo jim skutečně rozumí,“řekl v e-mailovém rozhovoru.
Co se může pokazit?
Zatímco společnosti jako Cogito vidí světlou budoucnost výcviku lidí pomocí umělé inteligence, ostatní pozorovatelé jsou opatrnější.
Supportiv, online služba duševního zdraví, používá umělou inteligenci k tomu, aby každého uživatele nasměrovala v reálném čase na základě jakékoli jednotlivé myšlenky, kterou vyjádří, do skupinové podpory pro konkrétní téma, která se dynamicky schází pro uživatele s podobnými problémy.
Každá skupina má „supervýkonného“lidského moderátora, který udržuje textový chat bezpečný a bez trollů a může se opět prostřednictvím umělé inteligence objevit relevantní zdroje, doporučení a doporučení přímo do skupinové konverzace. Supportiv pomocí umělé inteligence školí své moderátory, aby byli zběhlí v rozpoznání intenzity emocionálních potřeb.
"Empatie je sval, který budujeme," řekla Zara Dana, datová vědkyně společnosti Supportiv v e-mailovém rozhovoru.
„Pokud k chůzi začneme používat berle, naše svaly atrofují. Nemohu se ubránit otázce, cítila by se závislá pracovnice sebevědomě, kdyby systém umělé inteligence jednoho dne nebyl online? Dokáže to udělat pracovat efektivně? Jaké jsou dlouhodobé dopady na pracovníky? Jak by se orientovali ve složitých sociálních situacích, kde chybí umělá inteligence?"
I když používání umělé inteligence k výuce empatie funguje, co se stane, když se při trénování emocí začneme příliš spoléhat na umělou inteligenci? Jednou z možných nevýhod je, že lidé se mohou více připoutat k robotům než k jiným lidským osobám, protože roboti si nemohou vybrat proti jejich programu, upozornil Delio.
"Lidská schopnost svobodné vůle staví lidskou činnost do více nejednoznačné pozice," řekl Delio. "Člověk může být jeden den soucitný a druhý den bezohledný; robot zůstane důsledně soucitný, pokud nebude vycvičen k tomu jinak."
Je toho hodně, co se může pokazit, pokud AI učí lidi, jak se chovat jako lidé, říkají odborníci.
Vyvinuli jsme se jako společenská zvířata a naše empatie je zásadní pro naši schopnost spojit se s ostatními a zajímat se o kolektivy, ke kterým patříme.
"Bez lidského dohledu by se student mohl naučit něco naprosto šíleného," řekl Bringsjord.
"Tón a výška hlasu jsou pouhými behaviorálními koreláty, bez jakéhokoli obsahu. Dolary na koblihy mého hlasu při výuce ve třídě by četlo mnoho…což naznačuje, že jsem naštvaný, zatímco ve skutečnosti jsem" Jsem jen vášnivý a v nejmenším potřebuji empatii."
Pokud bude výcvik AI lidí vzkvétat, můžeme se na to spolehnout. A to není nutně dobrá věc.
„Toto školení znehodnocuje lidské dovednosti, které jsou značné, a přesouvá pozornost k umělé inteligenci, jako by to byli oni, kdo mají odborné znalosti,“řekl Erickson."Vyvinuli jsme se jako společenská zvířata a naše empatie je základem naší schopnosti spojit se s ostatními a starat se o kolektivy, ke kterým patříme."
