Klíčové poznatky
- Společnosti stále častěji používají umělou inteligenci, která vysvětluje, jak dosahuje výsledků.
- LinkedIn nedávno zvýšil své příjmy z předplatného po použití umělé inteligence, která předpovídala klientům riziko zrušení a popsala, jak ke svým závěrům dospěla.
- Federální obchodní komise uvedla, že AI, která není vysvětlitelná, by mohla být vyšetřena.
Jedním z nejžhavějších nových trendů v softwaru by mohla být umělá inteligence (AI), která vysvětluje, jak dosahuje svých výsledků.
Vysvětlitelná umělá inteligence se vyplácí, protože softwarové společnosti se snaží udělat umělou inteligenci srozumitelnější. LinkedIn nedávno zvýšil své příjmy z předplatného poté, co použil AI, která předpovídala klientům riziko zrušení a popsala, jak dospěla ke svým závěrům.
„Vysvětlitelná umělá inteligence je o schopnosti důvěřovat výstupu a také porozumět tomu, jak se tam stroj dostal,“řekl Lifewire v e-mailovém rozhovoru Travis Nixon, CEO SynerAI a hlavní Data Science, Financial Services ve společnosti Microsoft..
"'Jak?" je otázka kladená mnoha systémům umělé inteligence, zvláště když jsou přijímána rozhodnutí nebo jsou vytvářeny výstupy, které nejsou ideální,“dodal Nixon. "Potřebujeme vědět, proč systémy umělé inteligence produkují své výsledky, od nespravedlivého zacházení s různými rasami až po zaměňování holohlavé hlavy s fotbalem. Jakmile pochopíme "jak", firmy a jednotlivci budou muset odpovědět "co dál?"."
Seznámení s AI
AI se ukázala jako přesná a vytváří mnoho typů předpovědí. Ale umělá inteligence je často schopna vysvětlit, jak ke svým závěrům došla.
A regulační orgány berou na vědomí problém vysvětlitelnosti umělé inteligence. Federální obchodní komise uvedla, že AI, která není vysvětlitelná, by mohla být vyšetřena. EU zvažuje schválení zákona o umělé inteligenci, který zahrnuje požadavky, aby uživatelé byli schopni interpretovat předpovědi umělé inteligence.
Linkedin patří mezi společnosti, které si myslí, že vysvětlitelná umělá inteligence může pomoci zvýšit zisky. Dříve se prodejci LinkedIn spoléhali na své znalosti a trávili obrovské množství času proséváním offline dat, aby zjistili, které účty budou pravděpodobně pokračovat v podnikání a jaké produkty by je mohly zajímat při příštím obnovení smlouvy. K vyřešení problému LinkedIn spustil program s názvem CrystalCandle, který zjišťuje trendy a pomáhá prodejcům.
V dalším příkladu Nixon řekl, že během vytváření modelu stanovování kvót pro obchodní síly společnosti byla jeho společnost schopna začlenit vysvětlitelnou umělou inteligenci, aby identifikovala, jaké vlastnosti ukazují na úspěšného nového obchodního náboru.
"S tímto výstupem bylo vedení této společnosti schopno rozpoznat, které obchodníky dát na 'zrychlenou cestu' a kteří potřebují koučování, to vše dříve, než nastaly nějaké větší problémy," dodal.
Mnoho využití pro vysvětlitelnou umělou inteligenci
Vysvětlitelná umělá inteligence se v současnosti používá jako kontrola střev pro většinu vědců zabývajících se daty, řekl Nixon. Výzkumníci provedou svůj model jednoduchými metodami, zajistí, že nic není úplně mimo provoz, a poté model odešle.
"Je to zčásti proto, že mnoho organizací zabývajících se datovými vědami optimalizovalo své systémy na základě 'time over value' jako KPI, což vedlo k uspěchaným procesům a nekompletním modelům," dodal Nixon.
Obávám se, že zpětná vazba od nezodpovědných modelů by mohla průmysl umělé inteligence vrátit vážným způsobem zpět.
Lidé často nepřesvědčí výsledky, které umělá inteligence nedokáže vysvětlit. Raj Gupta, Chief Engineering Officer ve společnosti Cogito, v e-mailu uvedl, že jeho společnost provedla průzkum u zákazníků a zjistila, že téměř polovina spotřebitelů (43 %) by měla pozitivnější vnímání společnosti a umělé inteligence, kdyby společnosti byly ohledně jejich použití explicitnější. technologie.
A nejsou to jen finanční údaje, které dostávají pomocnou ruku od vysvětlitelné umělé inteligence. Jednou z oblastí, která těží z nového přístupu, jsou obrazová data, kde je snadné označit, které části obrazu považuje algoritmus za zásadní a kde je pro člověka snadné vědět, zda tyto informace dávají smysl, Samantha Kleinberg, docentka na Stevens Institute of Technology a odborník na vysvětlitelnou umělou inteligenci řekl Lifewire e-mailem.
„Je mnohem těžší to udělat s EKG nebo údaji z kontinuálního monitoru glukózy,“dodal Kleinberg.
Nixon předpověděl, že vysvětlitelná umělá inteligence bude v budoucnu základem každého systému umělé inteligence. A bez vysvětlitelné umělé inteligence by výsledky mohly být hrozné, řekl.
„Doufám, že na této frontě pokročíme dostatečně daleko, abychom v nadcházejících letech považovali vysvětlitelnou umělou inteligenci za samozřejmost, a že se dnes podíváme zpět na tu dobu překvapeni, že by byl někdo natolik šílený, aby nasadil modely, kterým nerozuměl, " přidal."Pokud se s budoucností nepostavíme tímto způsobem, obávám se, že zpětná vazba od nezodpovědných modelů by mohla vážně vrátit průmysl umělé inteligence."
