Klíčové poznatky
- Výzkumníci vytvořili techniky, které uživatelům umožňují seřadit výsledky chování modelu strojového učení.
- Odborníci tvrdí, že metoda ukazuje, že stroje dohánějí lidské schopnosti myšlení.
- Pokroky v AI by mohly urychlit vývoj schopnosti počítačů rozumět jazyku a způsobit revoluci ve způsobu interakce AI a lidí.
Nová technika, která měří rozumovou sílu umělé inteligence (AI), ukazuje, že stroje dohánějí lidi ve své schopnosti myslet, říkají odborníci.
Výzkumní pracovníci z MIT a IBM Research vytvořili metodu, která umožňuje uživateli seřadit výsledky chování modelu strojového učení. Jejich technika zvaná Shared Interest zahrnuje metriky, které porovnávají, jak dobře se myšlení modelu shoduje s myšlením lidí.
"Umělá inteligence je dnes schopna dosáhnout (a v některých případech i předčit) lidského výkonu ve specifických úkolech, včetně rozpoznávání obrazu a porozumění jazyku," Pieter Buteneers, ředitel inženýrství v oblasti strojového učení a umělé inteligence v komunikaci společnost Sinch, řekl Lifewire v e-mailovém rozhovoru. „Se zpracováním přirozeného jazyka (NLP) mohou systémy umělé inteligence interpretovat, psát a mluvit jazyky stejně jako lidé a umělá inteligence může dokonce upravit svůj dialekt a tón tak, aby odpovídala svým lidským vrstevníkům.“
Umělá chytrá zařízení
AI často přináší výsledky, aniž by vysvětlila, proč jsou tato rozhodnutí správná. A nástroje, které pomáhají odborníkům porozumět úvahám modelu, často poskytují pouze postřehy, vždy pouze jeden příklad. Umělá inteligence je obvykle trénována pomocí milionů datových vstupů, takže je pro člověka obtížné vyhodnotit dostatek rozhodnutí k identifikaci vzorců.
V nedávném článku vědci uvedli, že sdílený zájem může uživateli pomoci odhalit trendy v rozhodování modelu. A tyto poznatky by mohly uživateli umožnit rozhodnout, zda je model připraven k nasazení.
„Při vývoji sdíleného zájmu je naším cílem umět rozšířit tento proces analýzy tak, abyste na globálnější úrovni pochopili, jaké je chování vašeho modelu,“Angie Boggust, spoluautorka článku, uvedl v tiskové zprávě.
Shared Interest využívá techniku, která ukazuje, jak model strojového učení učinil konkrétní rozhodnutí, známé jako metody nápadnosti. Pokud model klasifikuje obrázky, metody nápadnosti zvýrazní oblasti obrázku, které jsou pro model důležité, když se rozhoduje. Shared Interest funguje tak, že porovnává metody nápadnosti s poznámkami vytvořenými lidmi.
Výzkumníci použili Sdílený zájem, aby pomohli dermatologovi určit, zda má důvěřovat modelu strojového učení, který má pomoci diagnostikovat rakovinu z fotografií kožních lézí. Sdílený zájem umožnil dermatologovi rychle vidět příklady správných a nesprávných předpovědí modelu. Dermatolog se rozhodl, že modelu nemůže důvěřovat, protože vytvářel příliš mnoho předpovědí na základě obrazových artefaktů spíše než skutečných lézí.
„Hodnotou je, že pomocí sdíleného zájmu jsme schopni vidět, jak se tyto vzorce objevují v chování našeho modelu. Přibližně za půl hodiny se dermatolog mohl rozhodnout, zda modelu důvěřovat či nikoli a zda jej nasadit, či nikoli,“řekl Boggust.
Zdůvodnění rozhodnutí modelu je důležité jak pro výzkumníka strojového učení, tak pro toho, kdo rozhoduje.
Měření pokroku
Práce výzkumníků z MIT by mohla být významným krokem vpřed pro pokrok AI směrem k inteligenci na lidské úrovni, řekl Ben Hagag, vedoucí výzkumu ve společnosti Darrow, která používá algoritmy strojového učení, řekl Lifewire v e-mailovém rozhovoru.
„Zdůvodnění rozhodnutí modelu je důležité jak pro výzkumníka strojového učení, tak pro toho, kdo rozhoduje,“řekl Hagag. „První chce porozumět tomu, jak dobrý je model a jak jej lze zlepšit, zatímco druhý chce vyvinout pocit důvěry v model, takže musí pochopit, proč byl tento výstup předpovídán.“
Hagag ale varoval, že výzkum MIT je založen na předpokladu, že rozumíme nebo můžeme komentovat lidské chápání nebo lidské uvažování.
„Je zde však možnost, že to nemusí být přesné, takže je zapotřebí více práce na pochopení lidského rozhodování,“dodal Hagag.
Pokroky v AI by mohly urychlit vývoj schopnosti počítačů rozumět jazyku a způsobit revoluci ve způsobu interakce AI a lidí, řekl Buteneers. Chatboti mohou rozumět stovkám jazyků najednou a asistenti umělé inteligence mohou skenovat text v textech a hledat odpovědi na otázky nebo nesrovnalosti.
„Některé algoritmy dokážou dokonce rozpoznat, kdy jsou zprávy podvodné, což může firmám i spotřebitelům pomoci vyřadit spamové zprávy,“dodal Buteneers.
Ale, řekl Buteneers, AI stále dělá některé chyby, které by lidé nikdy neudělali. „I když se někteří obávají, že umělá inteligence nahradí lidské práce, realita je taková, že vždy budeme potřebovat lidi, kteří budou pracovat po boku robotů s umělou inteligencí, kteří jim pomohou udržet je pod kontrolou a udržet tyto chyby na uzdě a zároveň zachovat lidský kontakt v podnikání,“dodal.
