Klíčové poznatky
- Nový výzkum naznačuje, že možná neexistuje způsob, jak ovládat superinteligentní umělou inteligenci.
- Časopis tvrdí, že ovládání umělé inteligence by vyžadovalo mnohem pokročilejší technologii, než v současnosti máme.
- Někteří odborníci tvrdí, že skutečně inteligentní umělá inteligence tu může být dříve, než si myslíme.
Pokud lidé někdy vyvinou superchytrou umělou inteligenci, možná neexistuje způsob, jak ji ovládat, říkají vědci.
AI byla dlouho nabízena buď jako lék na všechny problémy lidstva, nebo jako apokalypsa ve stylu Terminátora. Zatím se však AI nepřiblížila ani inteligenci na lidské úrovni. Podle nedávného článku publikovaného v Journal of Artificial Intelligence Research by však mohlo být pro lidi příliš složitým problémem, pokud by se někdy vyvinula.
„Superinteligentní stroj, který ovládá svět, zní jako sci-fi,“řekl Manuel Cebrian, jeden ze spoluautorů článku, v tiskové zprávě.
"Již však existují stroje, které vykonávají určité důležité úkoly nezávisle, aniž by programátoři plně chápali, jak se to naučili. Nabízí se tedy otázka, zda by se to v určitém okamžiku nemohlo stát nekontrolovatelným a nebezpečným pro lidstvo."
Již brzy k super počítači ve vašem okolí
Časopis tvrdí, že ovládání umělé inteligence by vyžadovalo mnohem pokročilejší technologii, než v současnosti máme.
Ve své studii tým vytvořil teoretický omezovací algoritmus, který zajišťuje, že superinteligentní umělá inteligence nemůže za žádných okolností ublížit lidem tím, že nejprve nasimuluje chování umělé inteligence a zastaví ji, pokud je považována za škodlivou. Autoři však zjistili, že takový algoritmus nelze sestavit.
"Pokud problém rozložíte na základní pravidla teoretické informatiky, ukáže se, že algoritmus, který by přikázal AI, aby nezničila svět, by mohl nechtěně zastavit její vlastní operace." Iyad Rahwan, ředitel Centra pro lidi a stroje v Institutu Maxe Plancka pro lidský rozvoj v Německu, uvedl v tiskové zprávě.
"Pokud by k tomu došlo, nevěděli byste, zda zadržovací algoritmus stále analyzuje hrozbu, nebo zda přestal obsahovat škodlivou AI. V důsledku toho je zadržovací algoritmus nepoužitelný."
Skutečně inteligentní umělá inteligence tu může být dříve, než si myslíme, tvrdí Michalis Vazirgiannis, profesor informatiky na École Polytechnique ve Francii. "AI je lidský artefakt, ale rychle se stává autonomní entitou," řekl v e-mailu Lifewire.
"Kritickým bodem bude, pokud/když nastane singularita (tj. když agenti AI budou mít vědomí jako entita), a proto budou požadovat nezávislost, sebekontrolu a eventuální dominanci."
Singularita přichází
Vazirgiannis není sám, kdo předpovídá brzký příchod super AI. Opravdoví věřící v hrozbu AI rádi mluví o „singularitě“, což Vazirgiannis vysvětluje, že AI nahradí lidskou inteligenci a že „algoritmy AI si potenciálně uvědomí svou existenci a začnou se chovat sobecky a kooperativně.“
Podle Raye Kurzweila, inženýra společnosti Google, jedinečnost dorazí před polovinou 21. století. "2029 je konzistentní datum, které jsem předpověděl, kdy AI projde platným Turingovým testem, a tudíž dosáhne lidské úrovně inteligence," řekl Kurzweil Futurism.
Pokud si nemůžeme uklidit vlastní dům, jaký kód máme požádat AI, aby se řídila?
"Nastavil jsem datum 2045 pro ‚Singularitu‘, což je doba, kdy znásobíme naši efektivní inteligenci miliardkrát tím, že se spojíme s inteligencí, kterou jsme vytvořili."
Ne všichni odborníci na AI si ale myslí, že inteligentní stroje jsou hrozbou. Umělá inteligence, která je ve vývoji, je pravděpodobnější, že bude užitečná pro vývoj léků a nevykazuje žádnou skutečnou inteligenci, řekl konzultant AI Emmanuel Maggiori v e-mailovém rozhovoru. "Kolem umělé inteligence je velký humbuk, takže to zní, jako by to bylo opravdu revoluční," dodal. „Současné systémy umělé inteligence nejsou tak přesné, jak se propaguje, a dělají chyby, kterých by se člověk nikdy nedopustil.“
Převezměte kontrolu nad AI hned
Regulace AI tak, aby se nevymykala naší kontrole, může být obtížné, říká Vazirgiannis. Společnosti, spíše než vlády, kontrolují zdroje, které pohání AI. "Dokonce i samotné algoritmy jsou obvykle vytvářeny a nasazovány ve výzkumných laboratořích těchto velkých a mocných, obvykle nadnárodních subjektů," řekl.
"Je tedy evidentní, že vlády států mají stále menší kontrolu nad zdroji nezbytnými pro kontrolu AI."
Někteří odborníci tvrdí, že k ovládání superinteligentní umělé inteligence budou lidé muset řídit výpočetní zdroje a elektrickou energii. "Sci-fi filmy jako Matrix pronášejí proroctví o dystopické budoucnosti, kde jsou lidé využíváni umělou inteligencí jako zdroje biologické energie," řekl Vazirgiannis.
"I když je to na dálku nemožné, lidstvo by se mělo ujistit, že existuje dostatečná kontrola nad výpočetními zdroji (tj. škodlivé pro funkci AI."
Problém s ovládáním umělé inteligence je v tom, že výzkumníci ne vždy chápou, jak se takové systémy rozhodují, řekl v e-mailovém rozhovoru Michael Berthold, spoluzakladatel a generální ředitel softwarové firmy KNIME pro datovou vědu. „Pokud to neuděláme, jak to můžeme ‚kontrolovat‘?“
Dodal: „Nechápeme, když se na základě pro nás irelevantních vstupů udělá úplně jiné rozhodnutí.“
Jediný způsob, jak kontrolovat riziko používání umělé inteligence, je zajistit, aby byla používána pouze tehdy, když je toto riziko zvládnutelné, řekl Berthold. "Řekněte jinak, dva extrémní příklady: Nedávejte AI na starost vaši jadernou elektrárnu, kde malá chyba může mít katastrofální vedlejší účinky," dodal.
"Na druhou stranu, umělá inteligence předpovídá, zda by se měla teplota v místnosti trochu zvýšit nebo snížit, může to stát za to malé riziko ve prospěch pohodlí bydlení."
Pokud neumíme ovládat umělou inteligenci, měli bychom ji naučit chování, řekl bývalý počítačový inženýr NASA Peter Scott v e-mailovém rozhovoru. "V konečném důsledku nemůžeme zajistit ovladatelnost umělé inteligence o nic víc, než můžeme zajistit ovladatelnost našich dětí," řekl.
"Vychováváme je správně a doufáme v to nejlepší; zatím nezničili svět. Abychom je vychovali dobře, potřebujeme lépe porozumět etice; pokud si neumíme uklidit vlastní dům, co kód máme požádat AI, aby ho následovala?"
Ale veškerá naděje pro lidskou rasu není ztracena, říká výzkumník AI Yonatan Wexler, výkonný viceprezident výzkumu a vývoje ve společnosti OrCam. "Ačkoli pokroky jsou skutečně působivé, já osobně věřím, že lidskou inteligenci bychom neměli podceňovat," řekl v e-mailovém rozhovoru. "My jako druh jsme vytvořili docela úžasné věci, včetně samotné umělé inteligence."
Hledání stále chytřejší umělé inteligence pokračuje. Ale možná by bylo lepší zvážit, jak kontrolujeme své výtvory, než bude příliš pozdě.
