Klíčové poznatky
- Zdá se, že systém umělé inteligence zvaný DALL-E2 vytvořil svůj vlastní systém písemné komunikace.
- Někteří odborníci tvrdí, že zdánlivý jazyk může být jen blábol.
- Je to příklad toho, jak těžké je interpretovat výsledky pokročilých systémů umělé inteligence.
Vypadá to, že umělá inteligence (AI) vyvinula svůj vlastní jazyk, ale někteří odborníci jsou k tomuto tvrzení skeptičtí.
Zdá se, že systém umělé inteligence typu text-to-image společnosti OpenAI s názvem DALL-E2 vytvořil svůj vlastní systém písemné komunikace. Je to příklad toho, jak těžké je interpretovat výsledky pokročilých systémů umělé inteligence.
„Vzhledem k velikosti a hloubce velkých modelů je velmi obtížné vysvětlit chování modelu,“řekla Lifewire v e-mailovém rozhovoru Teresa O'Neill, ředitelka architektury řešení pro porozumění přirozenému jazyku ve společnosti iMerit. "Toto je jedna z hlavních výzev a v některých případech i etických problémů se stále silnějšími modely. Pokud nedokážeme vysvětlit, proč se chovají tak, jak se chovají, můžeme předvídat jejich chování nebo je udržet v souladu s našimi normami a očekáváními?"
chaty AI
Student informatiky Giannis Daras nedávno poznamenal, že systém DALLE-2, který vytváří obrázky na základě vkládání textu, by za určitých okolností vrátil nesmyslná slova jako text.
"Známým omezením DALLE-2 je, že se potýká s textem," napsal v článku publikovaném na předtiskovém serveru Arxiv. "Například textové výzvy jako: 'Obrázek slova letadlo' často vedou ke generovaným obrázkům, které zobrazují nesmyslný text."
Ale, napsal Daras, za zdánlivým blábolem může být metoda. "Zjišťujeme, že tento vytvořený text není náhodný, ale spíše odhaluje skrytý slovník, který si model, jak se zdá, vyvinul interně," pokračoval. "Například, když je model doplněn tímto nesmyslným textem, často vyrábí letadla."
Ve svém tweetu Daras poukázal na to, že když byl DALLE-2 požádán o titulkování konverzace mezi dvěma farmáři, ukázalo se, že mluví, ale bubliny byly plné něčeho, co vypadalo jako nesmyslná slova. Daras však zjistil, že tato slova mají pro AI svůj vlastní význam: farmáři mluvili o zelenině a ptácích.
Nicola Davolio, generální ředitel technologické společnosti Hupry, která spolupracuje s AI, vysvětlil Lifewire v e-mailovém rozhovoru, že jazyk je založen na symbolech, které se systém DALL-E2 naučil spojovat s určitými pojmy. Například symbol pro „pes“může souviset s obrázkem psa, zatímco symbol pro „kočku“může souviset s obrázkem kočky. DALL-E2 vytvořil svůj jazyk, protože mu umožňuje efektivněji komunikovat s jinými systémy umělé inteligence.
Hádanky, jako je zjevně skrytý slovník DALL-E2, je zábavné zápasit, ale také zdůrazňují těžší otázky…
„Jazyk se skládá ze symbolů, které vypadají jako egyptské hieroglyfy a nezdá se, že by měly nějaký konkrétní význam,“dodal. "Symboly pravděpodobně nemají pro lidi žádný význam, ale systému AI dávají dokonalý smysl, protože byl natrénován na milionech obrázků."
Výzkumníci věří, že systém umělé inteligence vytvořil jazyk, aby mu pomohl lépe porozumět vztahům mezi obrázky a slovy, řekl Davolio.
„Nejsou si jisti, proč systém umělé inteligence vyvinul svůj jazyk, ale mají podezření, že to může mít něco společného s tím, jak se učil vytvářet obrázky,“dodal Davolio. „Je možné, že systém AI vyvinul svůj jazyk, aby zefektivnil komunikaci mezi různými částmi sítě."
Záhady AI
DALL-E2 není jediný systém umělé inteligence, který vyvinul svůj vnitřní jazyk, zdůraznil Davolio. V roce 2017 systém AutoML společnosti Google vytvořil novou formu neuronové architektury nazvanou „dětská síť“poté, co byl ponechán na rozhodnutí, jak nejlépe dokončit daný úkol. Tuto dětskou síť nedokázali její lidští tvůrci interpretovat.
„Tyto příklady jsou jen několika příklady, kdy systémy umělé inteligence vyvinuly způsoby, jak dělat věci, které nedokážeme vysvětlit,“řekl Davolio. "Je to objevující se fenomén, který je fascinující a alarmující stejnou měrou. Jak se systémy umělé inteligence stávají složitějšími a autonomnějšími, můžeme se stále více ocitat v pozici, kdy nerozumíme tomu, jak fungují."
O'Neill řekla, že si nemyslí, že DALL-E2 vytváří svůj vlastní jazyk. Místo toho řekla, že důvod zjevné lingvistické invence je pravděpodobně o něco prozaičtější.
„Jedno přijatelné vysvětlení je náhodná náhoda – v tak velkém modelu by mohl platit kousek Murphyho zákona: pokud se může stát divná věc, pravděpodobně se stane,“dodal O'Neill. Další možností, kterou navrhl výzkumný analytik Benjamin Hilton ve vláknu na Twitteru, kde se diskutuje o Darasových zjištěních, je, že forma fráze „apoploe vesrreaitais“napodobuje formu latinského jména pro zvíře. Takže systém vytvořil nový řád Aves, dodal O'Neill.
„Hádanky, jako je zjevně skrytý slovník DALL-E2, je zábavné se s nimi potýkat, ale také zdůrazňují závažnější otázky týkající se rizika, zaujatosti a etiky v často nevyzpytatelném chování velkých modelů,“řekl O'Neill.
