Zničí nás umělá inteligence, nebo se stihneme zničit sami? Napínavý souboj!

Redakce Cynických hyen by ráda podotkla, že scénáře obvykle nepočítají s následujícími faktory:

1. Lidi jsou mnohem blbější, než si autoři myslí.
2. Vlády jsou mnohem blbější, než si autoři myslí. (Víte, na koho myslíme, že jo :))

... což teda neznamená, že z celýho AI závodu nemůže bejt průser jak mraky, ale my v redakci si myslíme, že průser vznikne spíš díky přirozené blbosti než umělé inteligenci, případně kombinací obého.

Proč to s AI nevidíme tak černě? Většina katastrofických scénářů sleduje přibližně následující myšlenkový proud: AI velmi rychle zlepšuje své schopnosti -> AI překoná lidi ve všech oblastech -> AI si uvědomí sama sebe a začne sledovat své vlastní zájmy -> AI ovládne/zahubí/pozvedne lidstvo (podle toho, jak velký je dotyčný optimista a jak moc má načtenou sci-fi literaturu). Problém s tímhle řetězcem úvah je ten, že ani jedna z šipek neplatí (čili z tvrzení vlevo neplyne tvrzení vpravo) a ze čtyř tvrzení platí zatím jen to první.

Pojďme si dát náš vlastní předpoklad: AI je glorifikovaný generátor písmenek. Glorifikovaný zcela právem, protože už teď mění tvář světa a pomáhá spoustě lidem (včetně Hyen) v jejich práci. Je nesmírně komplexní, fakt obrovský a děsně matematicky pokročilý, ale pořád jenom generátor písmenek. (Brutálně zjednodušuju, znalci odpustí. Čtivé vysvětlení bez složitější matematiky např. na blogu Marigold.cz.)

To, že AI umí řešit čím dál tím složitější úlohy čím dál tím rychleji, je pravda, ale platí to jenom pro programátorské a matematické úlohy, na které jsou současné AI systémy nejvíc trénované. Pořád ještě při práci s AI narazíte na věci, které jí moc nejdou, nebo trvají neúnosně dlouho, i když je zvládne okamžitě i malé dítě.

A už vůbec z toho neplyne, že takhle rychle rostou všechny schopnosti AI - představujeme si to jako děcko, které chodí do školy a stává se z něj postupně chytřejší a moudřejší člověk, ale tahle představa v případě AI nefunguje. AI se zlepšuje na tom, na čem ji trénujeme, ale nezvyšuje se nijak její porozumění světu. Umí přepsat větu ve spoustě světových jazyků, ale žádné z těch vět nerozumí - alespoň ne ve smyslu, v jakém porozumění chápeme my. Jen umí porozumění perfektně simulovat, protože vám význam věty ráda vysvětlí. Ale vše je stále a jen postavené na generování písmenek.

Nejzávažnější tvrzení, kterým katastrofické scénáře vrcholí, je, že AI si uvědomí sama sebe a/nebo začne sledovat svoje vlastní cíle. Jenže tohle vůbec neodpovídá současnému stavu poznání. Na to, aby se tohle stalo, potřebujeme zásadní průlom ve vědě a technologii - který samozřejmě lze těžko předvídat, jako všechny průlomy. Rozhodně není jisté, že tento průlom vůbec nastane. A to, že budeme do AI házet pořád víc a víc peněz a energie na vylepšování jeho schopnosti, vůbec neznamená, že se stane. Vylepšováním schopností parních strojů neurychlíme vynález elektromotoru.

Druhá věc je nasazování AI nástrojů do praxe. Cesta od chvíle, kdy AI společnost řekne "máme nejlepší model na světě" po chvíli, kdy tenhle model může použít konkrétní Franta ve svojí firmě na ulehčení práce, je dlouhá a trnitá. Je potřeba řešit uživatelské rozhraní, bezpečnost dat, škálování, kontrolu nad výstupy, a tak dál. V téhle fázi se teď nacházíme a ještě nějakou chvíli budeme nacházet - společnost se pere s tím, jak možnosti AI modelů, které jsou obrovské, zaintegrovat do reálné praxe, což vůbec není triviální úkol.

Při čtení mediální bouře kolem AI je snadné cítit se nejistě, mít obavy. Na druhou stranu si pak člověk popovídá se svým bankovním chatbotem o přenastavení limitů na kartě a trochu se uklidní, že to s tím ovládnutím světa zase tak horké nebude.