Umělá inteligence neexistuje
To, čemu říkáme umělá inteligence, je matematický model natrénovaný odměnou a trestem. Nemyslí, nechápe a nic neví. A přesně proto je užitečné vědět, v čem vás předčí a v čem ne.
Umělá inteligence neexistuje. Aspoň ne ta, kterou má většina lidí na mysli - něco, co přemýšlí, rozumí a ví.
To, co dnes používáme, je jazykový matematický model. Byl natrénovaný odměnou a trestem: který slovosled je pravděpodobnější, se model naučil tak, že za jedny odpovědi dostával plusové body a za jiné minusové. Když vám odpovídá, nedělá to proto, že by odpověď znal. Dělá to proto, že takové pokračování věty vyšlo statisticky nejlíp.
To zní jako zlehčování. Není. Je to ta nejužitečnější věta, kterou o AI můžete vědět - protože z ní plyne úplně všechno ostatní: proč je v něčem lepší než vy, proč se v něčem plete a proč se plete tak sebevědomě.
Člověk se učí podobně, jen si toho nevšímá
Rodiče ukazují na věci a dávají jim jména. „Toto je máma, táta, strom." Dítě to opakuje. Postupem času zjistí, že strom má různé podoby - smrk, jabloň, kaštan - a ve škole mu do té databanky přibudou láčkovci, hlavonožci, vyjmenovaná slova a kvadratické rovnice. A čas od času se ty znalosti ověří: písemka, zkoušení, známka.
S modely AI se to dělá úplně stejně. Ukážou se jim příklady, řekne se jim, co je správně, a pak se otestuje, jestli to zvládnou i na něčem, co ještě neviděly.
Rozdíl není v tom, že se model učí jako člověk.
Rozdíl je v tom, co s naučeným umí dál dělat.
Co umí člověk a model ne
Přenést zkušenost jinam. Naučte člověka hrát šachy a přechod na dámu je otázka pár minut. Model je potřeba přeučit, což je řádově náročnější - časově, energeticky a někdy to znamená zásah přímo do jeho stavby.
Držet kontext přes celý život. Když mluvíte s člověkem, bez potíží naváže na to, co jste říkali před dvaceti minutami. Modelům se to muselo dávat znovu k přečtení. Tady se ale hodně změnilo - dnešní modely udrží najednou stovky tisíc slov, tedy klidně celou knihu nebo firemní dokumentaci. Ta výtka platila víc dřív než dnes.
Etika a empatie? Tady je to zajímavější, než se říká. Když se nad těmi slovy zamyslíte, je to taky jen sada doporučení a zvyklostí - a tu jde modelu předložit jako data. Co mu bude chybět, není seznam pravidel. Chybět mu bude ten kontext, ve kterém se pravidlo ohýbá, a syntéza - schopnost dát si dohromady věci, které podle pravidel nesouvisí - díky které člověk pozná, že tento případ je jiný.
A co model umí lépe než vy
Buďme spravedliví k umělé inteligenci - podcenit ji vyjde nastejno jako ji přecenit.
Model má nesrovnatelně větší kapacitu paměti a nesrovnatelně rychlejší přístup k ní. Nenudí se, neunaví a v jedné úloze nezapomene - dokud se mu kontext nepřeplní; pak se v něm začne ztrácet. A hlavně: umí kombinovat vzory napříč obory, kde by člověka nenapadlo hledat. To není málo - většina dobrých nápadů je přenesení vzoru odjinud.
Co se za poslední rok změnilo
Často se opakuje, že model je jen „statistický papoušek", který naslepo tipuje další nejpravděpodobnější slovo. To už tak docela neplatí a je poctivé to říct.
Modely se naučily zobecňovat. Naučený vzorec aplikují na situaci, kterou nikdy neviděly, a smysluplně navážou na větu, kterou před nimi nikdo nenapsal.
Objevily se schopnosti, které do nich nikdo nevložil. Nikdo modely cíleně neučil chápat podstatu slov - samy si z obrovského množství textu odvodily gramatiku i to, jak funguje reálný svět. Proto umí vysvětlit pointu vtipu nebo přeložit větu tak, aby seděla do kontextu.
To ale nemění nic na jádru věci. Zobecňování je pořád matematika, ne porozumění. Model, který vám bravurně vysvětlí vtip, pořád neví, že je vtipný.
Kdo v AI hledá inteligenci, čeká úsudek - a spolehne se na odpověď, kterou měl ověřit. Kdo v ní vidí jen papouška, nechá ležet práci, kterou by mu odvedla ve zlomku času. Obě chyby stojí stejně a obě vycházejí ze špatné představy o tom, co ta věc je.
Co si z toho odnést
Výstup AI není výstup nějaké inteligence. Je to výstup naprogramovaného matematického modelu, který pracuje se statistikou a pravděpodobností nad daty, která mu někdo dal.
Z toho plynou tři praktické věci, které se vyplatí mít v hlavě pokaždé, když s AI pracujete:
- Sebejistý tón není důkaz. Model nemá způsob, jak vám sdělit, že si není jistý - a i kdyby ho měl, nepozná, kdy neví. Formulace „to je určitě…" znamená, že takové pokračování věty bylo pravděpodobné, ne že je pravdivé.
- Kvalita vstupu určuje strop kvality výstupu. Model nepřidá informaci, kterou nemá. Když ho necháte hádat, bude hádat - a bude to znít stejně dobře jako když ví.
- Ověřování zůstává vám. Ne proto, že by AI byla nespolehlivá, ale proto, že za výsledek nesete odpovědnost vy. Model žádnou nenese a nést nemůže.
Neexistuje umělá inteligence.
Existuje velmi schopný nástroj, který nemá úsudek - a proto ho k němu musíte přidat vy.