Expert na umělou inteligenci Stanislav Fort v americkém Silicon Valley vyvíjel jazykové modely, na nichž stojí populární chatboti. S kolegy a dalšími experty zejména z technologických společností dosáhli velkého pokroku. A narazili na neznámo.
Po studiu teoretické fyziky a aplikované matematiky na univerzitě v Cambridgi si Fort udělal doktorát na Stanfordu. Věnoval se hlubokým neuronovým sítím, které představují základ pro velké jazykové modely. V praxi se s umělou inteligencí seznamoval během působení ve společnostech DeepMind a Google Brain.
Pak si chtěl vývoj systému založeného na jazykových modelech vyzkoušet od úplného začátku. Proto nastoupil do kalifornského start‑upu Anthropic a později řídil vývoj open source konkurence pro systém ChatGPT ve společnosti Stability AI. „Měl jsem v týmu dvacet lidí z různých koutů světa,“ říká. V tomto prostředí a s takovými zkušenostmi získal dojem, že lidstvo zachází s něčím, do čeho neumí proniknout, a nikdo neví, zda se mu to někdy podaří.
Opomíjené lidské hodnoty
Když schopnosti těchto systémů začaly vycházet najevo, byl český programátor překvapen reakcemi některých lidí z jiných oborů. „Setkával jsem se s názorem, že naše systémy jen papouškují slova a že se jejich chování nemůže blížit reálnému přemýšlení,“ říká.
Od loňského podzimu, kdy se s možnostmi nového fenoménu začala seznamovat veřejnost, se do popředí dostal takřka opačný náhled. „Vytváříme systémy pokročilé umělé inteligence, jejichž vnitřní fungování nechápeme,“ upozorňuje Fort.
Dosud byla při vytváření počítačových programů vždy známá jejich architektura, tedy proč a jak fungují. U jazykových modelů založených na neuronových sítích je to jinak. Když odborníci sledují výsledky testů, které sami zadali, nemají žádný vhled do toho, proč jsou zrovna takové. Vidí jen, že chatboti správně programují nebo že píšou poezii. To je podle Forta rizikový moment. „Nezajistíme, že se systém zachová správně ve všech situacích, kterým bude vystaven.“
Je přesvědčen, že ani za pár let se nepodaří pod pokličku těchto systémů pořádně nahlédnout, stejně jako není vidět do mozku druhých lidí. „Stavíme systémy, které mají potenciál být chytřejší než člověk,“ připomíná Fort, že lidská inteligence nemusí představovat vývojový strop. Člověka formovala evoluce za vcelku náročných podmínek, kapacita mozku je do jisté míry limitovaná velikostí lebky, která musí projít porodními cestami a pak roste jen omezeně. Většinu podstatných dovedností se lidé učí během relativně krátkého dětství.
„Pro umělou inteligenci žádná taková omezení neplatí,“ upozorňuje.
Lidé zatím nemají zkušenosti s entitou, která by byla chytřejší než oni sami. Obava, že umělá inteligence nad nimi postupně získá kontrolu nebo se proti nim obrátí, je oprávněná a muž, jenž nyní hodlá své znalosti rozvíjet doma v Česku, vidí jako důležité vývoj systémů hlídat a vnést do nich lidské hodnoty. „Často slýchám, že se umělé inteligence bojí jen ti, kdo s ní nepracují. Ale to není pravda. Ve firmě Anthropic vyjadřovala obavy řada mých kolegů,“ říká a oceňuje, že se o rizicích spojených s umělou inteligencí začíná veřejně mluvit.
Obavy z překotného vývoje systémů, při němž se nebere v potaz zabudování hodnot lidského společenství, veřejně vyjádřili přední světoví experti jako šéf společnosti Stability AI Emad Mostaque, vynálezce asociativních neuronových sítí John Hopfield nebo profesor informatiky Stuart Russell.
Klonované hlasy, manipulace
S umělou inteligencí jsou spojena i jiná rizika, o kterých bude Fort v říjnu spolu s dalšími experty diskutovat na konferenci Týden inovací. Uskuteční se v Centrále ČSOB v pražských Radlicích. Chystá se hovořit o šíření cílených dezinformací. Díky umělé inteligenci se totiž výrazně zlevní vytváření obsahu. Vypadá jako vytvořený člověkem, avšak je vygenerovaný programem.
„Typickým příkladem jsou nepravdivé zprávy zacílené na konkrétního člověka, třeba na základě prozkoumání jeho sociálních sítí,“ říká Fort. Půjde o text i obraz. „Za minulého režimu se občas lidé vymazávali z fotografií v novinách. Ale zvládl to udělat jen omezený okruh cenzorů. Nyní je tato technologie široce dostupná,“ podotýká Fort.
Možné je také upravit či naklonovat lidský hlas a Fort předpokládá šíření případů, kdy se bude podvodník v telefonu vydávat za blízkého v nesnázích a žádat zaslání peněz.
Dalším potenciálním nebezpečím se stanou automatizovaní hackeři. Budou dobře znát veškeré softwarové systémy, protože budou trénovat na násobně větším množství dat, než by měl člověk šanci poznat v průběhu celého života.
Možnosti, jak ovlivnit část společnosti, která nemá dost zkušeností s technologiemi, tu podle Forta byly vždycky. Ale nyní se rozšiřují a prostředky jsou snadno dostupné.
Právníci a programátoři v ohrožení
Fort se chystá založit vlastní start‑up využívající umělou inteligenci, neboť je přesvědčen, že její přínosy a pozitiva zatím nad riziky převažují. Líčí, jak chatboty založené na jazykových modelech mění svět, ekonomiku i pracovní trh. „I kdyby se vývoj umělé inteligence nyní zcela zastavil, budou její dopady na společnost obrovské,“ říká.
Jenže taková varianta je méně pravděpodobná, dá se předpokládat další pokrok. Systémy AI budou trénovat na stále větším množství dat, budou čím dál chytřejší a šířeji použitelné. „Nové schopnosti lákají do oblasti umělé inteligence kapitál,“ říká Fort.
Investiční Bank of America odhaduje, že globální trh s umělou inteligencí poroste o 19 procent ročně a v roce 2026 bude mít hodnotu 900 miliard dolarů. A díky investicím se umělá inteligence může opět rychleji rozvíjet. „Trénování jazykových modelů je závislé na počtu profesionálních grafických karet, jejichž pořízení je poměrně nákladné,“ vysvětluje Fort.
Vliv na podobu lidského společenství už ukázal známý ChatGPT společnosti OpenAI. Zvládl projít doktorskou zkouškou z práva na 90. percentilu, poradil si i s dalšími odbornými testy pro vysokoškoláky. Jde mu programování, editování textu nebo psaní esejí. „Dostali jsme do rukou systém schopný nahradit univerzitně vzdělané odborníky, přitom roční náklady na jeho provoz dosahují jen necelých 5000 korun,“ říká Fort. „Neumím si představit, že by takové snížení nákladů nemělo výrazný vliv na ekonomiku.“
Lidé z firem vyvíjejících umělou inteligenci hovoří o nahrazení rutinní práce například programátorů nebo právníků, což jsou dobře placené profese. Strojové systémy se mohou snadno prosadit v řadě dalších oborů, kde budou dosahovat podobných výsledků jako lidští zaměstnanci.
Limity se mohou objevit tam, kde nasazení strojového systému bude bránit psychologická bariéra. Třeba při stanovení zdravotní diagnózy. Při terapiích program nenahradí lidskou blízkost.
A pak jsou tu profese, kde umělá inteligence člověka nepředčí. „Typicky půjde o manuální práce prováděné mimo kontrolované prostředí továren,“ vysvětluje Fort. Jako příklad nabízí porážení stromů v lese.
Jako ideální vidí situaci, kdy se systémy umělé inteligence stanou pomocným pracovníkem, například v kancelářích. „Když je vhodně začleníme do pracovního trhu, mohli bychom se dočkat toho, že budeme pracovat méně a většina společnosti se bude mít lépe. Některé dosud drahé služby začnou být dostupnější širšímu okruhu lidí.“
Start‑upy jako šance pro Česko
Systémy využívající prvky umělé inteligence vyvíjí několik velkých hráčů. Podle Forta budou mezi sebou soupeřit a cena služby klesne.
Mezi chatboty založenými na jazykových modelech a neuronových sítích nejznámějšímu ChatGPT společnosti OpenAI, kterou spoluzaložil Elon Musk, konkuruje systém Claude 2, vytvořený americkým start‑upem Anthropic, který byl představen v červenci. Fort ho dobře zná a vysvětluje, že je schopný pracovat s poměrně velkým rozsahem textu. Na trhu je také Bard firmy Google, při plnění úkolů o něco méně kreativní než ChatGPT.
Ani jedna ze zmiňovaných společností nenechala konkurenci či veřejnost nahlédnout do nitra svého systému. Všechny drží v tajnosti zdrojový kód i tréninková data.
Jiný přístup zvolila firma Meta Platforms, vlastnící sociální sítě Facebook a Instagram. Vytvořila jazykový model Llama 2 a v červenci ho dala k dispozici pod otevřenou licencí i pro komerční využití. „Je to zajímavá strategie, jak soupeřit s konkurenty,“ upozorňuje Fort. Model Mety sice nedosahuje takových kvalit, jako mají ty od OpenAI, Anthropiku či Googlu, ale protože je volně dostupný, navykne si na něj široká škála uživatelů. A firma může časem vydělat na tom, že jim začne prodávat nadstavbové služby. „Na druhé straně má Meta nad nakládáním se svým jazykovým systémem mnohem horší kontrolu. Nezabrání jeho zneužití třeba k hackerskému útoku,“ říká Fort.
I tento trend ale sílí, jak sám viděl ve společnosti Stability AI, kde v posledních měsících působil. Dala volně k dispozici program Stable Diffusion, který je schopný na základě slovního popisu vytvořit obrázek. „K dispozici byl a stále je kompletní zdrojový kód i váhy modelu, tedy síly jednotlivých propojení v neuronových sítích,“ vysvětluje Fort strategii bývalého zaměstnavatele.
Pokud jsou veškeré informace volně dostupné, mohou na jejich základě vznikat další start‑upy. „Vsadí na jednu úzkou oblast, kterou rozpracují,“ předpovídá expert a právě zde vidí dobrou příležitost pro Česko. „Máme tady řadu šikovných programátorek a programátorů, kteří vycházejí z univerzit nebo se sem přistěhovali ze zahraničí.“
Česko a obecně Evropa má podle něj velký potenciál pro rozvoj umělé inteligence. Základem jsou kvalitní školy a pokročilý výzkum v nich. A odtud se výzkum jazykových modelů už z větší části přesunul do firem. Starý kontinent navíc nabízí i dobré podmínky pro život – ne všem musí vyhovovat tlak amerického systému, mohou sem proudit mozky z oblastí s méně svobodným politicko‑společenským nastavením.
I proto se Fort po deseti letech strávených v cizině vrací, aby mohl rozvíjet vlastní start‑up. „Jsem ve fázi hledání lidí a investorů,“ říká.
Evropa za Spojenými státy nyní zaostává zejména v převodu nových poznatků do praxe. Rozdílu si Fort všiml už během studia v britské Cambridgi a na americkém Stanfordu. „Tam se neustále řešilo, jak se dají výsledky výzkumů využít, v Cambridgi šlo hlavně o znalosti,“ srovnává. V Česku chce dostávat novinky z oboru do praxe jak vlastním byznysem, tak i doporučeními v roli člena poradního orgánu ministryně pro vědu Heleny Langšádlové a prezidenta Petra Pavla.
Evropa by podle Forta rozhodně neměla na praktické uplatňování poznatků z oblasti umělé inteligence rezignovat. „Jinak nás předběhnou státy jako Čína nebo Spojené arabské emiráty a do vlastních systémů zabudují své hodnoty, které mohou časem převládnout,“ míní.
