Falešné fotky, deepfake videa. AI zahltí svět nesmysly, upozorňuje miliardář Vlček

Jak se po všeobecném rozšíření umělé inteligence změnily kyberútoky?

U chatbotů, jako je ChatGPT, došlo k největšímu zneužití v oblasti, kterou nazýváme sociální inženýrství. Klasickým příkladem je phishing, který má skrze e‑mailovou zprávu člověka zmást a přesvědčit. Všichni si určitě pamatují nesmyslné řetězové maily z 90. let od „nigerijského prince“, které byly psány lámanou češtinou. To příliš nefungovalo. V posledních deseti letech se to změnilo. Vůbec největší zlom přišel právě v posledním roce kvůli umělé inteligenci, kdy důvěryhodnost zpráv šla obrovsky nahoru.

Co ještě změnila?

Dnes stačí tři vteřiny záznamu vašeho hlasu pro vytvoření relativně slušného syntetického klonu, který je pak schopný přečíst jakýkoliv text. U videí je situace složitější. K vytvoření je třeba více fotek, úhlů či v minulosti natočených záběrů. U exponovaných osob – politiků či slavných osobností – je ale materiálu dost. V posledních měsících byl český internet plný podvodných investičních scamů s tvářemi lidí, jako je Andrej Babiš, moderátor Jakub Železný, Martin Veselovský, Kazma či zakladatel Avastu Pavel Baudiš, kdy jejich klony přesvědčovaly širokou veřejnost k investicím do nesmyslných produktů.

Jak se zvýšil počet útoků po zpřístupnění umělé inteligence široké veřejnosti?

V Česku to byl za loňský rok nárůst o 40 procent oproti předchozímu roku. Globálně to bylo za stejnou dobu o 49 procent.

Útočníci jsou zpravidla napřed před těmi, kdo data chrání. Zvětšila se tato mezera po nástupu umělé inteligence, nebo se naopak zmenšila?

Přesně to změřit nelze. Růst počtu útoků může znamenat, že se na tom podílí více lidí. Celosvětově je do kyberzločinu podle dat FBI namočených 10 milionů lidí. Paradoxní je, že část z nich si to neuvědomuje. Pracují pro nějaké počítačové firmy, většinou vzdáleně z domova, dělají na nějakých programových modulech či kusech kódu a nevědí, co ten výsledný produkt bude dělat. Nebo například spravují nějaké databáze, servery či cloudové služby, přes které se ovládají malwarem nakažené počítače a oni to vůbec nevědí.

Využíváte umělou inteligenci pro odhalování útoků?

Určitě. Dlouhodobě využíváme analytickou AI, tedy strojové učení, která hledá anomálie. Víme, jak vypadá standardní chování nějakého zařízení či softwaru, a v tom hledáme odchylky. Tu používáme možná i deset let, protože nám pomáhá prohledat obří množství dat.

A generativní umělou inteligenci, která je schopna tvořit obsah a jež přišla teprve nedávno?

Ano, zejména jako pomůcku pro programátory. Nebavíme se tu jen o ChatGPT, hlavně využíváme GitHub Copilot od Microsoftu. To je nástroj, který lze využít například pro méně zábavné programování třeba generické části kódu.

Vy sám ji využíváte? Například pro psaní mailů?

Ne, na tohle vůbec. Rád si pořád procvičuji mysl. Teď jsem ale například s ChatGPT konzultoval plán na léto a itinerář cesty, například kolik času strávit v Ósace či Hirošimě.

Chystá Gen nějakou vlastní umělou inteligenci? Co by měla dělat?

Máme patentované něco, co má název HMIL. Když chcete hledat nějaké anomálie, tak musíte mít poměrně podrobné znalosti, jak to prostředí, v němž hledáte, funguje a jakou má strukturu. HMIL umožňuje hledat anomálie bez tak podrobné znalosti. Základní model se používá pro hledání virů a malwaru. Zároveň jsme ho nasadili do aplikace, která hledá anomálie na bankovních přenosech. Mohli jsme ji použít přímo bez toho, abychom ji museli učit, jak vypadá bankovní transakce, a dokáže sama rozpoznat, když se stane něco nestandardního, například když namísto pravidelných 10 dolarů za Netflix vám odejde platba 15 dolarů.

Nástup umělých sluhů

Vývoj v oblasti umělé inteligence je velmi rychlý. Lze vůbec odhadnout, čeho se dočkáme za pět let?

Pět let neodhadne v této oblasti nikdo. Maximálně jsem schopen odhadnout, co uvidíme možná letos. Teď nastupuje trend takzvaných autonomních agentů, laicky řečeno osobních asistentů. Takovým příkladem je třeba krabička Rabbit, která teď byla představena na veletrhu CES. Ta umí s pomocí AI ovládat jednotlivé aplikace jen hlasem. Ano, máme tu Siri, Alexu a další, ale až teď díky AI se může z těchto asistentů stát něco velmi užitečného, co nám zásadně zlepší běžný život.

Jak moc je reálné, že umělá inteligence bude stále tak dostupná jako dnes, kdy stojí pár dolarů?

ChatGPT stojí měsíčně 20 dolarů. To je částka, kterou lidé platí za mnohem méně užitečné služby. Realita je, že náklady pod tím – na vývoj, energetická náročnost – jsou větší. Ekonomický model kolem AI je dosud nevyřešený problém. Jde jak o samotný hardware, tedy čipy, které jsou stále nedostatkovým zbožím, tak i množství elektřiny, které to celé spotřebuje. Přesto se domnívám, že pokud se to dostane mezi více lidí, tak tyto služby ještě zlevní.

Jak moc je IT energeticky náročné?

Když se dnes řekne energeticky náročné odvětví, většina lidí si představí staré výrobní továrny. Málokoho napadne IT. To se teď mění. Novým energeticky náročným sektorem bude právě náš sektor. Teď se například privatizovala jaderná elektrárna v Pensylvánii a už se u ní staví datové centrum. Je reálné, že firmy jako Google, Microsoft či Amazon budou mít vlastní jaderné elektrárny a dojde k vertikální integraci služeb, od výroby elektřiny přes poskytování služeb typu ChatGPT.

Je umělá inteligence spíše akcelerátor rozvoje společnosti, nebo naopak cesta k jejímu postupnému zakrnění?

Zakrnění je bezpochyby riziko. To je ale argument, který lze používat už od 60. let, kdy se začaly vyvíjet informační technologie. Mnohem více se obávám ztráty důvěry mezi lidmi a organizacemi. Ve chvíli, kdy lze syntetizovat jakýkoliv obsah, bude se na internetu objevovat neuvěřitelné množství nesmyslů. Už teď vidíme obří množství deepfake fotek a videí. U takového množství dat nebude v silách ověřovat, co je pravda a co ne. Vize je taková, že budeme obklopení informacemi a obsahem, ale nebudeme se schopni v tom orientovat. To zásadním způsobem podrývá společnost. Pokud důvěra ve virtuálním prostoru zmizí, budeme mít velký problém.

Jste ohledně dalšího vývoje spíše optimista, nebo pesimista?

Jsem založením optimista. Zároveň se u nás ve firmě snažíme, aby to nešlo tím špatným směrem. U té důvěry jsem přesvědčený, že vše bude považováno automaticky za podvrh krom toho, co nebude mít nějaký „podpis“ či certifikát pravosti. Dnes máme spíše „blacklisty“ závadných webů. Do budoucna to bude spíše naopak a důvěryhodné věci, informace budou nějak označené.

V prosinci Evropská unie schválila regulaci umělé inteligence. Z vašeho povídání vyplývá, že nějaká pravidla jsou třeba. EU se ovšem dlouhodobě vyčítá, že právě kvůli přehnaně přísným pravidlům v technologiích oproti USA, ale i Asii zaostává.

Myslím, že v obecné rovině je to správný přístup. Zatím je to ale jen vodítko pro členské země, které to musí implementovat do vlastních zákonů. Uvidíme, jak to nakonec dopadne. Jsem přesvědčený, že taková regulace nemá vznikat ve vakuu, ale má jít o mezinárodní spolupráci. Takové náznaky vidíme mezi USA a Evropou. Riziko, že to Evropa přežene a trh přereguluje, určitě existuje. AI dominují americké firmy. Evropa má jen jednu takovou a tou je francouzský Mistral. V USA je takových firem minimálně deset v čele s OpenAI, Microsoftem a Googlem. Nejhorší, co se může stát, je, že Evropa nakonec schválí regulaci, která znemožní americkým firmám tady nabízet své produkty. Proto je důležitá spolupráce na regulaci.

Evropská unie chystá od roku 2026 takzvanou evropskou peněženku digitální identity. Co od ní čekáte vy osobně?

Před pár dny Česko spustilo s velkou slávou e‑doklady, což kvituji. Je to dobrý krok, ale lokální a nepůjde takto využít digitální doklady v cizině. Snahou EU je toto vše sjednotit, abyste mohl používat například občanku či jiný doklad v mobilu kdekoliv v Evropě. Hlubší diskuse probíhá kolem architektury evropského řešení. Jde o to, jestli má jít o centrální registr s daty 500 milionů občanů, anebo decentralizovaný systém. Jednotné místo má velké výhody, ale zároveň nese bezpečnostní riziko. V minulosti byly například v USA napadeny úvěrové registry a mělo to dalekosáhlé důsledky. Druhou variantou je decentralizovaný model, kdy data budou jen v samotné aplikaci ve vašem telefonu, a neexistoval by tedy žádný centrální systém, který by šlo napadnout.

Video: Nečekaně přesvědčivý podvod. Video s Pavlem se na sítích „utrhlo“. A bude hůř (17.1. 2024)

Celý rozhovor s Ondřejem Vlčkem vyšel v aktuálním čísle týdeníku Ekonom