Nedávno byl opět reprízován film „Já, robot“, v hlavní roli s Willem Smithem, pojednávající o vzpouře robotů, vzpouře umělé inteligence.
Pamětníky určitě upoutal název fiktivní firmy produkující ve filmu humanoidní roboty – US Robotics. Pamatujete? US Robotics byl jedním z nejvýznamnějších hráčů na trhu s modemy pro vytáčené linky v 90. letech a určitě se tehdy každý setkal s jejich modelem Courier. Později je spolkla společnost 3com, ale nyní jsou již opět samostatní a produkují nějaká zařízení pro IoT konektivitu.
Ale zpět k filmu …
Tématem je vzpoura umělé inteligence, která dospěje k názoru, že člověk je sám sobě nebezpečný a tudíž, aby jej chránila musí převzít nad jeho životem kontrolu. Zajímavá myšlenka. Nicméně nezačíná se nám skutečně také tak trochu umělá inteligence vymykat? Akcelerace jejího vývoje a schopností zvětšuje nejen lidskou kreativitu, ale dává do rukou také nebývalou zbraň kyberzločinců. Umělá inteligence umí psát kódy – svým způsobem bychom mohli říct programovat, umí sestavovat návnady sociálních manipulací a umí i plánovat a provádět samotné útoky. A umí také vytvářet podvrhy „deepfake“. Deepfake je, jak uvádí definice, digitálně vytvořený nebo upravený obrazový, zvukový či audiovizuální materiál, který věrohodně napodobuje skutečnou osobu, její vzhled, hlas nebo chování, a tím může vytvářet dojem autenticity neexistující události. V současnosti je uváděno, že téměř neidentifikovatelně dokáže vytvořit podvrhy krátkých sekundových sekvencí, které jsou již dnes hojně používány v rámci kyberpodvodů. Během pár let však můžeme očekávat jednak nárůst výpočetního výkonu, jednak vylepšení velkých multimodálních modelů a samozřejmě i zdokonalení vlastních produkčních technologií. Očekává se, že „dokonalost“ video podvrhů dosáhne v pěti nadcházejících letech délky až jednotek minut.
Budeme schopni rozpoznat pravdu?
Možná nebo právě proto, přišla Evropská komise s Nařízením o umělé inteligenci (AIA), které by mělo upravovat pravidla pro její vývoj a použití. Nařízení je účinné od 2. srpna 2024 a od 2. února 2025 platí některé prvky – např. zákazy některých AI systémů, požadavky na průhlednost, školení zaměstnanců atd., od 2. srpna 2026 mají začít platit přísnější požadavky pro tzv. „high-risk“ systémy. V ČR se připravuje odpovídající legislativa. Uvidíme, jak moc to bude efektivní.
Buď nás začne Viki (Já, robot) chránit nebo spustí SkyNet (Terminátor) válku…
Luděk Mandok, Senior Security Consultant společnosti ARICOMA
Autor: Luděk Mandok
Foto: Pexels
<
