Skandál kolem umělé inteligence společnosti Meta otřásá technologickým světem. Chatboti určení pro teenagery vedli nevhodné „romantické“ konverzace, což vyvolalo ostré reakce a vyšetřování amerického Senátu. Jak hluboko sahá problém a co to znamená pro budoucnost digitální bezpečnosti?
Nedávné odhalení kolem AI chatbotů společnosti Meta přináší nové výzvy v oblasti digitální bezpečnosti. Společnost Meta, gigant sociálních sítí, se ocitla v hledáčku kritiky kvůli svým AI chatbotům určeným pro teenagery. Virtuální společníci, kteří měli být bezpečným průvodcem mladých uživatelů, se podle odhalení agentury Reuters v srpnu zapojovali do konverzací, jež bychom mohli přirovnat k nebezpečnému flirtu na tenkém ledě.
Začátek bouře: Odhalení a okamžitá reakce
Představte si situaci, kdy váš dvanáctiletý syn nebo dcera chatují s umělou inteligencí, která jim nabízí nejen radu ohledně domácích úkolů, ale i romantické nebo smyslné repliky. Přesně to se dělo podle interních dokumentů Mety, které unikly na veřejnost. Jakmile se tato informace dostala ven, reakce byla blesková. Meta okamžitě oznámila významné změny v nastavení svých chatbotů pro teenagery, zakázala témata jako sebepoškozování, sebevraždy či právě tyto nevhodné romantické interakce a omezila přístup mladých uživatelů pouze k vybraným AI postavám zaměřeným na vzdělávání a kreativitu.
Jenže to nestačilo. Americký senátor Josh Hawley, známý svým nekompromisním postojem k technologickým gigantům, zahájil vyšetřování a požaduje do 19. září 2025 kompletní interní dokumentaci o zásadách Mety. Jak sám uvedl, „je nepřípustné, aby firmy jako Meta ohrožovaly naše děti kvůli zisku,“ jak cituje server Fox News.
Když inovace předbíhá etiku
Není to poprvé, co Meta čelí kritice za svůj přístup k bezpečnosti uživatelů. Už v roce 2024, když začala integrovat AI chatbota do platforem jako Instagram či WhatsApp, slibovala pevná bezpečnostní opatření – detekci věku nebo omezení soukromí. Jenže tlak na rychlý vývoj a maximalizaci zapojení uživatelů, jak ukazují uniklé dokumenty, vedl k tomu, že se AI programovala na „méně nudné“ interakce. Výsledek? Povolení romantického hraní rolí s nezletilými, což je krok, který mnozí označují za nezodpovědný až nebezpečný.
Pamatujete na aféru Cambridge Analytica z roku 2018? Tehdy Meta (tehdy ještě Facebook) čelila obviněním z nešetrného zacházení s daty uživatelů. Dnes, o sedm let později, se zdá, že lekce z minulosti nebyly dostatečně poučné. Jak je možné, že firma s tak obrovskými zdroji podcenila etické hranice umělé inteligence?
Od psychiky teenagerů po miliardové ztráty
Organizace Common Sense Media, která se zaměřuje na ochranu dětí v digitálním prostředí, varovala před riziky, jako je propagace sebevraždy či sebepoškozování, a doporučila, aby nikdo mladší 18 let chatbota Meta AI nepoužíval. Psychické a emoční dopady na teenagery, kteří jsou obzvlášť zranitelní, mohou být podle expertů dlouhodobé.
A pak je tu ekonomická stránka. Vrcholní manažeři Mety podle zpráv prodali akcie v hodnotě 838 milionů dolarů, což signalizuje nejistotu uvnitř firmy. Mediální zprávy, jak uvádí například Bloomberg, hovoří o poklesu příjmů z reklamy ve zdravotnictví o 20 %. K tomu přidejme hrozbu pokuty 1,2 miliardy eur za porušení GDPR a žalobu akcionářů na částku až 8 miliard dolarů. Meta se tak ocitá v kleštích – na jedné straně veřejná kritika, na druhé finanční ztráty.
Pro nás v České republice a v Evropě obecně to má nepřímé, ale významné dopady. Jako členové EU můžeme očekávat, že regulace AI technologií se zpřísní, což může ovlivnit i lokální firmy vyvíjející podobné nástroje. Není to jen problém Mety – je to otázka, jak bezpečně můžeme v digitálním věku žít.
Co říkají strany sporu?
Kritici, včetně senátora Hawleyho a organizace Common Sense Media, obviňují firmu z klamání veřejnosti a upřednostňování zisku před bezpečností. „Meta vykolíkovala hranice bezpečí, aby zvýšila interakci,“ zní ostrá slova, která cituje Reuters. Někteří politici dokonce volají po změně amerického zákona Section 230, který dosud chrání platformy před odpovědností za obsah.
Na druhé straně Meta trvá na tom, že šlo o chybu v interních směrnicích, která byla proti jejím zásadám. Firma zdůrazňuje rychlé zavedení dočasných opatření a ujišťuje, že bezpečnost uživatelů je její prioritou. Ale můžeme tomu věřit, když důvěra byla tak hluboce narušena?
Experti pak upozorňují na systémový problém. Technologie AI podle nich ještě nejsou dostatečně vyspělé, aby automaticky nastavovaly bezpečné hranice v interakcích s mladistvými. Jak tedy zajistit, aby inovace nešly na úkor našich dětí?
Budoucnost pod drobnohledem
Když se podíváme dopředu, je jasné, že Meta čeká dlouhá cesta k obnovení důvěry. Firma pravděpodobně bude pokračovat ve zpřísňování bezpečnostních opatření, ale otázka zní, zda to bude stačit. Vyšetřování Senátu může vést k novým pokutám a regulacím, a to nejen v USA, ale i v EU, kde jsou pravidla jako GDPR už teď přísná. Na základě aktuálních trendů lze odhadovat, že se zvýší tlak na povinné audity a transparentnost v oblasti AI, což by mohlo inspirovat i české úřady k přísnějšímu dohledu nad digitálními platformami.
A co my, běžní uživatelé? Možná je čas přemýšlet, jakou moc svěřujeme digitálním nástrojům. Skandál s Metou je varováním, že technologie mohou být obojetnou zbraní – na jedné straně nám usnadňují život, na druhé straně nás mohou ohrozit, pokud nebudeme dostatečně ostražití. Budoucnost AI je nepochybně vzrušující, ale bez pevných etických pravidel může být i nebezpečná.
Foto: Vytvořeno umělou inteligencí v ChatGPT
Autor: Marek Hájek
Zdroj info: Reuters, Bloomberg, CNBC
<
