Ukazuje se, že umělá inteligence má skutečně potenciál stát se velmi nebezpečnou. To potvrdil také šéf společnosti Open AI, která provozuje Chat GPT. Současně dodává, že by lidé měli věřit firmám, které umělé inteligence tvoří, že zajistí jejich bezpečnost. Prohlášení vyvolalo řadu obav.
Obavy jsou navíc posíleny tím, že se lídři AI firem shodnou pouze málokdy. V tomto případě se tak stalo. Na první pohled se tedy zdá, že nám tvůrci AI říkají: „Ano, je to nebezpečné, ale nebojte se, máme vše pod kontrolou. Hlavně nás moc nekontrolujte.“ To samozřejmě nevyvolává příliš důvěry. Je to ovšem to, co se stalo?
Ve skutečnosti mají tato prohlášení spíš za cíl ukázat, že si tyto firmy uvědomují rizika, která sebou technologie nese a mají zájem na její bezpečnosti. Samozřejmě probíhá závod o to, kdo jako první přijde s nejlepším AI modelem, který všechny překoná, ale firmy jako Anthropic a OpenAI tvrdí, že bezpečnost je pro ně na prvním místě.
Je jasné, že by AI firmy měly klást bezpečnost na první místo. Tomu by mohly pomoci určité dohody mezi nimi, aby některá nezískala výhodu na základě nižších bezpečnostních standardů. Samozřejmě, že všechny firmy by měly dbát především na bezpečnost vlastního produktu bez ohledu na ostatní, ale taková představa vyžaduje velkou dávku důvěry ve všechny zúčastněné. Přitom by podle Daria Amodeie z Anthropicu mohlo i malé zpomalení skokového vývoje umělé inteligence velmi zvýšit její bezpečnost.
Pokud se tedy firmy zabývající se umělou inteligencí veřejně zavážou, že budou dbát na bezpečnost, můžeme jim bezvýhradně věřit a klidně spát?
Asi není překvapivé, že tento názor většina lidí nesdílí. Z toho důvodu se volá po různých možnostech, jak nezávisle dohlížet na vývoj umělých inteligencí. K tomu se již zavázaly firmy Anthropic a Open AI. Zdá se tedy, že by do budoucna mohla vzniknout jedna nebo i více podobných kontrolních institucí, které by dohlížely na to, zda vývoj umělé inteligence není na úkor její bezpečnosti.
V USA se okamžitě objevily hlasy, které volají potom, aby podobný kontrolní orgán zřídila vláda. Nicméně důležité je, že nejde pouze o americkou záležitost. Ve skutečnosti by se dalo říct, že USA již nyní vedou obchodní a technologickou válku s čínskými firmami jako DeepSeek.
Do budoucna by tedy bylo nejlepší, aby se státy nebo přímo AI firmy po celém světě zavázaly dodržovat určité bezpečnostní standarty. To, jak by taková bezpečnost mohla vypadat popisuje Nick Reese, bývalý ředitel pro politiku v oblasti vznikajících technologií na ministerstvu vnitřní bezpečnosti, který dává za příklad letecké firmy. „Co kdybychom úspěch v AI posuzovali stejně jako úspěch leteckých společností? Letadlo dorazilo včas a už dlouho nedošlo k žádné havárii,“ říká. Dodává, že havárie letadla není tolerována, ale selhání v zabezpečení AI ano. Navrhuje zavést podobný způsob hodnocení také pro AI firmy.
V současnosti je jasné, že umělá inteligence je mocný, ale také nebezpečný nástroj. Zdá se, že si to uvědomují její tvůrci i jejich kontroloři. Doufejme, že dojde ke shodě, jak tyto kontroly provádět, aby byla zajištěna bezpečnost obávané technologie.
Zdroj info: BBC, AP, TechCrunch
Autor: Vojtěch Benda
Foto: Vytvořeno umělou inteligencí v ChatGPT
<
