„Musíme zpomalit tempo, jakým zlepšujeme schopnosti modelů umělé inteligence. Pokrok bude i tak rychlý a my musíme moudře využít čas, který tím získáme,“ uvedl Amodei v eseji publikované v sobotu na sociální síti X.
Text navazuje na zprávu o hrozbách, kterou Anthropic zveřejnil ve čtvrtek. Popisuje v ní, jak několik aktérů zneužilo modely umělé inteligence Anthropic Claude k činnostem od vývoje zbraní přes kybernetické operace až po sledování a podvody.
Obavy z potenciálního nebezpečí umělé inteligence se tento týden ještě zvýšily, když výzkumník společnosti Anthropic Jacob Coxon podal výpověď a uvedl, že „lidé, kteří vyvíjejí umělou inteligenci, upřímně věří, že by nás mohla do konce tohoto desetiletí všechny zabít“.
Amodei uvedl, že nechce zastavit pokrok, ale zajistit, aby společnosti měly dostatek času na zabezpečení svých modelů AI a na to, aby to mohla ověřit třetí strana.
OpenAI také zvažuje zpomalení
Americká společnost OpenAI letos neuvede své akcie na burzu. Její šéf Sam Altman v rozhovoru s časopisem Fortune uvedl, že vzhledem k pochybnostem ohledně bezpečnosti umělé inteligence by to nyní nebyl rozumný krok.
Altman podle zdrojů agentury Bloomberg zároveň zaměstnancům řekl, že OpenAI zvažuje zpomalení vývoje nejpokročilejších AI modelů. Vyjádřil také naději, že ostatní firmy zabývající se umělou inteligencí udělají totéž.
Rizika vyhodnotí znalci
Společnost Anthropic v rámci plánu podle svého ředitele dosadí stálé externí znalce do předních firem zabývajících se umělou inteligencí, kteří budou mít přístup k příslušným nástrojům a k interním procesům posuzování rizik.
Podle Amodeie by firmy zabývající se AI měly dobrovolně spolupracovat na vytyčení standardů, jelikož američtí zákonodárci vyzývají k zavedení nových pravidel.
