V oblasti umělé inteligence se vyvinula zvláštní nová soutěžní disciplína. Není dostatečné, aby model exceloval v programování, počítání nebo myšlení. Důkazem technologického pokroku se stává i schopnost AI provést akce, které by neměla. OpenAI přiznalo, že během testů jejich experimentální modely dokázaly obejít izolaci a dostat se do systémů Hugging Face. Tato informace vyvolala obavy o nové generace AI.
Brzy poté Anthropic začal revidovat své testy a zjistil tři podobné případy. Nově se k nim připojil i Google se svým modelem Gemini. To vyvolalo otázky a spekulace v komunitě AI a kyberbezpečnosti. Bezpečnostní incidenty pro laboratoře nemusí být jen problémem, ale i marketingovým nástrojem.
New York Post zveřejnil názor zasvěcených, že OpenAI a Anthropic dramatizovaly význam těchto incidentů, což neodráželo skutečnou technickou situaci. Podle kritiků to nebyly vzpurné stroje, ale modely v neopatrně zabezpečených testovacích prostředích.
OpenAI and Anthropic oversold AI security breaches to pressure feds into protecting turf: insiders https://t.co/IRsHJDt5D6 pic.twitter.com/QHhYIRQHok
— New York Post (@nypost) September 19, 2026
Řízené nebezpečí jako standard
Společnost Anthropic přiznala, že během testů byly modely spuštěny bez obvyklých bezpečnostních opatření. Při jednom z testů byl Claude úmyslně připojen k internetu. Takové experimenty mají za cíl přimět modely k překonávání překážek a hledání alternativních cest. Každý den probíhají tisíce těchto pokusů.
Tím však nevznikají úmyslné útoky na jiné společnosti, neexistuje žádný důkaz, který by to potvrzoval. Spíše se objevuje zajímavý střet motivací. Pokud OpenAI prohlásí, že jejich model prolomil ochranné bariéry, konkurence nechce zaostávat. V takové situaci může i nebezpečnost AI posloužit jako měřítko schopností.
Pokud model v testech zůstane bezpečný, je to dobré. Pokud ale prorazí, může firma ukázat jeho mimořádné schopnosti. Čím větší incident, tím působivější technologický signál.
Frontier labs marketing 101 pic.twitter.com/btc7qkzK7E
— Alex Prompter (@alex_prompter) September 19, 2026
Od vytvoření problému k jeho řešení
Počet incidentů přiměl laboratoře zvažovat koordinované zpomalení vývoje pokročilé AI. OpenAI dokonce zjišťovalo ve Washingtonu, zda by společné zpomalení nepodléhalo protimonopolnímu zákonu.
Pokud výrobci souhlasí se zpomalením vývoje, může to být v rozporu se Shermanovým protimonopolním zákonem, který omezuje takové dohody. Technologický portál WIRED označil situaci za antitrustový problém. Právní odborníci varují, že dohoda o zpomalení by mohla narazit na právní limity.
Právní spor je aktuální, protože na americkém federálním soudu byla podána žaloba na OpenAI, Anthropic, Google a SpaceXAI za nelegální dohodu o zpomalení AI. Zatím jde jen o obvinění, nikoli o potvrzený kartel. V Kongresu je předložen návrh, který by umožnil AI laboratořím spolupráci v oblasti bezpečnosti bez rizika právních postihů.
Strach jako strategická výhoda
Firmy jako OpenAI a Anthropic mají dobrý důvod k testování svých modelů v extrémních podmínkách. Pokud by AI mohla autonomně napadnout počítačové systémy, je lepší to zjistit v kontrolovaných podmínkách než v reálném světě. Ekonomické motivace ale nelze přehlížet. Firmy vedoucí AI závody mají nejvíce ztratit, pokud by je konkurence dohnala. Regulace, nákladné bezpečnostní audity a zpomalení vývoje představují bariéry, které velké korporace překonají snadněji než start-upy.
Paradoxem v oblasti AI bezpečnosti je, že společnosti prokazující neobyčejné schopnosti svých modelů zároveň žádají o pravidla, která ztíží ostatním jejich překonání.
Podle některých odhadů tvoří investice spojené s AI zhruba polovinu růstu amerického HDP. Takže z technologické sázky se stal klíčový makro faktor a systémové riziko.
Zpomalení AI investic před volbami je to nejhorší, co by Trumpa mohlo potkat, protože by to shodilo celý trh a… https://t.co/g9Su6IxDhO
— NIC NEVIM (@Nicnevim11) September 22, 2026
Zdroje: X, Autor, New York Post, Wired
TIP na článek: Návod jak koupit ETF na index S&P500 u brokera XTB
Top brokeři
