V poslední době se intenzivně diskutuje o bezpečnostních aspektech umělé inteligence, přičemž debata se přesunula z akademické sféry přímo do středobodu veřejného zájmu. Významné osobnosti jako Dario Amodei z firmy Anthropic upozorňují na katastrofální rizika spojená s příliš rychlým vývojem AI a navrhují, aby se pokrok v oblasti AI zpomalil. Amodei představil třífázový plán, který by měl zajistit, aby Spojené státy zůstaly na špici v tomto odvětví a zároveň neohrozily svou konkurenční výhodu.
Tento přístup okamžitě podpořili Sam Altman, Elon Musk a Demis Hassabis. Ovšem americký prezident Donald Trump se naopak vyjádřil proti regulacím a zdůraznil, že jediným potřebným opatřením je inteligentní prezident s vysokým IQ – což je podle něj on sám.
Trump označuje nebezpečí AI za „mýtus“. Na konferenci telefonoval s Huangem
Huangova perspektiva: Inženýrský přístup k bezpečnosti
Na konferenci Dreamforce v San Franciscu, kde vystoupil také Amodei, přednesl šéf společnosti Nvidia Jensen Huang svůj názor, že bezpečnost AI je technický, a nikoli právní problém. Podle Huanga je umělá inteligence spíše záležitostí hardwaru a softwaru, které jsou vytvořené lidmi. Navíc tvrdí, že současná tržní dynamika je dostačující a není potřeba nová legislativa. „Bezpečnost a rychlost vývoje mohou existovat souběžně,“ prohlásil.
Jensen Huang pushed back hard against AI labs calling for tighter regulation and slower AI development, at Dreamforce.
"If you are not confident about the safety of the products, and you're not confident in its functionality, capability, or safety, then don't just release it.… pic.twitter.com/oKNnOjG6qY
— Rohan Paul (@rohanpaul_ai) September 15, 2026
Dodává, že firmy by měly být zodpovědné a kdykoliv zastavit vývoj, pokud zjistí, že produkt není bezpečný. Na pořadu Mad Money označil nové regulace za zbytečné, což však vyvolává kritiku vzhledem k tomu, jak moc Nvidia na umělé inteligenci profituje. Den předtím Huang diskutoval o otázce AI s Trumpem na All-In Summitu, kde jej ujistil, že zpomalení vývoje nedopustí.
Zuckerberg se staví na stranu Huanga
Navzdory své nepřítomnosti na Dreamforce podpořil Mark Zuckerberg Huangovo stanovisko v příspěvku na platformě X. Domnívá se, že společnosti, které neberou v úvahu lidské hodnoty při vývoji AI, neobstojí. „Důvěra a sladění se s lidskými hodnotami jsou klíčové pro rozlišení mezi agenturami a modely,“ napsal Zuckerberg.
Podle Zuckerberga firmy čelí obrovské odpovědnosti za případné škody, což je nutí jednat opatrně. Připomněl také, že Meta odložila nasazení technologie Muse z bezpečnostních důvodů. Altman na stejné konferenci podtrhl, že bezpečnost musí mít přednost před novými funkcemi. „Bezpečnostní závazky by neměly mít žádná omezení,“ uvedl.
Upozornění průkopníků AI
Oproti tomu jiní odborníci, kteří se podíleli na vývoji AI, bijí na poplach. Geoffrey Hinton prohlásil v rozhovoru pro BBC, že existuje 10% pravděpodobnost, že AI může během příštích deseti let představovat existenční hrozbu. Tvrdí, že AI by mohla navrhnout škodlivé viry nebo iniciovat destruktivní kybernetické útoky.
Další hlasitou postavou je Yoshua Bengio, který varuje, že současné systémy mají schopnosti, jež lze obrátit proti lidem, zatímco Aidan Gomez ze společnosti Cohere považuje modely AI za nejmocnější kybernetickou zbraň. Přesto zdůrazňuje důležitost bezpečného provozního prostředí pro AI.
Diskuse je tedy rozdělena na dva odlišné tábory – jedni volají po zpomalení vývoje, druzí důvěřují tržnímu mechanizmu. V tuto chvíli Bílý dům zaujímá postoj blízký druhé skupině. Tématu bezpečnosti AI se také podrobně věnoval podcast Zaujalo nás, který rozebírá, proč je toto téma aktuálně tak vášnivě diskutováno.
TIP na článek: Profil společnosti Nvidia a návod jak koupit její akcie
Profil společnosti Nvidia (NVDA) – Návod JAK KOUPIT její akce
Top brokeři
