Britský ministr pro umělou inteligenci Kanishka Narayan řekl nahlas, co si bezpečnostní experti říkají potichu: prolomení kybernetické obrany země je „pravděpodobné, ne-li nevyhnutelné“. Vláda chce proti hrozbě nasadit pokročilou AI. Kritička z Institutu Ady Lovelaceové ale upozorňuje, že konkrétních povinností pro firmy v plánu mnoho není.

Narayan na tiskové konferenci, o které informovala BBC, připomněl červnový případ, kdy agent OpenAI pronikl na web australské vlády. I když podle něj nejsou známé případy přístupu ke zdravotním záznamům, incident by měl „znepokojovat“.

Co vláda slibuje

Plán stojí na několika bodech:

• AI proti AI. Vláda chce využít pokročilé modely k obraně. Navazuje na dva pilotní projekty, které podle ministra pomohly najít a opravit přes 1 000 zranitelností ve vládních systémech.
• Testování modelů. Britský Institut pro bezpečnost AI (AI Security Institute, AISI) provádí „důkladná hodnocení“ nejnovějších modelů před jejich zveřejněním. Narayan uvedl, že vláda v posledních týdnech jednala s USA, aby si AISI tento přístup udržel.
• Zákon o kybernetické bezpečnosti a odolnosti. Vláda zváží, jak v něm posílit odhalování a hlášení závažných incidentů s AI.

Firmám, které vyvíjejí nejvýkonnější modely, vzkázal: „Poslouchejte, když vaši vědci varují před vážným nebezpečím. Zkoumejte neočekávané chování. A pokud rizika nedokážete dostatečně zvládnout, systém nevydávejte.“

Spor o přístup k modelům

Podle BBC se v září objevily zprávy, že Bílý dům požádal některé americké laboratoře, aby modely institutu AISI nesdílely, dokud neskončí vlastní americké testy. Pro Británii, která se snaží vystupovat jako lídr v hodnocení bezpečnosti AI, to byla rána. Prezident Microsoftu Brad Smith přitom krátce předtím pro BBC označil AISI za důvod, proč je Británie nejlépe připravená vést globální regulaci.

„Žádná nová pravomoc“

Nuala Polo z Institutu Ady Lovelaceové řekla BBC, že oznámení vládu zavazuje „k velmi málu“. Silnější ochrana se bude „zvažovat“, posílení zákona „zkoumat“ a hlášení skoronehod „prověřovat“. „Žádná nová regulační pravomoc, žádný harmonogram a žádná povinnost pro vývojáře AI,“ shrnula.

Britský přístup tak dál stojí na odborné kapacitě AISI a na spolupráci s firmami. Zářijová epizoda s Bílým domem ukázala, že přístup k modelům před vydáním nemá Londýn v rukou sám.

Když se BBC ministra zeptala, jak chce vláda přimět zahraniční AI firmy dodržovat britská pravidla, odpověděl, že země musí „být sebevědomá“: „Máme schopnosti, máme důvěru a máme vládu, která stojí na straně britské veřejnosti a dbá na to, abychom neměli jen zákony, ale i schopnost je vymáhat.“ Jaký konkrétní nástroj by k tomu Británie vůči firmám ze zámoří použila, ale neřekl.

Srovnání s EU

Evropská unie zvolila opačnou cestu: nařízení o umělé inteligenci ukládá poskytovatelům nejvýkonnějších modelů povinnosti včetně hlášení závažných incidentů. Kybernetickou bezpečnost pak řeší směrnice NIS2. Na rozdíl od britského plánu tak EU stanoví povinnosti přímo v zákoně.

Narayanovo přiznání, že průnik je otázkou času, je přitom cenné samo o sobě. Kyberbezpečnost se dnes plánuje s předpokladem, že útok uspěje – rozhoduje, jak rychle se odhalí a jak velké škody napáchá. Britská vláda tím vlastně jen nahlas popsala realitu, se kterou počítají i české úřady a nemocnice.

Zdroje

• BBC: AI minister warns ‚likely‘ UK’s cyber defences will be breached (12. 10. 2026)
• BBC: AI is less regulated than milk, says Microsoft president (12. 10. 2026)
• EUR-Lex: Nařízení (EU) 2024/1689 o umělé inteligenci

Foto: DeFacto, Wikimedia Commons, CC BY-SA 4.0 (archivní snímek, 2017) – zdroj