Umelá inteligencia dnes píše kód, pracuje s firemnými údajmi a čoraz častejšie dostáva oprávnenie konať bez neustáleho dohľadu človeka. Kým bežný chatbot pokazí odpoveď, následkom býva nanajvýš strata času. Pri autonómnom agentovi napojenom na kritickú infraštruktúru, financie alebo priemysel môže mať rovnaké zlyhanie oveľa vážnejšie dôsledky.
Prezident Microsoftu Brad Smith preto tvrdí, že pravidlá za vývojom technológie výrazne zaostávajú. V rozhovore pre ITV použil ostré prirovnanie: AI je podľa neho regulovaná menej než práčka alebo kartón mlieka. Zároveň upozornil, že schopnosti modelov za posledné dva roky narástli viac, než samotné odvetvie očakávalo.
Microsoft chce pre umelú inteligenciu núdzovú brzdu
Smith v rozhovore pre ITV News nehovoril iba všeobecne o potrebe bezpečnosti. Navrhol tri konkrétne poistky. Prevádzkovatelia modelov a cloudových služieb by mali mať k dispozícii „núdzovú brzdu“, pomocou ktorej dokážu nebezpečný systém odstaviť.
Právomoc nariadiť vypnutie by podľa neho mali dostať aj vlády. Prirovnal to k situácii, keď úrady z bezpečnostných dôvodov uzemnia lietadlá. Spoločnosti by zároveň museli hlásiť incidenty, pri ktorých sa AI agent vymkol kontrole alebo bol zneužitý na preniknutie do systémov.
Treťou poistkou majú byť nezávislé hodnotenia a bezpečnostné testy najvýkonnejších modelov ešte pred ich uvedením. Ak by technológia spôsobila katastrofickú škodu a jej vývojár konal nedbanlivo, Smith podporuje aj právnu zodpovednosť firmy.
Microsoft pritom nie je nezávislý pozorovateľ. Patrí medzi najväčších dodávateľov AI a cloudu na svete, preto by sa podieľal aj na technickom vykonávaní navrhovaných pravidiel. Firma vo svojom prehľade zodpovedného vývoja AI opisuje vlastné hodnotenie rizík, monitoring a zásahy. Verejná kontrola však bude dôležitá práve preto, aby hranice neurčovali iba technologickí giganti.
V Európskej únii už AI nie je bez pravidiel
Smithovo prirovnanie je úderné, ale pre Slovensko potrebuje vysvetlenie. Európsky AI Act sa stal všeobecne uplatniteľným 2. augusta 2026 a Európska komisia už začala presadzovať časť jeho povinností. Platí risk-based prístup, pravidlá pre všeobecné modely aj transparentnosť chatbotov a syntetického obsahu.
Podľa Európskej komisie však časť požiadaviek na vysoko rizikové systémy začne platiť až neskôr. Pravidlá pre citlivé použitia majú nadobudnúť účinnosť v decembri 2027 a pre AI vloženú do regulovaných produktov v auguste 2028. To znamená, že európsky rámec existuje, no jeho zavádzanie stále pokračuje.
Šéf ChatGPT ŠOKUJE: Svet má podľa neho akceptovať aj zlé veci, ktoré spôsobí AI
Núdzové vypnutie AI musí mať jasné hranice
Za nás dáva povinné hlásenie incidentov a nezávislé testovanie zmysel. Pri núdzovom vypínaní však bude rozhodovať každý detail. Zákon musí presne určiť, kto môže zásah nariadiť, pri akej úrovni rizika, na ako dlho a akým spôsobom sa dá rozhodnutie preskúmať. Inak by sa z bezpečnostnej poistky mohol stať príliš široký nástroj štátnej moci.
Technológia sa medzitým nezastaví. Najrozumnejšou cestou preto nie je zakázať vývoj, ale požadovať kontrolovateľné testy, zodpovednosť a funkčný plán pre prípad vážneho zlyhania. Súhlasíte s tým, aby vlády mohli v krajnom prípade nariadiť vypnutie AI systému? Napíšte nám na Facebook / Instagram. Tešíme sa na vaše postrehy a názory.
Ak hľadáte overený iPhone so zárukou, ktorý prešiel rukami odborníkov zo SvetApple.sk, určite sa pozrite do nášho e-shopu Loopi.sk. Nájdete tu starostlivo skontrolované zariadenia za výrazne nižšie ceny než pri nových modeloch. Ušetriť môžete stovky eur, no stále získate spoľahlivý iPhone, ktorý vám bude bez problémov slúžiť ešte dlhé roky. 📱
