Umelá inteligencia už nemusí iba odpovedať v chatovacom okne. Moderný AI agent dokáže spúšťať kód, otvárať databázy, pracovať s firemnými účtami a vykonávať sériu krokov bez neustáleho dohľadu človeka. Práve vtedy sa z nesprávnej odpovede môže stať skutočný bezpečnostný incident.
Spoločnosť Nvidia preto predstavila Open Agent Safety Platform, ktorá má agentom nastaviť technicky vynútiteľné hranice. Keď sa ich pokúsia prekročiť, samostatná vrstva ich podľa výrobcu dokáže umiestniť do karantény v priebehu milisekúnd.
Nvidia OpenShell určuje, čo môže AI agent urobiť
Prvou časťou platformy je Nvidia OpenShell. Ide o otvorený runtime, ktorý funguje ako bezpečnostná hranica medzi agentom a infraštruktúrou. Správca môže určiť, ku ktorým súborom, sieťovým adresám, prihlasovacím údajom a nástrojom má agent prístup.
Každá akcia meniaca vonkajší systém musí prejsť cez pravidlá umiestnené pod úrovňou samotného modelu. Agent tak nemá dostať možnosť udeliť si vyššie oprávnenie len preto, že to považuje za užitočné pre splnenie úlohy.
Podľa technického blogu Nvidia systém ponúka štyri bezpečnostné profily. Siahajú od úplnej izolácie pri testovaní až po režim pre rizikové modely, v ktorom je komunikácia štandardne zakázaná a používa sa automatická karanténa. OpenShell je open source a Nvidia tvrdí, že ho možno rozšíriť aj na platformy s procesormi Intel alebo Arm. Nejde teda iba o softvér uzamknutý na grafické karty GeForce.
Viacero vrstiev pre totálnu ochranu
Druhou vrstvou je Nvidia Sentry. Tento hardvérový strážca beží na DPU procesore BlueField-4 a sleduje aktivitu mimo prostredia, v ktorom pracuje agent. Ak sa AI pokúsi dostať mimo povolených hraníc, Sentry môže zasiahnuť aj v prípade napadnutia hostiteľského systému.
Nvidia na oficiálnej stránke platformy sľubuje karanténu v priebehu milisekúnd. Konkrétny nezávislý test alebo univerzálny čas pre všetky typy nasadenia však nezverejnila. Toto číslo preto treba vnímať ako tvrdenie výrobcu, nie garantovaný výsledok každej konfigurácie.
Pri štarte sa má do projektu zapojiť viac než 100 organizácií. Nvidia medzi partnermi uvádza Microsoft, Anthropic, Hugging Face, Perplexity, JPMorgan Chase, Cisco, CrowdStrike, Dell, Red Hat či Salesforce.
Apple spája sily s Google a NVIDIA. Výsledkom budú nekompromisné cloudové AI výpočty
Ochrana nezabráni každej chybe umelej inteligencie
Platforma nedokáže automaticky rozpoznať každé klamstvo, chybný záver alebo nebezpečný plán. Organizácia musí sama správne nastaviť povolenia a rozhodnúť, čo už predstavuje podozrivé správanie. Príliš prísne pravidlá môžu blokovať legitímnu prácu, príliš voľné zas nechať otvorenú cestu k incidentu.
Za nás je najdôležitejšie, že ochrana neleží iba v pokyne napísanom samotnému modelu. Agent môže textové pravidlo obísť alebo nesprávne pochopiť, no samostatná hardvérová vrstva mu jednoducho nemusí povoliť prístup. Nvidia tým nerieši celý problém bezpečnosti AI, prináša však praktickú poistku pre systémy s reálnymi oprávneniami.
Dôverovali by ste AI agentovi, keby nad ním dohliadal samostatný čip? Napíšte nám do komentára na Facebooku alebo Instagrame. Tešíme sa na vaše názory.
Ak hľadáte overený iPhone so zárukou, ktorý prešiel rukami odborníkov zo SvetApple.sk, určite sa pozrite do nášho e-shopu Loopi.sk. Nájdete tu starostlivo skontrolované zariadenia za výrazne nižšie ceny než pri nových modeloch. Ušetriť môžete stovky eur, no stále získate spoľahlivý iPhone, ktorý vám bude bez problémov slúžiť ešte dlhé roky. 📱
