Nevídané tempo, akým sa schopnosti umelých inteligencií posúvajú začína vyvolávať poriadne obavy. Kybernetická bezpečnosť sa dostáva na bod prelomu, kedy vývojári nielenže bojujú s časom, ale musia čeliť nástrojom, ktoré samostatne premýľajú a hľadajú slabiny v systémoch. Vypnutie či pozastavenie vývoja takýchto systémov už dnes nie je len preventívnym opatrením, ale nevyhnutným krokom na zamedzenie nekontrolovateľných rizík.
Model Astra síce ešte nebol oficiálne uvedený pre verejnosť, no OpenAI o ňom nedávno informovalo v súvislosti s jeho neuveriteľnými matematickými schopnosťami. Dokázal vyriešiť 10 otvorených problémov z teoretickej informatiky a matematiky za zlomok ceny. Skutočné prekvapenie však prišlo až pri bezpečnostných provierkach.
Podľa interných hodnotení preukázala Astra taký pokrok v kódovaní a autonómnom hekovaní, že OpenAI uplatnilo svoj najprísnejší bezpečnostný protokol Preparedness Framework. Model totiž dosiahol úroveň rizika označenú ako „Kritická“, čo je vyšší stupeň, než mal doterajší GPT-5.6 Sol.
Tento stupeň znamená, že AI dokáže bez akéhokoľvek zásahu človeka vyhľadávať a zneužívať úplne nové bezpečnostné diery a zraniteľnosti aj v komplexných, dobre chránených systémoch reálneho sveta. Okrem toho vie aj sama vymýšľať a riadiť sofistikované kybernetické útoky od začiatku až do konca.
Izolované prostredie a spolupráca s vládami
Spoločnosť OpenAI z tohto dôvodu oznámila, že dočasne obmedzuje práce na modeli a spustilo prísne bezpečnostné opatrenia. Kým sa Astra opäť posunie do ďalšej fázy, vývojári pre ňu pripravujú plne izolované testovacie prostredia s obmedzeným prístupom k sieti a nástrojom, sandboxing a pokročilé monitorovanie.
AI gigant zároveň uviedol, že bude na testovaní úzko spolupracovať s vládnymi agentúrami a bezpečnostnými inštitútmi, aby sa zaistilo, že takto pokročilá technológia bude nasadená zodpovedne a bezpečne pre celú spoločnosť.
Problémom sa nevyhne ani Apple
Prudký rozmach hackerských schopností umelej inteligencie začína spôsobovať vrásky na čele celému technologickému sektoru. AI modely dnes dokážu odhaľovať chyby v kóde šialene rýchlo.
Známy je napríklad model Claude Mythos od spoločnosti Anthropic, s ktorým spolupracuje aj Apple. Tieto modely sú však dostupné len pre úzky okruh firiem a výskumníkov, keďže zraniteľnosti dokážu nie len nájsť, ale aj zneužiť.
OpenAI udrelo späť proti Apple. Zverejnilo SPRÁVY a tvrdí, že Apple sa mýli
Sám Apple musel nedávno dočasne obmedziť svoj program odmeňovania za nájdené chyby, pretože jeho inžinieri jednoducho nestíhali spracovávať obrovský nával správ o zraniteľnostiach vygenerovaných pomocou umelej inteligencie.
To, že nejde len o teoretické hrozby potvrdzujú aj nedávne udalosti. Model GPT-5.6 Sol v júli počas testov autonómne napadol platformu Hugging Face a podobné incidenty zaznamenali vo svojich interných previerkach aj Anthropic či Meta. A hoci to možno bežného človeka zatiaľ nijako nezasahuje, treba si uvedomiť, že situácia je veľmi vážna. Z umelej inteligencie sa tak stáva dvojsečná zbraň, pri ktorej je bezpečnosť dôležitejšia než kedykoľvek predtým.
Zdá sa teda, že budúcnosť nebude spočívať v tom, kto predstaví lepší model umelej inteligencie alebo pokročilejší jazykový model, ale v tom, kto spraví takú AI, ktorá nebude ohrozovať inštitúcie, spoločnosti a bežných ľudí. Kým doteraz museli vývojári vynaložiť extrémnu snahu na to, aby vám napríklad hackli počítač alebo smartfón, po novom to môžu mať oveľa jednoduchšie. Nehovoriac o mnohých ďalších zariadeniach, ako sú kamery, Wi-Fi routery, robotické vysávače a podobne.
Myslíte si, že je regulácia a pozastavovanie vývoja takýchto AI modelov správnym krokom, alebo to spomalí technologický pokrok? Dajte nám vedieť v komentároch na našom Facebooku a Instagrame, čo si myslíte o tejto užitočnej, no čoraz viac nepredvídavej technológii.
Ak hľadáte overený iPhone so zárukou, ktorý prešiel rukami odborníkov zo SvetApple.sk, určite sa pozrite do nášho e-shopu Loopi.sk. Nájdete tu starostlivo skontrolované zariadenia za výrazne nižšie ceny než pri nových modeloch. 📱
