Vytvoriť realistickú falošnú fotografiu dnes zvládne aj človek bez technických znalostí. Obzvlášť nebezpečné sú aplikácie, ktoré z bežnej snímky vyrobia intímny obsah bez vedomia zobrazenej osoby. Apple preto rozšíril pravidlá App Store a vývojárom dáva jasne najavo, že takýto obsah nebude tolerovať.
Pornografické aplikácie boli v App Store zakázané už dávno. Nové znenie však výslovne zahŕňa intímne snímky vytvorené umelou inteligenciou bez súhlasu dotknutej osoby a prenáša väčšiu zodpovednosť na prevádzkovateľov platforiem.
AI aplikácie musia škodlivý obsah aktívne blokovať
Aktualizované pravidlo 1.2 spoločnosti Apple sa týka aplikácií, v ktorých používatelia vytvárajú, nahrávajú alebo zdieľajú obsah. Patria sem sociálne siete, komunitné platformy aj nástroje na generovanie obrázkov pomocou AI.
Vývojári musia zaviesť filtrovanie nevhodného obsahu, nahlasovanie príspevkov, blokovanie obťažujúcich používateľov a dostupný kontakt. Po novom musia zároveň proaktívne zabraňovať vzniku a šíreniu intímnych deepfake materiálov bez súhlasu a takéto výstupy odstraňovať.
Ak firma primerané ochrany nezavedie alebo problém nevyrieši ani po upozornení, aplikácia môže z App Store zmiznúť. Pri závažnom alebo opakovanom porušovaní hrozí aj vyradenie vývojára z programu Apple Developer.
Apple zatvára medzeru so skrytými funkciami
Samostatné pravidlo 2.5.19 mieri na takzvaný bait-and-switch. Vývojár pri kontrole ukáže neškodnú aplikáciu, no po schválení na diaľku aktivuje funkciu, ktorú Apple nikdy nevidel. Takto sa mohli ukrývať aj nástroje označované ako „nudify“, ktoré digitálne vyzliekajú skutočných ľudí.
Apple vo svojom oficiálnom oznámení zdôrazňuje, že nové funkcie nesmú byť zatajené pred procesom App Review. Ak aplikácia po schválení pridá nezdokumentovanú škodlivú schopnosť, firma môže odstrániť nielen samotný titul, ale aj účet jeho tvorcu.
Spoločnosť zároveň rozšírila zákaz aplikácií podporujúcich obchodovanie s ľuďmi, zneužívanie detí alebo materiály sexuálneho zneužívania detí aj na alternatívnu distribúciu. Táto časť je dôležitá najmä v Európskej únii, kde iOS umožňuje inštalovanie aplikácií aj mimo klasického App Store.
Pravidlo pomôže iba vtedy, keď ho Apple presadí
Apple tvrdí, že za minulý rok zastavil viac než 150-tisíc bezpečnostne problematických aplikácií a zrušil vyše 193-tisíc vývojárskych účtov spojených s podvodmi a zneužívaním. Nové znenie pravidiel mu dáva jednoznačnejší základ na zásah proti generátorom škodlivých deepfake snímok.
Za nás ide o správny krok, pretože obeťou podobného nástroja sa môže stať ktokoľvek, komu niekto stiahne fotografiu zo sociálnej siete. Samotný text pravidiel však problém nevyrieši. Rozhodujúce bude, ako rýchlo Apple odhalí skryté funkcie a či bude rovnaký meter uplatňovať aj na veľké platformy. Malo by byť blokovanie takýchto aplikácií ešte prísnejšie? Napíšte nám na Facebook alebo Instagram.
Ak hľadáte overený iPhone so zárukou, ktorý prešiel rukami odborníkov zo SvetApple.sk, určite sa pozrite do nášho e-shopu Loopi.sk. Nájdete tu starostlivo skontrolované zariadenia za výrazne nižšie ceny než pri nových modeloch. 📱
