App Store má byť bezpečnejšou alternatívou k sťahovaniu aplikácií z náhodných internetových stránok. Ani dôkladná kontrola Apple však nedokáže odhaliť všetko. Najnovšie vyšetrovanie odhalilo organizovanú sieť stoviek aplikácií a webov, ktoré sa vydávali za bežné AI nástroje, no potajomky ponúkali mimoriadne nebezpečné funkcie.
Apple po upozornení odstránil z App Store 19 aplikácií vrátane nástroja Viefur. Ten sa navonok prezentoval ako generátor portrétov domácich zvierat. V skutočnosti mohol za určitých okolností načítať rozhranie určené na vytváranie sexuálnych deepfake obrázkov a videí z fotografií reálnych ľudí bez ich súhlasu.
Aplikácie ukázali Apple úplne inú tvár
Podvod fungoval na princípe takzvaného bait-and-switch. Pri schvaľovaní v App Store aplikácia zobrazila nevinné a pravidlám vyhovujúce funkcie. Po získaní súhlasu však vývojári zmenili obsah, ktorý sa načítaval zo vzdialeného servera.
Aplikácia po spustení odoslala informácie o krajine, jazyku a zariadení používateľa. Server následne rozhodol, či zobrazí neškodnú verziu alebo skryté webové rozhranie s explicitnými šablónami. Jedným zo spúšťačov mohol byť príchod cez konkrétnu reklamu na Facebooku alebo Instagrame.
Apple pre WIRED uviedol, že kontrolované verzie aplikácií pôvodne dodržiavali pravidlá. Vývojári až po schválení vymenili obsah načítavaný z webu a škodlivé funkcie propagovali pornografickými reklamami na platformách tretej strany. Firma tvrdí, že za posledný rok pre podobné praktiky pozastavila desiatky tisíc aplikácií.
Sieť mala viac než 400 aplikácií a webov
Výskumníci z neziskovej organizácie AI Forensics spojili s operáciou viac než 400 aplikácií a domén. Bezpečnostná spoločnosť Infoblox našla takmer 500 prepojených domén používajúcich podobný kód. Stopy podľa výskumníkov smerujú k čínsky hovoriacim vývojárom a hongkonskej spoločnosti KeLing Technology Limited, ktorá na otázky médií nereagovala.
Problém sa netýkal iba Apple. V septembri bolo v Google Play aktívnych 27 súvisiacich aplikácií a spolu mali viac než 350 000 stiahnutí. Niektoré boli dokonca označené ako vhodné pre všetky vekové skupiny. Google väčšinu z nich odstránil ešte pred otázkami WIRED.
Apple vyhlásil VOJNU zvráteným AI aplikáciám. Z App Store môžu okamžite zmiznúť
Na propagáciu slúžili tisíce reklám na platformách Meta. Po odovzdaní zoznamu podozrivých domén Meta identifikovala viac než 3 000 súvisiacich reklám a zablokovala stovky aplikácií aj tisíce reklamných účtov, stránok a používateľov.
Apple už medzičasom sprísnil pravidlá App Store. Výslovne zakazuje aplikácie generujúce intímne materiály bez súhlasu a tiež skryté či nezdokumentované funkcie, ktoré sa objavia až po schválení.
Tento prípad ukazuje, že samotné logo App Store nie je absolútnou zárukou. Používatelia by mali kontrolovať meno vývojára, recenzie, vekové hodnotenie aj nečakané zmeny správania aplikácie. Ak nástroj po kliknutí na reklamu zobrazí úplne iné funkcie, treba ho okamžite zavrieť, odstrániť a nahlásiť. Narazili ste už na podobne podozrivú AI aplikáciu? Napíšte nám na Facebooku alebo Instagrame.
Ak hľadáte overený iPhone so zárukou, ktorý prešiel rukami odborníkov zo SvetApple.sk, určite sa pozrite do nášho e-shopu Loopi.sk. Nájdete tu starostlivo skontrolované zariadenia za výrazne nižšie ceny než pri nových modeloch. Ušetriť môžete stovky eur, no stále získate spoľahlivý iPhone, ktorý vám bude bez problémov slúžiť ešte dlhé roky. 📱
