Umelá inteligencia dnes prečíta dokument, fotografiu účtenky aj neostrý nápis vo videu. Experiment Ghost Font však využíva slabinu, pri ktorej môže človek skrytú vetu rozpoznať takmer okamžite, zatiaľ čo chatbot vidí iba televízny šum. Na prvý pohľad to pôsobí ako moderná verzia CAPTCHA.
Projekt vytvoril Eric Lu zo spoločnosti Mixfont. Na stránke Ghost Font zadáte krátku frázu a prehliadač ju premení na animáciu plnú drobných bodiek. Výsledok si možno stiahnuť ako krátke video, pričom generovanie podľa prevádzkovateľa prebieha lokálne bez účtu a bez nahrávania textu na server.
Ghost Font nie je font, ale pohybová optická ilúzia
Názov je trochu zavádzajúci. Ghost Font nie je inštalovateľný súbor TTF alebo OTF, ktorý by ste použili vo Worde či grafickom programe. Ide o webový generátor pohybovej ilúzie, ktorej význam existuje iba počas prehrávania animácie.
Body patriace do masky písmen sa pohybujú iným smerom než body v pozadí. Ľudský zrak automaticky zoskupí objekty s rovnakým pohybom a z meniacej sa hranice poskladá čitateľné znaky. Keď video pozastavíte, rozdiel v pohybe zmizne a jednotlivý obrázok vyzerá ako rovnomerný náhodný šum.
Efekt môže obsahovať aj slabo viditeľnú návnadu s iným textom. Model, ktorý analyzuje iba vybrané snímky alebo hľadá stabilné hrany písmen, môže potom odpovedať nesprávne alebo sebavedome prečítať práve falošnú správu.
Bežné chatboty Ghost Font spočiatku neprečítali
Prvé testy autora aj technologických médií ukázali, že viaceré multimodálne modely skutočne zlyhali. Buď v animácii nerozpoznali žiadny text, alebo uviedli iba návnadu. To však neznamená, že umelá inteligencia ako celok nedokáže správu obnoviť.
Mnohé systémy pracujú s videom ako so sériou jednotlivých snímok. Ghost Font pritom odstráni presne tie stabilné obrysy a kontrast, na ktoré je zvyknuté klasické OCR. Ak však algoritmus porovná smer a rýchlosť pohybu bodov medzi snímkami, dostane omnoho viac informácií.
Skrytú správu obnovili približne za 20 minút
Výskumníci zo spoločnosti Etairos sa rozhodli marketingové tvrdenie preveriť. Ako opisujú vo svojej technickej analýze, použili desaťročia známu metódu sledovania pohybu vo videu. Z H.264 pohybových vektorov dokázali pri testovacej nahrávke obnoviť frázu „HELLO HUMAN“.
Zobraziť tento príspevok na Instagrame
Podľa autorov im zostavenie riešenia trvalo približne 20 minút. Nešlo teda o nasadenie obrovského jazykového modelu ani o nákladné trénovanie neurónovej siete. Stačila špecializovaná analýza toho, čo je nositeľom správy od začiatku: rozdielneho pohybu bodiek.
Výsledok neznamená, že každý chatbot automaticky prečíta každé video z Ghost Fontu. Dokazuje však, že text nie je bezpečne ukrytý a jeho získanie je technicky možné. S vylepšovaním video modelov môže byť podobná analýza čoraz jednoduchšia.
Do Ghost Fontu nikdy nevkladajte heslá ani tajné údaje
Samotní prevádzkovatelia dnes výslovne upozorňujú, že projekt nie je šifrovanie, zabezpečená komunikácia ani spoľahlivá CAPTCHA. Animáciu môže prehrať ktokoľvek, kto k nej získa prístup, a obsah možno odvodiť z pohybu, záznamu obrazovky alebo neskoršej analýzy.
Do generátora preto nepatria heslá, súkromné kľúče, prístupové tokeny, osobné údaje ani dôverné správy. Praktické využitie vidíme skôr v zábavnom príspevku, vizuálnom experimente, dizajnovom projekte alebo demonštrácii rozdielu medzi ľudským a strojovým videním.
Za nás je Ghost Font veľmi vydarená optická ilúzia, nie prelomová ochrana pred AI. Práve rýchlosť, s akou ju výskumníci prekonali, je najzaujímavejšou časťou príbehu. Ukazuje, že keď informáciu dokáže vnímať človek, často existuje aj spôsob, ako ju sprístupniť stroju.
Do komentára na sociálnych sieťach Facebook / Instagram nám napíšte, či ste skrytý text v animácii dokázali prečítať na prvý pokus. Tešíme sa na všetky vaše postrehy a názory.
Ak hľadáte overený iPhone so zárukou, ktorý prešiel rukami odborníkov zo SvetApple.sk, určite sa pozrite do nášho e-shopu Loopi.sk. Nájdete tu starostlivo skontrolované zariadenia za výrazne nižšie ceny než pri nových modeloch. Ušetriť môžete stovky eur, no stále získate spoľahlivý iPhone, ktorý vám bude bez problémov slúžiť ešte dlhé roky. 📱
