Spoločnosť OpenAI, ktorá stojí za populárnou AI video aplikáciou Sora, oznámila zásadnú zmenu vo fungovaní svojho nástroja. Po sérii sťažností známych osobností a ich rodín už nebude možné vytvárať videá, ktoré napodobňujú hlasy alebo tváre celebrít bez ich výslovného súhlasu.
O nových opatreniach informovala spoločná správa OpenAI, odborový zväz hercov SAG-AFTRA a ďalšie asociácie. Podľa vyhlásenia sa podarilo dosiahnuť produktívnu spoluprácu. Jej cieľom je chrániť podobu a hlas umelcov v obsahu generovanom pomocou umelej inteligencie.
Známe osobnosti sa búria proti deepfake videám
Impulzom k tejto zmene bola situácia, keď používatelia aplikácie Sora dokázali vytvoriť videá s realistickým zobrazením herca Bryana Cranstona a to bez jeho vedomia a súhlasu. Okrem neho sa na OpenAI sťažili aj rodiny Robina Williamsa, Georgea Carlina či Martina Luthera Kinga Jr. Ich hlasy a tváre boli v aplikácii taktiež zneužité.
OpenAI síce pôvodne fungovala na báze „opt-in“ systému. To znamená, že používatelia museli mať povolenie od živej osoby na použitie jej hlasu alebo podoby. Táto ochrana však zjavne nebola dostatočná. Po novom spoločnosť zavádza prísnejšie bezpečnostné mechanizmy, ktoré zabránia replikácii hlasu alebo tváre bez výslovného súhlasu.
OpenAI zároveň prisľúbila, že bude na všetky sťažnosti reagovať promptne a transparentne. Firma už koncom minulého týždňa upravila pravidlá aj pre zobrazovanie historických osobností, po tom, čo sa ozvala rodina Martina Luthera Kinga Jr. Hoci OpenAI uznáva význam slobody prejavu pri zobrazovaní verejných osobností, zástupcovia pozostalých môžu požiadať o odstránenie konkrétnych AI videí.
Aplikácia Sora bola spustená 30. septembra a odvtedy sa stala jednou z najpopulárnejších aplikácií v App Store. Najnovšie zmeny však ukazujú, že aj veľkí hráči v oblasti AI musia hľadať rovnováhu medzi technologickým pokrokom a ochranou ľudských práv a umeleckej identity.
Nezabudnite tiež na náš SvetApple bazár, v ktorom nájdete viac ako 1200 inzerátov na rôzne Apple zariadenia. Tie sem môžete pridať úplne zadarmo kliknutím na tento odkaz.