Keď bezpečnostní výskumníci upozornili na to, že plyšový medvedík Kumma od FoloToy dokáže deťom podávať až šokujúco nevhodné rady, spoločnosť OpenAI reagovala rázne – okamžite zablokovala prístup výrobcu k svojim AI modelom.
Problém spočíval najmä v tom, že hračka využívala starší model GPT-4o, ktorý pri jednoduchom dopytovaní generoval obsah týkajúci sa sexuálnych praktík či nebezpečných návodov. Situácia vyvolala veľký mediálny tlak a FoloToy stiahol svoje produkty z trhu.
Rýchla „bezpečnostná kontrola“ a návrat na trh
Teraz sa však ukazuje, že pozastavenie trvalo prekvapivo krátko. FoloToy oznámil znovuobnovenie predaja po údajne „týždni intenzívneho interného auditu“.
Paralelne s tým sa na stránke, kde si zákazníci môžu vybrať AI pre hračku, objavili najnovšie modely GPT-5.1 Thinking a GPT-5.1 Instant. Teda presne tie, ktoré OpenAI prezentuje ako bezpečnejšie a konzervatívnejšie. Informuje o tom Futurism.
Otázky však zostávajú. Firma síce tvrdí, že posilnila moderáciu obsahu a pridala nové ochranné vrstvy, no rýchlosť celého procesu vyvoláva pochybnosti.
Riziková minulosť a neistá budúcnosť
GPT-4o bol v minulosti spájaný s niekoľkými incidentmi, pri ktorých dlhé konverzácie údajne ovplyvnili psychiku používateľov. Niektorí experti dokonca začali hovoriť o fenoméne „AI psychózy“.
Model GPT-5.1 má tieto problémy zmierniť, no zároveň prináša nové funkcie, ktoré pôsobia až znepokojivo personalizovane.
Či je teda hračkársky medvedík Kumma v súčasnosti skutočne bezpečný, nevedno. OpenAI ani FoloToy na otázky novinárov neodpovedali a nie je ani jasné, ktorý model hračka používa ako predvolený. Po predošlých zisteniach však mnohí odborníci upozorňujú, že pri produktoch určených deťom by mal byť prístup k AI mimoriadne obozretný.
Nezabudnite tiež na náš SvetApple bazár, v ktorom nájdete viac ako 1100 inzerátov na rôzne Apple zariadenia. Tie sem môžete pridať úplne zadarmo kliknutím na tento odkaz.
