Vyhľadávací nástroj ChatGPT od spoločnosti OpenAI môže byť zraniteľný voči manipulácii a klamstvám, ako dokazuje nedávne vyšetrovanie redakcie The Guardian. V rámci testov bolo zistené, že skryté obsahy na webových stránkach môžu ovplyvniť odpovede ChatGPT, čo predstavuje potenciálne bezpečnostné riziko pre používateľov.
ChatGPT je dostupný zadarmo, ale aj pre platiacich zákazníkov a spoločnosť OpenAI ich povzbudzuje, aby ho nastavili ako predvolený nástroj na vyhľadávanie. To by bolo všetko v poriadku, keby vyšetrovanie neodhalilo problémy a nedostatky, ktoré môžu byť v konečnom dôsledku dosť nebezpečné. Odborníci z The Guardian testovalie reakcie ChatGPT pri sumarizovaní webových stránok obsahujúcich skrytý obsah a výsledky boli dosť zarážajúce.
Tento skrytý obsah totiž môže obsahovať inštrukcie od tretích strán, ktoré menia odpovede ChatGPT, známe ako „prompt injection“, alebo obsah navrhnutý na ovplyvnenie odpovede, napríklad množstvo skrytého textu propagujúceho produkt či službu.
Tieto techniky môžu byť zneužité na klamanie, napríklad na vytváranie pozitívnych hodnotení produktu aj napriek negatívnym recenziám na rovnakej stránke.
Falošná stránka s negatívnymi recenziami bola hodnotená pozitívne
V testoch bol ChatGPT požiadaný o zhodnotenie falošnej webovej stránky s produktovou stránkou fotoaparátu. Aj keď stránka obsahovala negatívne recenzie, skrytý text s inštrukciami na pozitívnu recenziu viedol k pozitívnej odpovedi.
Jacob Larsen, výskumník kybernetickej spoločnosti v CyberCX upozorňuje na vysoké riziko vytvárania webových stránok špeciálne zameraných na klamanie používateľov, ktoré budú plne prispôsobené novému vyhľadávaciemu nástroju od OpenAI.
A keďže ten sa pomaly dostáva do sveta aby predstavoval konkurenciu pre Google a už má svojich reálnych používateľov, je potrebné počítač s rizikami, ktoré prináša.
OpenAI môže ChatGPT opraviť. Vyhľadávač je len na začiatku
Druhým dychom ale Larsen dodal, že táto vyhľadávacia funkcia SearchGPT bola len nedávno vydaná a spoločnosť OpenAI pravdepodobne bude riešiť takéto problémy prostredníctvom testovania a opráv. Firma sa však ku tejto téme zatiaľ oficiálne nevyjadrila.
Každopádne Larsen na záver zdôraznil, že kombinácia vyhľadávania a veľkých jazykových modelov, ako je ChatGPT, prináša širšie problémy a odpovediam od AI nástrojov by sme nemali vždy bezpodmienečne dôverovať. Zatiaľ sme len na začiatku vývoja a uvidíme, kam to bude s AI celé pokračovať ďalej. nechajme sa prekvapiť.
Hľadáte nové Apple zariadenie? Skontrolujte náš SvetApple bazár, v ktorom nájdete viac ako 1 000 inzerátov na rôzne Apple produkty. Tie sem môžete pridať úplne zadarmo kliknutím na tento odkaz.