Umelá inteligencia dnes upravuje e-maily, tvorí obrázky a pomáha programátorom. Niektorí ľudia priamo z najväčších AI laboratórií však pripúšťajú, že budúce oveľa schopnejšie systémy môžu predstavovať existenčné riziko pre celé ľudstvo.
Nezisková organizácia Palisade Research preto zverejnila sériu rozhovorov s aktuálnymi a bývalými pracovníkmi OpenAI, Google DeepMind a Anthropicu. Zatiaľ sprístupnila 12 z 22 natočených rozhovorov. Najviac pozornosti vyvolali osobné číselné odhady možného vyhubenia ľudstva.
Odborníci na AI poskytli mrazivé predpovede
Geoffrey Irving, ktorý pôsobil v sppoločnostiach OpenAI aj Google DeepMind, prirovnal riziko vyhubenia ľudstva k hodu mincou. Jeho osobný odhad sa pohybuje približne na úrovni 50 %. Neel Nanda, súčasný výskumník Google DeepMind, uviedol najmenej 10 % a sám túto hodnotu označil za absurdne vysokú.
Ako informuje kanál Palisade Research, ďalší účastníci upozorňujú na možnú superinteligenciu, ktorú by ľudia nedokázali spoľahlivo ovládať. Nanda vysvetľuje, že v laboratóriu zostáva preto, lebo verí, že svojou prácou riziko znižuje. Bývalý pracovník Anthropicu Jeffrey Ladish naopak odišiel a žiada skutočný vládny dohľad.
Obavy sa netýkajú dnešného ChatGPT, Gemini či Claudu, ktoré by samostatne plánovali koniec ľudstva. Ide o hypotetické budúce systémy schopné dlhodobo konať, získavať zdroje, obchádzať ochranné mechanizmy a zlepšovať vlastný vývoj. Kritici sa obávajú, že ich ciele nemusia zostať v súlade s ľudskými záujmami.
Takmer polovica nie je vedecky vypočítaná pravdepodobnosť
Čísla z rozhovorov nemožno interpretovať ako výsledok merania alebo spoľahlivú predpoveď. Ide o subjektívne odhady jednotlivcov v oblasti, ktorá nemá historické dáta o vzniku superinteligencie. Výskumníci sa nezhodujú ani na tom, či a kedy takýto systém vôbec vznikne.
Samotný projekt otvorene priznáva, že jeho výber nie je reprezentatívny. Účastníkov oslovoval cez vlastné kontakty, častejšie sú zastúpení členovia bezpečnostných tímov a rozhovor prijali najmä ľudia, ktorí k riziku chceli niečo povedať. Palisade Research navyše verejne súhlasí s názorom, že AI laboratóriá hazardujú s budúcnosťou.
To neznamená, že výpovede treba ignorovať. Znamená to však, že z dvanástich videí nemožno vyhlásiť všeobecný názor všetkých tvorcov AI.
Trump podpísal dohodu AI zodpovednosti s najväčšími firmami. Má však OBROVSKÝ háčik
Širší prieskum priniesol priemer 18 %
Reprezentatívnejší obraz ponúka najnovšie zverejnený prieskum AI Impacts. Oslovil autorov publikujúcich na významných odborných konferenciách a získal 1 580 platných odpovedí, hoci návratnosť bola približne 10 % a jednotlivé otázky dostávali iba vybrané skupiny respondentov.
Pri otázke na vyhubenie alebo podobne vážne a trvalé oslabenie ľudstva dosiahol priemerný odhad 18 % a medián 10 %. Aj tu ide o názory výskumníkov, nie o experimentálne potvrdenú pravdepodobnosť. Rozptyl odpovedí bol veľký a viacerí odborníci považujú presné percentá pri takom množstve neznámych za zavádzajúce.
Súčasná AI ešte nedokáže prevziať kontrolu
Medzinárodné hodnotenia upozorňujú, že dnešné systémy síce vykazujú prvé relevantné schopnosti, no zatiaľ nie na úrovni potrebnej na samostatnú stratu ľudskej kontroly. Pravdepodobnosť, mechanizmus aj časovanie extrémneho scenára zostávajú mimoriadne neisté.
Bolo by určite prehnané hneď reagovať panikou aj úplným výsmechom. Päťdesiatpercentný odhad jedného človeka nie je dôkaz blížiaceho sa konca sveta, ale výpoveď skúseného výskumníka je dôvodom požadovať nezávislé testovanie, transparentné incidenty a pravidlá pre najvýkonnejšie modely. Obávate sa budúceho vývoja AI? Napíšte nám na Facebook alebo Instagram.
Ak hľadáte overený iPhone so zárukou, ktorý prešiel rukami odborníkov zo SvetApple.sk, určite sa pozrite do nášho e-shopu Loopi.sk. Nájdete tu starostlivo skontrolované zariadenia za výrazne nižšie ceny než pri nových modeloch. Ušetriť môžete stovky eur, no stále získate spoľahlivý iPhone, ktorý vám bude bez problémov slúžiť ešte dlhé roky. 📱
