Čoho sa pri AI bᝊpeciál

Ako to funguje

Prečo sa bojíme práve robotov

Väčšinu strachov z AI sme sa naučili z filmov. Vzbúrený robot, stroj, ktorý číta myšlienky, počítač, ktorý trpí. Sú to dobré príbehy, a preto sa držia. Chatbot, s ktorým hovoríte, je pritom to, čo ste videli v druhom diele. Odhaduje ďalšie slovo podľa vzorov z textu. Sám od seba nič nechce, robí, čo mu zadá človek, nevidí nič okrem toho, čo mu napíšete, a či niečo cíti, sa nedá ani dokázať, ani vyvrátiť. O pocitoch píše preto, že o nich písali ľudia v textoch, z ktorých sa učil.

Skutočné nebezpečenstvo vyzerá inak a je nudnejšie. Modely postavené na rovnakom princípe vedia napodobniť hlas z krátkej nahrávky, poskladať video s cudzou tvárou a napísať podvodný e-mail bez jedinej chyby. Ani jedno z toho neurobí AI sama od seba. Urobí to človek, ktorý ju použije proti vám.

• Vo filme je robot, ktorý niečo chce. A to nás môže desiť.
• V skutočnosti je to však človek, ktorý chce vaše peniaze, heslá alebo dáta, a AI používa ako nástroj.

Ako to funguje

Čoho sa báť naozaj

Tri veci sa dejú už teraz. Dve z nich stoja na rovnakom princípe ako chatbot: model sa naučil vzory z obrovského množstva dát a vyrobí podľa nich niečo, čo vyzerá ako pravé. Hlas a tvár. Tretia je staršia: čo raz napíšete na cudzí server, už nemáte pod kontrolou.

Žiadna z nich nevyžaduje genialitu. Nástroje sú bežne dostupné a podvodník potrebuje len vaše video zo sietí, vaše telefónne číslo alebo vaše heslo, ktoré ste použili aj inde.

• Napodobnený hlas: hovor „od dieťaťa“ alebo „od šéfa“, zhon, peniaze. Čo s tým, ukáže budúci diel.
• Falošné video: známa tvár odporúča investíciu, liek alebo e-shop. Obranou je overiť si to pri zdroji, nie vo videu.
• Uniknutý rozhovor: čo napíšete do chatbota, môže pri niektorých službách čítať človek a môže to uniknúť, keď vám niekto ukradne účet. Obranou je nezdieľať nič citlivé a používať dvojfázové prihlásenie.

Zdroje: FTC (americká Federálna obchodná komisia): Scammers use AI to enhance their family emergency schemes (marec 2023); Europol: Facing reality? Law enforcement and the challenge of deepfakes (2022)

Ako to funguje

Deepfake, falošné video, ktoré sedí

Deepfake je obraz alebo video, ktoré model poskladal tak, aby ukazovalo človeka, ako robí alebo hovorí niečo, čo nikdy nerobil. Potrebuje na to len dosť záberov tej tváre, a pri ľuďoch z televízie, z politiky alebo zo sietí je ich veľa. Hlas doplní iný model, ktorému stačí krátka nahrávka. O ňom bude budúci diel.

Najčastejšie použitie nie je žart, ale podvod. Známa tvár vo videu odporúča investíciu, zázračný liek alebo e-shop a pod videom je odkaz. Falošné videá slovenských moderátorov a lekárov kolujú už niekoľko rokov. Hľadať chyby v obraze prestáva fungovať. Ruky, pery aj žmurkanie sú rok od roka lepšie.

Obrana nestojí na tom, ako video vyzerá. Rozhoduje, či to ten človek naozaj hovorí niekde, kde si to viete overiť. Na jeho webe, na jeho kanáli, v relácii, z ktorej video údajne je. Keď to tam nie je, nie je to on.

• Známa tvár, výnimočná ponuka, odkaz a zhon. Táto štvorica znamená podvod, nech video vyzerá akokoľvek.
• Nehľadajte chyby v obraze. Hľadajte, či to ten človek hovorí na overiteľnom mieste.
• Nepreposielajte. Nahláste video platforme a napíšte tomu, kto vám ho poslal.
• Nikdy neklikajte na odkaz pod takým videom. Keď chcete produkt, nájdite si ho sami.

Zdroj: Europol: Facing reality? Law enforcement and the challenge of deepfakes (2022)