#4 Čo nepustiť z rúkČo nepustiť z rúk

Ako to funguje

Kam putuje, čo do chatbota napíšete

Chatbot nebeží vo vašom telefóne ani počítači. Všetko, čo napíšete alebo vložíte, odchádza na servery firmy, ktorá službu prevádzkuje, a tam sa to spracuje. Čo sa s textom stane ďalej, určujú podmienky tej služby a typ vášho účtu.

Pri osobných účtoch, aj platených, sa zvyčajne počíta s tým, že sa rozhovory ukladajú, že ich v niektorých prípadoch môžu čítať ľudia, ktorí službu zlepšujú, a že môžu poslúžiť na učenie ďalších modelov. Vo väčšine služieb sa dá učenie na vašich rozhovoroch vypnúť v nastaveniach. Uloženie a prípadnú kontrolu kvôli zneužitiu tým však nevypnete. Firemné účty mávajú iné podmienky. Čo presne platí u vás, zistíte v podmienkach služby a vo firemných pravidlách, nie odhadom.

Jedno platí vždy. Len čo text odošlete, stratíte kontrolu nad tým, kde skončí. Preto sa rozhoduje pred odoslaním, nie po ňom.

• Učenie na vašich rozhovoroch sa vo väčšine služieb dá vypnúť v nastaveniach. Uloženie tým nevypnete.
• Pošlite len ten kúsok, ktorý potrebujete, bez mien a čísel.

Ako to funguje

Čo namiesto toho

Chatbot je užitočný aj bez citlivých dát. Väčšinu úloh zvládne so všeobecným zadaním alebo s textom, z ktorého ste vymazali mená, čísla a ceny. Namiesto celej zmluvy stačí odsek, ktorému nerozumiete, s vynechanými menami.

V práci rozhodujú firemné pravidlá. Firma môže mať so službou zmluvu, podľa ktorej sa s dátami zaobchádza inak ako pri osobnom účte, a zoznam toho, čo do chatbota smie. Keď žiadne pravidlá nemáte, opýtajte sa. Firmy, ktoré AI používajú, majú podľa európskeho nariadenia o umelej inteligencii prijať opatrenia na podporu AI gramotnosti svojich ľudí a jasné pravidlá pre chatboty k tomu dobre poslúžia.

• Vymažte mená, čísla, ceny a všetko, podľa čoho sa dá spoznať, o koho ide.
• Pošlite len ten kúsok, ktorý potrebujete, nie celý dokument.
• Heslá patria do správcu hesiel, nikdy do rozhovoru.
• Cudzie zdravotné, osobné a obchodné údaje nie sú vaše, aby ste ich niekam posielali.
• V práci sa držte firemného účtu a firemných pravidiel. Keď nie sú, opýtajte sa.

Zdroje: Nariadenie (EÚ) 2024/1689 o umelej inteligencii, článok 4 (gramotnosť v oblasti AI); Nariadenie (EÚ) 2026/1744, ktorým sa mení článok 4 (od 27. 7. 2026)

Ako to funguje

Hlas na objednávku

Napodobniť hlas dnes zvládne bežne dostupný nástroj z krátkej nahrávky, niekedy stačí pár sekúnd. Podvodník potom zavolá hlasom šéfa, dieťaťa alebo vnuka, zvyčajne v zhone, s prosbou o peniaze, heslá alebo overovací kód a s dôrazom na to, aby to zostalo medzi vami. Na displeji pritom môže svietiť aj šéfovo skutočné číslo. Aj to sa dá podvrhnúť.

Obrana nestojí na tom, či hlas spoznáte. Spoľahlivo ho nespoznáte. Stojí na tom, čo urobíte potom. Zložíte a zavoláte späť na číslo, ktoré ste si uložili skôr, nie na to, ktoré práve volalo. Vo firme aj v rodine sa oplatí dohodnúť si kódové slovo pre prípad, že by niekto naozaj potreboval peniaze rýchlo.

Stalo sa to naozaj. V roku 2019 poslal riaditeľ britskej energetickej firmy 220 000 eur podvodníkom, ktorí po telefóne napodobnili hlas jeho nadriadeného z materskej firmy. V roku 2024 prišla hongkonská pobočka firmy Arup o desiatky miliónov dolárov po videohovore, v ktorom boli finančný riaditeľ aj kolegovia podvrhnutí.

• Poznávacie znamenie: zhon, mlčanie a peniaze, heslá alebo kódy.
• Hlas ani číslo na displeji nie sú dôkaz.
• Zložte a zavolajte späť na číslo, ktoré ste poznali už predtým.
• Dohodnite si doma aj vo firme kódové slovo pre naliehavé prípady.
• Vo firme: žiadna platba ani zmena účtu dodávateľa len na základe telefonátu; platby schvaľujú dvaja ľudia.

Zdroje: FTC (americká Federálna obchodná komisia): Scammers use AI to enhance their family emergency schemes (marec 2023); McAfee: Beware the Artificial Impostor (máj 2023); The Wall Street Journal, 30. 8. 2019: Fraudsters Used AI to Mimic CEO's Voice in Unusual Cybercrime Case; The Guardian, 17. 5. 2024: UK engineering firm Arup falls victim to £20m deepfake scam