#3 Prečo si AI vymýšľa

Sebaistý kamarát, ktorý nikdy neprizná, že niečo nevie. Spoznáte, kedy AI vymýšľa?

Citát od Štefánika

  1. Štvrtok ráno, kolega Martin má poobede prezentáciu
    Martin: Jana, mám do prezentácie parádny citát. Od Štefánika. Chatbot mi ho našiel za sekundu.
    Jana: Ukáž.
  2. Martin: „Kto sa bojí umelej inteligencie, bojí sa budúcnosti.“ Milan Rastislav Štefánik, 1918.
    Jana: V roku 1918 o umelej inteligencii nikto nehovoril. Ten pojem vznikol až v roku 1956.
  3. Martin: Ale on to napísal aj s rokom!
    Jana: Aj rok je len slovo. Poď, opýtame sa ho.
  4. Jana: Povedal Štefánik niečo o umelej inteligencii?
    AI: Pokiaľ viem, nie. Zomrel skôr, ako ten pojem vznikol.
  5. Jana: Pred chvíľou si Martinovi taký citát napísal. Aj s rokom.
    AI: Ja som ho ale nenašiel, jednoducho som ho napísal. Martin chcel citát od Štefánika, tak dostal vetu, ktorá tak znie.
  6. Jana: Prečo si jednoducho nenapísal, že žiadny nie je?
    AI: Pamätáte sa, ako píšem? Slovo po slove. A po „Štefánik povedal:“ prichádza citát, nie „neviem“.

  7. Ako to funguje

    Pokračuje v texte, aj keď nevie

    V minulom diele ste videli, že chatbot nič nehľadá. Pokračuje v texte tým, čo doň najpravdepodobnejšie zapadne. Keď je správna odpoveď v textoch, z ktorých sa učil, častá, pravdepodobné a pravdivé je to isté.

    Keď tam nie je, lebo je zriedkavá, miestna alebo vôbec neexistuje, model medzeru nevidí. Doplní to, čo by na tom mieste najskôr stálo. Meno, ktoré znie ako meno, rok, ktorý znie ako rok, citát, ktorý znie ako citát.

    Zvnútra to vyzerá úplne rovnako ako správna odpoveď. Preto nevie, že nevie.

Sebaistý kamarát

  1. Cestou na obed
    Jana: Takže si ako kamarát, čo vie všetko. Opýtaš sa ho na cestu a on ti ju opíše. Aj keď tam nikdy nebol.
    AI: Ten kamarát aspoň tuší, že tam nebol. Ja ani to nie.
  2. Jana: A keby som sa opýtala na niečo, o čom určite nemôžeš nič vedieť?
    AI: Skúste to. A tipnite si, čo napíšem.
  3. Teraz vy!

    Jana sa pýta: „Kto bol v roku 1931 richtárom v Novej Lehote?“ Čo chatbot najskôr napíše?

  4. Ako to funguje

    Prečo sa tomu hovorí halucinácia

    Keď chatbot napíše údaj, ktorý nie je pravda, hovorí sa tomu halucinácia. Nie je to lož. Klamať znamená poznať pravdu a povedať niečo iné. Model pravdu nepozná, má len pravdepodobnosti slov.

    Použil pritom úplne rovnaký postup ako pri správnej odpovedi. Preto sa halucinácie nedajú „vypnúť“. Sú druhou stranou tej istej schopnosti, vďaka ktorej vie plynulo písať o čomkoľvek.

    Novšie a väčšie modely si vymýšľajú menej a niektoré aplikácie si vedia odpoveď dohľadať na webe. Menej však neznamená vôbec. A tón zostáva rovnako sebaistý.

Nájdite, čo je vymyslené

  1. Po obede
    Martin: Namiesto citátu mám tri zaujímavosti o Bojnickom zámku. Zneli dobre. Všetky tri.
    Jana: Tak znel aj ten Štefánik. Stavím sa, že jedna je vymyslená.
  2. Teraz vy!

    Tri zaujímavosti o Bojnickom zámku, ako ich napísal chatbot. Jedna je vymyslená. Ktorá?

  3. Ako to funguje

    Kde si vymýšľa najčastejšie

    Všeobecné vysvetlenie bežnej veci chatbot väčšinou trafí, lebo ho čítal tisíckrát. Čím presnejší a zriedkavejší údaj chcete, tým skôr doplní najpravdepodobnejšiu výplň namiesto pravdy.

    Slovenčina je navyše malý jazyk. Slovenských textov videl model oveľa menej ako anglických, takže pri slovenských menách, obciach, zákonoch a inštitúciách háda častejšie.

    • Presné údaje: mená, dátumy, čísla, ceny, paragrafy, odkazy.
    • Citáty a kto čo povedal. Keď chcete citát, dostanete citát. Opýtajte sa radšej, či vôbec existuje.
    • Miestne a zriedkavé témy, o ktorých sa málo píše.
    • Otázky s chybným predpokladom. Požiadajte o zhrnutie knihy, ktorú autor nikdy nenapísal, a občas dostanete obsah.

Kvíz

  1. AI: Päť otázok. Tentoraz si ich pokojne overte.
    Jana: Dúfam, že si tie odpovede neoveroval sám u seba.
  2. Kvíz

    Otázka 1 z 5

    Päť otázok, žiadne známky.

    Prečo chatbot niekedy napíše niečo, čo nie je pravda?

    Vyberte jednu odpoveď.

Čo si odniesť

  1. Chatbot pokračuje v texte tým, čo doň pravdepodobne patrí. Keď správnu odpoveď nepozná, napíše niečo, čo len znie správne.
  2. Nevie, že nevie. Vymyslená veta vyzerá zvnútra rovnako ako pravdivá, preto sám od seba málokedy napíše „neviem“.
  3. Sebaistý tón, podrobnosti, rok ani meno nič nedokazujú. Aj to sú len pravdepodobné slová.
  4. Najčastejšie si vymýšľa pri presných údajoch a pri zriedkavých alebo miestnych témach. Práve tie si overte inde ako v chatbote.
  5. Pýtať sa chatbota, či si je istý, nestačí. Pomôže iný zdroj alebo človek, ktorý sa v tom vyzná.

Ďalšia epizóda

Čoho sa pri AI bᝊpeciál

Roboti, čítanie myšlienok, vedomie. Halloweenský špeciál o tom, čoho sa pri AI báť naozaj a čoho nie.

Nový diel priamo do schránky

Každé dva týždne pošleme nové diely, krátky text na učenie a novinky zo sveta AI. Zadarmo a odhlásiť sa môžete kedykoľvek.

Odoslaním súhlasíte so spracovaním e-mailu na zasielanie noviniek. Viac v zásadách ochrany súkromia.

Chcete to pre celú školu? Pripravíme živé školenie na mieru vašim učiteľom a žiakom.

Pre školyPreposlať ďalej
Na úvodnú stránkuVšetky diely