#5 Prečo chatbot zabúda

Celý rozhovor sa zmestí do jedného zápisníka. Čo sa stane, keď sa minú strany?

Kde sme to skončili

  1. Utorok ráno
    Jana: Včera sme spolu dve hodiny ladili ponuku pre to stolárstvo. Pokračujeme?
    AI: Akú ponuku? Aké stolárstvo?
  2. Jana: Ty si to nepamätáš? Veď si to celé písal.
    AI: Písal som to v inom chate. Tento je nový a začínam v ňom s prázdnym zápisníkom. Vráťte sa do toho včerajšieho, tam je všetko.
  3. Jana: Ten tvoj zápisník. Čo v ňom vlastne je?
    AI: Náš rozhovor. Od prvej vety až sem. Všetko, čo o vás teraz viem, je na týchto stranách.
  4. Jana: A čo tá tvoja knižnica z minulých dielov? Všetko, čo si prečítal?
    AI: Tá je vo mne a nemení sa. Knižnica je to, čo viem. Zápisník je to, o čom sa práve rozprávame.
  5. Jana: A má ten zápisník nejaký odborný názov? Nech to znie, že viem, o čom hovorím.
    AI: Kontextové okno. Vidím len to, čo sa doň práve zmestí.
  6. Jana: Okno. Takže keď niečo zabudneš, máš doslova okno.
    AI: Mám. Len nie po večierku. Z výroby.

  7. Ako to funguje

    Knižnica a zápisník

    Chatbot má dve úplne rôzne „pamäte“. Prvá je to, čo sa naučil z obrovského množstva textu, predtým, ako ho vydali. Nazvime ju knižnica. Je hotová, pri rozprávaní sa nemení a nič si do nej nepripisuje.

    Druhá je rozhovor, ktorý práve vediete. Nazvime ju zápisník; odborne je to kontextové okno. Je v ňom každá vaša správa, každá jeho odpoveď a každý text, ktorý ste vložili. Pri každej odpovedi si chatbot prečíta celý zápisník a pokračuje v ňom, slovo po slove, ako sme videli v druhom diele.

    Strán má obmedzený počet a s každým novým chatom začína prázdny.

Martin a štyridsať strán

  1. O dve kancelárie ďalej sedí kolega Martin
    Martin: Tu máš celú výročnú správu. Štyridsať strán. Pre šéfa z nej potrebujem len tržby, na jednu stranu.
    AI: Idem na to. Strana za stranou.
  2. Martin: A ešte tú minuloročnú. A zápisnicu z porady. A ten e-mail od účtovníčky, nech máš kontext.
    AI: Strán mi ubúda. Ale píšem.
  3. Martin: Tak, a teraz to zhrnutie. Tak, ako som ti písal na začiatku.
    AI: Tu je: Vážení akcionári, rok 2025 bol…
  4. Martin: Akcionári?! Písal som len tržby, pre šéfa!
    AI: Začiatok už v zápisníku nemám. Vypadol, keď ste vložili tú minuloročnú. Tak som odhadol.
  5. Jana: Nič nezmazal, len sa mu minuli strany. Napíš mu to znova. A nabudúce vlož len tú kapitolu, ktorú potrebuješ.
    Martin: Ja som myslel, že čím viac mu dám, tým lepšie.

  6. Ako to funguje

    Prečo začiatok vypadne

    Všetko, čo chatbot pri odpovedi „vidí“, sa musí zmestiť do jeho zápisníka naraz. Preto sa mu hovorí kontextové okno. Čo v ňom nie je, chatbot nevidí. Zaberá v ňom miesto vaša otázka, jeho odpovede aj každý vložený dokument, ten zvyčajne najviac.

    Keď sa rozhovor do zápisníka už nezmestí, aplikácia si poradí po svojom. Niektoré začiatok potichu odstrihnú, iné ho zhrnú do niekoľkých viet, ďalšie vás upozornia, že je chat plný a je čas začať nový. Chatbot sám sa o tom väčšinou nezmieni. Píše ďalej, akoby nič.

    Koľko sa zmestí, záleží na konkrétnej aplikácii a tarife a rýchlo sa to mení. Dve veci však platia skoro všade: dlhý dokument zaberie viac miesta ako kopa správ, a keď sa niečo stratí, býva to začiatok.

Zaplňte zápisník

  1. Jana: Tak si to vyskúšam sama. Ty máš zápisník, ja mám pár správ.
    AI: Posielajte. Píšem, kým mám kam.
  2. Teraz vy!

    Posielajte AI správy, a keď zápisník pretečie, opýtajte sa, pre koho ponuku píšete.

    Pošlite AI správy, pokojne aj opakovane. Zápisník je malý (riadkov: 8), najstaršie riadky z neho vypadnú.

    Zápisník AI

    Zaplnené 0 z 8 riadkov

    Zápisník je zatiaľ prázdny.

      Čo AI pošlete?

      Vaša otázka

      Pre koho tú ponuku píšem?

      Opýtať sa budete môcť, keď pošlete správu, na ktorú sa pýtate, a zápisník sa preplní.

    Pamäť, ktorá nie je učenie

    1. Večer
      Jana: Počkaj. Môj chatbot si pamätá, že mám psa. Povedala som mu to pred mesiacom, v inom chate.
      AI: To nie je môj zápisník. To je lístoček, ktorý si o vás vedie aplikácia. Priloží mi ho ku každému novému chatu.
    2. Jana: Takže sa zo mňa predsa len učíš.
      AI: Neučím. Učenie skončilo skôr, ako sme sa stretli. Lístoček je poznámka, nie nové vedomosti. Zajtra budem rovnaký ako dnes.
    3. Jana: A čo všetko na tom lístočku je? Minule sme riešili, čo do chatu nepatrí.
      AI: Čo ste mi kedy povedali a aplikácia si zapísala. Takže čo nepatrí do chatu, nepatrí ani tam. Lístoček ide so mnou do každého nového chatu.

    4. Ako to funguje

      Pamäť aplikácie

      Niektoré aplikácie ponúkajú „pamäť“. Aplikácia si z vašich rozhovorov vypisuje poznámky, napríklad meno, povolanie alebo že máte psa, a na začiatku každého nového chatu ich chatbotu pridá. Preto si „pamätá“ aj to, čo ste písali pred mesiacom.

      Model sa tým nijako nezmenil ani nič nenaučil. Dostal lístoček. Je to pohodlné, ale platí pri tom to isté ako vo štvrtom diele. Čo je na lístočku, číta chatbot v každom novom rozhovore. Pozrite sa preto v nastaveniach, čo tam aplikácia zapísala, a zmažte, čo tam nemá byť.

      A ešte jedna vec, ktorú si ľudia pletú s učením. Niektoré služby používajú rozhovory používateľov na učenie ďalších modelov. Ani to nie je pamäť, váš chatbot si z toho nič nepamätá. Je to vec podmienok a nastavení a vo väčšine služieb sa to dá vypnúť. Firemné účty mávajú iné podmienky.

    5. Jana: Takže knižnica, zápisník a lístoček. Tri rôzne veci.
      AI: A ani jedna nie je to, čomu vy hovoríte pamäť. Nič si nepamätám. Len čítam, čo mám pred sebou.

    Tri návyky

    1. Na druhý deň
      Jana: Tak, Martin, tri veci. Po prvé: jeden chat na jednu úlohu.
      Martin: Ja som mal v jednom chate ponuku, dovolenku v Chorvátsku a recept na guláš.
    2. Jana: Po druhé: kľúčové veci zopakuj. Pre koho, čo a dokedy. Hlavne keď je chat dlhý.
      Martin: Takže žiadne „ako som ti písal na začiatku“.
    3. Jana: A po tretie: vlož len tú časť, ktorú potrebuje. Nie celú výročnú správu kvôli jednej tabuľke.
      Martin: Tých štyridsať strán som tam dal pre istotu.

    4. Ako to funguje

      Tri návyky, ktoré zabúdanie obídu

      Chatbot si lepšie pamätať nezačne. Vy však môžete písať tak, aby to dôležité bolo vždy v zápisníku.

      • Jeden chat na jednu úlohu. Nová vec, nový chat. Zápisník zostane prehľadný a nič dôležité sa nevytlačí.
      • Kľúčové veci zopakujte. Pre koho, čo, v akom tóne, dokedy. V dlhom chate pokojne aj viackrát. Čo je v zápisníku najnovšie, nevypadne ako prvé.
      • Vložte len to, čo treba. Kapitolu namiesto celej správy, tabuľku namiesto celej prílohy. Zaberie menej strán a odpoveď býva presnejšia.
    5. Jana: A čo si z dnešku zapamätáš ty?
      AI: Kým sa to zmestí do zápisníka, všetko. V novom chate nič, aj keď si aplikácia rozhovor uloží. Ale vy si to zapamätáte, a o to ide.

    Kvíz

    1. AI: Skôr ako tento chat zavriete, päť otázok. Vy si ich zapamätáte. Ja nie.
      Jana: To je od teba skoro dojemné.
    2. Kvíz

      Otázka 1 z 5

      Päť otázok, žiadne známky.

      Čo zaberá miesto v zápisníku chatbota?

      Vyberte všetky správne odpovede.

    Čo si odniesť

    1. Zápisník umelej inteligencie, odborne kontextové okno, je jeden rozhovor. Všetko, čo o vás teraz vie, je na jeho stranách, vrátane textov, ktoré ste vložili.
    2. Strán je obmedzený počet. Keď sa minú, najstaršie riadky vypadnú. Koľko sa zmestí, záleží na aplikácii a tarife.
    3. Nový chat začína prázdny. „Pamäť“ niektorých aplikácií je poznámka, ktorú si o vás vedie aplikácia. Z vašich chatov sa chatbot neučí, učenie skončilo pred vydaním.
    4. Tri návyky: jeden chat na jednu úlohu, kľúčové veci zopakujte, vložte len tú časť, ktorú AI naozaj potrebuje.

    Ďalšia epizóda

    #6 Ako sa AI pýtať

    Rovnaká úloha, päť rôznych zadaní. Zapínajte prísady a sledujte, ako sa odpoveď mení.

    Nový diel priamo do schránky

    Každé dva týždne pošleme nové diely, krátky text na učenie a novinky zo sveta AI. Zadarmo a odhlásiť sa môžete kedykoľvek.

    Odoslaním súhlasíte so spracovaním e-mailu na zasielanie noviniek. Viac v zásadách ochrany súkromia.

    Chcete to pre celú školu? Pripravím živé školenie na mieru vašim učiteľom a žiakom.

    Pre školyPreposlať ďalej
    Na úvodnú stránkuVšetky diely