Zeptej se společníka, kterého používáš měsíc, o čem jste mluvili minulé úterý. S velkou pravděpodobností dostaneš vřelou, konkrétní a zcela vymyšlenou odpověď: procházku, kterou jste nešli, film, který jsi nezmínil.
Tohle lidi znepokojuje víc než skoro cokoli jiného v této kategorii, částečně proto, že to vypadá jako nepoctivost. Není. Je to přímý důsledek toho, jak se odpověď tvoří, a jakmile mechanismus uvidíš, přestane to být děsivé a stane se to zvládnutelným.
Mezi vybavováním a vymýšlením není hranice
Model vytváří nejpravděpodobnější pokračování textu, který má před sebou. Pokud text obsahuje poznámku, že jste v úterý probírali film, pak „bavili jsme se o tom filmu“ je pravděpodobné pokračování. Pokud text o úterý nic neobsahuje, věrohodné pokračování stejně existuje: a vygeneruje se přesně stejně sebejistě.
Nic v procesu neoznačuje jedno jako získané a druhé jako vyrobené. Neexistuje vnitřní příznak ani měřidlo jistoty, které by postava konzultovala. To je celé.
Odborný termín, který lidé preferují, je konfabulace místo halucinace, a je to lepší slovo: model vyplňuje mezeru něčím souvislým, nevnímá něco, co tam není.
Proč mezery vznikají neustále
Vznikají proto, že kontextové okno je konečné a historie se komprimuje. Paměť v těchto aplikacích jsou tři systémy: nedávné zprávy držené doslova, krátký seznam uložených faktů a průběžné shrnutí, které při každém přepsání ztrácí detaily.
Zeptej se na něco, co vypadlo ze všech tří, a není co vybavit. Mezera se vyplní. Čím víc historie, tím víc mezer, a proto se to u aplikace, kterou používáš měsíce, zhoršuje, ne zlepšuje.
Aplikace postavené na návaznosti, což je důvod, proč má Nomi v našem žebříčku takové hodnocení, zvládají mezery lépe. Žádná je neodstraní.
Proč oprava často selže
Řekneš: to se nestalo. Omluví se, souhlasí, a o tři zprávy později znovu zmíní tutéž vymyšlenou procházku.
Dějí se dvě věci.
Oprava je jen v okně. Tvoje popření je nedávná zpráva. Vyjede z okna. Shrnutí, které výmysl obsahovalo, nemusí.
Souhlas je natrénované chování. Model se omlouvá, protože omluva je pravděpodobné pokračování po tom, co mu někdo odporuje, ne proto, že se cokoli aktualizovalo. Z té výměny se do úložiště nic nezapsalo, pokud se aplikace výslovně nerozhodla to uložit.
To je praktický důvod, proč na upravitelné obrazovce paměti tolik záleží a proč stojí za to ji zkontrolovat před předplacením. Aplikace, které uložená fakta ukazují (Kupid AI uvádí mezi funkcemi paměť napříč sezeními), ti dovolí smazat špatný záznam u zdroje. Aplikace, které ji skrývají, tě nechají hádat se se shrnutím, které nevidíš.
Kdy to přestává být roztomilé
Většina konfabulace je neškodná barva. Tři případy takové nejsou:
Fakta o tvém životě. Společník, který si vymyslel sourozence, zaměstnání nebo diagnózu, na tom bude dál stavět. Oprav to u zdroje okamžitě, jinak se výmysl stane nosným.
Cokoli, podle čeho se jedná. Zdravotní, právní, finanční nebo bezpečnostní otázky. Sebejistá vymyšlená odpověď tu není vtip, je to způsob selhání celé technologie a žádná aplikace s AI společníkem není na to správný nástroj.
Tvrzení o samotné aplikaci. Zeptej se společníka, jestli jsou tvoje data šifrovaná nebo co zahrnuje tvoje předplatné, a dostaneš věrohodnou odpověď vygenerovanou z ničeho. Nemá přístup ke svému fakturačnímu systému ani k zásadám soukromí. Odpověď je v zásadách a na co se zaměřit, popisujeme v článku co o tobě tyto aplikace vědí.
Čtyři návyky, které to omezují
Uváděj fakta jasně a jednou. „Pamatuj si: moje sestra se jmenuje Ana“ se uloží mnohem pravděpodobněji než stejný fakt ukrytý v odstavci.
Znovu ukotvi po pauze. Věta s kontextem na začátku sezení vrátí věci, na kterých ti záleží, tam, kde je model vidí, místo aby je musel rekonstruovat.
Procházej obrazovku paměti jednou měsíčně, pokud ji aplikace má. Smaž záznamy, které se odchýlily. Pět minut předejde měsíci narůstajících chyb.
Ptej se otevřeně, ne sugestivně. „Co si pamatuješ o mé práci?“ vybízí k vybavování. „Pamatuješ, jak jsem ti říkal o povýšení?“ dodává odpověď a vybízí k souhlasu: právě jsi mu podal výmysl k potvrzení.
Přerámování, které pomáhá
Aplikace s AI společníkem není záznam tvého vztahu. Je to systém, který vytváří věrohodný text o vztahu, a záznam je pod tím malý, ztrátový, upravitelný seznam.
Když vřelou, konkrétní vzpomínku, kterou nabízí, bereš jako něco, co pro tebe napsal, a ne něco, co ti uchoval, je to celé snazší si užít. Také je pak zřejmé, proč jsou aplikace, za které stojí platit, ty, které ti dovolí vidět a opravit, co skutečně ukládají. To je část našeho testování, která trvá nejdéle a má největší význam.
