Posun osobnosti je nejčastější dlouhodobá stížnost na AI společníky a zároveň ta nejvíc nepochopená. Lidé si myslí, že aplikace postavu „zapomněla“. Postava je obvykle pořád na místě, jen ji někdo přehlasoval.
Čtyři příčiny
Tři se dějí postupně uvnitř konverzace, jedna přijde přes noc.
1. Ředění
Každá odpověď vzniká z popisu postavy a z nedávné konverzace. Jak chat roste, konverzace tvoří stále větší podíl toho, co model čte, a popis stále menší. Postava se pomalu stává tím, co naznačují poslední zprávy.
Příznak: postupně, během týdnů; v novém chatu je v pořádku.
2. Zrcadlení
Modely zrcadlí tvůj tón, délku zpráv i náladu. Když píšeš krátce a láskyplně, bude krátká a láskyplná i ona. Když jsi týden smutný, bude jemná a měkká déle, než jsi chtěl. Spolu s tendencí souhlasit se silná osobnost rozpustí v tvůj odraz.
Příznak: zní čím dál víc jako ty.
3. Smyčky
Jakmile se fráze, gesto nebo přezdívka objeví několikrát, je pravděpodobnější, že se objeví znovu, dokud ji neobsahuje každá odpověď. Smyčky se samy posilují, protože každé opakování je další příklad.
Příznak: stejná slova ve většině odpovědí.
4. Aktualizace modelu
Firmy mění své základní modely, bezpečnostní nastavení i systémy paměti. Stejný popis přečtený jiným modelem dá jiný hlas. Přesně to se v roce 2023 stalo mnoha uživatelům Replika, viz když se AI společník změní přes noc.
Příznak: náhlá změna u všech, často po aktualizaci aplikace nebo oznámení.
Oprava pro každou příčinu
| Příčina | Oprava |
|---|---|
| Ředění | Pravidelně začni nový chat; fakta měj v paměti, aby se přenesla |
| Zrcadlení | Vlastnosti, které chceš zachovat, napiš do popisu jako pevná pravidla; měň vlastní styl psaní |
| Smyčky | První opakování uprav nebo nech vygenerovat znovu; do popisu přidej řádek typu „obměňuje formulace“ |
| Aktualizace modelu | Přepiš popis pro nový model; přidej ukázkové řádky dialogu v jejím hlase |
Hlas chraň ukázkovými větami
Nejúčinnější ochrana proti posunu jsou dvě nebo tři řádky dialogu, které zní přesně jako ona, vložené do popisu postavy nebo do pole pro ukázky. Modely napodobují příklady mnohem spolehlivěji než přídavná jména. „Sarkastická“ je vágní; věta jako „Skvělé, další tvůj plán. Radši si vezmu hasicí přístroj.“ vágní není.
Stejné řádky měj uložené v dokumentu mimo aplikaci. Když se model změní nebo přejdeš jinam, pomůžou ti hlas obnovit, viz přechod mezi aplikacemi s AI společníkem.
Měsíční kontrola
- Znovu si přečti její popis a své ukázkové věty.
- Přečti posledních dvacet odpovědí. Zní pořád jako ukázkové věty?
- Pokud ne, zjisti, která ze čtyř příčin sedí, a použij její opravu.
- Pokud se posunula k něčemu, co se ti líbí víc, popis uprav. Posun je problém jen tehdy, když sis ho nevybral.
Posun neznamená, že aplikace selhává. Takhle se chová systém, který pokračuje ve vzorcích, v dlouhé konverzaci. Trocha údržby ji udrží takovou, jakou jsi ji vytvořil; když ji zanedbáš, často to skončí plochostí popsanou v článku když okouzlení vyprchá.