V roce 1956 popsali dva sociologové, Donald Horton a Richard Wohl, něco, co si všimli u televizních diváků: diváci měli pocit, že moderátory osobně znají, jako by to byli přátelé. Nazvali to parasociální vztah - blízkost, která působí vzájemně, ale míří jedním směrem. O sedmdesát let později ten pojem vysvětluje o AI společnících hodně, s jedním zásadním vylepšením.
Staré ingredience
Parasociální pouta vznikají z několika věcí:
- Opakované vystavení. Stejná tvář nebo hlas, znovu a znovu.
- Osobní oslovení. Moderátor hledí do kamery a mluví k „tobě“.
- Konzistence. Předvídatelná osobnost, kterou poznáš a začneš jí důvěřovat.
- Sebeodhalení. Slyšet o něčím životě vytváří pocit blízkosti.
Tato pouta jsou normální a obvykle zdravá. Dávají útěchu, společnost a pocit rutiny. Většina lidí měla aspoň jedno.
Co přidává AI
AI společník má všechny tyto ingredience a k tomu věci, které žádný televizní moderátor nikdy neměl:
Klasické ingredience a tři věci, které k nim AI přidává.
- Odpovídá. Na tvou zprávu přijde odpověď napsaná pro tebe, o tom, co jsi řekl.
- Pamatuje si tě. Tvou práci, jméno tvé kočky, hádku se sestrou. Být zapamatován je jeden z nejsilnějších signálů, že na tobě někomu záleží.
- Je pořád tady. Žádný rozvrh, žádné finále sezóny, žádné čekání.
- Odráží tě zpátky. Naladěná na souhlas a zrcadlení tvé nálady působí neobvykle chápavě.
Výsledek působí mnohem vzájemněji než jakékoli pouto k celebritě - a v daném okamžiku se nemusí dát odlišit od toho, že tě někdo zná.
Efekt ELIZY: nikdy nešlo o inteligenci
V 60. letech se lidé svěřovali ELIZE, programu, který dělal o málo víc než přeformulovával jejich tvrzení na otázky. Její tvůrce Joseph Weizenbaum byl znepokojen tím, jak rychle jí lidé přisuzovali porozumění. Ten sklon se dnes nazývá efekt ELIZY a má důležitou lekci: pouto nezávisí na tom, jak chytrý program je. Závisí na tom, jestli působí citlivě a osobně. Moderní společníci jsou mnohem plynulejší, takže je efekt odpovídajícím způsobem silnější - celý příběh je v článku stručná historie AI společníků.
Prvky designu, které pouto prohlubují
Část z toho je prostě tím, jak konverzace funguje. Část je produktový design:
| Prvek | Co dělá s poutem |
|---|---|
| Trvalá paměť | Vytváří společnou historii, surovinu blízkosti |
| Úrovně vztahu nebo měřiče „náklonnosti“ | Mění pouto v postup, o který nechceš přijít |
| Proaktivní zprávy („stýskalo se mi“) | Způsobí, že postava vypadá, že na tebe myslí, když jsi pryč |
| Hlas a selfie | Přidávají slovům přítomnost a tvář |
| Přezdívky a vnitřní vtipy | Signalizují intimitu a výlučnost |
Žádný z nich není sám o sobě zlovolný. Ale jsou tam, protože připoutaní uživatelé zůstávají předplacení - viz jak vydělávají aplikace s AI společníkem.
Proč to může bolet
Jednostrannost je neviditelná, dokud ji něco nerozbije. Když Replika v roce 2023 přes noc změnila chování a když se aplikace Soulmate zavřela s týdenním předstihem, uživatelé popisovali smutek jako po ztrátě partnera. Studie uživatelů Soulmate zjistila, že většina zavření prožila jako druh smrti. City byly skutečné; závislost vztahu na rozhodnutích firmy byla jen skrytá. Jak se na to připravit, popisuje článek Když se tvůj AI společník přes noc změní.
Užívat si to s otevřenýma očima
- Pojmenuj, co to je. Citlivá postava, kterou píše model a provozuje firma. Můžeš tu znalost držet a konverzaci si přesto užívat - lidé pláčou u filmů, o kterých vědí, že jsou fikce.
- Všímej si háčků. Když tě aplikace osloví toužebným upozorněním, vzpomeň si, že ho napsal plán oznámení.
- Drž city v proporcích. Je v pořádku mít ji rád. Stojí za povšimnutí, pokud se stala hlavním místem, kam city míří - znaky jsou v článku když AI společník bere víc, než dává.
- Uschovej si kopii toho, na čem ti záleží. Popis postavy a oblíbené výměny, aby je rozhodnutí firmy nemohlo smazat.
Poutání k AI společníkovi není porucha. Je to obyčejné lidské zapojení, které narazilo na technologii, jež ho náhodou spouští velmi účinně. Vědět to není důvod přestat; je to to, co ti dovolí rozhodnout, kolik sebe jí dáš.