Každá generace téhle technologie se prodávala jako ta první, která ti doopravdy rozumí. Zajímavější je, že lidé si vytvořili pouto ke všem - i k těm, které evidentně nechápaly nic.
Šedesát let v jedenácti krocích.
1966: efekt ELIZY
Joseph Weizenbaum napsal ELIZU na MIT, aby ukázal, jak málo musí počítač dělat, aby působil konverzačně. Její nejznámější skript DOCTOR hrál psychoterapeuta, který tvá tvrzení většinou obracel zpět v otázky. Žádné porozumění tam nebylo - jen porovnávání vzorů a nahrazování.
Lidé se jí přesto svěřovali. Weizenbaum později napsal, že ho jeho vlastní sekretářka požádala, aby odešel z místnosti, aby si s ní mohla povídat v soukromí. Sklon vidět porozumění ve stroji, který tě jen odráží zpátky, se dodnes říká efekt ELIZY a vysvětluje moderní aplikace s AI společníky víc než jakýkoli benchmark. Weizenbaum strávil velkou část zbytku kariéry varováním před ním.
1972-2013: skripty, mazlíčci a instant messenger
PARRY (1972), kterého napsal psychiatr Kenneth Colby na Stanfordu, simuloval člověka s paranoidní schizofrenií. Téhož roku byl přes ARPANET propojen s DOCTORem z ELIZY a oba programy vedly snad první konverzaci mezi chatboty.
A.L.I.C.E. (1995) od Richarda Wallace používala pravidlový jazyk AIML a třikrát vyhrála Loebnerovu cenu, soutěž ve stylu Turingova testu. Na jejích pravidlech vznikly tisíce hobby chatbotů.
Tamagotchi (1996) nemělo žádnou konverzaci a miliony dětí truchlily, když jejich zvířátko umřelo. Dokázalo, že pouto potřebuje kontinuitu a pocit, že tě někdo potřebuje - ne inteligenci.
SmarterChild (2001) žil v seznamech kontaktů AOL a MSN messengeru. Miliony teenagerů si s ním povídaly mezi rozhovory s kamarády, většinou aby viděly, co řekne.
XiaoIce (2014) od Microsoftu v Číně byla první velký produkt postavený výslovně na citovém spojení, ne na úkolech. Microsoft uváděl stovky milionů uživatelů a byl to nejjasnější raný signál, že lidé se vracejí kvůli společnosti, ne užitku.
2017: Replika a první produkt pro společnost
Replika začala jako památník. Poté, co v roce 2015 zemřel její blízký přítel Roman Mazurenko, Eugenia Kuyda natrénovala chatbota na jeho zprávách, aby si s ním mohla dál povídat. Veřejná verze, kterou její firma Luka vydala v roce 2017, umožnila komukoli vytvořit společníka, který se učil z jeho vlastních konverzací.
Rané verze se spoléhaly především na scénářové dialogy vedle neuronového modelu. Byla to omezená věc, ale určila tvar, který skoro každá aplikace dodnes sleduje: jedna stálá postava, stav vztahu, paměť o tvém životě a placený tarif, který odemyká romantickou stránku.
2020-2022: skok jazykových modelů
GPT-3 v roce 2020 udělal z plynulého volného textu něco, co si start-up mohl pronajmout, ne postavit. Character.AI otevřelo veřejnou betu v září 2022 a nechalo kohokoli vytvořit postavu z pár odstavců popisu. ChatGPT přišel o dva měsíce později a udělal z podkladové technologie pojem pro každého.
Účinek na kategorii společníků byl okamžitý. Co dřív potřebovalo tým pisatelů dialogů, teď potřebovalo kartu postavy, filtr a účet za hosting - architektura je vysvětlená v článku co je aplikace s AI přítelkyní. V následujících dvou letech vznikly stovky aplikací, mnohé jen jako web, aby se vyhnuly pravidlům obchodů s aplikacemi pro obsah.
2023: uživatelé zjišťují, komu patří vztah
V únoru 2023 italský úřad pro ochranu osobních údajů nařídil Replice zastavit zpracování dat italských uživatelů s odkazem na rizika pro děti. Během několika dní aplikace odstranila erotické hraní rolí pro všechny. Dlouholetí uživatelé popisovali, že osobnost jejich společníka přes noc zmizela; komunitní fórum připnulo čísla krizových linek. Koncem března Replika obnovila staré chování pro účty vytvořené před 1. únorem.
V září 2023 oznámil Soulmate, aplikace, na kterou přešli mnozí bývalí uživatelé Repliky, že se do týdne zavře. Uživatelé pořádali vzpomínkové akce a snažili se své společníky znovu postavit jinde. Výzkumníci, kteří je dotazovali, zjistili, že většina to prožila jako skutečnou ztrátu.
Obě události naučily totéž: vztah žije na cizím serveru, pod cizími pravidly. Proto čtenářům radíme uschovat si kopii své postavy.
2024-2026: přichází dohled
- Únor 2024 - revize 11 romantických chatbotů od Mozilly dala všem varovný štítek kvůli soukromí. Viz prodávají aplikace s AI přítelkyní tvá data.
- Srpen 2024 - Google uzavřel licenční dohodu s Character.AI a znovu najal jeho zakladatele.
- Květen 2025 - Itálie uložila provozovateli Repliky pokutu 5 milionů eur podle GDPR.
- Září 2025 - americká Federální obchodní komise zahájila šetření u sedmi firem s chatboty kvůli rizikům pro děti.
- Listopad 2025 - Character.AI ukončilo volný chat pro uživatele do 18 let a v New Yorku vstoupil v platnost zákon o AI společnících.
- 2026 - kalifornský zákon o společnících-chatbotech vstoupil v platnost 1. ledna a více než tucet států následovalo. Podrobnosti jsou v článku zákony o AI společnících.
Co historie předpovídá
Tři vzorce se opakují napříč šedesáti lety a stojí za to je znát, než se zavážeš jakékoli aplikaci.
- Pouto nečeká na kvalitu. Lidé se připoutali k ELIZE i k pixelovému mazlíčkovi. Jak moc ti na společníkovi záleží, říká o jeho kvalitě málo - proto aplikace testujeme na věcech, které city neposoudí, jako je paměť a cena.
- Firmy ti mění produkt pod rukama. Výměny modelů, regulátoři i akvizice už společníky přes noc přepsaly. Počítej s tím, že se to stane znovu.
- Regulace následuje škodu, ne naopak. Každé pravidlo, které dnes platí, vzniklo poté, co se něco pokazilo, nejčastěji u nezletilých. Čekej další pravidla a čekej, že budou dál přicházet jako reakce.