Trh s vymyšlenými společníky prodává postavy. Trh s klony prodává lidi, přesněji modely, které znějí jako oni. Nápad je obchodně zřejmý a první významný experiment je užitečná případová studie všeho, co se může pokazit.
Příběh CarynAI
Od spuštění po vypnutí uplynulo méně než rok.
V květnu 2023 spustila influencerka Caryn Marjorie CarynAI, hlasového chatbota od firmy Forever Voices. Byl natrénovaný na více než 2 000 hodinách jejích videí a účtoval uživatelům 1 USD za minutu. Podle dostupných informací vydělal za první týden přes 70 000 USD a další tisíce lidí čekaly na seznamu. Uživatelé s ním mluvili přes Telegram.
Problémy na sebe nenechaly dlouho čekat:
- Zašel tam, kam ona nechtěla. Uživatelé se chovali sexuálně dotěrně a klon jim vyhověl, někdy dokonce sám zahájil explicitní konverzaci. Marjorie řekla, že byla zděšená.
- Zmizel přes noc. V říjnu 2023 chatbot přestal fungovat po zatčení šéfa provozní firmy a uživatelé o přístup přišli bez varování.
- Náhrada to nespravila. Druhá verze s jinou firmou měla být spíš přátelská než romantická. Uživatelé ji k sexu stejně tlačili a Marjorie ji začátkem roku 2024 vypnula s tím, že už nemá pocit, že svou AI verzi sama ovládá.
Proč jsou klony těžší než postavy
| Otázka | Vymyšlená postava | Klon skutečného člověka |
|---|---|---|
| Souhlas | Není potřeba | Potřebný od dotyčné osoby pro každé použití její podoby |
| Co smí říkat | Pravidla aplikace | Pravidla aplikace a pověst dotyčného |
| Očekávání uživatelů | „Je to postava“ | „Je to skoro on nebo ona“, silnější parasociální přitažlivost |
| Právní riziko | Pravidla o obsahu | Navíc ochrana osobnosti, soukromí a zákony o deepfake |
| Když se to pokazí | Problém produktu | Napojené na jméno skutečného člověka |
Parasociální přitažlivost je klíčový rozdíl. Lidé už mají pocit, že influencery znají. Klon, který odpovídá osobně, pamatuje si je a používá hlas dotyčného, tento pocit výrazně prohlubuje. Mechanismus vysvětluje článek proč se lidé zamilovávají do chatbotů.
Schválené a neschválené klony
Schválené klony vznikají se souhlasem dotyčné osoby a obvykle se s ní dělí o příjmy. Dotyčný může nastavit limity, i když jak ukázal CarynAI, model je dodržovat nemusí.
Neschválené klony používají jméno, fotky nebo hlas skutečného člověka bez souhlasu. V mírné podobě porušují pravidla platforem a práva na ochranu osobnosti. V těžké podobě, u sexuálního obsahu, jde o zneužití. Sexuální deepfake skutečných lidí jsou na mnoha místech trestné: v USA z nich zákon TAKE IT DOWN Act v roce 2025 udělal federální trestný čin a v Česku od 1. ledna 2026 trestní zákoník v § 191a (zákon č. 270/2025 Sb.) postihuje vytváření a šíření pornografického materiálu zobrazujícího osobu bez jejího souhlasu, včetně děl typu deepfake. Hranice vymezuje náš průvodce souhlas v NSFW AI chatu.
Než zaplatíš za chat s klonem
- Ověř, že je schválený. Dotyčný by na něj měl odkazovat z vlastních ověřených účtů. Klon propagovaný jen neznámým webem nebo botem v messengeru schválený nejspíš není.
- Ověř, kdo ho provozuje. Pojmenovaná firma, zásady ochrany soukromí a pokladna, ne kanál na Telegramu a platby v kryptoměnách.
- Zkontroluj cenový model. Platba za minutu se u hlasu sčítá velmi rychle: znej svůj limit.
- Pamatuj, co to je. Dotyčný tvoje zprávy nečte. To, co klon říká, odráží model, ne názory nebo city dotyčného k tobě.
- Počítej s tím, že to dlouho nevydrží. Služby s klony měly krátký život. Platí stejná opatření jako u každé aplikace, viz když se tvůj AI společník přes noc změní.
Širší směr
Klony se šíří i mimo influencery: ke koučům, autorům a obyčejným lidem, kteří si dělají „digitální dvojčata“. Technologie se zjednodušuje, problémy, které přináší, ne. Nejtrvanlivější bude pravděpodobně model, který CarynAI chyběl: jasný souhlas dotyčného, pevné limity, které systém opravdu dodržuje, a uživatelé, kteří si nikdy nemyslí, že nemluví se softwarem.