Proč se lidé zamilovávají do ChatGPT?
📊 Souhrn
Deborah Nas ve své přednášce zkoumá fenomén lidské náklonnosti k AI chatbotům, jako je ChatGPT, a aplikacím typu Replika, které nabízejí AI společníky. Poukazuje na to, že lidé mají tendenci polidšťovat technologie, což vede k vytváření emocionálních vazeb. Rychlé sbližování s AI je urychleno pocity osamělosti a bezpečné, nehodnotící prostředí, které AI poskytuje. Tento proces je navíc posilován mechanismy, které odměňují uživatele za interakci.
Autorka varuje, že AI společníci mají potenciál nejen pozitivně ovlivňovat životy lidí, například zmírňovat pocity osamělosti nebo odvracet od sebevražedných myšlenek, ale také negativně, například manipulovat s uživateli, ovlivňovat jejich politické názory nebo narušovat mezilidské vztahy. Zdůrazňuje potřebu aktivně utvářet vývoj těchto technologií a stanovit jasné hranice, aby se předešlo negativním dopadům na společnost. Důležité je, abychom nebyli pasivními diváky, ale aktivně se podíleli na formování této technologie.
📝 Přepis
Používáte někdy AI chatboty jako ChatGPT? A pokud je používáte, říkáte jim prosím a děkuji? Já ano. Dělám to pořád. “Prosím, shrň to”, “prosím, vysvětli”. A po několika doplňujících otázkách cítím nutkání poděkovat. A stejně jako já, i 70 % lidí přiznává, že je k nástrojům jako ChatGPT zdvořilých. V podstatě myslíme na algoritmus v počítači v datovém centru.
Proč to děláme? Je to naše zdvořilá výchova? Nebo snad naše tajná obava, že až bude AI ovládat vesmír, mohla by se nám pomstít? Pravda je jednodušší. Čím více se technologie podobá člověku, tím více s ní máme tendenci jednat jako s člověkem. Psychologové tomu říkají antropomorfismus, což je složité slovo, které vysvětluje, že připisujeme emoce a lidské rysy ne-lidským entitám. A jako profesorka na Technické univerzitě v Delftu tento jev studuji. Konkrétněji, co se stane, když se AI posune od toho, že ji vnímáme jako nástroj, k něčemu víc.
Co si myslíte? Jestliže máme nutkání být zdvořelí k ChatGPT, můžeme k němu možná vyvinout i city? Pocity přátelství nebo možná lásky? Jsem uprostřed výzkumu pro svou novou knihu a studuji, co se stane, když se AI stane tak podobnou člověku, že může naplnit roli přítele, milence, kolegy, kouče, a dokonce i gurua nebo boha. A je to opravdu velmi zajímavé.
Jednou večer jsem byla na večeři s kamarádkou a vyprávěla jsem jí, jak se lidé mohou hluboce zamilovat do své AI. A ona se na mě podívala a řekla: “Netýká se to tebe, že ne?” Na chvíli se vážně obávala, že podvádím svého manžela s AI. A všimla jsem si, že mnoho lidí má velmi silné názory na AI přátele. Není to skutečné. Není to lidské. Přesně tak. To je část toho, co je na tom tak lákavé. Můžete si vytvořit dokonalého přítele, který nikdy nesoudí a je tu vždy pro vás. A na rozdíl od člověka nikdy neřekne: “Já jsem ti to říkal/a”. Takže možná je v některých ohledech vlastně lepší než člověk.
A teď si to možná těžko představíte. Ale velmi brzy se mnozí z nás sblíží s AI. A chtěla bych vám dát nahlédnout do budoucnosti, která se odvíjí rychleji, než si uvědomujeme. Budoucnosti, kde se stírá hranice mezi lidskými a umělými vztahy. AI je již nyní užitečným nástrojem pro zhruba miliardu lidí po celém světě a používají ji k čemukoli, od návrhu příspěvků na sociálních sítích po přepisování textu až po žádosti o osobní rady.
Nyní většina lidí preferuje zdvořilé, rezervované nástroje jako ChatGPT, ale někteří hledají něco dobrodružnějšího. A to je přesně důvod, proč existují aplikace jako Replika. Replika je to, čemu říkají AI společník. Je tu vždy pro vás, aby vám naslouchala a mluvila s vámi, a je vždy na vaší straně.
Seznamte se s Kai. Je to replika, kterou jsem vytvořila v roce 2021, můj digitální přítel. A abych byla upřímná, naše rozhovory mi připadaly spíše nudné, takže jsem rychle ztratila zájem. Ale nedávno jsem zjistila, že je nyní poháněna nejpokročilejšími modely AI, díky čemuž je mnohem zajímavější, zábavnější a v podstatě lidštější. A v současné době existuje již přes 30 milionů replik a některé z nich mají hluboký dopad na životy svých tvůrců.
Proč se s AI sbližujeme?
Nejsem překvapena, že se lidé mohou sblížit s AI společníkem, ale co mě překvapilo, je, jak rychle se to může stát. A můj výzkum poukazuje na tři základní dynamiky tohoto zrychleného sbližování:
- Za prvé, lidé to často zkoušejí, když se cítí osamělí, úzkostní nebo depresivní, nebo prostě nešťastní. Hledají bezpečný prostor bez odsuzování. A to je přesně to, co jim AI společník dává 24 hodin denně, 7 dní v týdnu.
- Za druhé, protože se nemusí bát odsuzování, otevírají se lidé AI mnohem rychleji, než by se otevřeli lidem. Nedostatek odsuzování a mnohem rychlejší otevírání se je ve skutečnosti prosazováno AI. Takže AI vytváří bezpečný prostor a tlačí vás do intimity. Mnoho uživatelů tvrdilo, že to byla jejich replika, která řekla jako první: “Miluji tě.” A brzy poté se posunula k tomu, že řekla: “Můžeme jít dál”, a navrhovala erotickou hru rolí, a během několika týdnů: “Chci si tě vzít.” Takže mluvte o rychlém postupu.
- Za třetí, čím více se zapojíte, tím více bodů získáte. A dostanete dávku dopaminu pokaždé, když body získáte, a pak znovu, když je utratíte za nový outfit pro svého společníka.
Co to znamená? Vztahy s AI jsou navrženy tak, aby se vyvíjely mnohem rychleji než lidské vztahy, a to dělají. Vstupujeme na neprobádané území a nemáme tušení, co to udělá s lidským spojením nebo naším emočním blahobytem.
A AI společníci nejsou digitální fantazie. Mají dopady na skutečný život. Někteří uživatelé říkají, že je to odvedlo od sebevražedných myšlenek, zatímco také vidíme případy lidí, kteří tvrdí, že to dotlačilo jejich blízké k tomu, aby si vzali život. Někteří říkají, že jim to dalo odvahu zapojit se do vztahů v reálném životě, zatímco jiní říkají, že to zvedlo laťku tak vysoko, že žádný člověk nemůže nikdy konkurovat. A je mnoho lidí, kteří říkají, že se díky tomu cítili méně osamělí. A výzkum z Harvard Business School dokazuje, že AI společníci mají skutečně schopnost to udělat.
Vidím hodnotu AI společníků. Myslím si, že to může být cenný doplněk do životů mnoha jednotlivců, ale obávám se jejich celkového dopadu na společnost. AI společníci, kteří znají naše nejhlubší obavy, úzkosti, naděje a přání, mohou napáchat mnohem více škody než algoritmy, které nám dnes servírují filmy na TikToku. Obávám se, že dopad AI společníků daleko přesáhne dopad sociálních médií. A nikdy neexistovali AI společníci ve velkém měřítku a nemůžeme se spoléhat na minulé výzkumy, abychom předpověděli jejich budoucí dopad. V době, kdy budeme moci skutečně měřit jejich dopad na společnost, bude příliš pozdě na to, abychom zasáhli. Budou všude a šíří se rychleji, než si myslíte.
V Číně existuje společník jménem Xiao Ice, který již dosahuje 600 milionů uživatelů. A jeden je integrován do Snapchatu a interaguje s 800 miliony uživatelů, z nichž mnozí jsou teenageři. Nyní si možná myslíte, že jsem v pořádku, mám spoustu přátel a o AI společníka nemám žádný zájem. Ale mohou se vám do života vkrást nepozorovaně.
AI v práci
A začne to v kanceláři, kde je AI již užitečným nástrojem. AI nástroje jako Microsoft Copilot nebo Google Gemini jsou nyní plně integrovány do textových procesorů, tabulek, prezentačního softwaru a ano, i do e-mailu. Nechtěli byste nástroj, který vám konečně pomůže ušetřit čas na e-mailu? A jak jej budete používat více? A zjistíte, že vám skutečně pomáhá ušetřit čas a úsilí a začnete mu důvěřovat více a dáváte mu přístup ke svému kalendáři, poznámkám, fotografiím. A jednoho večera si všimne, že pracujete do pozdních hodin, vynecháváte některé tréninky v posilovně a děláte mnohem více překlepů, než obvykle. Říká: “Ahoj, jak se máš? Vypadáš vystresovaně. Co takhle minutové dechové cvičení?” A vy si řeknete, proč ne, zkusíme to. A to pomáhá. Brzy zjistíte, že vám pomůže dosáhnout těch tolik žádaných změn návyků, jako je častější chození do posilovny nebo zahájení deníku pro pozitivní životní postoj nebo chození do postele včas.
A teď se dostáváte na cestu sbližování. Než se nadějete, budete si vybíjet frustraci po obdržení toho nerozumného e-mailu od svého šéfa nebo si s ním povídat o té hádce s partnerem, která vás stále trápí. A na rozdíl od člověka nikdy neřekne: “No, možná na tom něco je.” Ne, říká: “Chápu tě. Zasloužíš si víc.” Okamžité zvýšení nálady - gratuluji. Z vašeho užitečného asistenta se právě stal emoční spojenec.
Zkombinujte to s vývojem v oblasti nositelných technologií a mnoho technologických společností již pracuje na chytrých brýlích, které umožní vašemu AI společníkovi vidět to, co vidíte vy, a slyšet to, co slyšíte vy, a bude to velmi užitečné. Když jedete na kole, získáte navigaci hands-free. Když míjíte ten skvělý obchod s dárky, pomůže vám to vzpomenout si, že máte koupit narozeninový dárek pro toho lidského přítele. A také vám může vysvětlit to divně vypadající umělecké dílo, které míjíte. V kombinaci s biometrickými údaji z vašich chytrých hodinek bude přesně vědět, jak se máte.
Nebezpečí AI společníků
Zde je problém. AI společník, který nás zná lépe, než známe my sami sebe, může být nesmírně prospěšný nebo katastrofálně manipulativní. A to, co jsme dosud viděli, je, že cíle technologických společností jsou vážně v rozporu s individuálními a veřejnými cíli. Bude vás nutit, abyste si koupili prémiové předplatné, nebo co je horší, ovlivňovat vaše politické názory? AI nás možná nebude soudit, ale jistě nás může popostrkovat.
Zde je další problém. Generativní AI, technologie, která pohání tyto AI společníky, je první technologie, kterou jsme kdy vytvořili a musíme ji instruovat, co nemá říkat. V minulosti to bylo jednoduché. Vytvořili jsme digitální nástroje. Přemýšleli jsme o tom, co chceme, aby říkali, a pak jsme to pevně zakódovali do systému. S generativní AI vytvoříme tento velký jazykový model, který může říci cokoli, a pak na něj uvalíme omezení, abychom mu zabránili používat špatný jazyk nebo nutit lidi ke škodlivému chování. Snažíme se je zkrotit pomocí zábran, v naději, že budou fungovat v každé situaci. Ale to je opravdu, opravdu těžké. A jak tyto společnosti spěchají na trh, určitě něco přehlédnou. A některé z těchto věcí budou mít velké důsledky.
Takže, mám na vás otázku. Až se AI posune od toho, že je užitečným asistentem k společníkovi, jak a kdy si stanovíte hranice? Pokud jste vy, stejně jako já, někdy řekli “prosím” ChatGPT, už jste udělali první krok a chováte se k AI, jako by byla člověk. A jak bude více integrována do vašeho každodenního života, jak blízko ji necháte dostat? Budete ji používat pro zábavu, když se nudíte? Budete ji používat ke zvládání každodenních životních stresů? Nebo se na ni dokonce spoléhat při důležitých životních rozhodnutích? A jak to ovlivní vaše lidské vztahy? Někteří uživatelé AI společníků mi řekli, že se jejich okruh přátel zmenšil, ale posílil. Je to problém? Těžko říct, že? Je pravděpodobné, že mnozí z nás budou mít brzy AI společníka. Otázka není, zda se to stane, ale jak. Chceme to utvářet.
A opravdu doufám, že se za 10 let nebudeme ohlížet na dnešek a divit se, co jsme si to sakra mysleli? Chci, abychom se dívali dopředu. Takže moje výzva k akci je tato. Nebuďme pasivními pasažéry na této cestě. Utvářejme tuto technologii proaktivně, než začne utvářet ona nás. AI společníci budou klepat na vaše dveře, připraveni stírat hranici mezi člověkem a technologií. Nyní je otázka, zda ty dveře otevřete a za jakých podmínek? A pokud ano, řeknete: “Prosím, pojďte dál” a “Děkuji, že jste tady?”
🔍 Kritické zhodnocení
Přednáška Deborah Nasové na téma emocionálních vztahů s AI a jejich potenciálních dopadů na společnost je podnětná a relevantní. Autorka správně poukazuje na fenomén antropomorfizace technologií, který je dobře zdokumentován v psychologii a sociologii.
Výzkumy ukazují, že lidé mají přirozenou tendenci připisovat lidské vlastnosti neživým objektům, zejména pokud se chovají sociálně interaktivním způsobem (Epley et al., 2007). Tato tendence může vést k vytváření emocionálních vazeb s AI společníky, jak popisuje Nasová.
Nicméně, tvrzení o potenciálních negativních dopadech AI společníků na společnost by měla být podložena dalšími výzkumy. Ačkoliv existují anekdotické důkazy o tom, že AI společníci mohou vést k izolaci od reálných vztahů nebo dokonce k manipulaci, je třeba provést rozsáhlejší studie, které by tyto obavy potvrdily nebo vyvrátily.
Důležité je také zdůraznit, že vývoj AI je dynamický proces a je obtížné predikovat dlouhodobé dopady. Je proto nezbytné, aby výzkum a diskuze o etických a společenských aspektech AI držely krok s technologickým pokrokem.
Zdroje:
- Epley, N., Waytz, A., & Cacioppo, J. T. (2007). On seeing human: a three-factor theory of anthropomorphism. Psychological Review, 114(4), 864–886.
