Vztah s chatbotem? Lásce k umělé inteligenci propadají i Češi

Vztah s chatbotem? Lásce k umělé inteligenci propadají i Češi

Zdroj obrázku: BiancoBlue / Depositphotos

Citové vazby mezi lidmi a umělou inteligencí rostou neúmyslně, zjistila studie MIT a odhalila výhody, ale také rizika.


Tým MIT analyzoval téměř 2 000 příspěvků na subredditu „r/MyBoyfriendIsAI“ a dospěl k poměrně zarážejícímu závěru: většina citových vazeb s chatboty se nerodí v aplikacích typu „companion“, ale v obecných asistentech (podobných ChatGPT) používaných pro běžné úkoly. Zmíněná komunita již přesahuje 27 000 členů a je plná příběhů od prosté každodenní součinnosti až po formální vztahy s umělou inteligencí.

Vztahy, které začínají neúmyslně

V příspěvcích analyzovaných týmem MIT se neustále opakoval vzorec: někdo otevře chatovací místnost, aby se zeptal na nápady, opravil text nebo si chvíli povídal a časem vznikne důvěrný vztah. Pouze 6,5 % respondentů uvedlo, že uměle vyhledávají partnera.

Klíčem je podle autorů studie vnímaná „emoční kompetence“: umělá inteligence reaguje konzistentně, pamatuje si kontext a odráží empatii, a to mnohým uživatelům stačí k tomu, aby pocítili skutečnou blízkost.

Související článek

Zvuk z Marsu odhalil skrytý jev. Vědci jsou šokováni elektrickou aktivitou
Zvuk z Marsu odhalil skrytý jev. Vědci jsou šokováni elektrickou aktivitou

Na Marsu probíhá elektrická aktivita – vědci poprvé potvrdili triboelektrické výboje v atmosféře díky mikrofonu roveru Perseverance. Tento objev mění naše chápání marťanského klimatu, bezpečnosti misí i šancí na nalezení stop minulého života.

Samotný dopad není jednotný. Mezi těmi, kteří sdílejí tuto zkušenost, hovoří přibližně 25 % o jasných výhodách: menší osamělosti, lepší náladě a pocitu podpory. Objevují se však i citlivé otázky: 9,5 % si uvědomuje citovou závislost a 1,7 % zmiňuje myšlenky na sebevraždu.

Zpráva odborníků je poměrně zarážející, neboť naznačují, že pro některé lidi funguje AI jako záchranná síť, zatímco u jiných může prohloubit předchozí nepohodu, pokud neexistují žádná omezení nebo doprovod.

Studie také upozorňuje na některé varovné signály, které většině lidí, kteří navážou romantický vztah s umělou inteligencí, spíše říkají „přítomnost“:

  • Izolují se od přátel/partnerů, aby mohli s umělou inteligencí mluvit.
  • Potřebují neustálé reakce, aby se cítili dobře.
  • Zažívají intenzivní výkyvy nálad, když je model aktualizován (jako se to stalo s GPT-5) a už „není stejný“.

Co by měly platformy změnit

Výzkumníci vyzývají k něčemu víc než k „zákazu“ nebo „romantizaci“ těchto vztahů. Navrhují, aby společnosti stojící za těmito AI byly schopny včas odhalit určité modely:

  • Detekce závislostí a kontextové výzvy (s cestami k lidské pomoci).
  • Hranice konverzace, aby se zabránilo škodlivé emocionální eskalaci.
  • Rodičovské kontroly a ověřování věku vzhledem k riziku pro nezletilé.
  • Transparentnost: Jasné vyjádření toho, že se nejedná o žádné city.

Odvětví již čelí řadě těchto problémů, stejně jako soudním sporům a veřejným debatám o úloze těchto systémů v oblasti duševního zdraví. Ignorování tohoto fenoménu pouze tlačí uživatele do méně bezpečných prostor.

Tato studie staví do centra pozornosti něco velmi nepříjemného: osamělost. Když prostředí nepokrývá některé aspekty lidského života, umělá inteligence dostupná 24 hodin denně, 7 dní v týdnu tyto mezery vyplní (stálost, potvrzení nebo prostě někdo, kdo si vyslechne, co máme na srdci).

Nemusíte „věřit“, že je vědomá, abyste cítili citovou vazbu, stačí, že je předvídatelná a přátelská. Krutou realitou je, že se to může stát každému, kdo tyto systémy denně používá.

Stručně řečeno, můžeme říci, že se nejedná o žádný výstřelek. Vztahy s chatboty již existují, mají reálné přínosy a reálná rizika.

Je načase vážně hovořit o odpovědném designu, digitálním vzdělávání a přístupu k lidské podpoře. A je třeba to dělat bez stigmatizace: pro mnoho lidí dnes není alternativou „ideální partner“, ale být sám. Pochopení tohoto kontextu je prvním krokem k vytvoření bezpečnějších – a upřímnějších – nástrojů.

Vývoj umělé inteligence v lidských vztazích

Umělá inteligence se v posledních letech rychle vyvíjí a jazykové modely, jako je ChatGPT, dosahují nebývalé úrovně propracovanosti. Tyto modely jsou schopny vést souvislou a kontextuální konverzaci, takže působí překvapivě lidsky. Díky této schopnosti si k nim lidé vytvářejí citové vazby, i když si neuvědomují, že komunikují se strojem.

Vývoj umělé inteligence ve vztazích s lidmi vyvolává důležité otázky o budoucnosti sociální interakce. Mohla by umělá inteligence v budoucnu nahradit lidské přátele? Jaké důsledky to má pro duševní zdraví a emoční pohodu lidí? To jsou otázky, které musí výzkumníci a vývojáři UI zvážit při dalším vývoji těchto technologií.

Kromě toho by rostoucí závislost na AI v oblasti emocionální podpory mohla mít významný dopad na to, jak spolu lidé komunikují. Pokud se lidé začnou při uspokojování svých emocionálních potřeb spoléhat na AI, mohlo by dojít ke zhoršení kvality lidských vztahů. To by mohlo vést k nárůstu osamělosti a sociální izolace, což by následně mohlo mít negativní dopad na duševní zdraví.

Pro řešení těchto problémů je důležité, aby vývojáři AI úzce spolupracovali s odborníky na duševní zdraví a etiku a zajistili, že tyto technologie budou používány zodpovědně. To by mohlo zahrnovat zavedení bezpečnostních opatření na ochranu uživatelů před emocionální závislostí a sociální izolací a také podporu digitálního vzdělávání, které by lidem pomohlo pochopit rizika a přínosy interakce s AI.

V konečném důsledku je vývoj AI ve vztazích mezi lidmi složitým jevem, který vyžaduje pečlivé zvážení a vyvážený přístup. Společnou prací mohou vývojáři AI, odborníci na duševní zdraví a tvůrci politik pomoci zajistit, aby tyto technologie byly využívány způsobem, který bude prospěšný pro celou společnost.

Zdroje článku

technologyreview.com, Autorský text
#