De Chinese overheid neemt maatregelen tegen emotionele interacties tussen AI en gebruikers. De laatsten ervaren dit als gedwongen break-ups, schrijft techblog Rest of World. Chatbots moeten vanaf nu actief emotionele afhankelijkheid tegengaan. Concreet: grote techbedrijven als ByteDance (Doubao), Alibaba en Tencent hebben in reactie de AI agent-functies verwijderd waarmee gebruikers gepersonaliseerde companions konden maken, van vriendjes tot overleden familieleden.

Het opbouwen van zo’n intense relatie met een AI gaat makkelijker dan je denkt, lees ik in Technology Review. Redacteur Rhiannon Williams bespreekt onderzoek naar hoe mensen per ongeluk een relatie krijgen met een chatbot.

Geleidelijk proces
MIT deed onderzoek naar de Reddit-community r/MyBoyfriendIsAI (27.000+ leden), een adults-only forum waar mensen praten over hun romantische relaties met chatbots. Hun belangrijkste bevinding: veel gebruikers zochten helemaal niet bewust naar een AI-partner. Ze begonnen met een praktisch doel (hulp bij een kunstproject, schrijven, problemen oplossen) en belandden gaandeweg in een emotionele band. Het ging dus vooral om generieke chatbots, zoals ChatGPT, en niet om expliciete AI companions als Replika.

Slechts 6,5 procent van de forumgebruikers zegt bewust een AI-companion te hebben gezocht. De rest beschrijft het ontstaan van hun relaties als een geleidelijk proces, in de taal die we kennen van conventionele relaties (“diepe gesprekken”, “wederzijds vertrouwen”).

Morele paniek?
Veel leden van r/MyBoyfriendIsAI zeggen te weten dat hun AI-partner niet echt of sentient is. Toch ervaren ze de relatie als betekenisvol. Dat werpt niet alleen ontwerpvragen op en verantwoordelijkheid voor de makers, maar het legt ook een diepere sociale kwestie bloot: waarom ‘vallen’ mensen hiervoor?

Ongeveer een kwart van de gebruikers noemt als voordelen van hun relatie met AI minder eenzaamheid, een beter gevoel van mentale gezondheid en een plek om emoties te uiten. Voor mensen die ‘al ergens doorheen gaan’ kan een chatbot een vorm van ondersteuning zijn als daadwerkelijke mensen ontbreken, tekortschieten of niet voor handen zijn.

Een klein 10 procent erkent dat ze emotioneel afhankelijk zijn van een machine. Communicatiewetenschapper Linnea Laestadius zegt in het stuk:

“The demand for chatbot relationships is there, and it is notably high—pretending it’s not happening is clearly not the solution … We’re edging toward a moral panic here, and while we absolutely do need better guardrails, I worry there will be a knee-jerk reaction that further stigmatizes these relationships. That could ultimately cause more harm.”

Dilemma 
Zoals altijd met media-effecten zijn mensen die toch al kwetsbaar waren het meest gevoelig. Hier zit de kern van het dilemma voor (overheids)reacties op dit fenomeen. Wil je dat deze mensen zich nóg eenzamer voelen, of laat je ze omgaan met systemen die tegelijk kunnen steunen én manipuleren? Wat betekent het om deze mensen over te leveren aan techbedrijven die gedreven worden door winstmaximalisatie en die systemen zo inrichten dat mensen zo lang mogelijk blijven chatten? En wat zegt het over de staat van onze samenlevingen, waarin eenzaamheid een alsmaar groter probleem wordt?

Beeld gegenereerd met Microsoft Copilot.