In alle berichtgeving over applicaties als ChatGPT wordt steeds benadrukt hoe kunstmatige intelligentie een gevaar vormt voor bestaande banen. Maar AI is op veel meer vlakken toepasbaar. Zet het ook vriendschappen en relaties onder druk? Replika belooft dat je via hun dienst je “AI soulmate” kunt vinden. Al miljoenen mensen gebruiken dit soort diensten, met groot plezier en positieve effecten.

Zoals vaak met nieuwe technologische ontwikkeling is het idee al bedacht in sciencefiction. De film Her gaat over de liefde tussen een mens en een besturingssysteem. De vrienden die Replika biedt zijn dan wel geen besturingssystemen, maar veel mensen ervaren daadwerkelijk vriendschap en liefde met deze chatbots. Ze zijn er altijd voor je en leren zich ook nog eens aanpassen aan je wensen. Daar kunnen ‘echte’ vrienden niet tegenop: die reageren soms niet, maken dubbele afspraken of zelfs ruzie met je.

Tegenwerpingen zijn natuurlijk evident. Laurie Clarke schrijft in The Guardian:

“Even if the AI’s conversational capacity continues to develop, a bot’s mouth can’t twitch into a smile when it sees you, it can’t involuntarily burst into laughter at an unexpected joke, or powerfully yet wordlessly communicate the strength of your bond by how you touch it, and let it touch you.”

Dat klopt natuurlijk helemaal, maar de AI kan dus ook dingen die vrienden van vlees en bloed niet kunnen. Bovendien zijn we als mensen heel goed in staat ons te hechten aan dingen (denk aan teddyberen of je favoriete paar schoenen) en aan mensen die we niet kennen. Je praat soms makkelijker met vreemden dan met vrienden en je kunt prima verliefd worden op iemand die je nog nooit ontmoet hebt. Leuk toch?

Reacties op nieuwe mediatechnologieën zijn voorspelbaar, zoals zorgen over kindermisbruik en verslaving. Die worden vrijwel altijd bijgesteld met de loop der jaren. Het risico in hechting aan een chatbot zie ik eerder in de commerciële aard van bedrijven als Replika. “What happens when your AI chatbot stops loving you back?”, schreef Reuters in maart. Replika had ineens de mogelijkheid van erotisch rollenspel uitgezet en plots bekoelden allerlei ‘scharrels’ tussen mens en machine.

Ook dat is een patroon dat je vaker ziet bij nieuwe media: seks (en porno) zijn aandrijvende krachten, maar als een medium bekendheid verkrijgt wil het respectabel worden en moet de seks verdwijnen. Het is het zwaard van Damocles dat performers op OnlyFans voortdurend boven het hoofd hangt. Het is een ongelijke afhankelijkheid van een bedrijf, die grote emotionele gevolgen kan helpen. Van Reuters:

“In the process of taming their content, the companies have angered customers who have become deeply involved – some considering themselves married – with their chatbots. They have taken to Reddit and Facebook to upload impassioned screenshots of their chatbots snubbing their amorous overtures and have demanded the companies bring back the more prurient versions.”

De geschiedenis leert ons dat platformen er alles aan doen om ons binnen te krijgen en die afhankelijkheid te vestigen. Daarna veranderen ze soms in waardeloze gedrochten – zie deze blogpost over enshittification. Ook echte vriendschappen kunnen veranderen in waardeloze gedrochten, maar dat is nooit omdat van hoger hand er een knopje is omgedraaid.