De Chinese overheid neemt maatregelen tegen emotionele interacties tussen AI en gebruikers. De laatsten ervaren dit als gedwongen break-ups, schrijft techblog Rest of World. Chatbots moeten vanaf nu actief emotionele afhankelijkheid tegengaan. Concreet: grote techbedrijven als ByteDance (Doubao), Alibaba en Tencent hebben in reactie de AI agent-functies verwijderd waarmee gebruikers gepersonaliseerde companions konden maken, van vriendjes tot overleden familieleden.

Het opbouwen van zo’n intense relatie met een AI gaat makkelijker dan je denkt, lees ik in Technology Review. Redacteur Rhiannon Williams bespreekt onderzoek naar hoe mensen per ongeluk een relatie krijgen met een chatbot.

Geleidelijk proces
MIT deed onderzoek naar de Reddit-community r/MyBoyfriendIsAI (27.000+ leden), een adults-only forum waar mensen praten over hun romantische relaties met chatbots. Hun belangrijkste bevinding: veel gebruikers zochten helemaal niet bewust naar een AI-partner. Ze begonnen met een praktisch doel (hulp bij een kunstproject, schrijven, problemen oplossen) en belandden gaandeweg in een emotionele band. Het ging dus vooral om generieke chatbots, zoals ChatGPT, en niet om expliciete AI companions als Replika.

Slechts 6,5 procent van de forumgebruikers zegt bewust een AI-companion te hebben gezocht. De rest beschrijft het ontstaan van hun relaties als een geleidelijk proces, in de taal die we kennen van conventionele relaties (“diepe gesprekken”, “wederzijds vertrouwen”).

Morele paniek?
Veel leden van r/MyBoyfriendIsAI zeggen te weten dat hun AI-partner niet echt of sentient is. Toch ervaren ze de relatie als betekenisvol. Dat werpt niet alleen ontwerpvragen op en verantwoordelijkheid voor de makers, maar het legt ook een diepere sociale kwestie bloot: waarom ‘vallen’ mensen hiervoor?

Ongeveer een kwart van de gebruikers noemt als voordelen van hun relatie met AI minder eenzaamheid, een beter gevoel van mentale gezondheid en een plek om emoties te uiten. Voor mensen die ‘al ergens doorheen gaan’ kan een chatbot een vorm van ondersteuning zijn als daadwerkelijke mensen ontbreken, tekortschieten of niet voor handen zijn.

Een klein 10 procent erkent dat ze emotioneel afhankelijk zijn van een machine. Communicatiewetenschapper Linnea Laestadius zegt in het stuk:

“The demand for chatbot relationships is there, and it is notably high—pretending it’s not happening is clearly not the solution … We’re edging toward a moral panic here, and while we absolutely do need better guardrails, I worry there will be a knee-jerk reaction that further stigmatizes these relationships. That could ultimately cause more harm.”

Dilemma 
Zoals altijd met media-effecten zijn mensen die toch al kwetsbaar waren het meest gevoelig. Hier zit de kern van het dilemma voor (overheids)reacties op dit fenomeen. Wil je dat deze mensen zich nóg eenzamer voelen, of laat je ze omgaan met systemen die tegelijk kunnen steunen én manipuleren? Wat betekent het om deze mensen over te leveren aan techbedrijven die gedreven worden door winstmaximalisatie en die systemen zo inrichten dat mensen zo lang mogelijk blijven chatten? En wat zegt het over de staat van onze samenlevingen, waarin eenzaamheid een alsmaar groter probleem wordt?

Beeld gegenereerd met Microsoft Copilot. 

Het verbreken van banden met familie is moeilijk. De ‘natuurlijke’ opvatting is immers dat bloed dikker is dan water. Familie zou juist voor altijd zijn. Recent onderzoek van socioloog Karl Pillemer van Cornell University laat zien dat zulke breuken in Amerika opvallend vaak voorkomen. Hij hield een survey onder volwassen Amerikanen en vond dat maar liefst 27 procent vervreemd is van een naast familielid. De meest voorkomende breuk is die tussen ouder en volwassen kind, waarbij meestal het kind het contact verbreekt.

Het is lastig om dit percentage te duiden, omdat er geen historische data zijn en het dus niet mogelijk is om een trend aan te geven. The Economist, die over het onderzoek schrijft, stelt dat veel sociologen en psychologen vermoeden dat vervreemding toeneemt in de VS. Het artikel wijdt de stijging aan groeiend individualisme dat persoonlijk geluk vooropstelt. Het maakt het makkelijker om je los te maken van misbruikende ouders of ouders die op enig andere wijze je welzijn in de weg staan.

De toon van het artikel is desondanks opmerkelijk negatief. De nadruk ligt op de zware emotionele kosten. Zoals gebruikelijk bij The Economist staat er geen naam van een redacteur bij. De anonieme auteur haalt uit naar sociale media:

“Threads on internet forums for people who want to break ties with their parents reveal strangers labelling people they have never met as narcissistic or toxic and advising an immediate cessation of contact. This may make it easier to shelve feelings of guilt.”

Naast individualisme wordt ook gewezen op de rol van therapie. Therapeuten zouden voorzichtiger moeten zijn bij het wijzen op familieproblemen als oorzaak van persoonlijk ongeluk.

Cijfers over dit soort breuken in Nederland of andere Europese landen ontbreken. Volgens het artikel liggen de percentages in Amerika zo hoog vanwege de hogere geografisch mobiliteit daar (er wordt meer en over grotere afstanden verhuisd, wat het eenvoudiger maakt om familie achter te laten) en het hogere aantal gescheiden ouders.

Living labs zijn hot. Gemeenten, bedrijven en kennisinstellingen plakken dit label op allerlei initiatieven rond complexe maatschappelijke vraagstukken, zoals sociale ongelijkheid, luchtvervuiling en veiligheid. Het Rathenau Instituut deed onderzoek naar het verschijnsel in Nederland om te bepalen in hoeverre, en op welke manier, ze deze beloftes kunnen waarmaken. In het kort gezegd: dat gaat nog niet goed. Een analyse van ruim negentig initiatieven laat zien dat er nauwelijks sprake is van cocreatie met burgers of eindgebruikers, en dat de kennis die opgedaan wordt moeilijk overdraagbaar of breed toepasbaar is.

De stad als lab
Steden worden steeds meer gezien als innovatieplatforms en -proeftuinen. Living labs passen daarbij. Ook de typische deelnemers van living labs zijn stedelijk: hoogopgeleide burgers, creatieve ondernemers en universiteiten. Een living lab is te definiëren als:

“zowel een fysieke locatie als een gezamenlijke aanpak, waarin verschillende partijen experimenteren, cocreëren en testen in een levensechte omgeving, afgebakend door geografische en institutionele grenzen” (definitie van Schliwa en McCormick, p. 8).

Niet alles wat zich living lab noemt, voldoet aan deze definitie. Daarom onderscheiden de onderzoekers vier verschillende types: open wetenschappelijke onderzoeksfaciliteiten (gericht op kennisvalorisatie); fieldlabs van de maakindustrie (gericht op concurrentiepositie); commerciële stedelijke testfaciliteiten (gericht op innovatie); en daadwerkelijke living labs (gericht op transitiebeleid). Deze types verschillen in de mate van cocreatie en in aard van de ruimte: dat kan een echt lab zijn, een straat maar ook een natuurgebied.

Bestaande living labs
Een scan van de onderzochte initiatieven die zich als living lab presenteren laat zien dat die zich inderdaad vooral in steden bevinden, al zijn er ook initiatieven daarbuiten. Overheden doen in twee derde van de gevallen mee. Een kwart van de initiatieven heeft geen kennisinstelling als partner. Bedrijven zit er goed in: alleen in 1 op de 5 gevallen niet. De thema’s die centraal staan zijn bijvoorbeeld hernieuwbare energie, de circulaire economie, zorg, stadsvernieuwing en het versterken van de concurrentiekracht van het bedrijfsleven. Een paar voorbeelden van projecten, die allen in het rapport gedetailleerd worden besproken:

Open wetenschappelijke onderzoeksfaciliteiten:

• Dutch Optics Centre van TNO en de TU Delft;
• PhenoLab van Wageningen UR.

Fieldlabs van de maakindustrie:

• Aqua Dock/RDM Campus van Hogeschool Rotterdam, Havenbedrijf Rotterdam en gemeente Rotterdam;
• de Duurzaamheidsfabriek in Dordrecht.

Commerciële stedelijke testfaciliteiten:

• Flo (‘het eerste persoonlijke fietsverkeerslicht ter wereld’) in Utrecht;
• Innofest, een initiatief van acht festivals.

Living labs:

• HvA Fieldlabs van de Hogeschool van Amsterdam;
• Circulair Buiksloterham van 22 partijen in Amsterdam.

Effectiviteit als transitie-instrument
Het gaat dus om specifiek lokale initiatieven, die zich niet zomaar laten vertalen naar andere contexten. Er is niet altijd een bredere toepasbaarheid. Voor zo’n vertaalslag zijn extra inspanningen nodig. Zo’n gecoördineerde meerjarenaanpak moet iemand op zich nemen, maar niet alle partijen hebben belang bij locatie-overstijgende doelen. De onderzoekers schrijven:

“Stadbewoners en lokale bestuurders die deelnemen in een living lab zijn wellicht vooral geïnteresseerd in het vinden van een praktische oplossing die werkt in hun stad. Voor bedrijven kan het wel aantrekkelijk zijn om te investeren in schaalbaarheid, omdat ze daarmee oplossingen kunnen ontwikkelen die ook elders verkocht kunnen worden. Kennisinstellingen kunnen vanuit een wetenschappelijk interesse ook belang hebben bij het werken aan overdraagbare kennis.

Daarnaast speelt het bekende fenomeen dat maatschappelijke uitdagingen vragen om echt vernieuwende oplossingen, maar dat deze oplossingen vaak ontwrichtend en ondermijnend zijn
voor gevestigde belangen en partijen. Bij living labs moeten daarom ook partijen worden betrokken die de gevestigde orde willen of durven uitdagen. Als transitie-instrument moeten living labs dus juist ook worden benut voor het experimenteren met ‘disruptieve’ innovaties” (p. 36).

De onderzoekers besluiten met punten die nodig zijn om living labs effectief in te zetten voor maatschappelijke doelen en transities:

• Experimenten moeten op elkaar voortbouwen en van elkaar leren. Daarvoor is een ‘multilevel’-aanpak nodig waarbij naast lokale overheden ook provincies, de rijksoverheid en/of de Europese Commissie betrokken zijn;
• Living labs moeten openstaan voor oplossingen, ook als die ontwrichtend of ondermijnend zijn voor gevestigde belangen en partijen;
• Er zijn specifieke richtlijnen nodig voor goede laboratoriumpraktijken om de maatschappelijke acceptatie te bevorderen en burgerrechten te beschermen.

De hoeveelheid nieuwe films, series en boeken over zombies heeft geleid tot een toename van wetenschappelijke artikelen over dit fenomeen. Beschreef de ene onderzoeker zombies nog als ‘representanten van het failliete neoliberale systeem’, beweert een andere onderzoeker nu [abstract] dat zombies het best kunnen worden vergeleken met ‘illegale’ vluchtelingen. Volgens de onderzoeker is het leven van de zombies te vergelijken met wat de filosoof Giorgio Agamben [wiki] ‘bare life’ noemt. Mensen die in deze toestand verkeren zijn volgens Agamben in meerdere opzichten geïsoleerd; zij genieten geen bescherming van de staat en worden lichamelijk uitgebuit. Zij zijn als het ware levende doden. De link met illegale vluchtelingen is hiermee makkelijk gelegd. De zombie dient zo als projectievlak voor ‘onze’ eigen angsten, namelijk het idee dat onze eigen levens fragiel zijn en het erg makkelijk is om zelf tot zombie te worden en een ‘bare life’ te moeten leven.

Sneakerfreaks zijn jongeren met een fanatieke voorliefde voor sportschoenen van bepaalde merken. Deze subcultuur bestaat al lang, maar is door het internet toegankelijker geworden (zie dit scriptieonderzoek). Waar de liefhebber vroeger winkels moest afstruinen en dolblij was met een tripje naar het buitenland en de daarbij horende kans op een pareltje, kun je nu van alles online bestellen (zoals hier en hier). Je hoeft dus minder moeite te doen voor een nieuw paar exclusieve patas. Schoenenverkoopgigant Footlocker heeft nu een wiki gelanceerd waar sneakerfreaks hun kennis tentoon kunnen stellen. Sneakerpedia moet een gemeenschap worden waar alle informatie over een bepaald model te vinden is, uiteraard met foto.

De viering van het landskampioenschap van gisteren laat zien dat stedelijke identificatie bestaat en werkt. Vanaf de euforie bij de 1-0 vierde heel Amsterdam feest, compleet met zwemmen in Amsterdams water. Klassieke cultural studies-onderzoekers zouden dit feest mogelijk lezen als verzet tegen de negatieve houding ten aanzien van Amsterdam van de laatste tijd. Of dit klopt, is een empirische vraag die alleen beantwoord kan worden met onderzoek, maar duidelijk is dat de clubidentiteit van Ajax dwars door klasse en afkomst gaat. Op het Museumplein waren alle Amsterdamse etniciteiten en standen bijeen. Zij aan zij en onder opperbeste sfeer werd gezongen en feestgevierd. Opvallend was dat het feest continu door iedereen werd vastgelegd (zie de vele telefoons in dit filmpje), om ongetwijfeld gedeeld te worden via sociale media. Daarnaast viel op dat ‘Joden’ een breed gedragen geuzennaam is, ondanks (of wellicht dankzij) pogingen van burgemeester Van der Laan om ervan af te geraken.

Lees een uitgebreidere versie op DeJaap.

Volgens een onderzoek [PDF] van Jeanette Sutton is het niet aanneembaar dat slachtoffers van rampen Twitter of andere sociale media gaan gebruiken tijdens of kort na de ramp om informatie te verkrijgen. In dit stadium zullen mensen eerder gebruik gaan maken van ‘traditionele’ media, stelt Marla Perez-Lugo in haar onderzoek [PDF] naar de rol van televisie en rampen. Voor de slachtoffers gaat het dan ook niet zozeer om informatieoverdracht maar meer om het creëren van een gemeenschap en de daaruit voortvloeiende emotionele ondersteuning. Volgens Sutton is het wel zo dat Twitter een belangrijke rol speelt bij de informatievoorziening voor de media. Hier kan Twitter corrigerend werken en misleidende of foutieve informatie rechtzetten.

CC foto: Matthew Kenwrick