Een betrouwbare survey onder Amerikaanse tieners laat zien dat 16 procent AI gebruikt voor ‘casual conversation’, 12 procent vraagt AI-chatbots om emotionele steun of advies. Het onderzoek van PEW bevat nog meer interessante statistieken, maar ik wil in deze blogpost inzoomen op de band die ze met AI hebben. Wat voor vragen en zorgen komen er op als we AI niet beschouwen als digitale tool maar als een vorm van relationele technologie?

Afhankelijkheid
Technology Review sprak met meerdere, opnieuw Amerikaanse, tieners en daaruit komt een divers beeld. De meesten komen met AI in aanraking omdat het ingebouwd zit in zoekmachines, schoolplatformen en apparaten, of omdat ouders en docenten het introduceren. Opvallend is dat vooral de jongere kinderen AI niet actief opzoeken zoals ze wel doen met sociale media of smartphones. Het artikel portretteert vervolgens een aantal tieners en hun band met AI.

De één mijdt AI vanwege de ecologische kosten, de ander maakt zich zorgen over de manier waarop AI het vermogen tot zelfstandig en creatief denken kan verzwakken. Over de hele linie willen de jongeren dat AI een gereedschap blijft onder menselijke regie, geen vervanging van hun denken, creativiteit, relaties of professioneel oordeel. Hun zorgen gaan minder over het directe verlies van eigen banen, en meer over bredere sociale effecten: desinformatie, bias, milieuschade, verzwakking van kritisch denken, onveilige content, misleiding en overafhankelijkheid.

Interessant is het verhaal van Evelyn (13) met diabetes. Voorspellende algoritmen die glucosespiegels en insulinedosering managen verminderen het risico op gevaarlijke nachtelijke hypo’s. Hier ontstaat een band met AI die veel verder gaat dan handige hulp bij huiswerk. In dat kader is ook dit andere artikel van Technology Review relevant: ‘What happens when a kid’s robot best friend dies?’

Robotvriendjes
Moxie is een speels robot-vriendje. De makers beweren dat ze “neurodivergente kinderen kunnen helpen door gezelschap te bieden en hen te laten oefenen met oogcontact maken, op hun beurt wachten en andere sociale vaardigheden die normaal gesproken door therapeuten worden aangeleerd”.  nderzoekers zien potentie: sociale robots zijn geduldig, voorspelbaar en kunnen sommige kinderen juist helpen om oogcontact te maken of gesprekken te beginnen. Tegelijk is de wetenschappelijke basis dun. Ook spelen mogelijk stereotypen een rol, namelijk het idee dat mensen met autisme liever met machines praten dan met mensen.

Het artikel benoemt een aantal ethische kwesties. Dit robotje is geen vriend, maar een product in een platformeconomie. Wat betekent het om een AI in de slaapkamer van een kind te zetten dat gevoelige informatie verzamelt, zonder dat altijd helder is waar die data belandt? En wat gebeurt er als een robot onverwacht reageert op ernstige emotionele onthullingen, of juist helemaal niet?

Daarnaast is er nog een ander groot probleem dat het voorbeeld van Moxie duidelijk maakt. Toen maker Embodied in 2024 de stekker uit de servers trok, werden veel Moxies in één klap onbruikbaar; kinderen verloren een vriend omdat een bedrijf een zakelijke beslissing nam.

Beeld gegenereerd met ChatGPT.