Black Mirror in China: deepfakes van overleden geliefden
In de aflevering ‘Be Right Back’ (S2E1, 2013) van de scifi-serie Black Mirror biedt technologie rouwende mensen de mogelijkheid te blijven communiceren met hun overleden geliefden. De aflevering laat ons nadenken over de wenselijkheid daarvan, en stelt de vraag of de overledene zich dan geïdealiseerd moet gedragen of dat ook de slechte eigenschappen van iemand ‘behouden’ moeten worden.
We moeten dit niet willen, is het standpunt dat de serie ons voorkauwt. Maar Black Mirror heeft een westers perspectief, wij hebben geen traditie van spreken met doden. China heeft dat wel. AI-gegenereerde avatars van overleden geliefden zijn daar volgens Technology Review een opkomende trend.
Culturele context
Silicon Intelligence loopt volgens redacteur Zeyi Yang voorop. Het bedrijf biedt digitale replica’s aan die eenvoudige gesprekken kunnen voeren. Hoewel vroege versies beperkt en wat robotachtig waren, is de technologie sindsdien verbeterd waardoor avatars levensechter en interactiever zijn geworden. De technologie is dankzij kostendaling toegankelijker geworden voor een breder publiek. Bovendien hebben influencers gezorgd voor bekendheid en acceptatie. Kansen worden gezien op het terrein van rouwverwerking en herdenking.
Yang benadrukt de culturele context van China. Historisch gezien vinden Chinese mensen troost in het spreken met overleden familieleden via portretten en herdenkingsrituelen. AI-gegenereerde avatars worden gezien als een moderne uitbreiding van deze praktijken. Hierdoor is de markt voor deze digitale onsterfelijkheidsdiensten uitgebreid, met verschillende bedrijven die vergelijkbare technologieën aanbieden.
Toestemming
Er zijn nog wel technologische uitdagingen. AI-modellen hebben uitgebreide en hoogwaardige data nodig om nauwkeurige avatars te genereren. Dit is vooral uitdagend voor postume replicaties, die afhankelijk zijn van bestaande foto’s en video’s. Bovendien zijn dialecten moeilijk.
Uiteraard kleven hier ook ethische en juridische aspecten aan. Zoals over toestemming, want overleden personen kunnen hun digitale gelijkenis niet goedkeuren. Bedrijven zoeken nu toestemming van directe familieleden, wat tot conflicten kan leiden. Er zijn ook zorgen over de mogelijkheid dat digitale avatars ongepaste of onnauwkeurige reacties genereren, wat vragen oproept over verantwoordelijkheid.
Beeld gegenereerd met AI (Lexica).