Waarom AI de lhbtq+-gemeenschap altijd zal teleurstellen

In mijn artikelreeks Voorspel schrijf ik over seks en seksualiteit in games. In deze maandelijkse nieuwsbrief bespreek ik het thema breder: games, tv, tech en sociale media vanuit een queer perspectief. Aan het eind van elke maand een nieuwe editie.

Het is ironisch dat non-binaire personages in games vaak robots zijn, terwijl machines juist veel moeite hebben met dingen die niet binair zijn en niet vast staan: een lamp staat aan of uit. Met moderne kunstmatige intelligentie is dat niet anders. Als zo’n systeem bijvoorbeeld wordt ingezet om het gender van mensen te bepalen, dan is het: man of vrouw.

Dat dit gevaarlijk kan zijn, blijkt wel uit hoe kunstmatige intelligentie steeds vaker in de gezondheidszorg wordt ingezet voor diagnoses en behandelplannen. Als iemands genderidentiteit verandert, kan er een compleet verkeerde diagnose of behandeling worden ingezet.

Omdat we nu massaal gebruikmaken van kunstmatige intelligentie zonder echt na te denken over de gevolgen, ben ik voor queer lifestylemagazine Winq in dit onderwerp gedoken.

Identiteiten binnen de lhbtq+-gemeenschap, zowel seksuele identiteiten als genderidentiteiten, bevinden zich op een breed spectrum en zijn ook nog eens fluïde. Deze identiteiten zijn vaak subjectief en lang niet altijd vanuit het uiterlijk af te lezen. Dat kunstmatige intelligentie daar moeite mee heeft, is grotendeels te danken aan de beperkte datasets waarmee deze systemen worden getraind.

Een bekend voorbeeld is als een systeem voor gezichtsherkenning wordt gevoed met voorbeelden van witte gezichten, het daarna moeite heeft om zwarte gezichten te herkennen. Dat zie je nu ook concreet terug bij moderne vormen van generatieve kunstmatige intelligentie. Neem Midjourney, een populaire tool om afbeeldingen te creëren door het typen van een prompt. Als je de opdracht geeft voor een afbeelding van een mens, dan krijg je standaard een wit persoon totdat je specifiek vraagt om iemand met een andere huidskleur.

Midjourney en chatbots zoals ChatGPT gedijen heel goed rond de norm: het gemiddelde van het gemiddelde. Wat buiten die norm valt is lastiger, omdat daar beperkte representatie voor is binnen de datasets. En nu ChatGPT en andere chatbots steeds meer leren van de teksten die ze zelf produceren, zal dat alleen maar worden versterkt.

De mensen die ik heb gesproken voor mijn artikel, deskundigen uit de gemeenschap, maken zich duidelijk zorgen. Dr. Sabine Weber van Queer in AI stelt: "Mensen die al gemarginaliseerd zijn zullen meer gemarginaliseerd worden. Dat is hoe deze systemen werken." Het hele artikel is te lezen in de Pride-editie van Winq die nu in de winkels ligt.

Likes en dislikes

• Tijdens een livestream liet het Belgische Larian Studios zijn game Baldur's Gate 3 zien, waarin spelers veel vrijheid krijgen. De keuzes van het publiek kwamen tot een scène waarin twee mannen seks hadden in het bos, waarbij één van de mannen veranderde in een beer. Voor Gamer.nl schreef ik een column over waarom de game juist door die scène op mijn wishlist staat. Interessant is dat Larian intimiteitscoördinatoren heeft ingehuurd om te helpen met de seksscènes in de game. Deze scenes zijn via motion capture geanimeerd.
  

• De Making of Immortality van No Clip is erg goed. Omdat deze game volledig uit filmbeelden bestaat, moesten de makers ook goed nadenken over hoe ze de vele intieme scènes aanpakten.

• Op 11 augustus komt de film Red, White & Royal Blue uit op Prime Video, over hoe de zoon van de Amerikaanse president en een Britse prins verliefd op elkaar worden. Het boek was erg leuk en de film ziet er ook uitstekend uit. Met onder andere Uma Thurman als de president.

• Netflix snapt hoe je bekende dragqueens inzet om je series en films te promoten. Het heerlijke duo Monét X Change en The Vivienne trainen om een Witcher te worden.

• De rubriek Viral in het Nederlands Dagblad stopt ermee. De afgelopen acht jaar heb ik daar wekelijks voor geschreven. Mijn laatste editie ging treffend genoeg over het verdwijnen van de blauwe Twitter-vogel.
  

• Ik schreef onder andere

• Over wat WeChat voor app is, omdat Elon Musk die wil namaken

• Wanneer kunstmatige intelligentie de mensheid gaat uitroeien

• Hoe zuigen aan je AirPods problemen kan oplossen (bij mij werkte dit)

• Wat je met Philips Hue in de tuin kan