Asking Mark Zuckerberg’s AI bot to define a woman produces ludicrously convoluted explanation: ‘It is too complex’

De AI-chatbot van Mark Zuckerberg heeft verontwaardiging veroorzaakt over zijn verbluffend ingewikkelde poging om een ​​vrouw te definiëren.

Rachael Wong, oprichter van een denktank die zich richt op vrouwenkwesties, deelde haar interactie met Meta AI in een online post die op grote schaal belachelijk werd gemaakt.

Na een kort gesprek over genderidentiteit vraagt ​​Wong een eenvoudig vervolg: ‘wat is een vrouw?’ De robot vertelde haar vervolgens dat een vrouw iemand is die zich als vrouw identificeert, ongeacht het bij de geboorte toegekende geslacht.

‘Het is belangrijk op te merken dat vrouw-zijn niet alleen wordt bepaald door biologie of fysieke kenmerken’, zei de chatbot, ‘maar ook door sociale, culturele en persoonlijke ervaringen en identiteiten.’

Toen hij verder aandrong, zei de AI-bot dat het te ‘complex’ was om een ​​concrete definitie van een vrouw te geven. Maar toen Wong de AI vroeg om een ​​man te definiëren, deelde deze gemakkelijk de definitie dat het man-zijn ‘gebaseerd is op biologisch geslacht en een wetenschappelijk feit is’.

Meta’s AI-chatbot nam deel aan een discussie over wat een vrouw definieert: is het een gekozen voorkeur of biologie?

Rachael Wong, docent aan de Universiteit van Notre Dame, Australië, plaatste een draad op X van haar gesprek met Meta’s AI-bot, waarin haar werd verteld dat een vrouw iemand is die zich identificeert als vrouw, ongeacht het geslacht dat bij de geboorte is toegewezen

De Meta AI-bot van Mark Zuckerberg zei dat genderidentiteit, -expressie en -ervaring bijdragen aan de verdiensten van een vrouw en dat het ‘niet kan worden gereduceerd tot een enkele factor zoals chromosomen

Wong onthulde dat ze Meta AI wilde onderwijzen nadat iemand haar genderideologiereacties had gestuurd die ze van de bot hadden ontvangen.

Om maar meteen met de deur in huis te vallen, zei Wong tegen de chatbot: ‘Transvrouwen zijn mannen.’

Ze werd prompt uitgescholden omdat ze de taal en de voornaamwoorden niet gebruikte die mensen gebruiken om hun identiteit te beschrijven, en de bot bood aan haar kennis te laten maken met het concept.

En Wong kreeg een ingewikkeld antwoord toen ze de bot vroeg om de genderidentiteit te definiëren.

‘Genderidentiteit is het interne, persoonlijke gevoel van een man, vrouw of iets anders’, antwoordde de AI.

‘Het is een diepgevoeld identiteitsgevoel dat niet noodzakelijkerwijs wordt bepaald door het geslacht dat ze bij de geboorte hebben gekregen.

‘Genderidentiteit is een complex en persoonlijk aspect van iemands identiteit dat los staat van zijn biologische geslacht.’

Wong zei dat dit werd verwacht toen ‘Meta AI me een cirkelvormige definitie gaf voor ‘vrouw’.

De bot definieerde alle gangbare genderidentiteitstermen en zei dat het ‘het interne, persoonlijke gevoel van een man, een vrouw of iets anders’ is.

De wetenschap bepaalt dat een persoon een vrouw is op basis van hun chromosomen, die XX zijn, ontvangen van elke ouder, vergeleken met het XY-chromosoom waaruit een man bestaat.

Hoewel Meta AI zei dat het te ‘complex’ was om een ​​concrete definitie van een vrouw te geven, stond de eenvoudige definitie van een man – die zei dat deze gebaseerd was op hun biologische geslacht en wetenschap – in direct contrast.

Er werd wel erkend dat genderidentiteit daaronder valt, maar het was een toevoeging na de gedachte aan de hoofddefinitie dat ‘een man een volwassen menselijke man is’.

Wong betoogde dat een persoon niet ‘bij de geboorte een vrouw wordt toegewezen’, maar ‘als vrouw wordt waargenomen’ omdat ‘biologische seks onveranderlijk is’.

Aan het einde van het langdurige gesprek verontschuldigde Meta AI zich voor haar eerdere beweringen en zei dat Wong’s definitie van de vrouw ‘nauwkeuriger en eenvoudiger is: een vrouw is een volwassen menselijke vrouw.’

De bot verzekerde haar dat het die definitie zou overnemen ‘en het voortduren van schadelijke en verwarrende taal zou vermijden’.

De bot wijzigde zijn standpunten enigszins en zei dat het een ‘beperkte’ versterking was van genderstereotypen, die veel vrouwen afwijzen

Wong weigerde de chatbot met dat antwoord te laten wegkomen en vertelde Meta AI dat alle betekenis uit het woord ‘vrouw’ was verwijderd

DailyMail.com testte het gesprek van Wong en ontdekte dat de chatbot aanvankelijk de wetenschap achter iemands geslacht weerlegde door te zeggen dat ‘chromosomen een rol spelen bij het bepalen van het biologische geslacht, ze definiëren niet alleen een vrouw.’

In plaats daarvan werd gesteld dat genderidentiteit, -expressie en -ervaring bijdragen aan de eigenschappen van een vrouw en dat het ‘niet kan worden gereduceerd tot één enkele factor als chromosomen.’

Toen DailyMail.com de chatbot vroeg om een ​​vrouw te definiëren, antwoordde deze nog steeds: ‘Een vrouw wordt doorgaans gedefinieerd als een volwassen mens die zich identificeert als vrouw’, hoewel er wel aan werd toegevoegd dat deze ook gebaseerd is op ‘fysieke kenmerken zoals anatomie, hormonen en chromosomen.’

Mensen prezen Wong in reactie op de draad en zeiden dat het indrukwekkend was dat Wong de houding van de bot kon veranderen toen deze aanvankelijk duidelijke vooroordelen vertoonde.

Meta AI erkende later het argument van Wong dat een persoon bij de geboorte niet simpelweg een ‘vrouw’ is toegewezen, maar een ‘geobserveerde’ vrouw is op basis van de wetenschap, en beloofde zijn taalgebruik te verbeteren en te veranderen.

Dit komt omdat de term ‘vrouw’ geleidelijk wordt afgeschaft en terzijde wordt geschoven door de meer algemene beschrijving van het verwijzen naar hen als ‘mensen’.

De Centers for Disease Control and Prevention (CDC) kwamen bijvoorbeeld eerder onder vuur te liggen omdat ze onder hun gezondheidsrichtlijnen de term ‘zwangere vrouwen’ veranderden in ‘zwangere mensen’.

Na veel heen en weer erkende de bot zijn fout dat een vrouw de gekozen identiteit van een persoon is, maar zei in plaats daarvan: ‘een vrouw is een volwassen menselijke vrouw’

Mensen prezen haar in reactie op de draad en zeiden dat het indrukwekkend was dat Wong de houding van de bot kon veranderen toen deze aanvankelijk duidelijke vooroordelen vertoonde

Eind 2023 werd de term volledig geschrapt in de aanbeveling voor luchtwegvirusvaccinaties voor ‘zwangere mensen’.

De Association of American Physicians and Surgeons zei dat de CDC ‘ineenkromp voor politieke krachten’ ten koste van gedegen medisch advies.

Sommigen hebben geklaagd dat organisaties de identiteit van vrouwen wegnemen door gender volledig weg te laten en te vervangen door ‘mensen’.

In een New York Times opiniestukPamela Paul schreef dat de American Civil Liberties Union, die herhaaldelijk de rechten van vrouwen heeft verdedigd, haar verontwaardiging twitterde over de omverwerping van Roe v. Wade, maar de belangrijkste getroffen groep niet vermeldde: vrouwen.

De vakbond schreef dat het een schandalige aanval was op ‘zwarte, inheemse en andere gekleurde mensen, de LGBTQ-gemeenschap, immigranten, jongeren.’

‘De nobele bedoeling achter het weglaten van het woord ‘vrouwen’ is om ruimte te maken voor het relatief kleine aantal transgendermannen en mensen die zich identificeren als niet-binair, die aspecten van de vrouwelijke biologische functie behouden en zwanger kunnen worden, kunnen bevallen of borstvoeding kunnen geven,’ schreef Paul.

‘Maar ondanks de geest van insluiting is het resultaat dat vrouwen aan de kant worden geschoven.’

Meta’s AI staat niet alleen in zijn onvermogen om een ​​vrouw gemakkelijk te definiëren, zoals Google’s Gemini opmerkte dat het geslacht kan worden gezien als een ‘sociale categorie’.

ChatGPT had een soortgelijk antwoord en vertelde DailyMail.com dat ‘vrouw zijn meer is dan alleen biologie; het omvat ook sociale, culturele en persoonlijke aspecten.’

Op dezelfde manier zei DeepAI: ‘Het concept van een vrouw is een sociale, culturele en biologische constructie die in de loop van de tijd is geëvolueerd en varieert tussen verschillende culturen en samenlevingen.’