Meta kondigde woensdag de oprichting aan van een AI-adviesraad met alleen maar blanke mannen erop. Wat zouden we anders verwachten? Vrouwen en gekleurde mensen spreken zich al tientallen jaren uit over het feit dat ze worden genegeerd en uitgesloten van de wereld van kunstmatige intelligentie, ondanks dat ze gekwalificeerd zijn en een sleutelrol spelen in de evolutie van deze ruimte.
Meta heeft niet direct gereageerd op ons verzoek om commentaar te geven op de diversiteit van de adviesraad.
Deze nieuwe adviesraad verschilt van de feitelijke raad van bestuur van Meta en de Oversight Board, en dat is meer verschillend op het gebied van gender- en raciale vertegenwoordiging. Aandeelhouders hebben dit AI-bestuur, dat ook geen fiduciaire plicht heeft, niet gekozen. Meta vertelde Bloomberg dat het bord zou inzichten en aanbevelingen bieden over technologische vooruitgang, innovatie en strategische groeimogelijkheden. Het zou periodiek bijeenkomen.
Het is veelzeggend dat de AI-adviesraad volledig bestaat uit zakenmensen en ondernemers, en niet uit ethici of iemand met een academische of diepgaande onderzoeksachtergrond. Hoewel je zou kunnen stellen dat huidige en voormalige leidinggevenden van Stripe, Shopify en Microsoft goed gepositioneerd zijn om toezicht te houden op Meta's AI-productroadmap, gezien het enorme aantal producten dat ze onder hen op de markt hebben gebracht, is keer op keer bewezen dat AI dat niet is. net als andere producten. Het is een riskante onderneming, en de gevolgen als het fout gaat kunnen verstrekkend zijn, vooral voor gemarginaliseerde groepen.
spot voorraad
De vrouwen in AI die het verschil maken
In een recent interview met Gadget Insider zei Sarah Myers West, directeur van het AI Now Institute, een non-profitorganisatie die de sociale implicaties van AI bestudeert, dat het cruciaal is om de instellingen die AI produceren kritisch te onderzoeken om er zeker van te zijn dat de behoeften van het publiek worden vervuld. geserveerd.
Dit is foutgevoelige technologie, en we weten uit onafhankelijk onderzoek dat deze fouten niet gelijk verdeeld zijn, maar onevenredig schadelijk zijn voor gemeenschappen die lange tijd de dupe zijn geworden van discriminatie, zei ze. We zouden de lat veel, veel hoger moeten leggen.
Vrouwen zullen veel vaker dan mannen de duistere kant van AI ervaren. Sensity AI ontdekte dat in 2019 96% van de AI-deepfake-video's online waren niet-consensuele, seksueel expliciete video's. Generatieve AI is sindsdien veel gangbaarder geworden, en vrouwen zijn nog steeds het doelwit van dit schendende gedrag.
Bij een spraakmakend incident uit januari gingen pornografische deepfakes van Taylor Swift zonder wederzijds goedvinden viraal op X, waarbij een van de meest verspreide berichten honderdduizenden likes en 45 miljoen views ontving. Sociale platforms zoals X zijn er historisch gezien niet in geslaagd vrouwen tegen deze omstandigheden te beschermen – maar aangezien Taylor Swift een van de machtigste vrouwen ter wereld is, kwam X tussenbeide door zoektermen als taylor Swift ai en Taylor Swift Deepfake te verbieden.
woord voor muziek
Maar als jou dit overkomt en je bent geen wereldwijde popsensatie, dan heb je misschien pech. Er zijn er talloze rapporten van middelbare scholieren die expliciet deepfakes maken van hun klasgenoten. Hoewel deze technologie al een tijdje bestaat, is de toegang nog nooit zo eenvoudig geweest. Je hoeft niet technologisch onderlegd te zijn om apps te downloaden waarvoor specifiek reclame wordt gemaakt om foto's van vrouwen uit te kleden of hun gezichten te verwisselen voor pornografie. Volgens de berichtgeving van NBC’s Kat Tenbarge is het zelfs zo dat Facebook en Instagram gehoste advertenties voor een app genaamd Perky AI, die zichzelf omschreef als een hulpmiddel om expliciete afbeeldingen te maken.
Twee van de advertenties, die naar verluidt aan de detectie van Meta ontsnapten totdat Tenbarge het bedrijf op de hoogte bracht van het probleem, toonden foto's van beroemdheden Sabrina Carpenter en Jenna Ortega met hun lichamen vervaagd, waarbij klanten werden aangespoord de app te vragen hun kleding uit te trekken. In de advertenties werd een afbeelding van Ortega gebruikt van toen ze nog maar 16 jaar oud was.
De fout om Perky AI te laten adverteren was geen op zichzelf staand incident. Meta’s Oversight Board heeft onlangs een onderzoek geopend naar het onvermogen van het bedrijf om meldingen van seksueel expliciete, door AI gegenereerde inhoud te behandelen.
Het is absoluut noodzakelijk dat de stemmen van vrouwen en gekleurde mensen worden betrokken bij de innovatie van kunstmatige-intelligentieproducten. Dergelijke gemarginaliseerde groepen zijn al zo lang uitgesloten van de ontwikkeling van wereldveranderende technologieën en onderzoek, en de resultaten zijn rampzalig.
ai genereerde horror
Een eenvoudig voorbeeld is het feit dat vrouwen tot de jaren zeventig werden uitgesloten van klinische onderzoeken, wat betekende dat hele onderzoeksgebieden zich ontwikkelden zonder dat men wist welke gevolgen dit voor vrouwen zou hebben. Vooral zwarte mensen zien de impact van technologie die zonder hen in gedachten is gebouwd – zelfrijdende auto’s zullen hen bijvoorbeeld eerder raken omdat hun sensoren mogelijk hebben het moeilijker het detecteren van een zwarte huid, volgens een onderzoek uit 2019 gedaan door het Georgia Institute of Technology.
Algoritmen die zijn getraind op toch al discriminerende gegevens, roepen alleen maar dezelfde vooroordelen op waar mensen ze in hebben getraind. Over het algemeen zien we nu al dat AI-systemen de rassendiscriminatie in stand houden en versterken in loondienst , huisvesting en strafrecht. Stemassistenten hebben moeite om verschillende accenten te begrijpen en vaak markeer het werk door niet-moedertaalsprekers van het Engels omdat het sindsdien door AI is gegenereerd zoals Axios opmerkte , Engels is de moedertaal van AI. Gezichtsherkenningssystemen flag Zwarte mensen zijn vaker mogelijke matches voor criminele verdachten dan blanke mensen .
De huidige ontwikkeling van AI belichaamt dezelfde bestaande machtsstructuren met betrekking tot klasse, ras, geslacht en eurocentrisme die we elders zien, en het lijkt erop dat niet genoeg leiders dit aanpakken. In plaats daarvan versterken ze het. Investeerders, oprichters en technologieleiders zijn zo gefocust op snel handelen en dingen kapot maken, dat ze niet lijken te begrijpen dat generatieve AI – de populaire AI-technologie van dit moment – de problemen alleen maar erger zou kunnen maken, en niet beter. Volgens een rapport van McKinsey zou AI grofweg de helft van alle banen kunnen automatiseren waarvoor geen vierjarige opleiding vereist is en die jaarlijks meer dan 42.000 dollar opleveren, banen waarin werknemers uit minderheidsgroepen oververtegenwoordigd zijn.
Er is reden tot bezorgdheid over de manier waarop een team van geheel blanke mannen bij een van de meest vooraanstaande technologiebedrijven ter wereld, dat deelneemt aan deze race om de wereld te redden met behulp van AI, ooit advies zou kunnen geven over producten voor alle mensen, terwijl slechts één beperkte demografische groep is vertegenwoordigd. Het zal een enorme inspanning vergen om technologie te bouwen die iedereen – werkelijk iedereen – zou kunnen gebruiken. In feite zijn de lagen die nodig zijn om daadwerkelijk veilige en inclusieve AI te bouwen – van het onderzoek tot het begrip op een intersectioneel maatschappelijk niveau – zo ingewikkeld dat het bijna duidelijk is dat deze adviesraad Meta niet zal helpen om het goed te doen. Waar Meta tekortschiet, zou er tenminste nog een startup kunnen ontstaan.
Blue Sky-satellietdiensten
We lanceren een AI-nieuwsbrief! Aanmelden hier om het vanaf 5 juni in uw inbox te ontvangen.