Microsoft en OpenAI hebben een fonds van 2 miljoen dollar aangekondigd om de groeiende risico's te bestrijden van AI en deepfakes die worden gebruikt om de kiezers te misleiden en de democratie te ondermijnen.
Dit jaar zal het zien een recordaantal van 2 miljard mensen naar de stembus gaan bij verkiezingen in zo’n 50 landen, dus er zijn zorgen over de invloed die AI zal hebben op de kiezers – vooral die in kwetsbare gemeenschappen die mogelijk gevoeliger zijn om wat zij zien voor waar aan te nemen.
$ 499 tondel
De opkomst van generatieve AI, waaronder razend populaire chatbots zoals ChatGPT, heeft geleid tot een groot nieuw dreigingslandschap met door AI gegenereerde deepfakes die zijn ontworpen om desinformatie te bestendigen. Het helpt niet dat deze nieuwe tools op grote schaal beschikbaar zijn en iedereen in staat stellen nepvideo’s, foto’s of audio van spraakmakende politieke entiteiten te maken.
Maandag nog heeft de Indiase verkiezingscommissie politieke partijen opgeroepen om het gebruik van deepfakes en soortgelijke desinformatie in hun onlinecampagnes rond de verkiezingen te vermijden.
Het is tegen deze achtergrond dat alle grote technologiebedrijven, inclusief Microsoft en OpenAI, vrijwillige beloften hebben ondertekend om dergelijke risico’s tegen te gaan, en plannen hebben gemaakt om een gemeenschappelijk raamwerk op te bouwen om deepfakes aan te pakken die expliciet zijn gecreëerd om kiezers te misleiden.
Elders zijn grote AI-bedrijven begonnen deze risico’s aan te pakken door beperkingen in hun software in te voeren. Google heeft bijvoorbeeld gezegd dat het zijn Gemini AI-chatbot niet zal toestaan vragen over verkiezingen te beantwoorden, terwijl Facebook's moederbedrijf Meta ook verkiezingsgerelateerde reacties beperkt via zijn AI-chatbot.
Eerder vandaag, OpenAI gelanceerd een nieuwe deepfake-detector voor desinformatieonderzoekers, ontworpen om nep-inhoud te helpen identificeren die is gegenereerd door zijn eigen DALL-E-beeldgenerator, terwijl deze ook toegetreden tot de stuurgroep voor brancheorganisatie de Coalition for Content Provenance and Authenticity ( C2PA ), dat al leden telt zoals Adobe, Microsoft, Google en Intel.
Het nieuwe fonds voor maatschappelijke veerkracht maakt deel uit van deze bredere, verantwoorde AI-push, waarbij Microsoft en OpenAI nu streven naar meer AI-educatie en geletterdheid onder kiezers en kwetsbare gemeenschappen, aldus naar een blogpost de vandaag gepubliceerde bedrijven. Dit zou inhouden dat subsidies worden verstrekt aan een handvol organisaties, waaronder Older Adults Technology Services ( HAVER ), de Coalitie voor Herkomst en Authenticiteit van Inhoud ( C2PA ), Internationaal Instituut voor Democratie en Verkiezingsondersteuning ( Internationaal IDEE ), en partnerschap op het gebied van AI ( GOED ).
muskusproject 42
Volgens Microsoft zijn deze subsidies bedoeld om een beter begrip te creëren van AI en de mogelijkheden ervan in de hele samenleving. OATS zal zijn subsidie bijvoorbeeld blijkbaar gebruiken voor trainingsprogramma’s gericht op 50-plussers in de VS, die de fundamentele aspecten van AI bestrijken.
De lancering van het Societal Resilience Fund is slechts één stap die de toewijding van Microsoft en OpenAI vertegenwoordigt om de uitdagingen en behoeften op het gebied van AI-geletterdheid en onderwijs aan te pakken, zegt Teresa Hutson, Microsoft’s VP voor technologie en bedrijfsverantwoordelijkheid, in de blogpost. Microsoft en OpenAI zullen zich blijven inzetten voor dit werk, en we zullen blijven samenwerken met organisaties en initiatieven die onze doelen en waarden delen.