Hoe komt het dat zoveel bedrijven die afhankelijk zijn van het genereren van inkomsten met de gegevens van hun gebruikers extreem enthousiast lijken te zijn over AI? Als je het Signal-president Meredith Whittaker vraagt (en dat heb ik gedaan), zal ze je vertellen dat dit simpelweg komt omdat AI een surveillancetechnologie is.
Op het podium van Gadget Insider Disrupt 2023 legde Whittaker haar visie uit dat AI grotendeels onlosmakelijk verbonden is met de big data- en targeting-industrie die in stand wordt gehouden door onder meer Google en Meta, maar ook door minder consumentgerichte maar even prominente ondernemingen en defensiebedrijven. (Haar opmerkingen lichtjes aangepast voor de duidelijkheid.)
stadsdeur
Het vereist het surveillance-bedrijfsmodel; het is een verergering van wat we sinds eind jaren negentig hebben gezien en de ontwikkeling van surveillance-advertenties. Ik denk dat AI een manier is om het bedrijfsmodel voor surveillance te verankeren en uit te breiden, zei ze. Het Venn-diagram is een cirkel.
En het gebruik van AI is ook surveillant, toch? zij ging door. Weet je, je loopt langs een gezichtsherkenningscamera die is uitgerust met pseudo-wetenschappelijke emotieherkenning, en die gegevens over jou produceert, goed of fout, die zeggen: 'je bent gelukkig, je bent verdrietig, je hebt een slecht karakter, je bent een leugenaar, wat dan ook.' Dit zijn uiteindelijk surveillancesystemen die op de markt worden gebracht aan degenen die macht over ons hebben in het algemeen: onze werkgevers, overheden, grenscontroles, enz., om vaststellingen en voorspellingen te doen die onze toegang tot middelen en kansen zullen bepalen.
Ironisch genoeg, zo benadrukte ze, worden de gegevens die ten grondslag liggen aan deze systemen vaak georganiseerd en geannoteerd (een noodzakelijke stap in het assemblageproces van AI-datasets) door juist de werknemers op wie ze gericht kunnen zijn.
Er is geen manier om deze systemen te maken zonder menselijke arbeid op het niveau van het informeren van de grondwaarheid van de gegevens – het leren versterken met menselijke feedback, wat wederom gewoon een soort van technologie-washing onzekere menselijke arbeid is. Het zijn duizenden en duizenden arbeiders die heel weinig betaald krijgen, hoewel het massaal erg duur is, en er is geen andere manier om deze systemen te creëren, punt uit, legde ze uit. In sommige opzichten is wat we zien een soort Wizard of Oz-fenomeen: als we het gordijn opentrekken, is er niet zoveel dat intelligent is.
bach app
Niet alle AI- en machine learning-systemen zijn echter even uitbuitend. Toen ik vroeg of Signal AI-tools of -processen gebruikt in zijn app- of ontwikkelingswerk, bevestigde ze dat de app een klein model op het apparaat heeft dat we niet hebben ontwikkeld, maar dat we het uit de winkel gebruiken, als onderdeel van de gezichtsvervaging. functie in onze toolset voor mediabewerking. Het is eigenlijk niet zo goed... maar het helpt gezichten te detecteren op foto's van mensenmassa's en deze te vervagen, zodat wanneer je ze op sociale media deelt, je de intieme biometrische gegevens van mensen niet openbaar maakt aan bijvoorbeeld Clearview.
Maar hier gaat het om. Zoals… ja, dat is een geweldig gebruik van AI, en ontneemt dat ons niet alleen maar de negativiteit die ik op het podium naar buiten heb gebracht, voegde ze eraan toe. Natuurlijk, als dat de enige markt voor gezichtsherkenning zou zijn... maar laten we duidelijk zijn. De economische prikkels die het zeer dure proces van het ontwikkelen en inzetten van gezichtsherkenningstechnologie aandrijven, zouden dit nooit het enige nut laten zijn.