Microsoft heeft herbevestigd het verbod op Amerikaanse politiediensten om generatieve AI te gebruiken voor gezichtsherkenning via Azure OpenAI Service, de volledig beheerde, ondernemingsgerichte verpakking van het bedrijf rond OpenAI-technologie.
Taal die woensdag is toegevoegd aan de servicevoorwaarden voor Azure OpenAI Service verbiedt duidelijker dat integraties met Azure OpenAI Service door of voor politiediensten worden gebruikt voor gezichtsherkenning in de VS, inclusief integraties met de huidige – en mogelijk toekomstige – beeldanalysemodellen van OpenAI.
Een apart nieuw punt heeft betrekking op alle wetshandhavingsinstanties wereldwijd, en verbiedt expliciet het gebruik van realtime gezichtsherkenningstechnologie op mobiele camera's, zoals lichaamscamera's en dashcams, om te proberen een persoon te identificeren in ongecontroleerde, wilde omgevingen.
De beleidswijzigingen komen een week nadat Axon, een maker van technologie en wapenproducten voor het leger en de rechtshandhaving, een aankondiging heeft gedaan nieuw product dat gebruikmaakt van het generatieve tekstmodel GPT-4 van OpenAI om audio van lichaamscamera's samen te vatten. Critici wezen al snel op de mogelijke valkuilen, zoals hallucinaties (zelfs de beste generatieve AI-modellen verzinnen tegenwoordig feiten) en raciale vooroordelen die voortkomen uit de trainingsgegevens (wat vooral zorgwekkend is gezien het feit dat mensen van kleur De kans is veel groter dat ze door de politie worden tegengehouden dan hun blanke leeftijdsgenoten).
Het is onduidelijk of Axon GPT-4 gebruikte via Azure OpenAI Service, en zo ja, of het bijgewerkte beleid een reactie was op de productlancering van Axon. Open AI had voorheen beperkt het gebruik van zijn modellen voor gezichtsherkenning via zijn API's. We hebben contact opgenomen met Axon, Microsoft en OpenAI en zullen dit bericht bijwerken als we iets horen.
De nieuwe voorwaarden laten Microsoft speelruimte.
Het volledige verbod op het gebruik van de Azure OpenAI-service heeft alleen betrekking op de VS. , niet internationaal, politie. En het heeft geen betrekking op gezichtsherkenning waarmee wordt uitgevoerd stationair camera's binnen gecontroleerd omgevingen, zoals een backoffice (hoewel de voorwaarden elk gebruik van gezichtsherkenning door de Amerikaanse politie verbieden).
Dat sluit aan bij de recente benadering van Microsoft en nauwe partner OpenAI van AI-gerelateerde wetshandhavings- en defensiecontracten.
In januari berichtte Bloomberg onthuld dat OpenAI samenwerkt met het Pentagon aan een aantal projecten, waaronder cyberbeveiligingsmogelijkheden – een afwijking van het eerdere verbod van de startup op het leveren van zijn AI aan legers. Elders heeft Microsoft een pitch gehouden met behulp van OpenAI's tool voor het genereren van afbeeldingen, DALL-E, om het ministerie van Defensie (DoD) te helpen bij het bouwen van software voor het uitvoeren van militaire operaties. per De onderschepping.
Azure OpenAI Service werd in februari beschikbaar in het Azure Government-product van Microsoft en voegde extra compliance- en beheerfuncties toe die gericht waren op overheidsinstanties, waaronder wetshandhaving. In een blogpost Candice Ling, SVP van Microsoft’s op de overheid gerichte divisie Microsoft Federal, beloofde dat Azure OpenAI Service voor aanvullende autorisatie zou worden ingediend bij het DoD voor workloads die DoD-missies ondersteunen.
Update: Na publicatie zei Microsoft dat de oorspronkelijke wijziging van de servicevoorwaarden een fout bevatte, en dat het verbod in feite alleen van toepassing is op gezichtsherkenning in de VS. Het is geen algeheel verbod voor politiediensten om de service te gebruiken.