Toen Stable Diffusion, de tekst-naar-beeld AI ontwikkeld door startup Stability AI, eerder dit jaar open source was, duurde het niet lang voordat internet deze gebruikte voor het maken van porno. Gemeenschappen op Reddit en 4chan maakten gebruik van het AI-systeem om realistische en anime-achtige afbeeldingen van naaktpersonages, voornamelijk vrouwen, te genereren, evenals niet-consensuele nep-naaktbeelden van beroemdheden.
ontslag van appels
Maar terwijl Reddit snel veel van de subreddits die zich toelegden op AI-porno sloot, en gemeenschappen zoals NewGrounds, die bepaalde vormen van kunst voor volwassenen toestaan, door AI gegenereerde kunstwerken helemaal verboden, ontstonden er nieuwe forums om de leemte op te vullen.
Veruit de grootste is Onstabiele diffusie , wiens exploitanten een bedrijf opbouwen rond AI-systemen die zijn afgestemd op het genereren van porno van hoge kwaliteit. De server Patreon – begon de server draaiende te houden en de algemene ontwikkeling te financieren – haalt momenteel meer dan $ 2.500 per maand binnen van enkele honderden donoren.
In slechts twee maanden breidde ons team zich uit tot meer dan 13 mensen, evenals vele consultants en vrijwillige community-moderators. Arman Chaudhry, een van de leden van het Unstable Diffusion-beheerdersteam, vertelde Gadget Insider in een gesprek via Discord. We zien de mogelijkheid om innovaties te maken op het gebied van bruikbaarheid, gebruikerservaring en expressieve kracht om tools te creëren waar professionele kunstenaars en bedrijven van kunnen profiteren.
Het is niet verwonderlijk dat sommige AI-ethici net zo bezorgd zijn als Chaudhry optimistisch is. Hoewel het gebruik van AI om porno te maken niet nieuw is – Gadget Insider behandelde een paar maanden geleden een AI-porno-genererende app – zijn de modellen van Unstable Diffusion in staat om meer betrouwbare voorbeelden te genereren dan de meeste andere. De gegenereerde porno zou negatieve gevolgen kunnen hebben, vooral voor gemarginaliseerde groepen, zeggen de ethici, inclusief de artiesten en volwassen acteurs die hun geld verdienen met het maken van porno om de fantasieën van klanten te vervullen.
Een gecensureerde afbeelding van de Discord-server van Unstable Diffusion. Beeldcredits: Onstabiele diffusie
De risico's zijn onder meer het stellen van nog onredelijke verwachtingen ten aanzien van het lichaam en seksueel gedrag van vrouwen, het schenden van de privacy en auteursrechten van vrouwen door het aanbieden van seksuele inhoud die zij hebben gemaakt om het algoritme zonder toestemming te trainen en het werkloos maken van vrouwen in de porno-industrie, aldus Ravit Dotan, vice-president van verantwoordelijk AI bij Mission Control, vertelde Gadget Insider. Eén aspect waar ik me vooral zorgen over maak, is de uiteenlopende impact die AI-gegenereerde porno heeft op vrouwen. Een eerdere op AI gebaseerde app die mensen kan ‘uitkleden’ werkt bijvoorbeeld alleen op vrouwen.
Nederig begin
Unstable Diffusion begon in augustus – rond dezelfde tijd dat het Stable Diffusion-model werd uitgebracht. Aanvankelijk was het een subreddit, maar uiteindelijk migreerde het naar Discord, waar het nu ongeveer 50.000 leden heeft.
Kortom, we zijn hier om ondersteuning te bieden aan mensen die geïnteresseerd zijn in het maken van NSFW, schreef een van de Discord-serverbeheerders, die de naam AshleyEvelyn draagt, in een aankondigingspost van augustus. Omdat de enige community die momenteel hieraan werkt 4chan is, hopen we een redelijkere community te bieden die daadwerkelijk kan samenwerken met de bredere AI-gemeenschap.
In het begin diende Unstable Diffusion eenvoudigweg als een plek voor het delen van door AI gegenereerde porno – en als methoden om de inhoudsfilters van verschillende beeldgenererende apps te omzeilen. Maar al snel begonnen verschillende beheerders van de server manieren te onderzoeken om hun eigen AI-systemen voor het genereren van porno te bouwen, bovenop bestaande open source-tools.
Stabiele verspreiding leende zich voor hun inspanningen. Het model is niet per se gebouwd om porno te genereren, maar Stability AI verbiedt ontwikkelaars niet expliciet om Stable Diffusion aan te passen om porno te maken, zolang de porno de wetten niet overtreedt of anderen duidelijk schaadt. Zelfs toen heeft het bedrijf een laissez-faire benadering van bestuur aangenomen, waarbij de verantwoordelijkheid bij de AI-gemeenschap ligt om Stable Diffusion op een verantwoorde manier te gebruiken.
Stability AI reageerde niet op een verzoek om commentaar.
De Unstable Diffusion-beheerders hebben een Discord-bot uitgebracht om te starten. Aangedreven door de vanille Stable Diffusion, konden gebruikers porno genereren door tekstprompts te typen. Maar de resultaten waren niet perfect: de naaktfiguren die de bot genereerde, hadden vaak misplaatste ledematen en vervormde genitaliën.
Beeldcredits: Onstabiele diffusie
De reden hiervoor was dat de out-of-the-box Stable Diffusion niet aan genoeg voorbeelden van porno was blootgesteld om te weten hoe de gewenste resultaten konden worden bereikt. Stabiele diffusie werd, net als alle tekst-naar-beeld AI-systemen, getraind op een dataset van miljarden ondertitelde afbeeldingen om de associaties tussen geschreven concepten en afbeeldingen te leren, zoals hoe het woord vogel niet alleen naar bluebirds kan verwijzen, maar ook naar parkieten en Amerikaanse zeearenden. aanvulling op meer abstracte begrippen. Hoewel veel van de afbeeldingen afkomstig zijn van auteursrechtelijk beschermde bronnen, zoals Flickr en ArtStation, beweren bedrijven als Stability AI dat hun systemen onder redelijk gebruik vallen – een precedent dat wordt binnenkort in de rechtbank getest.
Slechts een klein percentage van de dataset van Stable Diffusion – ongeveer 2,9% – bevat NSFW-materiaal, waardoor het model weinig houvast heeft als het om expliciete inhoud gaat. Dus rekruteerden de Unstable Diffusion-beheerders vrijwilligers – voornamelijk leden van de Discord-server – om pornodatasets te maken voor het verfijnen van Stable Diffusion, zoals je meer foto’s van banken en stoelen zou geven als je een AI van de meubelgeneratie zou willen maken.
Een groot deel van het werk is nog gaande, maar Chaudhry vertelt me dat een deel ervan al tot wasdom is gekomen, waaronder een techniek om vervormde gezichten en armen te herstellen in door AI gegenereerde naaktfoto's. We registreren en pakken de uitdagingen aan waar alle AI-systemen tegenaan lopen, namelijk het verzamelen van een gevarieerde dataset met een hoge beeldkwaliteit, rijkelijk voorzien van ondertiteling en die het scala aan voorkeuren van onze gebruikers dekt, voegde hij eraan toe.
De aangepaste modellen vormen de drijvende kracht achter de eerder genoemde Discord-bot en de work-in-progress, nog niet openbare web-app van Unstable Diffusion, waarvan de beheerders zeggen dat ze uiteindelijk mensen in staat zullen stellen om door AI gegenereerde porno van specifieke gebruikers te volgen.
Groeiende gemeenschap
Tegenwoordig host de Unstable Diffusion-server door AI gegenereerde porno in een reeks verschillende kunststijlen, seksuele voorkeuren en knikken. Er is een kanaal voor alleen mannen, een softcore- en veilige werkstroom, kanalen voor hentai en harige kunstwerken, een subgroep voor BDSM en kinky dingen - en zelfs een kanaal dat uitdrukkelijk is gereserveerd voor niet-menselijke naakten. Gebruikers in deze kanalen kunnen de bot aanroepen om kunst te genereren die bij het thema past, die ze vervolgens naar stuurboord kunnen sturen als ze bijzonder tevreden zijn met de resultaten.
Unstable Diffusion beweert tot nu toe meer dan 4.375.000 afbeeldingen te hebben gegenereerd. Op semireguliere basis organiseert de groep wedstrijden waarbij leden worden uitgedaagd afbeeldingen opnieuw te maken met behulp van de bot, waarvan de resultaten op hun beurt worden gebruikt om de modellen van Unstable Diffusion te verbeteren.
hoe je een nummer toevoegt aan een Instagram-post
Beeldcredits: Onstabiele diffusie
Naarmate het groeit, streeft Unstable Diffusion ernaar een ethische gemeenschap te zijn voor door AI gegenereerde porno – dat wil zeggen een gemeenschap die inhoud zoals kinderpornografie, deepfakes en buitensporig bloedvergieten verbiedt. Gebruikers van de Discord-server moeten zich houden aan de servicevoorwaarden en zich onderwerpen aan moderatie van de afbeeldingen die ze genereren; Chaudhry beweert dat de server een filter gebruikt om afbeeldingen met mensen in de database met genoemde personen te blokkeren en dat hij over een fulltime moderatieteam beschikt.
We staan strikt genomen alleen fictieve en gezagsgetrouwe generaties toe, voor zowel SFW als NSFW op onze Discord-server, zei hij. Voor professionele tools en zakelijke toepassingen zullen we samen met partners opnieuw kijken naar de moderatie- en filterregels die het beste aansluiten bij hun behoeften en verplichtingen.
Maar je kunt je voorstellen dat de systemen van Unstable Diffusion moeilijker te monitoren zullen zijn naarmate ze op grotere schaal beschikbaar worden gemaakt. Chaudhry heeft geen plannen opgesteld voor het modereren van inhoud van de webapp of de aanstaande op abonnementen gebaseerde Discord-bot van Unstable Diffusion, die externe Discord-servereigenaren binnen hun eigen gemeenschappen kunnen inzetten.
We moeten nadenken over hoe veiligheidscontroles kunnen worden ondermijnd als je een API-gemedieerde versie van het systeem hebt die controles bevat die misbruik voorkomen, vertelde Abhishek Gupta, de oprichter en hoofdonderzoeker van het Montreal AI Ethics Institute, via e-mail aan Gadget Insider. Servers zoals Unstable Diffusion worden broeinesten voor het verzamelen van veel problematische inhoud op één plek, waarbij zowel de mogelijkheden van AI-systemen om dit soort inhoud te genereren worden getoond als kwaadwillende gebruikers met elkaar worden verbonden om hun ‘vaardigheden’ bij het genereren van dergelijke inhoud te vergroten. .. Tegelijkertijd vergroten ze ook de last die wordt gelegd op contentmoderatieteams, die te maken krijgen met trauma's bij het beoordelen en verwijderen van aanstootgevende inhoud.
Een apart maar gerelateerd probleem heeft betrekking op de kunstenaars wier kunstwerken werden gebruikt om de modellen van Unstable Diffusion te trainen. Zoals onlangs bleek uit de kunstenaarsgemeenschap reactie naar de AI-beeldgenerator van DeviantArt, Verzinnen , dat is getraind in kunst die zonder medeweten van de makers naar DeviantArt is geüpload, hebben veel kunstenaars moeite met AI-systemen die hun stijlen nabootsen zonder de juiste erkenning of compensatie te geven.
Karakterontwerpers als Hollie Mengert en Greg Rutkowski, wier klassieke schilderstijlen en fantasielandschappen een van de meest gebruikte aanwijzingen in Stable Diffusion zijn geworden, hebben gekleineerd wat zij zien als slechte AI-imitaties die niettemin aan hun naam zijn gekoppeld. Ze hebben ook hun bezorgdheid geuit dat door AI gegenereerde kunst die hun stijlen imiteert, hun originele werken zal verdringen, wat hun inkomen zal schaden als mensen door AI gegenereerde afbeeldingen voor commerciële doeleinden gaan gebruiken. (Unstable Diffusion geeft gebruikers het volledige eigendom van – en toestemming om te verkopen – de afbeeldingen die ze genereren.)
gpt-winkel
Gupta brengt nog een andere mogelijkheid naar voren: artiesten die nooit willen dat hun werk met porno wordt geassocieerd, kunnen bijkomende schade oplopen als gebruikers zich realiseren dat de namen van bepaalde artiesten betere resultaten opleveren bij Unstable Diffusion-prompts – bijvoorbeeld naakte vrouwen in de stijl van [artiestennaam].
Beeldcredits: Onstabiele diffusie
Chaudhry zegt dat onstabiele diffusie l iszoeken naar manieren om haar modellen rechtvaardiger te maken ten opzichte van de artistieke gemeenschap en om kunstenaars iets terug te geven en hun macht te geven. Maar hij schetste geen specifieke stappen, zoals het licentiëren van kunstwerken of het toestaan dat kunstenaars hun werk uitsluiten van trainingsdatasets.
Impact van artiesten
Natuurlijk is er een vruchtbare markt voor volwassen kunstenaars die voor hun geld suggestieve werken tekenen, schilderen en fotograferen. Maar als iemand met een AI precies de beelden kan genereren die hij wil zien, wat zal er dan gebeuren met menselijke kunstenaars?
Het is niet noodzakelijkerwijs een onmiddellijke dreiging. Terwijl volwassen kunstgemeenschappen worstelen met de implicaties van tekst-naar-beeldgeneratoren, kan het eenvoudigweg een uitdaging blijken om eenvoudigweg een platform te vinden om door AI gegenereerde porno te publiceren buiten de instabiele diffusie-onenigheid. De harige kunstgemeenschap FurAffinity besloot om door AI gegenereerde kunst helemaal te verbieden, net als Newgrounds, dat volwassen kunst host achter een inhoudsfilter.
Toen een van de grotere hosts voor inhoud voor volwassenen, OnlyFans, voor commentaar werd benaderd, liet hij de mogelijkheid open dat AI-kunst in een of andere vorm op zijn platform zou worden toegestaan. Hoewel het een strikt beleid voert tegen deepfakes, zegt OnlyFans dat het inhoud toestaat – inclusief door AI gegenereerde inhoud, vermoedelijk – zolang de persoon in de inhoud een geverifieerde OnlyFans-maker is.
Natuurlijk kan de hostingvraag onbeantwoord blijven als de kwaliteit niet optimaal is.
Voor mij is AI-gegenereerde kunst op dit moment niet erg goed, zegt Milo Wissig, een transschilder die heeft geëxperimenteerd met hoe AI erotische kunst van niet-binaire mensen en transgenders weergeeft. Voor het grootste deel lijkt het erop dat het het beste werkt als hulpmiddel voor een kunstenaar om mee te werken... maar veel mensen kunnen het verschil niet zien en willen iets dat snel en goedkoop is.
Voor kunstenaars die met kink werken, is het vooral duidelijk waar AI tekort schiet. In het geval van bondage, waarbij het knopen van touwen en knopen op zichzelf een vorm van kunst (en veiligheidsmechanisme) is, is het moeilijk voor de AI om zoiets ingewikkelds te repliceren.
Voor knikken zou het moeilijk zijn om een AI een specifiek soort beeld te laten maken dat mensen zouden willen, vertelde Wissig aan Gadget Insider. Ik weet zeker dat het heel moeilijk is om de AI zover te krijgen dat de touwen überhaupt zinvol zijn.
Het bronmateriaal achter deze AI’s kan ook vooroordelen versterken die al bestaan in de traditionele erotica – met andere woorden: hetero seks tussen blanke mensen is de norm.
Je krijgt afbeeldingen die uit de reguliere porno komen, zegt Wissig. Je krijgt de witste, meest hetero-dingen die de machine kan bedenken, tenzij je aangeeft dat niet te doen.
Samsung-lek
Beeldcredits: Milo Wissig
Deze raciale vooroordelen zijn uitgebreid gedocumenteerd in toepassingen van machinaal leren gezichtsherkenning naar fotobewerking.
Als het op porno aankomt, zijn de gevolgen misschien niet zo groot – toch is er nog steeds een bijzondere gruwel aan het kijken naar een AI die gewone mensen verdraait en vergroot totdat ze raciale, gendergerelateerde karikaturen worden. Zelfs AI-modellen zoals DALLE-2, die viraal gingen toen de miniversie voor het publiek werd uitgebracht, zijn bekritiseerd onevenredig veel kunst genereren in Europese stijlen.
Vorig jaar probeerde Wissig VQGAN te gebruiken om afbeeldingen van sexy queer transgenders te genereren, schreef hij in een Instagram-post. Ik moest mijn voorwaarden zorgvuldig formuleren om op sommige ervan gezichten te krijgen, voegde hij eraan toe.
In de Unstable Diffusion Discord is er weinig bewijs dat ondersteunt dat de AI genderqueer- en transgenders adequaat kan vertegenwoordigen. In een kanaal genaamd genderqueer-only tonen bijna alle gegenereerde afbeeldingen traditioneel vrouwelijke vrouwen met penissen.
Uitbreiden
Unstable Diffusion richt zich niet strikt op interne projecten. Technisch gezien maakt de groep deel uit van Equilibrium AI, een bedrijf opgericht door Chaudhry, en financiert andere inspanningen om porno-genererende AI-systemen te creëren, waaronder Waifu Diffusion, een model dat is afgestemd op anime-afbeeldingen.
Chaudhry ziet Unstable Diffusion evolueren naar een organisatie die bredere, door AI aangedreven contentgeneratie ondersteunt, ontwikkelaarsgroepen sponsort en tools en middelen levert om teams te helpen hun eigen systemen te bouwen. Hij beweert dat Equilibrium AI een plek heeft veroverd in een startup accelerator-programma van een niet bij naam genoemde grote cloud computing-provider die wordt geleverd met een subsidie van vijf cijfers in cloudhardware en -compute, die Unstable Diffusion zal gebruiken om zijn modeltrainingsinfrastructuur uit te breiden.
Naast de subsidie zal Unstable Diffusion een Kickstarter-campagne lanceren en op zoek gaan naar durfkapitaal, zegt Chaudhry. We zijn van plan onze eigen modellen te creëren en deze te verfijnen en te combineren voor gespecialiseerde gebruiksscenario's die we zullen omzetten in nieuwe merken en producten, voegde hij eraan toe.
De groep heeft er werk aan. Van alle uitdagingen waarmee Unstable Diffusion wordt geconfronteerd, is gematigdheid misschien wel de meest directe – en consequente. De recente geschiedenis is gevuld met voorbeelden van spectaculaire mislukkingen bij het modereren van inhoud voor volwassenen. In 2020 verloor MindGeek, het moederbedrijf van Pornhub, de steun van grote betalingsverwerkers nadat bleek dat de site kinderporno en video's over sekshandel circuleerde.
Zal instabiele diffusie hetzelfde lot ondergaan? Het is nog niet duidelijk. Maar met minstens één senator Door bedrijven op te roepen om striktere inhoudfiltering in hun AI-systemen te implementeren, lijkt de groep niet op de meest stabiele basis te staan.