De groep die probeert geld te verdienen met het genereren van AI-porno, Onstabiele diffusie , meer opgebracht dan $ 56.000 op Kickstarter van 867 donateurs. Nu als Kickstarter verandert zijn denken over wat voor soort AI-gebaseerde projecten het zal toestaan, heeft het crowdfundingplatform de campagne van Unstable Diffusion stopgezet. Omdat Kickstarter een alles-of-niets-model hanteert en de campagne nog niet is afgelopen, wordt al het geld dat Unstable Diffusion heeft ingezameld teruggegeven aan de financiers. Met andere woorden: Unstable Diffusion zal die 56.000 dollar niet halen, wat het oorspronkelijke doel van 25.000 dollar ruimschoots verdubbelde.
De afgelopen dagen hebben we onze Community Advisory Council ingeschakeld en we hebben uw feedback aan ons voorgelezen via ons team en sociale media, zei CEO Everette Taylor in een blogpost . En één ding is duidelijk: Kickstarter moet en zal altijd aan de kant staan van creatief werk en de mensen achter dat werk. Wij zijn er om creatief werk te laten bloeien.
Kickstarters nieuwe benadering van het hosten van AI-projecten is opzettelijk vaag.
Deze technologie is echt nieuw en we hebben niet alle antwoorden, schreef Taylor. De beslissingen die we nu nemen, zijn misschien niet de beslissingen die we in de toekomst nemen, dus we willen dat dit een voortdurend gesprek met jullie allemaal is.
Op dit moment zegt het platform na te denken over de manier waarop projecten omgaan met auteursrechtelijk beschermd materiaal, vooral wanneer het werk van kunstenaars zonder toestemming in de trainingsgegevens van een algoritme verschijnt. Kickstarter zal ook overwegen of het project een bepaalde gemeenschap zal uitbuiten of iemand in gevaar zal brengen.
De afgelopen maanden hebben tools als OpenAI’s ChatGPT en Stability AI’s Stable Diffusion met mainstream succes plaatsgevonden, waardoor gesprekken over de ethiek van AI-kunstwerken op de voorgrond van het publieke debat zijn gekomen. Als apps als Lensa AI de open source Stable Diffusion kunnen gebruiken om direct artistieke avatars te creëren die eruit zien als het werk van een professionele kunstenaar, welke invloed heeft dat dan op diezelfde werkende kunstenaars?
Sommige kunstenaars gebruikten Twitter om Kickstarter onder druk te zetten om het Unstable Diffusion-project te laten vallen, waarbij ze zich zorgen maakten over de manier waarop AI-kunstgeneratoren de carrières van kunstenaars kunnen bedreigen.
Hij @Kickstarter Dus je laat gewoon een AI-project toe dat als uitgangspunt (potentieel niet-consensuele) porno genereert en het belangrijkste verkooppraatje is dat mensen kunnen stelen van Greg Rutkowski? Of ga je iets doen om makers en het publiek te beschermen? https://www.kickstarter.com/projects/unstablediffusion/unstable-diffusion-unrestricted-ai-art-powered-by-the-crowd
— Karla Ortiz (@kortizart) 10 december 2022
Schaam je @Kickstarter voor het toestaan van de Unstable Diffusion-crowdfund. U maakt flagrante diefstal mogelijk en financiert een tool die beledigende inhoud kan creëren, zoals pornografie zonder wederzijds goedvinden.
— Sarah Andersen (@SarahCAndersen) 11 december 2022
superchauffeur Korea
Velen noemen het lot van Het werk van Greg Rutkowski als voorbeeld van wat er mis kan gaan. Een levende illustrator die gedetailleerde, fantasierijke kunstwerken heeft gemaakt voor franchises als Dungeons & Dragons. De naam van Rutkowski was een van de populairste zoektermen van Stable Diffusion toen deze in september werd gelanceerd, waardoor gebruikers zijn kenmerkende stijl gemakkelijk konden repliceren. Rutkowski heeft er nooit mee ingestemd dat zijn kunstwerken werden gebruikt om het algoritme te trainen, waardoor hij een pleitbezorger werd over de manier waarop AI-kunstgeneratoren werkende kunstenaars beïnvloeden.
Met .000 aan financiering kunnen we het ons veroorloven om het nieuwe model te trainen met 75 miljoen afbeeldingen van hoge kwaliteit, bestaande uit ~25 miljoen anime- en cosplay-afbeeldingen, ~25 miljoen artistieke afbeeldingen van Artstation/DeviantArt/Behance, en ~25 miljoen fotografische afbeeldingen, Unstable Diffusion schreef in zijn Kickstarter . Dit veroorzaakte alarmbellen bij onafhankelijke kunstenaars, van wie velen hun werk plaatsen op websites zoals die welke Unstable Diffusion noemde.
Paaien , een reeks AI-tools ontworpen om artiesten te ondersteunen, ontwikkelde een website genaamd Ben ik opgeleid , waarmee kunstenaars kunnen zien of hun werk in populaire datasets voorkomt en zich kunnen afmelden. Per april rechtszaak , bestaat er een juridisch precedent om het schrapen van openbaar toegankelijke gegevens te verdedigen.
Ondanks de klap van de Kickstarter-opschorting blijft Unstable Diffusion elders geld inzamelen.
Hoewel de capitulatie van Kickstarter voor een luidruchtige groep artiesten ons teleurstelt, zullen wij en onze supporters er niet voor terugdeinzen de vrijheid om te creëren te verdedigen, zei Arman Chaudhry, CEO van Unstable Diffusion, in een Discord-bericht aan Gadget Insider. We hebben onze nieuwe website bijgewerkt, zodat onze supporters direct kunnen bijdragen aan de creatie en release van nieuwe artistieke AI-systemen die krachtiger zijn dan ooit. We geven gehoor aan de oproep om ons te verdedigen tegen de kunstenaars die lobbyen om alle AI-kunst illegaal te maken, en de steun van donateurs zal ons in staat stellen deze steeds beter gefinancierde en georganiseerde lobby aan te vechten.
Unstable Diffusion verwerkt donaties nu rechtstreeks op haar website met behulp van Stripe. Tot nu toe heeft het ruim 15.000 dollar opgehaald.
In een langer bericht aan de Unstable Diffusion Discord-gemeenschap, die meer dan 97.000 leden telt, waarschuwde Chaudhry leden voor groeiende bewegingen van anti-AI-artiesten.
Het lijkt erop dat de anti-AI-menigte ons het zwijgen probeert op te leggen en onze gemeenschap uit te roeien door valse rapporten naar Kickstarter, Patreon en Discord te sturen. Ze zijn zelfs een GoFundMe-campagne gestart met meer dan $ 150.000 ingezameld met als doel bij regeringen te lobbyen om AI-kunst illegaal te maken, schreef hij.
De verklaring vervolgt: Helaas hebben we andere gemeenschappen en bedrijven zien ineenkrimpen als gevolg van deze aanvallen. Zeipher heeft een opschorting van alle modelreleases aangekondigd en hun community gesloten, en Stability AI verwijdert nu artiesten uit Stable Diffusion 3.0. Maar we zullen niet tot zwijgen worden gebracht. Wij zullen hen niet laten slagen in hun pogingen om onze creativiteit en innovatie te onderdrukken. Onze gemeenschap is sterk (bijna 100.000 gebruikers) en we zullen niet verslagen worden door een kleine groep individuen die te bang zijn om nieuwe tools en technologieën te omarmen.
Chaos Draak
Illustratie gemaakt voor Magic the Gathering.
Acrylverf op canvas van 19,7 x 27,6 inch. #gregrutkowski #fantasie #chaosdraak #acrylschilderij #mtg #tovenaarvandekust pic.twitter.com/QZRT9qxGVm— Greg Rutkowski (@GrzegorzRutko14) 21 september 2021
Inherente problemen bij het genereren van AI-porno
Ethische vragen over AI-kunstwerken worden nog duisterder als we kijken naar projecten als Unstable Diffusion, waarin de ontwikkeling van NSFW-inhoud centraal staat.
Stable Diffusion gebruikt een dataset van 2,3 miljard afbeeldingen om de tekst-naar-afbeelding-generator te trainen. Maar slechts naar schatting 2,9% van de dataset bevat NSFW-materiaal, waardoor het model weinig houvast heeft als het om expliciete inhoud gaat. Dat is waar Unstable Diffusion om de hoek komt kijken. Het project, dat deel uitmaakt van Equilibrium AI, rekruteerde vrijwilligers van de Discord-server om robuustere pornodatasets te ontwikkelen om hun algoritme te verfijnen, op dezelfde manier waarop je meer foto's van banken en stoelen zou uploaden naar een dataset als u een AI voor de meubelgeneratie wilt maken.
Maar elke AI-generator is vatbaar voor de vooroordelen die de mensen achter het algoritme hebben. Veel van de porno die online gratis en gemakkelijk toegankelijk is, is ontwikkeld voor de mannelijke blik, wat betekent dat dit waarschijnlijk is wat de AI zal uitspugen, vooral als dit het soort afbeeldingen is dat gebruikers in de dataset invoeren.
In de nu opgeschorte Kickstarter zei Unstable Diffusion dat het zou werken aan het maken van een AI-kunstmodel dat de menselijke anatomie beter kan verwerken, in diverse en controleerbare artistieke stijlen kan genereren, ondergetrainde concepten zoals LGBTQ en rassen en geslachten eerlijker kan vertegenwoordigen.
Bovendien is er geen manier om te verifiëren of een groot deel van de porno die gratis op internet beschikbaar is, met wederzijdse toestemming is gemaakt (volwassen makers die betaalde platforms zoals OnlyFans en ManyVids gebruiken, moeten echter hun leeftijd en identiteit verifiëren voordat ze deze diensten gebruiken). Zelfs dan, als een model ermee instemt om in porno te verschijnen, betekent dat niet dat ze ermee instemmen dat hun afbeeldingen worden gebruikt om een AI te trainen. Hoewel deze technologie verbluffend realistische beelden kan creëren, betekent dit ook dat deze technologie als wapen kan worden ingezet om niet-consensuele deepfake-pornografie te maken.
Momenteel hebben weinig wetten over de hele wereld betrekking op niet-consensuele praktijken deepfake porno. In de VS hebben alleen Virginia en Californië regelgeving die bepaald gebruik van vervalste en deepfaked pornografische media beperkt.
Eén aspect waar ik me vooral zorgen over maak is de ongelijksoortige impact die AI-gegenereerde porno heeft op vrouwen, vertelde Ravit Dotan, VP van Responsible AI bij Mission Control, aan Gadget Insider vorige maand . Een eerdere op AI gebaseerde app die mensen kan ‘uitkleden’ werkt bijvoorbeeld alleen op vrouwen.
Bijgewerkt, 22/12/22, 9:55 AM ET met verklaring van Unstable Diffusion.
Maak kennis met Unstable Diffusion, de groep die geld probeert te verdienen met AI-pornogeneratoren
AI wordt steeds beter in het genereren van porno. We zijn misschien niet voorbereid op de gevolgen.