Er is een speciale plek in de hel voor mensen die het grappig vinden om de avatar van een zevenjarig meisje te verkrachten in een online virtuele wereld die is ontworpen voor kinderen. Ja dat gebeurd . Roblox, een enorm populair online spel voor kinderen, werd gehackt door een persoon die de beveiligingssystemen van het spel ondermijnde om aangepaste animaties te laten verschijnen. Hierdoor konden twee mannelijke avatars de avatar van een jong meisje verkrachten op een speelplaats in een van de Roblox-spellen.
Het bedrijf heeft nu zijn excuses aangeboden aan het slachtoffer en zijn gemeenschap en zegt te hebben vastgesteld hoe de hacker zijn systeem heeft kunnen infiltreren, zodat het toekomstige incidenten kan voorkomen.
De moeder van het kind, wiens avatar het slachtoffer was van de aanranding in de game, was in de buurt toen het incident plaatsvond. Ze zegt dat haar kind haar liet zien wat er op het scherm gebeurde en dat ze het apparaat wegnam, waardoor haar dochter gelukkig de meeste activiteit niet kon zien. De moeder maakte vervolgens screenshots van de gebeurtenis om anderen te waarschuwen.
Ze beschreef het incident in een openbare Facebook-post die gedeeltelijk luidden:
In eerste instantie kon ik niet geloven wat ik zag. De avatar van mijn lieve en onschuldige dochter werd door twee mannen gewelddadig verkracht op een speelplaats. Een vrouwelijke waarnemer kwam naar hen toe en sprong aan het einde van de handeling op haar lichaam. Toen renden de drie personages weg en lieten de avatar van mijn dochter midden in de speeltuin op haar gezicht liggen.
Woorden kunnen de schok, de walging en het schuldgevoel die ik nu voel niet beschrijven, maar ik probeer die gevoelens opzij te zetten, zodat ik deze waarschuwing zo snel mogelijk aan anderen kan doorgeven. Gelukkig kon ik screenshots maken van wat ik zag, zodat mensen zich zullen realiseren hoe gruwelijk deze ervaring was. *screenshots in reacties voor degenen die het kunnen verdragen* Hoewel ik mijn dochter onmiddellijk kon beschermen tegen het zien van de hele interactie, huiver ik bij de gedachte aan wat voor schade dit beeld zou kunnen hebben op haar psyche, evenals op elk ander kind die hieraan mogelijk kunnen worden blootgesteld.
Gitaarheld Aerosmith tracklijst
Roblox heeft sindsdien een verklaring over de aanval afgegeven:
De missie van Roblox is om de verbeelding te inspireren en het is onze verantwoordelijkheid om een veilig en burgerlijk speelplatform te bieden. Omdat veiligheid onze topprioriteit is, beschikken we over robuuste systemen om ons platform en onze gebruikers te beschermen. Dit omvat geautomatiseerde technologie om alle communicatie tussen onze spelers bij te houden en te monitoren, evenals een groot team van moderators die de klok rond werken om alle inhoud die in een game is geüpload te beoordelen en eventuele ongepaste activiteiten te onderzoeken. We bieden ouderlijk toezicht om ouders in staat te stellen de meest geschikte ervaring voor hun kind te creëren, en we bieden individuele gebruikers beschermende hulpmiddelen, zoals de mogelijkheid om een andere speler te blokkeren.
Bij het incident was een slechte actor betrokken die onze beveiligingssystemen kon ondermijnen en één exemplaar van een game die op één server draaide, kon misbruiken. We tolereren dit gedrag niet en hebben onmiddellijk actie ondernomen om vast te stellen hoe deze persoon de aanstootgevende actie heeft veroorzaakt en veiligheidsmaatregelen getroffen om te voorkomen dat dit opnieuw gebeurt. Bovendien werd de dader geïdentificeerd en permanent van het platform verbannen. Ons werk op het gebied van veiligheid houdt nooit op en we streven ernaar ervoor te zorgen dat één persoon de miljoenen kinderen die naar Roblox komen om te spelen, creëren en fantaseren niet in de weg staat.
De timing van het incident is vooral opmerkelijk voor het kindergamingplatform, dat maandelijks meer dan 60 miljoen actieve gebruikers heeft en nu verhogen tot 0 miljoen om zijn activiteiten te laten groeien. Het bedrijf vliegt al jaren onder de radar, terwijl het stilletjes een groot publiek verzamelt van zowel spelers als ontwikkelaars die zijn virtuele werelden bouwen. Roblox onlangs verklaarde dat het verwacht zijn makers van inhoud in 2018 $ 70 miljoen uit te betalen, wat het dubbele is van vorig jaar.
Roblox heeft een aantal ingebouwde bedieningselementen om slecht gedrag te voorkomen, waaronder een inhoudsfilter en een systeem waarbij moderators afbeeldingen, video- en audiobestanden beoordelen voordat ze naar de site van Roblox worden geüpload. Het biedt ook ouderlijk toezicht waarmee ouders kunnen beslissen wie met hun kinderen kan chatten, of de mogelijkheid om chat uit te schakelen. En ouders kunnen voorkomen dat kinderen onder de 13 jaar toegang krijgen tot iets anders dan een samengestelde lijst met voor hun leeftijd geschikte games.
Roblox was echter ook bezig met het verplaatsen van enkele van zijn oudere, door gebruikers gegenereerde games naar een nieuwer systeem dat veiliger is. Het gehackte spel was een van de vele die op een vergelijkbare manier hadden kunnen worden uitgebuit.
Sinds het incident liet Roblox zijn ontwikkelaars alle andere potentieel kwetsbare games verwijderen en hun makers vragen om ze over te zetten naar het nieuwere, versterkte systeem. De meesten hebben dit gedaan, en degenen die dat niet hebben gedaan, zullen hun games pas weer online zien als dat gebeurt. De games die nu online zijn, zijn dat wel niet kwetsbaar voor de exploit die de hacker heeft gebruikt.
Het bedrijf reageerde snel om actie te ondernemen, door de game offline te halen, de speler te verbannen en contact op te nemen met de moeder – die sindsdien heeft ingestemd om Roblox te helpen anderen te informeren over de veiligheidsmaatregelen die ouders kunnen gebruiken om kinderen in Roblox verder te beschermen .
Maar het incident roept vragen op over de vraag of kinderen dit soort gigantische multiplayer-spellen überhaupt al op zo'n jonge leeftijd zouden moeten spelen.
Roblox is helaas niet verrast dat iemand geïnteresseerd was in een hack als deze.
YouTube staat vol met video's van verkrachtingshacks en exploits van Roblox. Het bedrijf dient verwijderingsverzoeken in bij YouTube wanneer dit soort video's worden geplaatst, maar YouTube onderneemt slechts actie op een fractie van de verzoeken. (YouTube heeft zijn eigen problemen met het modereren van inhoud.)
Het is al lang geleden dat er reële gevolgen zijn voor in-game aanvallen die blijvende psychologische gevolgen kunnen hebben voor slachtoffers, als die slachtoffers kinderen zijn.
Roblox is op zijn beurt nauw betrokken bij discussies over wat er gedaan kan worden, maar de kwestie is complex. BEKER wetten verhinderen dat Roblox gegevens over zijn gebruikers verzamelt, inclusief hun persoonlijke gegevens, omdat de wet bedoeld is om de privacy van kinderen te beschermen. Maar de keerzijde hiervan is dat Roblox geen manier heeft om dit soort hackers op te sporen.
Ik denk dat wij niet de enige zijn die nadenken over de uitdagingen hiervan. Ik denk dat elk platformbedrijf met hetzelfde worstelt, zegt Tami Bhaumik, hoofd marketing en gemeenschapsveiligheid bij Roblox.
Wij zijn lid van de Instituut voor online veiligheid voor gezinnen , dat zijn meer dan dertig bedrijven die best practices delen op het gebied van digitaal burgerschap en de veiligheid van kinderen, enzovoort, vervolgt ze. En dit is een constant gespreksonderwerp dat we allemaal hebben – in termen van hoe gebruiken we technologie, hoe gebruiken we A.I. en machinaal leren? Werken we samen met de creditcardmaatschappijen om te proberen [gebruikers] te verifiëren? Hoe kunnen we omzeilen dat we de COPPA-regels niet overtreden?, zegt Bhaumik.
Het probleem is supercomplex en ik denk niet dat iemand die erbij betrokken is dat al heeft opgelost, voegt ze eraan toe.
Eén oplossing zou kunnen zijn om ouders te dwingen hun kinderen aan te melden en een creditcard toe te voegen, waarvoor geen kosten in rekening worden gebracht tenzij kinderen de regels overtreden.
Dat zou de groei van het aantal gebruikers tot op zekere hoogte kunnen temperen – waardoor mensen met een tekort aan bankrekeningen worden buitengesloten, degenen die aarzelen om hun creditcards online te gebruiken en degenen die over het algemeen wantrouwend zijn tegenover gamingbedrijven en ongewenste kosten. Het zou betekenen dat kinderen de app niet zomaar kunnen downloaden en spelen.
Maar Roblox heeft nu het momentum en de schaal om zaken vast te leggen. Er is voldoende vraag naar het spel dat het een grotere toegangsbarrière zou kunnen creëren als het dat zou willen, in een poging gebruikers beter te beschermen. Als spelers wisten dat ze een boete zouden krijgen (of dat hun ouders dat zouden doen), zou het immers minder aantrekkelijk zijn om de regels te overtreden.