Nieuwe app die vrouwen uitkleedt door makers offline gehaald: “De kans dat dit misbruikt wordt is te groot”

Print
Nieuwe app die vrouwen uitkleedt door makers offline gehaald: “De kans dat dit misbruikt wordt is te groot”

Foto: Screenshot website deepnude

De controversiële app Deepnude is door de makers offline gehaald. De app maakt gebruik van artificiële intelligentie om de kleren in foto’s van vrouwen weg te toveren, waardoor het lijkt dat ze naakt staan. “De kans dat dit misbruikt wordt, is te groot”, zeggen de makers op Twitter. Ze stellen dat ze aandacht en impact van hun software “zwaar onderschat” hebben.

Motherboard, de technologiesite van Vice, haalde enkele foto’s van celebs door de applicatie. Op bikinifoto’s in hoge resolutie kon de applicatie op relatief geloofwaardige resultaten afleveren. Zodra de foto uit een vreemde hoek genomen was of er sterk contrast mee gemoeid was, ging de software de mist in.

Het algoritme van de app werd getraind door tienduizenden naakfoto’s te scannen. Gewapend met die data tovert de app door middel van artificiële intelligentie de kledingstukken in de foto weg. De borsten en vagina’s die op de foto’s geplakt worden, komen uit andere naakfoto’s, maar de resultaten zijn wel realistisch. “Er is sprake van verschillende neurale netwerken”, zei de maker eerder aan Motherboard. “Ze hebben elk een aparte taak: de kleren lokaliseren, de kleren maskeren, speculeren over de rest van de anatomie en dan de hele boel renderen.” Alles bij elkaar duurt het proces zo’n dertig seconden.

“Dit is angstaanjagend”, stelt Katelyn Bowden, CEO van Badass, een organisatie die inzet tegen wraakporno. “Nu kan je dus al slachtoffer worden zonder zelf een naaktfoto te hebben. Deze technologie zou niet openlijk beschikbaar mogen zijn.”

De maker van de app was zich aanvankelijk van geen kwaad bewust. Hij stelde dat iemand met een minimum aan Photoshop-kennis een gelijkaardig resultaat kan bereiken. Intussen heeft hij de app offline gehaald. “Ondanks de veiligheidsmaatregelen die we namen, zoals watermerken en de FAKE-stempel, is de kans op misbruik gewoon te groot”, klinkt het. “De wereld is nog niet klaar voor Deepnude.”