En app tar bort kläder från kvinnofoton och det är ett motbjudande fall av hur AI missbrukas
Ansvarsfriskrivning: Innehållet i den här berättelsen är 'Inte säkert för jobbet', så fortsätt med försiktighet. MensXP är inte heller källan eller marknadsför programvaran. Tanken bakom historien är att göra människor medvetna om vad AI kan göra om det missbrukas.
Det finns dagar då vi känner oss överväldigade av alla tekniska framsteg som har förändrat världen till bättre. Och så finns det dagar som denna när vi känner oss hemska och äckliga att tänka på alla de hemska saker som tekniken kan göra.
De flesta av er kanske har ordet 'Deepfakes', eller hur? Tja, om du tyckte att det var skrämmande, kommer du att vara livrädd för att lära dig mer om den här nya programvaran, som jag självklart inte kommer att namnge. Det är en motbjudande programvara och det finns inget sätt jag kommer att ge ut namnet och marknadsföra det.
Det är en mjukvara som utnyttjar kraften i AI och neurala nätverk för att göra falska nakenbilder av kvinnor. Ja, jag vet vad du tänker just nu. Det är verkligen en motbjudande app som inte bör finnas i första hand. Jag blev faktiskt ganska chockad när jag fick reda på hur enkelt det är att ladda ner och använda det. Jag känner starkt att det bör tas ner så snart som möjligt innan folk tar tag i det och börjar missbruka det på exempelvis en arbetsplats eller offentliga platser. Tänk på vad som händer om / när det hamnar i fel händer. Jag vill inte ens tänka på vad som händer när perverser och pedofiler börjar använda den.
I ett nötskal kan programvaran förvandla ett foto av en perfekt finklädd person till en naken bild av samma person. Jag tror att du vet vad det gör, så jag kommer inte att stava det högt. Här är vad programvaran kan göra.
Så, programvaran fungerar bara på bilder av kvinnor. Ja, de som skapade detta var mycket speciella med vad de ville göra, och det fungerar förvånansvärt bra. Enligt Moderkort , det verkar fungera bäst på bilder där personen redan visar mycket hud som till exempel en baddräkt, till exempel.
De som skapade detta har bokstavligen skapat en webbplats för att göra programvaran tillgänglig för nedladdning gratis. Det finns också en betald version av programvaran som ger dig ytterligare funktioner. Jag hade inga avsikter att ladda ner appen för att kolla in den, så jag undersökte lite.
Enligt människorna som har testat det fungerar programvaran på både Windows- och Linux-maskiner och man behöver absolut ingen expertis för att använda den alls. De säger att det är lika enkelt att beskära en bild i en grundläggande fotoredigerare. Jag ska inte ens bry mig om att lägga till fler bilder och marknadsföra appen, men från de resultat jag har sett verkar det fungera väldigt exakt.
flicka kissa som en pojke
Här är vad den anonyma skaparen av appen sa när han frågades varför han skapade en så skrämmande mjukvara -
För ungefär två år sedan upptäckte jag potentialen i AI och började studera grunderna. När jag fick reda på att GAN-nätverk kunde omvandla ett foto på dagtid till ett nattetid insåg jag att det skulle vara möjligt att förvandla ett klätt foto till ett nakenfoto. Eureka. Jag insåg att röntgenglasögon är möjliga! Driven av kul och entusiasm för den upptäckten gjorde jag mina första tester och fick intressanta resultat.
Ärligt talat spelar det ingen roll varför han skapade den. Vi, människor, borde vara mer bekymrade över det faktum att programvara som denna finns i denna värld och vem som helst, som bokstavligen vem som helst kan ladda ner den och göra falska nakenbilder som tyvärr ser väldigt verkliga ut.
Tanken med att skapa djupa förfalskningar var skrämmande, men det tar bara saker till en annan nivå. Anledningen till att det är en ännu större oro är att en app som den här är lättillgänglig och lättare att använda än deepfake. Att det är lika enkelt som att installera och spela det som ett videospel är det som skrämmer mig.
Jag hoppas verkligen att systemen blir bättre på att upptäcka deepfakes. Jag kan bara börja föreställa mig hur detta kan missbrukas om det hamnar i fel händer. Det är skrämmande att säga att deepfakes och appar som denna knappt repar ytan på AI kan göra. Det verkar som om vi blir dömda om det inte finns någon ordentlig reglering för användning av AI.
Källa: vice
Vad tycker du om det?
Starta en konversation, inte en eld. Skicka med vänlighet.
Publicera kommentar
