New Jersey High School kæmper med skandale over AI-genererede billeder

Underholdning

En forespørgsel fra politiet og en modreaktion fra forældre er blevet udløst af AI-genererede obskøne billeder af kvindelige studerende på en high school i New Jersey. Mandlige klassekammerater producerede billederne, som derefter blev delt, ifølge en rapport.

Hændelsen er centreret om Westfield High School, som er beliggende i en velhavende enklave cirka 25 miles vest for Manhattan, ifølge Forbes.

Studerende fortalte The Wall Street Journal, at en eller flere af deres venner lavede disse pornografiske fotografier ved hjælp af en internet-AI-applikation, som de efterfølgende delte med deres sociale medie-netværk.

En bekymret mor sagde, at hendes datter den 16. oktober havde observeret mærkelig opførsel blandt skolens andenårsdrenge.

Den sande natur af disse aktiviteter – skabelsen og spredningen af ​​pornografiske billeder skabt ved at ændre internetbilleder af piger og delt via gruppechat – blev først afsløret den 20. oktober af en medstuderende.

Forældre sagde også, at administratorer på skolen fortalte nogle få kvindelige børn om deres tilknytning til disse falske, grafiske billeder. Skolen ville dog ikke bekræfte, om nogen ansatte så disse billeder på egen hånd.

Dorota Mani, en anden forælder, udtrykte sine bekymringer vedrørende sin 14-årige datter Francesca, hvis billede blev brugt til at lave en 'deepfake'. Avancerede forfalskninger, der ligner rigtige fotos, kaldes deepfakes. Mani indgav en politianmeldelse efter at have udtrykt bekymring over de mulige virkninger på hendes datters personlige og professionelle liv.

Sensity, en visuel trusselsintelligensvirksomhed, hævder, at over 90 % af deepfake-billeder er eksplicitte af natur og ofte omfatter ligheder med velkendte personer.

Forældre til de omkring 1.900 elever på Westfield High School blev informeret om begivenheden af ​​rektor Mary Asfendis. Hun gav dem sit ord for, at billederne var blevet fjernet og ikke længere var i brug.

Asfendis understregede, hvor alvorlig situationen var, og hvor afgørende det var, at eleverne forstår konsekvenserne af deres adfærd. Hun lovede også at blive ved med at instruere eleverne i, hvordan man bruger teknologien ansvarligt.

Oplysninger om, hvor meget af eleverne, der var involveret i at producere disse fiktive obskøne billeder og om eventuelle disciplinære handlinger, der blev truffet, deles ikke.

Den første kvindelige borgmester i Westfield, Shelley Brindle, lovede at kæmpe for kvinders og pigers rettigheder og gav udtryk for sin dybe bekymring.