fbpx
Þriðjudagur 05.nóvember 2024
Pressan

Nektarmyndir búnar til með gervigreind valda uppnámi í skóla

Pressan
Fimmtudaginn 2. nóvember 2023 17:30

Westfield í New Jersey en dreifing falsaðra nektarmynda af unglingsstúlkum skekur nú bæinn/Wikimedia

Ekki missa af Helstu tíðindum dagsins í pósthólfið þitt

Lesa nánar

Ljósmyndir sem búnar eru til með gervigreind og sýna kvenkyns nemendur skóla í New Jersey í Bandaríkjunum á klámfengin hátt og var dreift af karlkyns nemendum hafa valdið gríðarlegu uppnámi meðal foreldra og komið af stað lögreglurannsókn.

Skólinn er á því skólastigi sem kallast high school í Bandaríkjunum en í slíkum skólum eru nemendur yfirleitt á aldrinum 14-18 ára.

Umræddur skóli er í bænum Westfield en meðal árstekjur í bænum eru um fjórfalt hærri en meðal árstekjur á landsvísu í Bandaríkjunum.

Nemendur segja að einn eða fleiri karlkyns nemendur hafi notað gervigreindina til að búa myndirnir til og síðan dreift þeim meðal annarra nemenda.

Málið laut dagsins ljós þegar hópur karlkyns nemenda á öðru ári í skólanum hafði þótt haga sér undarlega. Kvenkyns samnemendur þeirra fóru að spyrja spurninga og loks sagði einn úr hópnum hvað væri á seyði. Að minnsta kosti einn karlkyns nemandi hafði notað myndir af stúlkum í nemendahópnum sem hann fann á internetinu til að búa fölsuðu nektarmyndirnar til og nýtti gervigreind til þess. Nemandinn deildi síðan afurðunum með öðrum drengjum í nemendahópnum í hópspjalli.

Stúlkunum var tjáð af stjórnendum skólans að drengirnir hefðu borið kennsl á þær á þessum fölsuðu nektarmyndum.

Óttast um framtíð dóttur sinnar

Móðir 14 ára stúlku sem er nemandi í skólanum segir að dóttur sinni hafi verið tjáð af stjórnendum skólans að mynd af henni hafi verið notuð til að búa til nektarmynd af þessu tagi.

Móðirinn segist dauðhrædd um að myndin fari í almenna dreifingu. Dóttir sín eigi bjarta framtíð fyrir höndum og það sé ekki hægt að ábyrgjast að falsaða myndin muni ekki hafa áhrif á starfs- og námsferil hennar sem og félagslíf. Hún segist ekki kæra sig um að dóttir sín gangi í skóla með neinum sem hafi tekið þátt í að búa til myndirnar og hefur lagt fram kæru hjá lögreglu.

Alls hafa foreldrar fjögurra stúlkna lagt fram kærur.

Foreldrar tveggja þessara stúlkna segja að þau og dætur þeirra hafi ekki séð myndirnar.

Lögreglan hefur að sögn ekki séð myndirnar.

Fjöldi vefsíðna þar sem hægt er að búa til ljósmyndir með aðstoð gervigreindar eru öllum opnar og ekki er ljóst hvaða síða var notuð til að búa þessar tilteknu myndir til.

Skólastjóri skólans hefur látið foreldra allra 1.900 nemenda við skólann vita af málinu. Mun það hafa verið gert eftir að stúlkurnar sem urðu fyrir barðinu á tiltækinu létu stjórnendur skólans vita.

Skólastjórinn segir í bréfi til foreldra telja að myndunum hafi verið eytt og að þær séu ekki lengur í dreifingu. Málið sé hins vegar alvarlegt og nemendur verði að skilja hvaða skaða tiltæki af þessu tagi geti valdið öðru fólki. Kenna verði nemendum að nýta þessa nýju tækni með ábyrgum hætti.

Ekki er ljóst á þessu stigi hversu margir karlkyns nemendur áttu þátt í að búa fölsuðu nektarmyndirnar til eða hvort þeir hafi verið beittir einhverjum viðurlögum af hálfu skólans.

Fyrr í vikunni undirritaði Joe Biden forseti Bandaríkjanna tilskipun sem felur meðal annars í sér reglur og aðgerðir til að sporna gegn framleiðslu á efni, með aðstoð gervigreindar, sem felur í sér kynferðislega misnotkun á börnum og einnig til að spyrna fótum við framleiðslu á nektarmyndum af raunverulegum einstaklingum án þeirra samþykkis.

Það var New York Post sem greindi frá.

 

Athugasemdir eru á ábyrgð þeirra sem þær skrá. DV áskilur sér þó rétt til að eyða ummælum sem metin verða sem ærumeiðandi eða ósæmileg. Smelltu hér til að tilkynna óviðeigandi athugasemdir.

Fleiri fréttir

Mest lesið

Nýlegt

Pressan
Í gær

Henni var rænt og hún var grafin lifandi í þrjá daga – „Ég öskraði og öskraði“

Henni var rænt og hún var grafin lifandi í þrjá daga – „Ég öskraði og öskraði“
Pressan
Í gær

Hvenær var Suðurskautslandið síðast íslaust?

Hvenær var Suðurskautslandið síðast íslaust?
Pressan
Fyrir 2 dögum

Sarah var myrt eftir óhugnanlega Facebook-færslu sína – Hver var hinn seki?

Sarah var myrt eftir óhugnanlega Facebook-færslu sína – Hver var hinn seki?
Pressan
Fyrir 2 dögum

Ný veira fannst í Kína – Getur haft áhrif á heilann

Ný veira fannst í Kína – Getur haft áhrif á heilann
Pressan
Fyrir 3 dögum

Morð og glæpir sælgætismannsins vekja enn óhug hálfri öld seinna

Morð og glæpir sælgætismannsins vekja enn óhug hálfri öld seinna
Pressan
Fyrir 3 dögum

Heimsins mest einmana tré vantar maka til að geta fjölgað sér – Þar kemur gervigreind til sögunnar

Heimsins mest einmana tré vantar maka til að geta fjölgað sér – Þar kemur gervigreind til sögunnar
Pressan
Fyrir 3 dögum

Faldi nýfætt barn sitt í morgunkornskassa – Dæmd í ævilangt fangelsi

Faldi nýfætt barn sitt í morgunkornskassa – Dæmd í ævilangt fangelsi
Pressan
Fyrir 3 dögum

Greiða 14 milljarða í bætur eftir ásiglingu á brú

Greiða 14 milljarða í bætur eftir ásiglingu á brú