Una escuela en Nueva Jersey investiga un caso indignante y que genera preocupación, luego de que se reportara que jóvenes usaron inteligencia artificial para manipular fotografías reales y crear imágenes de compañeras desnudas.
Los estudiantes de Westfield High School crearon fotografías falsas de desnudos de sus compañeras de clase, según una carta enviada por correo electrónico a los padres en octubre. Aparentemente, las fotos fueron enviadas en mensajes de texto grupales durante el verano.
“Lo que me preocupa es la cantidad de suicidios entre los niños y el aspecto del acoso. Y hoy en día nuestro mundo en línea es bastante difícil, pero cuando puedes simplemente tomar una imagen de alguien, se vuelve realmente problemático», dijo John Pizzuto, jubilado comandante del grupo de trabajo contra delitos en Internet de la Policía Estatal de Nueva Jersey.
El superintendente de escuelas, Raymond González, dijo que el distrito “continúa fortaleciendo nuestros esfuerzos educando a nuestros estudiantes y estableciendo pautas claras para garantizar que estas nuevas tecnologías se utilicen de manera responsable en nuestras escuelas y más allá”.
Al menos 30 estudiantes de Westfield High School han sido víctimas, reportó ABC6. “Comencé a llorar porque no sabía qué hacer, no pensé que esto me pudiera pasar a mí”, dijo la estudiante Francesca Mani, indicó el medio.
“Entonces, uno de los niños se lo contó accidentalmente a una de las niñas, y fue entonces cuando al día siguiente todo se extendió”, dijo Mani.
Mani no sabía qué hacer, así que fue a la oficina de la directora, Mary Asfendis, quien dijo que creen que todas las imágenes creadas han sido eliminadas y no están circulando. Mani descubrió que no se trata sólo de un compañero, sino de un grupo que utilizan más de una docena de imágenes de jóvenes.
“Todas las demás chicas están de acuerdo conmigo, no lo quieren en esta escuela. Están muy asustadas”, dijo Mani.
“No creo que mi hija, las otras víctimas y las niñas de Westfield High School deban ser castigadas con otros dos años y medio de él en el aula”, dijo Dorota, la madre de Mani, de acuerdo con Fox5.
Una madre está emprendiendo más acciones legales y promete luchar contra este problema nacional emergente. Los padres dicen que es triste que se utilice la inteligencia artificial para acosar a las estudiantes, indicó ABC6.
“No pensé que sería uno de mis compañeros de clase, pensé que serían simplemente alguien en línea, pero fue uno de mis compañeros de clase”, dijo Mani.
“Me aterroriza cómo y cuándo saldrá a la luz esto. Mi hija tiene un futuro brillante y nadie puede garantizar que esto no la afectará profesional, académica o socialmente”, dijo Dorota al The Wall Street Journal.
Los padres de otras niñas que hablaron con el Journal, incluidos dos de los cuatro que presentaron denuncias ante la policía local, dijeron que ellos y sus hijas no habían visto las imágenes en cuestión.
“Es de vital importancia hablar con sus hijos sobre el uso de la tecnología y lo que publican, guardan y comparten en las redes sociales”, dijo la directora Asfendis. “Continuaremos educando a sus hijos sobre la importancia del uso responsable de la tecnología y esperamos que refuercen estos mensajes en casa”.
Una semana y media después, el menor que supuestamente hizo las imágenes fue suspendido temporalmente por unos días, pero ya está de regreso en la escuela, reportó Fox5.
Esta misma semana, el presidente Joe Biden emitió una amplia orden ejectuvia que regula el desarrollo de la inteligencia artificial e implementa “salvaguardias contra… la producción de material de abuso sexual infantil y contra la producción de imágenes íntimas no consensuadas de individuos reales”, recordó el The New York Post.
Los funcionarios estatales han prohibido la distribución de pornografía generada por IA o han otorgado a las víctimas el derecho a demandar en tribunales civiles en Virginia, California, Minnesota y Nueva York, indicó el medio.
Ayudaron cámaras con inteligencia artificial a ubicar a prófugos en 2024: SSPM
Explica César Omar Muñoz que lectoras de rasgos faciales detectaron a personas que tenían órdenes de aprehensión pendientes
Por Teófilo Alvarado
Se suicida adolescente enamorado de chatbot y su madre demandará a empresa de IA
La empresa Character.ai recibirá la querella de la mujer
Por Redacción
Ciudad Juárez es… The Number 2!
Justo debajo de Torreón, Coahuila, Ciudad Juárez se encuentra en la segunda posición como la ciudad más fea de México, de acuerdo a un análisis de Inteligencia Artificial
Por Redacción
Demandan medios de EU a OpenAI
la IA debe su éxito arrollador en parte al trabajo de otros, indican abogados de los periódicos
Por Redacción
