Estudiantes usan IA para crear videos sexuales de compañeras
Unos alumnos crearon imágenes y videos de contenido sexual explícito de 24 compañeras del colegio sin su consentimiento.
¿Hasta dónde ha avanzado la tecnología y qué tan buena es? Este caso ocurrió en un colegio católico en Quito, Ecuador, y ha preocupado a los padres de todo el mundo.
Dos estudiantes utilizaron las fotografías de 24 compañeras de su escuela sin su consentimiento y crearon videos e imágenes de contenido sexual explícito que difundieron ampliamente entre los alumnos del colegio.
El caso salió a la luz gracias a la Fundación Grupo Rescate Escolar y ha generado una gran preocupación entre los padres de familia.
Según Sybel Martínez, directora del Grupo Rescate Escolar, se utilizaron alrededor de 700 contenidos generados con inteligencia artificial. Las víctimas se enteraron de la situación cuando estas imágenes y videos comenzaron a circular entre los estudiantes.
Desde entonces, tanto las jóvenes afectadas como sus padres, han estado buscando formas de tomar medidas contra los estudiantes responsables de crear este contenido.
Martínez reveló que la directora del colegio no informó si había presentado una denuncia ante el Distrito de Educación. En lugar de eso, mencionó que estaba elaborando un informe para presentar al Distrito y afirmó que los estudiantes habían eliminado los videos, sugiriendo que el problema estaría resuelto. Además, se informó que los estudiantes implicados abandonaron la institución por su propia voluntad.
El Ministerio de Educación de Ecuador ha confirmado que está al tanto del caso y ha activado los protocolos correspondientes. La institución educativa ha remitido el caso a la Junta Distrital de Resolución de Conflictos y a la Fiscalía.
En un comunicado público, el Ministerio de Educación informó que desde el 28 de septiembre cuentan con un Protocolo de actuación frente a situaciones de violencia digital en el Sistema Nacional de Educación.
Este protocolo establece directrices para la prevención, detección, intervención, derivación, seguimiento y reparación de situaciones de violencia digital en el entorno educativo.
El caso en Ecuador es un ejemplo de la creciente preocupación por el uso de la inteligencia artificial en la creación de contenido engañoso y perjudicial.
Los deepfakes, como se les conoce, son videos manipulados que pueden hacer que una persona parezca estar realizando acciones o declaraciones que nunca ocurrieron. Esto puede tener graves consecuencias, incluido el ciberacoso y la difamación.
La Unesco ha instado a los gobiernos a regular el uso de la inteligencia artificial en las escuelas para garantizar su uso ético. La IA puede ser una herramienta valiosa, pero también puede ser peligrosa si se utiliza de manera inapropiada.
Comentarios
