Denunciaron a jóvenes por vender pornografía falsa de sus compañeras hecha con IA

La investigación por un caso de «deepfake» de contenido sexual involucra a estudiantes de los colegios Nacional y Carlos Pellegrini de Buenos Aires.

Un grupo de alumnos del Colegio Nacional de Buenos Aires (CNBA) y de la Escuela Superior de Comercio Carlos Pellegrini (ESCCP) son investigados a raíz de una denuncia por la creación, difusión y comercialización de imágenes de compañeras manipuladas con inteligencia artificial (IA). En el caso del Colegio Nacional, fuentes cercanas a la institución señalaron que la investigación involucra a ocho alumnos, principalmente de segundo año, de entre 13 y 14 años, quienes fueron señalados como presuntos responsables de la maniobra.

La investigación sostiene que los adolescentes habrían creado un grupo de WhatsApp a través del cual compartían carpetas con imágenes de las alumnas o contenido íntimo. Los archivos fotográficos habían sido manipulados mediante el uso de inteligencia artificial. Las víctimas serían, en la mayoría de los casos, compañeras de la misma división, amigas o exparejas de algunos de los involucrados. A raíz de la denuncia, ambos colegios secundarios dependientes de la Universidad de Buenos Aires (UBA) activaron los protocolos correspondientes y emitieron comunicados.

El Colegio Nacional de Buenos Aires informó que recibió denuncias e inquietudes de miembros de la comunidad educativa por la presunta circulación de imágenes de estudiantes del establecimiento. Ante esa situación, señaló que activó de manera inmediata distintos dispositivos de escucha y acompañamiento, con la participación de la Oficina de Género y Promoción de Vínculos Saludables, preceptores, tutores, orientadores, consejeros de convivencia, alumnos y familias, con el objetivo de recibir información y brindar contención.

En el comunicado, la institución remarcó: “Consideramos que cualquier acción de este tipo resulta repudiable y contraria a los valores que promueve esta institución. En este sentido, se tomarán las acciones pedagógicas y reparatorias que correspondan, conforme al reglamento de convivencia y las normativas pertinentes”. El texto lleva la firma de la rectora, Valeria Bergman.

Además, el colegio indicó que dará trámite a todas las presentaciones vinculadas con el caso y las derivará a los organismos e instancias de protección que correspondan. No obstante, según señalaron fuentes consultadas por La Nación, hasta el momento la única medida adoptada habría sido la suspensión preventiva de los estudiantes involucrados.

Por su parte, el colegio Carlos Pellegrini difundió un comunicado aparte en el que informó que detectó presuntos casos de “uso indebido de medios digitales” y que inició una serie de entrevistas con estudiantes y familias para reunir información sobre lo ocurrido. Según explicó la institución, en esos primeros encuentros surgieron indicios de una posible difusión no autorizada de imágenes y de situaciones de violencia entre alumnos.

Frente a este escenario, el equipo directivo indicó que activó los protocolos previstos para este tipo de casos. Si bien no brindó detalles sobre las medidas adoptadas, precisó que las actuaciones se desarrollarán en función de las denuncias recibidas, las cuales podrían involucrar hechos de violencia digital, violencia de género, uso indebido de imágenes y otras conductas.

Asimismo, la escuela aseguró que todas las presentaciones serán tramitadas conforme a las normas y protocolos vigentes, con intervención de los organismos de protección correspondientes. También adelantó que reforzará los espacios de diálogo con los cursos más afectados y sus familias, con el objetivo de promover la concientización y prevenir este tipo de situaciones.

Por otro lado, desde la rectoría señalaron al mencionado medio que algunos estudiantes fueron suspendidos de manera preventiva. Agregaron que, una vez reunidas las pruebas por parte de la institución y con la intervención del Consejo de los Derechos de Niñas, Niños y Adolescentes y del Ministerio Público Tutelar, se definirán las sanciones correspondientes, que podrían llegar hasta la expulsión de los alumnos involucrados.