La provincia de Santa Fe avanza en la actualización de su marco legal para hacer frente a los desafíos que plantea la inteligencia artificial (IA). A través de una iniciativa impulsada por la diputada provincial Celia Arena (Hacemos Santa Fe), se busca reformar el régimen contravencional sancionando la creación, manipulación y circulación sin consentimiento de contenidos sintéticos de carácter íntimo o difamatorio.
Las conductas clave que busca sancionar la iniciativa
La propuesta legislativa apunta a castigar penal y contravencionalmente la producción y transmisión de materiales alterados por tecnología que afecten derechos fundamentales. Entre los principales puntos destacan:
- Contenido sintético sexual o de desnudez: Sanción a la creación y difusión no consentida de imágenes, audios y videos.
- Ataques a la dignidad y reputación: Penalización de manipulaciones digitales no sexuales pero que afecten gravemente la imagen pública de una persona.
- Protección a las infancias: Castigo riguroso a la producción, posesión, financiamiento y comercialización de representaciones sexuales sintéticas con apariencia infantil.
- Cese inmediato de difusión: Los jueces de faltas tendrán la facultad de ordenar la eliminación urgente del material de las plataformas digitales.
- Medidas formativas: Obligatoriedad de asistir a talleres sobre violencia digital y uso ético de tecnologías para los infractores.
Complemento marco: Ley Olimpia y Ley Ema
El proyecto busca articularse con normativas de protección previas aprobadas en la provincia:
- Ley Olimpia (Ley Provincial 14.297): Aborda integralmente la violencia digital y la difusión no consentida de material íntimo.
- Ley Ema (Ley Provincial 14.471): Se enfoca en la prevención y tratamiento de la violencia digital en el ámbito escolar. Esta norma rinde homenaje a Ema Bondaruk, adolescente de 15 años fallecida en 2024 tras la viralización de imágenes íntimas sin su consentimiento.
Guía de acción: Qué hacer ante un caso de deepfake sexual en niños o adolescentes
Frente a la circulación de imágenes falsas o manipuladas con inteligencia artificial que afecten a un menor, las autoridades oficiales recomiendan seguir este protocolo de actuación:
1. Acompañar y escuchar a la víctima
Es fundamental transmitir contención al niño, niña o adolescente, dejando en claro que no tiene ninguna responsabilidad sobre lo ocurrido. La culpa recae exclusivamente en quienes generaron y difundieron el contenido.
2. Preservar las pruebas digitales
Antes de reportar, bloquear o borrar perfiles, resulta prioritario resguardar la evidencia que permita reconstruir los hechos:
- Tomar capturas de pantalla de chats, publicaciones y cuentas involucradas.
- Copiar los enlaces (URL) directos y anotar nombres de usuario.
- Registrar fechas y plataformas exactas donde circuló el material.
3. Evitar la propagación del contenido
Bajo ninguna circunstancia se deben descargar o retransmitir los archivos en grupos de chat o redes sociales. La prioridad debe ser frenar la cadena de difusión.
4. Canales oficiales para realizar la denuncia
Para presentar la denuncia correspondiente en Argentina, las familias pueden acudir a:
- Línea 102: Orientación y contención en derechos de niños, niñas y adolescentes.
- Línea 137: Asistencia especializada en violencia familiar y sexual.
- Fiscalía más cercana: Presentación formal de la denuncia aportando el material probatorio recopilado.