La Sala de la Cámara de Diputados aprobó en general, por 128 votos a favor, 2 en contra y 5 abstenciones, el proyecto que regula las deepfakes: la creación y difusión de imitaciones digitales realistas de la imagen, el cuerpo o la voz de las personas generadas mediante inteligencia artificial IA. (Boletín 17795-19)
La iniciativa busca proteger la integridad de las personas frente al uso malicioso de estas tecnologías, utilizadas para cometer extorsiones, fraudes o afectar la reputación de terceros, estableciendo además responsabilidades para quienes las creen o difundan.
Cámara aprueba proyecto que regula deepfakes generadas con IA
El proyecto contempla que los tribunales puedan decretar medidas cautelares, como el retiro o bloqueo de contenido, para evitar un daño irreparable. Asimismo, propone multas que van desde las 5 mil hasta las 10 mil UTM, equivalentes a aproximadamente $358 millones y $716 millones.
Durante el debate, parlamentarios destacaron que esta regulación llega con retraso en comparación con legislaciones ya vigentes en la Unión Europea.
“Artículo 5°.- Derecho a la integridad digital. Toda persona tiene el derecho a que su imagen, cuerpo o voz no sean utilizados para efectos de generar representaciones digitales verosímiles pero falsas mediante IA, u otras tecnologías.
La diputada del Partido Comunista, Irací Hassler, puso énfasis en que este tipo de contenidos afecta principalmente a las mujeres:
“Niñas, adolescentes y mujeres, son las principales víctimas de la violencia digital. La inteligencia artificial ha potenciado nuevas formas de violencia y desinformación, y frente a ellas, el Estado tiene el deber de actuar”.
Por su parte, la diputada de la Democracia Cristiana, Priscilla Castillo, sostuvo que la iniciativa no busca frenar el desarrollo de la inteligencia artificial, sino resguardar a las personas frente a su uso malicioso, advirtiendo además lo difícil que resulta reparar el daño a la imagen de una víctima una vez que este tipo de contenido se difunde:
“Aunque después exista una sanción (…) el daño ya está hecho, porque una mentria puede recorrer el país en cuestión de minutos.”
No obstante, algunos parlamentarios manifestaron reparos respecto del grado de responsabilidad que el proyecto asigna a las plataformas digitales para decidir qué contenidos deben mantenerse publicados y cuáles eliminar.
También advirtieron que la propuesta podría generar riesgos para la libertad de expresión o desincentivar desarrollos tecnológicos legítimos.
¿Qué se entiende por deepfake?
El proyecto define a estos “deepfakes” como representaciones digitales verosímiles pero falsas: contenidos de imagen, audio o video —generados mediante inteligencia artificial u otras tecnologías— que modifican, recrean o sintetizan la apariencia, voz, gestos u otros atributos de una persona real, pudiendo inducir a error o engaño sobre su identidad, acciones o declaraciones, y afectar su honra.
También se incluyen aquellos contenidos que, sin haber sido creados desde cero con estas herramientas, son alterados o manipulados mediante tecnología para producir los mismos efectos de confusión o engaño respecto de la persona representada.
Fuente: BioBioChile