Cámara aprueba en general proyecto que busca regular contenidos creados con IA y así combatir los deepfakes

Cámara aprueba en general proyecto que busca regular contenidos creados con IA y así combatir los deepfakes

La iniciativa establece que quienes generen o difundan deepfakes serán responsables civilmente por los daños causados. En cuanto a las multas, se propone que estén en rangos de 5 mil a 10 mil UTM.

Por 128 votos a favor, 2 en contra y 5 abstenciones, la Sala de la Cámara de Diputados aprobó en general el proyecto de ley que busca regular la creación y difusión de contenidos generados con inteligencia artificial u otras tecnologías.

La iniciativa, cuyo objetivo es proteger la identidad e integridad de las personas frente a imitaciones digitales realistas o deepfakes, establece responsabilidades y sanciones al uso de contenidos digitales falsos.

Así, el proyecto establece como “representaciones digitales verosímiles pero falsas” a todo contenido sintético de imagen, audio o video, generado o alterado mediante inteligencia artificial u otras tecnologías, que pueda inducir a error, confusión o engaño respecto de la identidad, acciones o declaraciones de una persona real.

Junto con esto, la iniciativa también reconoce el derecho a la integridad digital, es decir, el derecho de toda persona a que su imagen, cuerpo o voz no sean utilizados para generar este tipo de contenidos. No obstante, distingue que no se consideran deepfakes los contenidos que correspondan a una sátira, parodia, crítica o expresión artística, siempre que sean claramente identificables y no induzcan a error ni causen daño”.

En la discusión parlamentaria, si bien algunos diputados destacaron que la iniciativa busca crear un marco de protección que incorpore el derecho a la integridad digital y establezca mayores responsabilidades a las plataformas que alojan o difunden este tipo de contenidos, otros cuestionaron el grado de responsabilidad que la propuesta entrega a las plataformas para determinar qué contenidos pueden permanecer publicados y cuáles deben ser eliminados.

Sobre este punto, advirtieron que podría generar riesgos para la libertad de expresión o inhibir desarrollos tecnológicos legítimos.

Otro de los puntos que se realzaron en la discusión fue sobre los efectos que estas tecnologías pueden tener no solo en las personas, sino también en la seguridad institucional y la soberanía de los países.

Tras su aprobación en Sala, la iniciativa ahora retorna a la Comisión de Futuro, Ciencias, Tecnología, Conocimiento e Innovación para su discusión en particular.

Multas de hasta 10 mil UTM

De acuerdo a lo estipulado en el proyecto, la iniciativa sería aplicable tanto a personas naturales como jurídicas, así como a plataformas de redes sociales que operen en el territorio nacional. En este caso, define dichas plataformas como servicios digitales de intermediación que gestionan contenidos y datos, pero excluye expresamente a los servicios de mensajería instantánea de carácter privado.

El proyecto establece que las plataformas extranjeras deberán designar un representante legal en Chile e incorpora las obligaciones de identificar de forma visible cuando el contenido es generado con inteligencia artificial y habilitar canales de denuncia para que las personas afectadas puedan solicitar la eliminación del contenido.

En cuanto a responsabilidades el proyecto establece que quienes generen o difundan deepfakes serán responsables civilmente por los daños causados e incluso contempla la posibilidad de que los tribunales adopten medidas cautelares, como el retiro o bloqueo del contenido, con el fin de evitar un daño irreparable.

En cuanto a las multas, se propone que estén en rangos de 5 mil a 10 mil UTM ($358 millones a $716 millones, aproximadamente).