El pasado miércoles el Gobierno ingresó a la Cámara de Diputados el Proyecto de Ley que regula el uso de los Sistemas de Inteligencia Artificial (“IA”) en Chile, Boletín N° 16.821-19. Se trata de un hito importante para la institucionalidad digital del país, que permitirá el uso seguro de esta revolucionaria tecnología y el aprovechamiento de su extraordinario potencial, minimizando los riesgos de su utilización para los derechos fundamentales de las personas.
El Proyecto de Ley regula la actuación de las empresas que utilizan sistemas de IA, los que son definidos como “sistemas basados en máquinas que, por objetivos explícitos o implícitos infieren, a partir de la entrada que reciben, cómo generar salidas tales como predicciones, contenidos, recomendaciones o decisiones que pueden influir en entornos físicos o virtuales” (Art. 3, Proyecto de Ley). En este sentido, se imponen obligaciones a: (i) las empresas proveedoras que introduzcan al mercado o pongan en servicio sistemas de IA en Chile; (ii) las empresas que implementen sistemas de IA en sus operaciones, cuando estén domiciliadas en Chile; (iii) las empresas proveedoras o implementadoras que se encuentren en el extranjero, si la información generada por el sistema de IA se utilizará en Chile; y (iv) los importadores y distribuidores de sistemas de IA y los representantes autorizados que se encuentren domiciliados en Chile.
El Proyecto de Ley adopta un “enfoque basado en riesgos”, siguiendo la recientemente sancionada Ley de Inteligencia Artificial Europea. Así, clasifica los sistemas de IA en cuatro grupos según su nivel de riesgo: (i) sistemas de riesgo inaceptable; (ii) sistemas de alto riesgo; (iii) sistemas de riesgo limitado; y (iv) sistemas sin riesgo evidente. Se imponen obligaciones diferenciadas según cada caso. Es importante destacar que se prohíbe la utilización de los sistemas del primer grupo, por tratarse de sistemas incompatibles con el respeto y la garantía de los derechos fundamentales de las personas. Entre estos se encuentran los sistemas que puedan causar daños en la salud física y/o mental de las personas a través de su manipulación subliminal, la categorización biométrica de las personas, su puntuación social y los sistemas de identificación biométrica remota en espacios de acceso público, en tiempo real.
Sin embargo, no toda utilización de sistemas de IA quedará comprendida en la regulación. Se excluyen los sistemas de IA desarrollados y utilizados con fines de defensa nacional, las actividades de investigación, pruebas y desarrollo sobre los sistemas de IA y los componentes de IA que provienen de licencias libres y de código abierto, salvo que sean integrados a un sistema de IA de alto riesgo.
El Proyecto de Ley también establece severas sanciones para las empresas que incumplan con las obligaciones al implementar los sistemas de IA, que van entre las 5.000 y 20.000 UTM. La Agencia de Protección de Datos estará encargada de fiscalizar y velar por el cumplimiento de esta ley, resolver los reclamos de las personas afectadas por estas tecnologías y aplicar las sanciones. Esto pone de relieve la estrecha relación entre este Proyecto de Ley y la Nueva Ley de Protección de Datos personales (Boletines 11.092-07 y 11.144-07, refundidos), actualmente en trámite ante la Comisión Mixta parlamentaria. En este contexto, aguardamos con expectativa el avance legislativo de ambos proyectos, cruciales para salvaguardar los derechos fundamentales en la era digital.