24/01/2022 21:54:30
La circular busca adelantarse a los eventuales riesgos y establece principios respecto al resguardo de los derechos de los consumidores en el uso de herramientas de Inteligencia Artificial (IA).

Foto Nota
El director del SERNAC, Lucas Del Villar, señaló que la circular se justifica en el hecho que la utilización de la IA puede profundizar asimetrías en perjuicio de los consumidores, por resultados injustos o arbitrariamente discriminatorios, la eventual falta de transparencia en las condiciones en que se ofrecen los servicios o en el tratamiento de los datos personales.

La Inteligencia artificial es una herramienta que hoy es parte de la vida cotidiana sin que los consumidores necesariamente se percaten. Por ejemplo, cuando una aplicación recomienda ver ciertas películas o música, cuando se autocompleta un texto que estamos escribiendo, cuando usamos asistentes de voz, navegadores o recibimos notificaciones en redes sociales que a veces parecen “adivinar el pensamiento”.

Se trata, por tanto, de un sistema que en base a distintos objetivos, puede hacer predicciones de comportamiento, recomendaciones o influir sobre decisiones de las personas en entornos reales o virtuales.

La autoridad explicó que los sistemas que se basan en estas tecnologías, bien proporcionados y utilizados, pueden ser beneficiosos para los consumidores, al permitir la automatización de ciertas tareas y reducir costos de contratación, o posibilitar la firma de contratos u ofertas que se basen en las preferencias, necesidades y capacidades individuales de las personas, permitiendo una atención personalizada.

No obstante, advierte también que existen ciertos riesgos relacionados con las asimetrías de información y de poder de negociación, que podrían traer como consecuencia riesgos de abuso y manipulación; la generación de resultados arbitrariamente discriminatorios, la ausencia de transparencia o el inadecuado manejo de los datos personales.

Por ejemplo, mediante del desarrollo de algoritmos de autoaprendizaje extraídos en del análisis de una gran cantidad de datos, es posible determinar patrones de conducta y analizar los hábitos de las personas, lo que facilita que se exploten intencionalmente sus sesgos o se desarrollen prácticas comerciales como los “dark patterns” que pueden empujar a los consumidores a tomar decisiones no siempre en su beneficio.

Adicionalmente, como riesgo en la utilización de sistemas de Inteligencia Artificial, los consumidores pueden ser objeto de acciones o decisiones adoptadas por dichos sistemas que sean difíciles de entender o simplemente no se puedan rebatir.

Al respecto, la circular instruye a las empresas a respetar la Ley del Consumidor en cuanto a la entrega de información efectiva y transparente; el resguardo de la libertad de elección y la seguridad en el consumo; la prohibición de toda discriminación arbitraria, y la protección de los datos personales de los consumidores.

En este sentido, las empresas deben presentar a los consumidores información clara y comprensible respecto del objetivo o finalidad de estos sistemas de IA; su injerencia en el proceso de contratación o de ejecución del contrato; las condiciones mínimas bajo las cuales funciona, y la naturaleza de la interrelación del sistema de IA con el consumidor, en caso que corresponda.

En particular, las empresas deben informar de forma transparente y oportuna si el consumidor está interactuando con un sistema de IA y no con un ser humano (junto con las implicancias asociadas) y los datos personales que son tratados por el sistema, incluyendo los tipos de tratamiento que tienen lugar para llegar a una decisión por parte del sistema de IA.

Asimismo, como práctica general, las empresas no pueden usar esta tecnología para manipular y perjudicar a los consumidores.

Respecto de la protección de datos personales, todo tratamiento de información de carácter personal debe sustentarse en una base legal y contar con el consentimiento del titular, que este consentimiento sea válido, informado y expreso (otorgado por escrito), pudiendo el titular los datos revocar esa autorización.

Los datos personales deben ser exactos y estar actualizados, así como ser eliminados y cancelados cuando su almacenamiento carezca de fundamento legal o cuando hayan caducado. Asimismo, los datos erróneos, inexactos, equívocos o incompletos deben ser modificados.

Del Villar concluye señalando que espera “que las empresas utilicen estos sistemas respetando la ley y promoviendo buenas prácticas porque eso repercutirá en una mayor confianza en el mercado y en un crecimiento más eficiente de estas tecnologías”.

Este material se enmarca en el cumplimiento del Plan de Acción de la Política Nacional de IA del Ministerio de Ciencia, Conocimiento, Tecnología e Innovación (MinCiencia) que se publicó en octubre de 2021, con el objetivo que nuestro país cuente con una estrategia nacional para anticiparse a sus efectos.

Lo anterior, particularmente en el objetivo de fomentar un uso de IA en el comercio digital transparente, no discriminatorio y respetuoso de las normas de protección de datos personales (objetivo 3.3.1. de dicha política nacional).