1. INTRODUCCIÓN
Para introducir el tema de la Inteligencia Artificial (en adelante “IA”) no hay mejor forma de hacerlo que tomar la definición que esta se da a sí misma; de acuerdo con la aplicación ChatGPT tenemos que: “La IA es una rama de la informática que se ocupa de la creación de máquinas o software que pueden realizar tareas que normalmente requerirían la inteligencia humana para completarse. Estas tareas incluyen cosas como comprender el lenguaje natural, reconocer imágenes, tomar decisiones y resolver problemas. Los sistemas de IA se pueden diseñar para aprender y adaptarse con el tiempo, y se vuelven más efectivos a medida que recopilan más datos y experiencia.”.
Desde hace algunos años la mayoría de las personas ya nos encontramos expuestos a la “IA débil o estrecha” a través de los distintos dispositivos que manejamos, este tipo de IA es aquella que logra realizar una tarea específica o predeterminada como puede ser el reconocimiento de voz o de rostro o ser asistentes virtuales de búsqueda. Sin embargo, la disrupción que ocurre en este momento se debe a la “IA fuerte o general”, de la cual se dice que al tener funciones como el aprendizaje, razonamiento o la memoria, es capaz de realizar cualquier tarea intelectual al igual que un ser humano.
Frente a este escenario y en el entendido que los usos, aplicaciones e intervención de la IA será cada vez más preponderante, ingresando y trastocando nuestras vidas y trabajos, corresponde adelantarse e identificar los eventuales riesgos y desafíos legales que trae consigo esta tecnología.
2. EL INICIO DE LA REGULACIÓN DE LA IA
Las razones de la regulación
La Unión Europa (UE) se encuentra a la vanguardia del inicio de la regulación de esta nueva tecnología, pues viene trabajando desde hace un par de años en un proyecto de Reglamento sobre Inteligencia Artificial. Las razones y eventuales riesgos que identifican en el continente europeo, por las cuales sería necesario una regulación específica sobre la IA, son las siguientes:
- Manipulación y tratamiento incorrecto de datos personales.
- Vulneraciones a normativa en materia de propiedad intelectual.
- Problemas éticos sobre los datos utilizados para alimentar los sistemas de IA.
- Ausencia de criterios de responsabilidad en el caso de daños causados por la IA.
- Afectación de la IA sobre los sistemas de producción y los puestos de trabajo.
- Establecimiento de la necesidad o no de la supervisión humana sobre la IA.
- Creación o no de un régimen de sanciones y organismo supervisor sobre el funcionamiento de la IA.
- Definición de la necesidad o no de contar con códigos de autorregulación sobre la IA.
Además de los aspectos identificados por la UE, antes mencionados, la misma IA a través de la aplicación ChatGPT reconoce que su funcionamiento genera los siguientes problemas o desafíos: Falta de transparencia e interpretabilidad para entender como toma decisiones o hace recomendaciones; Generación de sesgos que pueden conducir a tratos injustos o discriminatorios; Falta de definición de la responsabilidad legal por errores o daños que pueda causar la IA; Desplazamiento en puestos laborales.
Propuesta de Reglamento sobre IA de la UE
Es así que, frente a los riesgos y desafíos anteriormente descritos, el Reglamento de Inteligencia Artificial que está desarrollando la UE tiene las siguientes tres principales propuestas:
- Una definición para la IA, la cual establecerá su ámbito de aplicación; La definición sobre IA que propone la UE contempla tres elementos para que se considere como tal: 1) Que opere con datos e inputs recibidos de máquinas o humanos; 2) Que infiera cómo lograr un objetivo utilizando el aprendizaje automático o la lógica y el conocimiento; 3) Que genere resultados en forma de contenidos, predicciones, recomendaciones o decisiones que influyan en el entorno con el que interactúa; y 4) Que funcione con autonomía, es decir sin participación humana.
- Establecimiento de prácticas de IA prohibidas; Entre los fines prohibidos para la AI se sugiere incluir las siguientes: 1) La puntuación ciudadana, que es un sistema que se ha utilizado en China para establecer la reputación de las personas y a su vez una lista negra; 2) Restringir el uso biométrico para situaciones de aplicación de la ley como desaparición de menores o detención de personas sospechosas; 3) Empleamiento de técnicas subliminales que trasciendan la conciencia de una persona y alteren su comportamiento; 4) El aprovechamiento de las vulnerabilidades de un grupo específico (sea por edad o por alguna condición especial) para alterar su comportamiento.
- Identificación de los sistemas de IA de alto riesgo; Se propone establecer una clasificación de los sistemas de IA de alto riesgo, los cuales estarán sujetos a mayores controles y restricciones, se incluyen dentro de esta clasificación cualquier sistema involucrado en alguno de los siguientes temas: 1) Identificación biométrica y categorización de personas físicas; 2) Gestión y funcionamiento de infraestructuras; 3) Educación y formación profesional; 4) Empleo y gestión de trabajadores; 5) Acceso y uso de servicios públicos y privados; 6) Asuntos relacionados con la aplicación de la ley; 7) Gestión de la migración, asilo y control de fronteras; 8) Administración de justicia y procesos democráticos.
Además de las antes mencionadas, el Reglamento contempla otros contenidos como ser: Obligación de transparencia en determinados sistemas de IA; Generación de espacios controlados para el desarrollo y la innovación de sistemas de IA; Creación de un Comité de Gobernanza para el control y aplicación del Reglamento; Generación de códigos de conducta para los sistemas de IA; Establecimiento de un sistema de infracciones y sanciones por violaciones al Reglamento; y otras.
Del contenido principal revisado en el Reglamento propuesto por la UE evidenciamos que este se dirige a atender las principales preocupaciones que genera la disrupción de la IA, las cuales se encuentran principalmente vinculadas a la seguridad y el respeto a los derechos fundamentales, además de evitar distorsiones, daños o perjuicios en las personas. Es importante tener en cuenta que este Reglamento se encuentra en tratamiento y constante modificación antes de su aprobación, considerando que se trata de una tecnología que tiene esta característica cambiante, por lo cual para que esta norma acompañe la realidad se están contemplando también salvedades para futuras modificaciones.
3. La IA en Bolivia y en la región
En Bolivia la regulación sobre los aspectos tecnológicos tiene su referencia en la Ley General de Telecomunicaciones, Tecnologías de Información y Comunicación N°164, sin embargo, al ser esta una norma emitida en el año 2011 es evidente que no contiene disposiciones que respondan a los constantes cambios que se presentan en este sector y mucho menos con relación a la IA que es una herramienta más reciente.
Por su parte la Comunidad Andina ha aprobado el pasado año la Decisión N°897 que establece los lineamientos comunitarios para la protección de los derechos de los usuarios en el ámbito del acceso y la utilización de redes y servicios de telecomunicaciones; esta norma sin embargo, cuenta con un enfoque dirigido a las telecomunicaciones, haciendo énfasis en la protección de datos, en la intimidad, la integridad y la confidencialidad de la que deben gozar los usuarios, en marcados casos podría extrapolarse para regular las incidencias que se presenten con la tecnología de la IA, empero lo más recomendable sería que se emule lo que está haciendo la UE con respecto a la elaboración de un Reglamento específico para la IA. Vale decir que en la UE rige también el Reglamento General de Protección de Datos desde el año 2016, y aun así, tomando en cuenta lo expuesto en el numeral anterior, se ha considerado necesario contar con un Reglamento específico relativo a la IA.
Entre tanto en la región se desarrolle una normativa específica sobre la IA, es recomendable que las empresas que se relacionen con sus clientes, trabajadores o terceros a través de la IA, tomen en cuenta y apliquen lo establecido en el Reglamento propuesto por la UE, considerando que de esta manera se evitará incurrir en alguna daño o responsabilidad frente a terceros.
4. CONCLUSIONES
La IA se trata de un concepto al cual estamos expuestos hace muchos años sin darnos cuenta, sin embargo, la llegada de la IA “fuerte o general” significa un hito trascendental en la tecnología, esto considerando las innumerables aplicaciones y funciones que se pueden dar a través de esta herramienta en prácticamente cualquier sector de la vida y el trabajo.
Una herramienta tan poderosa como la IA conlleva importantes riesgos a los que se exponen los usuarios, y por ende, importantes responsabilidades en las que pueden incurrir las entidades privadas o públicas que utilicen esta herramienta. Riesgos que van desde mal uso del tratamiento de datos personales hasta la manipulación de la conciencia de las personas, especial de grupos vulnerables.
La UE ha iniciado un trabajo para sentar las bases de la regulación sobre la IA a través de un proyecto de Reglamento sobre el particular que contiene amplias propuestas, entre las más importantes: La definición clara de IA; El establecimiento de prácticas prohibidas con IA; La identificación de las actividades en las que utilizar la IA es de alto riesgo; entre otras.
En Bolivia y la región aun no se cuenta con elementos regulatorios sobre el tema, sin embargo, ante la velocidad de la implementación de esta tecnología en diversos ámbitos, es altamente recomendable que las entidades privadas y públicas asuman el Reglamento propuesto por la UE como directrices a ser aplicadas en las distintas aplicaciones que utilicen la IA.