La Comisión Europea ha propuesto recientemente una nueva regulación que busca establecer un marco legal para la Inteligencia Artificial ( IA ) en la Unión Europea. Y una de las disposiciones más controvertidas es la regulación de los algoritmos de IA.

Los algoritmos son la parte esencial de los sistemas de IA, ya que permiten que las máquinas aprendan de otros datos y realicen tareas sin intervención humana. Pero por otro lado pueden generar serios problemas debido a su capacidad de reproducir y ampliar los prejuicios y las desigualdades existentes en la sociedad.

Por eso la Comisión Europea ha propuesto una regulación que busca garantizar que los algoritmos de IA se desarrollen y se utilicen de una manera responsable y ética.

La propuesta establece que los sistemas de IA que presenten un riesgo elevado para la salud, la seguridad o los derechos fundamentales para las personas deben de someterse a una evaluación previa y cumplir con una serie de requisitos, siendo transparentes, explicables y auditables.

La transparencia se refiere a la capacidad de los desarrolladores y usuarios de los sistemas de IA de comprender como funciona el algoritmo, y como se llega a una determinada decisión. Lo cual implica proporcionar información sobre los datos de entrada, los criterios utilizados para tomar una decisión y las limitaciones del algoritmo.

La explicabilidad se refiere a la capacidad de los desarrolladores y usuarios de los sistemas de IA para entender porque se tomó una decisión determinada, y como se llegó a ella. Y esto supone proporcionar información sobre los pasos intermedios que llevan a una decisión, y los factores que influyen en ella.

La auditabilidad se refiere a la capacidad de desarrolladores y usuarios de los sistemas de IA para verificar y validar el funcionamiento del algoritmo y sus resultados. Y esto implica proporcionar información de como se evaluó el algoritmo.

Pero esto es lo que intenta conseguir la UE, y otra cosa es lo que las empresas que dominan la tecnología de IA estén dispuestas a conceder, pues estoy convencido de que se resistirán con uñas y dientes a dejar ver sus secretos más profundos, y que se pongan límites a sus grandes negocios totalmente opacos de hoy en día.

Por otro lado, y como era de esperar ya han aparecido críticas de las empresas desarrolladoras de programas de IA que no desean tener ningún tipo de restricción en su trabajo, y desean mantener sus algoritmos en el más absoluto de los secretos.

Siempre aducen lo mismo, que una regulación como esta puede limitar el desarrollo y la innovación de nuevos sistemas de IA. Y lo que no quieren bajo ningún concepto es que nadie controle lo que hacen.

Yo creo que Europa ha dado un paso muy importante en la buena dirección, pues la regulación es necesaria para que una tecnología tan importante como la IA sea utilizada en beneficio de la sociedad en general y no solo ( como sucede ahora ) de las empresas que dominan esta tecnología.

Habrá que esperar los resultados para saber si en Europa se ha puesto algún límite al descontrol actual de esta nueva tecnología.  Y ojalá que sea así.

Por Amador Palacios

Reflexiones de Amador Palacios sobre temas de Actualidad Social y Tecnológica; otras opiniones diferentes a la mía son bienvenidas

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

es_ESES_ES