europa-quiere-prohibir-la-inteligencia-artificial-para-la-vigilancia-masivaTecnología 

Europa quiere prohibir la Inteligencia Artificial para la vigilancia masiva

La Unión Europea (UE) pretende ponerle un límite a los avances tecnológicos en torno a los usos permitidos de los mecanismos de Inteligencia Artificial (IA), en particular, aquellos sistemas de vigilancia masiva o los que realicen valoraciones de personas, mientras que los sistemas de alto riesgo pasarán a tener una mayor supervisión.

Así quedó reflejado en el borrador elaborado por organismos comunitarios europeos al que accedió el sitio The Verge, filtrado en Internet, pero que se espera que sea anunciado oficialmente la próxima semana.

La nueva regulación contempla que los Estados miembros de la UE deberán constituir un consejo asesor común, integrado por expertos y dedicado a validar los sistemas de IA considerados de alto riesgo.

El borrador también establece que las compañías que comercialicen sistemas de IA prohibidos en la UE, aunque tengan su base en otras partes del mundo, podrán enfrentarse a multas que podrían llegar hasta el 4 por ciento de sus ingresos globales, como ya sucede con los infractores del Reglamento General de Protección de Datos (RGPD).

Los tipos de Inteligencia Artificial prohibidos

Entre los tipos de sistemas de IA prohibidos por la UE se incluirán los de “vigilancia indiscriminada” de forma masiva, tanto aquellos que rastrean personas en entornos físicos como los que utilizan o extraen datos agregados para otros sistemas.

La Unión también estudia vetar las tecnologías de IA que hacen valoraciones sociales de las personas, y que por ejemplo realizan estimaciones de su fiabilidad en función de su comportamiento o que predicen su personalidad.

Asimismo, la UE establece en su borrador varios tipos de IA que pasan a estar sujetos a una mayor regulación, como es el caso de los sistemas considerados de “alto riesgo”.

También quedan definidos todos ellos que puedan suponer un riesgo para la seguridad física, como los sistemas de conducción automática, o los que pueden afectar a la vida de las personas, como la IA para contratar empleados, tomar decisiones judiciales o conceder créditos financieros.

En estos casos, los sistemas tendrán que ser revisados y aprobados por los consejos asesores de expertos en IA antes de entrar en funcionamiento, asegurando que dispongan de supervisión humana.

Otro dato que se tendrá en cuenta a la hora de valorar estos sistemas es que no se hayan entrenado con datos sesgados, según contempla el borrador.

De todas estas tarea se encargará un nuevo organismo, denominado Consejo Europeo de Inteligencia Artificial, que se espera que esté integrado por expertos en IA de todos los países miembros de la UE.

El borrador que manejará este organismo menciona también a los sistemas de reconocimiento facial en espacios públicos, para los que pasará a exigirse una autorización especial.

Mientras que también se requerirá que los sistemas de IA se identifiquen cuando las personas interactúan con ellos, salvos en los casos donde resulte “obvio por el contexto de uso”, aclararon.

SL

TEMAS QUE APARECEN EN ESTA NOTA

Articulos relacionados