Más en particular, y por su destacada novedad, muchos medios comentaron la propuesta de reglamento del parlamento europeo y del consejo por el que se establecen normas armonizadas en materia de inteligencia artificial (ley de inteligencia artificial) y se modifican determinados actos legislativos de la unión (COM/2021/206 final).
Es preciso matizar que no algo que haya aparecido ayer, sino que anteriormente saltaron a la palestra megahits editoriales como el Libro blanco sobre la inteligencia artificial – un enfoque europeo orientado a la excelencia y la confianza y otra serie de andanadas institucionales muy propias del momento en el que la maquinaria europea pone sus ojos sobre un asunto.
Con carácter previo a su elaboración, se evaluaron diversas opciones reguladoras con diferente intensidad interventora sobre el sector, a saber:
Finalmente, la opción ganadora fue la 3+ (el ‘plus’ siempre da calidad y tiene gancho), entendiendo que podría generar una tupida selva de aplicaciones beneficiosas de la IA con opción a quitar las malas hierbas y sin asfixiar los esquejes PYMEs que fueran surgiendo.
Una vez elegido cómo abordar el espinoso asunto, el quid de la cuestión recayó en sistematizar el riesgo al que nos enfrentamos, y con tal propósito la normativa establece bloques claramente diferenciados, así como una suerte de disposiciones transitorias (sunset clauses) ante lo incierto de la evolución tecnológica.
Lo son por entender que afectan de manera inaceptable la seguridad, la vida y los derechos fundamentales. Son listas revisables periódicamente. Aquí podemos meter toda la panoplia de distopías y fechorías que pueden ayudarse de la IA: manipulación del comportamiento, predicción de tendencias humanas para buscar sus puntos flacos y, sobre todo, el uso de datos biométricos y videovigilancia en tiempo real, la cual deberá estar sujeta a las pertinentes autorizaciones administrativas y judiciales (Un THX 1138 contemporáneo que empieza a despuntar en algunos lugares del mundo).
La cuestión más candente es la puerta trasera que se abre permitiendo el uso de ese tipo de videovigilancia sin dicha autorización previa en los casos en los que la seguridad está amenazada de manera inminente (ejemplo de la muy ‘peliculera’ caza del terrorista entre la multitud), siempre con el requisito de posterior convalidación. Dará que hablar.
Por su incidencia en los derechos y libertades se permiten, pero se someten a un control estrecho para garantizar un uso ético, conforme a la norma y seguro. Nos referimos a los sistemas de IA que se emplean en sectores regulados e infraestructuras críticas.
En este grupo se encuentran, como decimos, los sistemas que afecten a los soportes básicos del país, los de identificación y categorización biométrica (no en tiempo real), procesos selectivos de personal (el método Grönholm con esteroides), control de fronteras (v. el largometraje Código 46), sistemas dirigidos a verificar el cumplimiento de la ley (Dense un garbeo por Singapur y admiren sus garbosos agentes municipales con ruedas), la evaluación de pruebas judiciales, la evaluación de la situación crediticia de las personas y, en general, la puntuación social (v. el libro The Circle, entre otros –mejor que la película al no edulcorar el final-).
En este caso, la regulación es prolija en requisitos para quienes se animen a desarrollar sistemas basados en IA que funcionen en las antedichas áreas.
Partiendo de un diseño sólido y seguro, deben contar con sistemas de evaluación y mitigación de riesgos, trazabilidad, documentación que explique su sistema a las autoridades (cosa harto compleja en ocasiones, tanto por la sofisticación de algunos sistemas como por las limitaciones de algún que otro servidor público como el que les escribe), información a las personas usuarias y, sobre todo, destacamos que se exige una alta calidad de los datos empleados para evitar sesgos y resultados discriminatorios.
Éste último aspecto, una vez detectada discriminación y desde el punto de vista jurídico, resulta notoriamente complejo de probar, como demuestran diversas experiencias que vamos registrando. El sesgo de los sistemas reproduce en muchas ocasiones tendencias sociales perniciosas que no nos podemos permitir perpetuar en su versión digital.
(A este respecto, v. Revista General de Derecho Administrativo 56 (2021) «Decisiones automatizadas y discrminación: aproximación y propuestas generales», por Alba Soriano Arnanz).
Se les supone habilitados mediante tecnologías menos sofisticadas e incluye chatbots o asistentes virtuales, sistemas que identifiquen emociones… Los descendientes del matrimonio de nuestro amigo Clippy, el ayudante pelma de las primeras versiones de Microsoft Word, con un Furby.
Para la Comisión, en este caso lo relevante es la transparencia, es decir, que seamos conscientes de con quién estamos tratando para saber a qué atenernos (no como sucede a veces con según qué llamadas telefónicas comerciales, donde nos sentimos ridículos tras descubrir que llevamos un rato sincerándonos con una máquina).
Quedan fuera del ámbito del reglamento y se les anima a que se monten sus propios chiringuitos autorregulatorios con palmadas en el hombro. Muy listos no suelen ser, pero oiga, siempre hay sorpresas.
Vista la sistematización, la propuesta europea trata de que las autoridades nacionales de vigilancia del mercado interior estén al quite para que se cumpla la legislación mientras que a escala europea, será el Comité Europeo de Inteligencia Artificial quien emita normativa.
Como nota pintoresca, se prevé la posibilidad de crear «espacios controlados de prueba» (sandboxes) donde la innovación pueda ensayarse mitigándose así los eventuales efectos negativos que pudieran darse, cual infante juguetón armado con cubo y pala.
Finalmente, como toda propuesta seria que se precie, la propuesta viene acompañada de contundentes multas y sanciones (siendo las más duras de hasta treinta millones de euros o, en su caso, el seis por ciento del volumen de facturación) que llegado el caso darán para pleitear durante años para regocijo de los operadores jurídicos de todo tipo y color, como ha ocurrido en casos mastodónticos precedentes.
Entre las críticas que se escuchan figura la de haber dejado fuera la “IA militar”, es decir, las famosas armas autónomas, las cuáles comienzan a asomar de manera cada vez más peligrosa en diversos incidentes a lo largo del globo.
Los pasos siguientes dejan la pelota en el tejado del Parlamento y los Estados miembros, que teóricamente desembocarán en un Reglamento Europeo.
Si el apocalipsis de las máquinas no ha podido con nosotros, seguiremos informando.
