La inteligencia artificial debe pasar por un estándar de calidad, asegura Gabriela Ramos

Gabriela Ramos, subdirectora general de la Unesco, está segura de que la inteligencia artificial tiene que pasar por un estándar de calidad antes de comercializarse.

«La inteligencia artificial debe pasar por un estándar de calidad», Gabriela Ramos

Ramos se unió a la Unesco en 2020 con una misión muy clara: sacar adelante una «declaración» universal de la inteligencia artificial.  En 2021 salió, por fin,  la Recomendación sobre la Ética en la Inteligencia Artificial; lo firmaron 193 países y solo 24 lo están implementando.

Este documento ofrece «pautas de actuación en asuntos como la gobernanza de los datos, las tecnologías de espionaje masivo, el abuso de los sesgos cognitivos el control de la neurotecnología». 

Desde que llegó ChatGPT esta recomendación ha cobrado importancia: miles de expertos en IA que piden una moratoria en el desarrollo de esta tecnología.

«Ha habido un crecimiento exponencial de consultas de países que quieren reunirse con nosotros. Tenemos conversaciones avanzadas con 18 países. Allí donde nos lo solicitan, desarrollamos una medición del impacto ético de la IA. Ayudamos a hacer diagnósticos, a evaluar los equipos de los gobiernos y a pensar qué tipo de institución tendría que supervisar el desarrollo de estas regulaciones”.

Ramos opina que estos modelos de lenguaje pueden no ser seguros, ni confiables y mucho menos transparentes: 

«Es una pena, porque estamos ante una tecnología espectacular. Pero tiene los mismos problemas que la IA menos masiva: cuando llegan al mercado, no siempre son seguros, confiables ni transparentes. Todos estos desarrollos se dan en un vacío regulatorio en general».

¿Regular la IA?

«Se necesita una evaluación del impacto ético en las libertades, en los derechos, en los resultados inclusivos, y todo eso debe suceder antes de que el producto esté en el mercado. Debe haber ciertos procedimientos que permitan asegurarnos que estos desarrollos estén totalmente probados y que al menos entendemos cuál puede ser su impacto», sentencia Gabriela.

Para la subdirectora, el que los expertos hayan escrito una carta para exigir una regulación de esta tecnología explica la poca confianza que sentimos al enfrentarnos a esta IA:

«Lo que nos confirma esa carta es que no nos sentimos capaces de manejar estos sistemas. Creo que la carta tiene sentido. Todo el mundo ha puesto el énfasis en la pausa, pero lo que se pide también es que no haya más desarrollos antes de que contemos con marcos regulatorios sólidos».

Entrevista completa en El País. 

Sigue leyendo…

“La inteligencia artificial tiene el potencial de destruir civilizaciones”, Elon Musk 

Los conservadores europeos exigen regulación de sistemas tecnológicos como ChatGPT