No dejemos que la inteligencia artificial empeore la desigualdad, dice una asesora de la ONU

Por Ana DeOliva, CNN

La inteligencia artificial está transformando nuestro modo de vida, convirtiéndose en una parte cada vez más familiar de nuestra cotidianidad y nuestros lugares de trabajo. Según una encuesta mundial de la consultora McKinsey & Company, el 72% de las empresas utilizan IA.

Pero, según Renata Dwan, el acceso a la tecnología y a los datos que la alimentan no es igual en todo el mundo.

Dwan es asesora especial del enviado del secretario general de la ONU para la tecnología y forma parte del equipo que elabora el “Pacto Digital Mundial”, una propuesta de marco encabezada por la ONU con el objetivo de lograr un futuro digital más inclusivo, equitativo y seguro. La IA es la más reciente incorporación a las directrices, que incluyen propuestas para fomentar la aplicación justa de la tecnología en los países menos desarrollados.

En el Foro de Doha, en Qatar, una reunión anual de líderes políticos, CNN habló con Dwan sobre la importancia de la colaboración internacional para un futuro justo con la IA.

La siguiente entrevista fue editada para mejorar su extensión y claridad.

CNN: ¿Cómo se relaciona la gobernanza con la inteligencia artificial (IA)?

Renata Dwan: Para muchos países y comunidades del Sur global, la IA representa una oportunidad de dar un salto en el desarrollo. Pueden dar un salto en sus servicios sanitarios para modernizarse, automatizarse, aumentar la productividad. Pero también tiene el potencial de magnificar la brecha digital a la que ya se enfrentan, principalmente en países que no tienen acceso a los datos necesarios para entrenar modelos de IA, o a nuevos productos y sistemas de IA. Así que la pregunta que debemos hacernos es: ¿será la IA una oportunidad para que la mayoría del mundo se ponga al día en su camino hacia el desarrollo o para que retroceda aún más?

La cuestión de la gobernanza es esencialmente cómo pensamos sobre la gestión de la inteligencia artificial, su regulación y su uso; ¿cómo gobernamos la IA para hacer frente a su inmenso potencial, pero también para navegar por sus riesgos, de los que aún no estamos seguros de todos?

CNN: ¿Qué papel debe desempeñar la colaboración internacional en la gobernanza de la IA?

RD: Por su propia estructura, la IA es una tecnología global. Depende de materias primas que se obtienen y suministran a escala mundial. Depende de enormes cantidades de datos que traspasan fronteras. Los productos y los desarrolladores que están a la vanguardia del desarrollo de modelos de IA trabajan a escala mundial. Por tanto, es una tecnología global, y su gobernanza también debe serlo.

Ahora, también estamos navegando en un momento de grandes tensiones geopolíticas. Muchos gobiernos desean soberanía en sus políticas y capacidades tecnológicas, tratando de desarrollar sus propias capacidades para la IA, sus propios modelos de IA, formación y desarrollo de centros de IA. Sin embargo, esa capacidad no está abierta a todos los Estados.

Los requisitos energéticos de los centros de datos son inmensos, por lo que el aprovechamiento de esos recursos requiere colaboración, lo cual significa que el mejor aprovechamiento de la inteligencia artificial es un asunto colaborativo.

Estamos en un momento en el que es difícil mantener conversaciones por razones políticas, pero también, como la velocidad de la tecnología se desarrolla tan rápidamente, necesitamos esas conversaciones, necesitamos el intercambio, necesitamos la colaboración de las mejores prácticas para que aprendamos… Esa es una de las cuestiones clave por las que la propuesta de la ONU en el Pacto Digital Mundial es tener un diálogo político anual que pueda ser complementado y alimentado por foros como Doha. Esto es muy importante para nuestro aprendizaje colectivo en este viaje.

CNN: ¿Qué le diría hoy a la gente escéptica sobre la IA y su gobernanza?

RD: Ahora mismo hay dos debates en el mundo de la IA. Está el debate tecnooptimista, según el cual la IA va a resolver absolutamente todos nuestros problemas, y todos nosotros alcanzaremos la riqueza y la felicidad y viviremos para siempre. Y luego puede estar el enfoque catastrofista, según el cual la IA va a tomar el control de la humanidad, y existen riesgos en torno a la fabricación de armas de destrucción masiva.

Creo que muchas de las iniciativas que hemos visto a nivel de gobernanza, iniciativas internacionales, son muy importantes porque están estudiando estos modelos de IA muy avanzados, los riesgos de seguridad que presentan y la necesidad de mantener el control humano en todo momento. Y eso es fundamental. Pero también tenemos que pensar en el riesgo de que la IA agrave las divisiones que ya existen en nuestras sociedades, entre comunidades, a través de las fronteras.

Tenemos que estudiar cómo podemos hacer frente a las posibles amenazas de la IA en ámbitos como la integridad de la información. Tenemos que hacer hincapié en el desarrollo de nuestras capacidades como sociedades para aprovechar la tecnología de la IA para el bien. Para ello es necesario trabajar con las empresas tecnológicas en una medida mucho más estrecha de lo que quizá están acostumbradas las estructuras intergubernamentales como la ONU. Requiere que abordemos los límites del mercado para dirigir la IA hacia el interés público.

The-CNN-Wire
™ & © 2024 Cable News Network, Inc., a Warner Bros. Discovery Company. All rights reserved.