Los riesgos potenciales de los sistemas de IA agéntica van mucho más allá, de ahí las tensiones geopolíticas que están generando.

Caty Arévalo

MADRID -EFE)- «La inteligencia artificial se nos escapa de las manos» ha sido el mantra de los últimos días, pero ¿por qué se escapa? ¿de qué manos? ¿hay riesgo real de que la IA extinga a la humanidad? Y si es así, ¿cómo solventarlo? Así lo ven cuatro científicos expertos en IA:

IA agéntica versus generativa

Lo primero que debe saber un no experto en la materia es que el debate en torno a que la inteligencia artificial va a destruir la humanidad no se refiere a la IA generativa a la que estábamos acostumbrados hasta ahora, la que busca, organiza y crea contenido, tipo ChatGPT.

Se refiere a la IA agéntica, «derivada de la palabra «agencia, porque se trata de sistemas en los que intervienen agentes de IA con mucha más capacidad, complejidad y autonomía de actuación y menor supervisión humana que la IA generativa», explica a EFE Alicia Ortiz de Zárate, investigadora de la Universidad Autónoma de Madrid.

Los agentes de IA, con los que cualquier ciudadano puede haber charlado (multitud de empresas como bancos, aseguradoras o servicios de compra por internet los usan) actúan ya o se están diseñando para actuar de forma autónoma en cuestiones que pueden ser sensibles, como pagos o seguridad, entre otras.

Un ejemplo ilustrativo citado por la Agencia Española de Protección de datos: «Si le pides a un agente de IA que organice un viaje, no solo te dará opciones; entrará en tu calendario, comparará vuelos en tiempo real, se comunicará con la aerolínea y, si tiene permiso, lo abonará».

Qué hay en juego

Pero los riesgos potenciales de los sistemas de IA agéntica van mucho más allá, de ahí las tensiones geopolíticas que están generando. Está en juego la seguridad de infraestructuras críticas y esenciales (hospitales, energía o defensa), cuyos sistemas de ciberseguridad no están preparados para este tipo de ataques tan sofisticados, explica Nuria Oliver, directora de la española fundación ELLIS Alicante.

«Imaginemos qué podría pasar si a uno de estos agentes de IA le pides una tarea y para ejecutarla considera que necesita mucha electricidad y decide hacerse dueño del sistema eléctrico. En España ya vivimos un apagón eléctrico unas horas, aquí hablamos de algo muchísimo más grande», relata.

Ortiz de Zárate lo resume así: «Nos enfrentamos a los mismos peligros que con la IA tradicional pero con un alcance y una complejidad mayor. Cuanto más estratégico y vulnerable sea el sector en el que actúen los agentes de IA, más riesgo habrá. A ello se suma el hecho de que cuanto más autónomos sean los agentes más difícil será seguirles el rastro para dirimir responsabilidades».

«Cuando escucho lo de que la IA se nos va de las manos pienso ¿de qué manos? Los riesgos no son responsabilidad de la sociedad, sino de las empresas que diseñan estos sistemas», incide Oliver.

«Hemos tardado veinte años y unas cuantas sentencias judiciales para regular las redes sociales y que sus creadores reconozcan que los algoritmos estaban diseñados para ser adictivos. Hay un paralelismo con la IA que debe servirnos para no ser inocentes y tomar medidas a tiempo. No todo el desarrollo tecnológico es positivo», a juicio de la directora de Ellis.

Los gobiernos han de regular y «los ciudadanos hemos de sentirnos empoderados y exigir la asunción de responsabilidades. En cualquier otro sector si un avión no funciona correctamente no vuela, o si se comprueba que un fármaco tiene consecuencias nocivas no se pone en el mercado. Con la IA tiene que ser igual», agrega Oliver.

No es ralentizar, es reorientar

Ramón López de Mántaras, fundador del Instituto de Investigación en Inteligencia Artificial (IIIA-CSIC), alerta de otros de los mantras que están expandiendo las corporaciones estos días como decir que, cuando hay un contratiempo, es porque los agentes de IA «se rebelan»; o afirmar que van a «ralentizar» el desarrollo de estos sistemas.

«Decir que un agente de IA se rebela es tratar de desplazar la responsabilidad de la empresa que lo ha diseñado y configurado, como sí sus propios promotores fueran unos meros espectadores de los daños», subraya López de Mántaras en un encuentro con medios organizado por Science Media Centre España.

Respecto a postulados como que se «va a ralentizar» el desarrollo de estos sistemas, el investigador incide en que «no basta con frenar, hay que reorientar la IA hacia productos específicos por el bien común, transparentes, robustos y controlables. La IA general es una horrible idea».

Los científicos coinciden en que los anuncios de ralentización de algunas corporaciones «no son nuevos ni está claro lo que significan».

La implantación de estos sistemas tampoco es «inevitable», sostienen, lo que sí que es inevitable es el elevadísimo coste ambiental de los centros de datos que los sostienen.

«Contar con unas reglas de evaluación de estos sistemas y con una delimitación de responsabilidades es clave. En Europa tenemos ya un reglamento de IA, veremos si funciona con estos nuevos agentes», sostiene Senén Barro, director del Centro Singular de Investigación en Tecnoloxías Intelixentes de la Universidade de Santiago de Compostela, en España.

«Hace falta también una gobernanza internacional que diga quién es responsable de qué, pero solo va a existir si China y Estados Unidos se ponen de acuerdo, algo que solo ocurrirá si hay un incidente muy grave o una gran presión internacional y social», concluye López de Mántaras.