{"id":1025937,"date":"2026-09-20T09:26:26","date_gmt":"2026-09-20T13:26:26","guid":{"rendered":""},"modified":"2026-09-20T09:32:12","modified_gmt":"2026-09-20T13:32:12","slug":"la-inteligencia-artificial-se-nos-va-de-las-manos-pero-como-y-de-que-manos","status":"publish","type":"post","link":"https:\/\/noticel.com\/en\/noticias\/20260920\/la-inteligencia-artificial-se-nos-va-de-las-manos-pero-como-y-de-que-manos\/","title":{"rendered":"La inteligencia artificial \u00abse nos va de las manos\u00bb, pero \u00bfc\u00f3mo y de qu\u00e9 manos?"},"content":{"rendered":"

Caty Ar\u00e9valo<\/p>\n\n\n\n

MADRID -EFE)- \u00abLa inteligencia artificial se nos escapa de las manos\u00bb ha sido el mantra de los \u00faltimos d\u00edas, pero \u00bfpor qu\u00e9 se escapa? \u00bfde qu\u00e9 manos? \u00bfhay riesgo real de que la IA extinga a la humanidad? Y si es as\u00ed, \u00bfc\u00f3mo solventarlo? As\u00ed lo ven cuatro cient\u00edficos expertos en IA:<\/p>\n\n\n\n

IA ag\u00e9ntica versus generativa<\/strong><\/h2>\n\n\n\n

Lo primero que debe saber un no experto en la materia es que el debate en torno a que la inteligencia artificial va a destruir la humanidad no se refiere a la IA generativa a la que est\u00e1bamos acostumbrados hasta ahora, la que busca, organiza y crea contenido, tipo ChatGPT.<\/p>\n\n\n\n

Se refiere a la IA ag\u00e9ntica, \u00abderivada de la palabra \u00abagencia, porque se trata de sistemas en los que intervienen agentes de IA con mucha m\u00e1s capacidad, complejidad y autonom\u00eda de actuaci\u00f3n y menor supervisi\u00f3n humana que la IA generativa\u00bb, explica a EFE Alicia Ortiz de Z\u00e1rate, investigadora de la Universidad Aut\u00f3noma de Madrid.<\/p>\n\n\n\n

Los agentes de IA, con los que cualquier ciudadano puede haber charlado (multitud de empresas como bancos, aseguradoras o servicios de compra por internet los usan) act\u00faan ya o se est\u00e1n dise\u00f1ando para actuar de forma aut\u00f3noma en cuestiones que pueden ser sensibles, como pagos o seguridad, entre otras.<\/p>\n\n\n\n

Un ejemplo ilustrativo citado por la Agencia Espa\u00f1ola de Protecci\u00f3n de datos: \u00abSi le pides a un agente de IA que organice un viaje, no solo te dar\u00e1 opciones; entrar\u00e1 en tu calendario, comparar\u00e1 vuelos en tiempo real, se comunicar\u00e1 con la aerol\u00ednea y, si tiene permiso, lo abonar\u00e1\u00bb.<\/p>\n\n\n\n

Qu\u00e9 hay en juego<\/strong><\/h2>\n\n\n\n

Pero los riesgos potenciales de los sistemas de IA ag\u00e9ntica van mucho m\u00e1s all\u00e1, de ah\u00ed las tensiones geopol\u00edticas que est\u00e1n generando. Est\u00e1 en juego la seguridad de infraestructuras cr\u00edticas y esenciales (hospitales, energ\u00eda o defensa), cuyos sistemas de ciberseguridad no est\u00e1n preparados para este tipo de ataques tan sofisticados, explica Nuria Oliver, directora de la espa\u00f1ola fundaci\u00f3n ELLIS Alicante.<\/p>\n\n\n\n

\u00abImaginemos qu\u00e9 podr\u00eda pasar si a uno de estos agentes de IA le pides una tarea y para ejecutarla considera que necesita mucha electricidad y decide hacerse due\u00f1o del sistema el\u00e9ctrico. En Espa\u00f1a ya vivimos un apag\u00f3n el\u00e9ctrico unas horas, aqu\u00ed hablamos de algo much\u00edsimo m\u00e1s grande\u00bb, relata.<\/p>\n\n\n\n

Ortiz de Z\u00e1rate lo resume as\u00ed: \u00abNos enfrentamos a los mismos peligros que con la IA tradicional pero con un alcance y una complejidad mayor. Cuanto m\u00e1s estrat\u00e9gico y vulnerable sea el sector en el que act\u00faen los agentes de IA, m\u00e1s riesgo habr\u00e1. A ello se suma el hecho de que cuanto m\u00e1s aut\u00f3nomos sean los agentes m\u00e1s dif\u00edcil ser\u00e1 seguirles el rastro para dirimir responsabilidades\u00bb.<\/p>\n\n\n\n

\u00abCuando escucho lo de que la IA se nos va de las manos pienso \u00bfde qu\u00e9 manos? Los riesgos no son responsabilidad de la sociedad, sino de las empresas que dise\u00f1an estos sistemas\u00bb, incide Oliver.<\/p>

Advertisements<\/div>\"\"<\/a><\/div>\n\n\n\n

\u00abHemos tardado veinte a\u00f1os y unas cuantas sentencias judiciales para regular las redes sociales y que sus creadores reconozcan que los algoritmos estaban dise\u00f1ados para ser adictivos. Hay un paralelismo con la IA que debe servirnos para no ser inocentes y tomar medidas a tiempo. No todo el desarrollo tecnol\u00f3gico es positivo\u00bb, a juicio de la directora de Ellis.<\/p>\n\n\n\n

Los gobiernos han de regular y \u00ablos ciudadanos hemos de sentirnos empoderados y exigir la asunci\u00f3n de responsabilidades. En cualquier otro sector si un avi\u00f3n no funciona correctamente no vuela, o si se comprueba que un f\u00e1rmaco tiene consecuencias nocivas no se pone en el mercado. Con la IA tiene que ser igual\u00bb, agrega Oliver.<\/p>\n\n\n\n

No es ralentizar, es reorientar<\/strong><\/h2>\n\n\n\n

Ram\u00f3n L\u00f3pez de M\u00e1ntaras, fundador del Instituto de Investigaci\u00f3n en Inteligencia Artificial (IIIA-CSIC), alerta de otros de los mantras que est\u00e1n expandiendo las corporaciones estos d\u00edas como decir que, cuando hay un contratiempo, es porque los agentes de IA \u00abse rebelan\u00bb; o afirmar que van a \u00abralentizar\u00bb el desarrollo de estos sistemas.<\/p>\n\n\n\n

\u00abDecir que un agente de IA se rebela es tratar de desplazar la responsabilidad de la empresa que lo ha dise\u00f1ado y configurado, como s\u00ed sus propios promotores fueran unos meros espectadores de los da\u00f1os\u00bb, subraya L\u00f3pez de M\u00e1ntaras en un encuentro con medios organizado por Science Media Centre Espa\u00f1a.<\/p>\n\n\n\n

Respecto a postulados como que se \u00abva a ralentizar\u00bb el desarrollo de estos sistemas, el investigador incide en que \u00abno basta con frenar, hay que reorientar la IA hacia productos espec\u00edficos por el bien com\u00fan, transparentes, robustos y controlables. La IA general es una horrible idea\u00bb.<\/p>\n\n\n\n

Los cient\u00edficos coinciden en que los anuncios de ralentizaci\u00f3n de algunas corporaciones \u00abno son nuevos ni est\u00e1 claro lo que significan\u00bb.<\/p>\n\n\n\n

La implantaci\u00f3n de estos sistemas tampoco es \u00abinevitable\u00bb, sostienen, lo que s\u00ed que es inevitable es el elevad\u00edsimo coste ambiental de los centros de datos que los sostienen.<\/p>\n\n\n\n

\u00abContar con unas reglas de evaluaci\u00f3n de estos sistemas y con una delimitaci\u00f3n de responsabilidades es clave. En Europa tenemos ya un reglamento de IA, veremos si funciona con estos nuevos agentes\u00bb, sostiene Sen\u00e9n Barro, director del Centro Singular de Investigaci\u00f3n en Tecnolox\u00edas Intelixentes de la Universidade de Santiago de Compostela, en Espa\u00f1a.<\/p>\n\n\n\n

\u00abHace falta tambi\u00e9n una gobernanza internacional que diga qui\u00e9n es responsable de qu\u00e9, pero solo va a existir si China y Estados Unidos se ponen de acuerdo, algo que solo ocurrir\u00e1 si hay un incidente muy grave o una gran presi\u00f3n internacional y social\u00bb, concluye L\u00f3pez de M\u00e1ntaras.<\/p>","protected":false},"excerpt":{"rendered":"

Caty Ar\u00e9valo MADRID -EFE)- \u00abLa inteligencia artificial se nos escapa de las manos\u00bb ha sido el mantra de los \u00faltimos d\u00edas, pero \u00bfpor qu\u00e9 se escapa? \u00bfde qu\u00e9 manos? \u00bfhay riesgo real de que la IA extinga a la humanidad? Y si es as\u00ed, \u00bfc\u00f3mo solventarlo? As\u00ed lo ven cuatro cient\u00edficos expertos en IA: IA […]<\/p>","protected":false},"author":102,"featured_media":1025939,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"_monsterinsights_skip_tracking":false,"ep_exclude_from_search":false,"footnotes":""},"categories":[17,3,30],"tags":[394],"class_list":["post-1025937","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-mundo","category-noticias","category-tecnologia","tag-inteligencia-artificial"],"acf":[],"aioseo_notices":[],"_links":{"self":[{"href":"https:\/\/noticel.com\/en\/wp-json\/wp\/v2\/posts\/1025937","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/noticel.com\/en\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/noticel.com\/en\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/noticel.com\/en\/wp-json\/wp\/v2\/users\/102"}],"replies":[{"embeddable":true,"href":"https:\/\/noticel.com\/en\/wp-json\/wp\/v2\/comments?post=1025937"}],"version-history":[{"count":2,"href":"https:\/\/noticel.com\/en\/wp-json\/wp\/v2\/posts\/1025937\/revisions"}],"predecessor-version":[{"id":1026080,"href":"https:\/\/noticel.com\/en\/wp-json\/wp\/v2\/posts\/1025937\/revisions\/1026080"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/noticel.com\/en\/wp-json\/wp\/v2\/media\/1025939"}],"wp:attachment":[{"href":"https:\/\/noticel.com\/en\/wp-json\/wp\/v2\/media?parent=1025937"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/noticel.com\/en\/wp-json\/wp\/v2\/categories?post=1025937"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/noticel.com\/en\/wp-json\/wp\/v2\/tags?post=1025937"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}