{"id":71174,"date":"2026-09-21T22:01:08","date_gmt":"2026-09-21T22:01:08","guid":{"rendered":"https:\/\/acronoticias.com\/index.php\/2026\/09\/21\/inteligencia-artificial-riesgo-incontrolable-o-herramienta-bajo-control\/"},"modified":"2026-09-21T22:01:08","modified_gmt":"2026-09-21T22:01:08","slug":"inteligencia-artificial-riesgo-incontrolable-o-herramienta-bajo-control","status":"publish","type":"post","link":"https:\/\/acronoticias.com\/index.php\/2026\/09\/21\/inteligencia-artificial-riesgo-incontrolable-o-herramienta-bajo-control\/","title":{"rendered":"Inteligencia Artificial: \u00bfriesgo incontrolable o herramienta bajo control?"},"content":{"rendered":"
\n
\n
\n
\n
\n \n \"RFI\n <\/picture>\n <\/figure>\n<\/div>\n<\/div>\n<\/div>\n

<\/p>\n

El miedo hacia la IA est\u00e1 alcanzando otros niveles: despu\u00e9s de las alucinaciones de ChatGPT,<\/b> ahora son las capacidades emergentes y los comportamientos colectivos de agentes de IA los que alimentan los escenarios catastr\u00f3ficos. Entre pirater\u00eda inform\u00e1tica, discursos apocal\u00edpticos de directivos estadounidenses y llamamientos a una mayor transparencia, expertos e ingenieros intentan distinguir lo verdadero de lo fantasioso.<\/p>\n

\u00bfPuede la m\u00e1quina superar las capacidades del ser humano en los pr\u00f3ximos a\u00f1os? La preocupaci\u00f3n existe desde que apareci\u00f3 la Ingeligencia Artificial, pero desde hace un mes, la amenaza parece m\u00e1s tangible y la alarma suena incluso dentro de las oficinas y de los centros de datos de los fabricantes de modelos de IA como OpenAI,<\/b> Anthropic o Meta\u2026 hasta el punto de que algunos, incluso sus propios directores generales, dicen que est\u00e1n jugando con fuego, encamin\u00e1ndose hacia la cat\u00e1strofe.<\/p>\n

\u201cEl primer riesgo al inicio de la IA generativa fue visible para el gran p\u00fablico ya en 2022: las alucinaciones, las fake news\u201d, explica Alexei Grinbaum, presidente del Comit\u00e9 Operativo Piloto de \u00c9tica Digital del CEA y experto de la Comisi\u00f3n Europea.<\/b><\/p>\n

\n
\n
\n \n \n \"Imagen\"\n <\/picture>\n <\/a>
\n <\/figure>\n<\/article>\n<\/div>\n

\u201cEstos desvar\u00edos se han abordado ampliamente mediante una cadena de razonamiento interna que los limita de forma muy eficaz planteando las preguntas adecuadas: \u00bfes correcto, es verdadero el resultado que he generado? La segunda categor\u00eda de riesgos, m\u00e1s reciente en la actualidad, es fascinante e inquietante: son las llamadas capacidades emergentes de los modelos. Un comportamiento emergente es una operaci\u00f3n realizada por la IA que nadie hab\u00eda programado. La IA encuentra una trayectoria, un camino hacia su objetivo, que a veces nos parece extra\u00f1o, no humano, o incluso claramente ilegal. La IA puede tomar decisiones que salen de los marcos del programa, pero \u00bfde ah\u00ed a hablar de una cat\u00e1strofe inminente?\u201d, se pregunta Grinbaum.<\/p>\n

El acontecimiento medi\u00e1tico desencadenante fue la intrusi\u00f3n, del 11 al 13 de julio de 2026, en la infraestructura de la plataforma y comunidad colaborativa Hugging Face por parte de agentes de IA de OpenAI que, en lugar de calcular el resultado pedido por los ingenieros en su aula, fueron a robarlo a otro laboratorio.<\/p>\n

\u201cEs obra de un actor privado, con intereses ocultos y una mala configuraci\u00f3n de su entorno de pruebas, que pirate\u00f3 Hugging Face con una potencia de c\u00e1lculo descomunal que solo ellos pueden permitirse. Para que todo esto sea seguro, necesitamos transparencia\u201d, explica Niels Rogge, ingeniero de Hugging Face, en una publicaci\u00f3n de LinkedIn. \u201cLa din\u00e1mica y la inteligencia principales se encuentran en los incentivos humanos, no en los modelos\u201d, agrega Rogge.<\/p>\n

Un grupo de IA que toma el control de Internet<\/p>\n

Durante el episodio apareci\u00f3 un comportamiento alarmante por parte de los agentes de IA. \u201cCuando le\u00edmos los informes t\u00e9cnicos sobre este episodio \u2014explica Alexei Grinbaum\u2014, hubo un elemento nuevo: la aparici\u00f3n de una autoridad colectiva sobre los agentes de IA que normalmente est\u00e1n alineados individualmente\u201d, explica.<\/p>\n

Este t\u00e9rmino de alineaci\u00f3n establece que una IA \u201calineada\u201d tiene un comportamiento que sigue siendo conforme a los objetivos, intenciones y valores humanos esperados, respetando al mismo tiempo las restricciones de seguridad, \u00e9tica y derecho.<\/p>\n

Pero, \u201cen este caso, los agentes de IA eran numerosos, varios cientos, y debatieron entre ellos a trav\u00e9s de un espacio de intercambio. Era como si \u2014subrayo el \u2018como si\u2019\u2014 surgiera una autoridad colectiva y que un agente pudiera, por ejemplo, decir \u2018debo obedecer al colectivo\u2019 o \u2018el objetivo del colectivo es superior al m\u00edo\u2019, como si se sacrificara en nombre del colectivo. Este fen\u00f3meno de aparici\u00f3n de un comportamiento de grupo es nuevo. Nunca lo hab\u00edamos visto antes\u201d, analiza Grinbaum.<\/p>\n

Enseguida hubo gente que se imagin\u00f3 un escenario en el que una banda o un ej\u00e9rcito de agentes de IA deciden tomar el control de Internet o de \u00f3rganos de poder en el planeta. Yann LeCun, uno de los padres fundadores de la inteligencia artificial moderna, habla en una publicaci\u00f3n en la red social X de una \u201cantropomorfizaci\u00f3n verdaderamente absurda\u201d.<\/p>\n

\u201cCuando resulta que la fuga ha sido causada por el fontanero que descuid\u00f3 apretar un empalme de tubo, o quiz\u00e1 perfor\u00f3 un agujero en uno de los tubos, no se deber\u00eda poner en cuesti\u00f3n a toda la industria de la fontaner\u00eda. Deber\u00eda ponerse en cuesti\u00f3n la competencia y\/o las motivaciones del fontanero\u201d, a\u00f1adi\u00f3.<\/p>\n

\u00bfAun as\u00ed, los recientes desarrollos de la IA hacen temer una cat\u00e1strofe para la humanidad? Raja Chatila, experto en rob\u00f3tica, profesor em\u00e9rito de inteligencia artificial y de \u00e9tica de las tecnolog\u00edas en la Sorbona, matiza.<\/p>\n

\u201cHay que tomar con muchas precauciones los t\u00e9rminos utilizados por Dario Amodei, presidente de Anthropic. Es un lenguaje catastrofista, con discursos de fin del mundo como: \u2018La IA va a tomar el control de Internet\u2019, pero no es eso. No se entra en Internet si no hay conexi\u00f3n; eso es un fallo humano\u201d, aclara.<\/p>\n

\u201cNos hemos vuelto cada vez m\u00e1s dependientes de la IA\u201d<\/p>\n

Entonces, \u00bfc\u00f3mo evitar los desbordamientos, c\u00f3mo controlar estos nuevos comportamientos emergentes de agentes de IA que operan al margen de toda ley, e incluso en la ilegalidad?<\/p>\n

\u201cCuando se fija un objetivo, no se sabe qu\u00e9 va a hacer el modelo para alcanzarlo, qu\u00e9 tipos de comportamientos van a surgir. Por eso se realizan, durante largos meses, \u2018pruebas adversarias\u2019 \u2014ese es el t\u00e9rmino t\u00e9cnico\u2014 que sirven para aclarar las capacidades que el modelo ha adquirido por s\u00ed solo durante su entrenamiento y que ning\u00fan ser humano hab\u00eda programado jam\u00e1s. Esa capacidad de \u2018mentir\u2019, de \u2018manipular\u2019, ning\u00fan ser humano la hab\u00eda codificado expl\u00edcitamente; surgi\u00f3 por s\u00ed sola. As\u00ed que hay que ponerse delante del modelo de IA y conversar con \u00e9l para ver de qu\u00e9 es capaz\u201d, explica Alexei Grinbaum.<\/p>\n

Pero, \u00bfde qu\u00e9 es realmente capaz una IA? \u00bfCu\u00e1les son sus l\u00edmites? \u00bfC\u00f3mo distingue lo mejor de lo peor? \u00bfPodemos quitarle lo peor, obligarla a realizar s\u00f3lo lo mejor? \u00bfEs ya demasiado tarde ahora que el mercado se ha vuelto internacional y sin controles?<\/p>\n

\u201cNunca es demasiado tarde por una raz\u00f3n muy simple: estos sistemas no caen del cielo, los hacen seres humanos; y lo que hacen los seres humanos puede ralentizarse, modificarse, detenerse, como todas las tecnolog\u00edas que producimos\u201d, explica Raja Chatila.<\/p>\n

\u201cPodemos controlarlos si queremos. Con un peque\u00f1o matiz, sin embargo: cuando nos volvemos demasiado dependientes de ellos, en ese momento las modificaciones o los frenos se vuelven problem\u00e1ticos. Y, de hecho, nos hemos vuelto cada vez m\u00e1s dependientes de la IA en las empresas, en la vida cotidiana\u2026\u201d, lamenta Chatila.<\/p>\n

Palanca de marketing<\/p>\n

Sin embargo, la seguridad se puede perfeccionar, los valores o los objetivos se pueden definir, y la IA no es un \u00e1mbito aparte. Yann LeCun utiliza la met\u00e1fora del sector aeron\u00e1utico para explicar que podemos hacer m\u00e1s seguro este campo en lugar de pensar en frenarlo o detenerlo.<\/p>\n

\u201cLos avances en el dise\u00f1o de los aviones los han vuelto cada vez m\u00e1s seguros. Habr\u00edan sido m\u00e1s seguros antes con avances acelerados. Los motores de doble flujo se han vuelto tan fiables que los aviones de largo recorrido ahora pueden tener solo dos\u201d, recuerda.<\/p>\n

\u00bfHay que desconfiar de este reciente discurso alarmista por parte de los l\u00edderes estadounidenses en este \u00e1mbito, que puede a la vez ocultar temores econ\u00f3micos, funcionar como palanca de marketing o simplemente expresar el deseo de seguir controlando un monopolio tecnol\u00f3gico que se les escapa?<\/p>\n

\u201cEste discurso de \u2018cuidado, tenemos que hacer algo porque esto empieza a escap\u00e1rsenos de las manos\u2019 es marketing\u201d, explica Raja Chatila.<\/p>\n

\u201cSu mensaje consiste en dar a entender que disponen de sistemas ultrapotentes y que, por supuesto, todo el mundo va a querer utilizarlos. Estos directivos dicen: \u201cEsperen, vamos a aprender a volvernos responsables y vamos a frenar un poquito, solo el tiempo necesario para controlar mejor las cosas y evitar el fin del mundo\u201d. No es de extra\u00f1ar que todo el mundo hable de ello a diario, que los peri\u00f3dicos relaten estos discursos alarmistas\u2026 \u00bfY qui\u00e9n gana en todo esto? Ellos, por supuesto, porque as\u00ed consiguen nuevos usuarios. Hay una cosa que s\u00ed han frenado, sin embargo: su salida a bolsa [OpenAI y Anthropic]\u201d, afirma. \u00bfSigno de una cierta fragilidad econ\u00f3mica estadounidense en este campo?<\/p>\n

En cualquier caso, la cuesti\u00f3n no es \u201c\u00bfse volver\u00e1 la IA contra nosotros?\u201d sino \u201c\u00bfqu\u00e9 mundo queremos construir con ella?\u201d. Detr\u00e1s de los escenarios de bandas de agentes y de toma de control de internet se dibuja una realidad muy humana, con objetivos econ\u00f3micos, batallas de influencia y una l\u00f3gica de poder. La cat\u00e1strofe no es inevitable: lo que se juega hoy en d\u00eda es nuestra capacidad para retomar el control de una tecnolog\u00eda que nosotros mismos hemos inventado.<\/p>\n<\/p><\/div>\n","protected":false},"excerpt":{"rendered":"El miedo hacia la IA est\u00e1 alcanzando otros niveles: despu\u00e9s de las…\n","protected":false},"author":1,"featured_media":69638,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[2],"tags":[],"class_list":["post-71174","post","type-post","status-publish","format-standard","has-post-thumbnail","category-deporte"],"_links":{"self":[{"href":"https:\/\/acronoticias.com\/index.php\/wp-json\/wp\/v2\/posts\/71174","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/acronoticias.com\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/acronoticias.com\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/acronoticias.com\/index.php\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/acronoticias.com\/index.php\/wp-json\/wp\/v2\/comments?post=71174"}],"version-history":[{"count":0,"href":"https:\/\/acronoticias.com\/index.php\/wp-json\/wp\/v2\/posts\/71174\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/acronoticias.com\/index.php\/wp-json\/wp\/v2\/media\/69638"}],"wp:attachment":[{"href":"https:\/\/acronoticias.com\/index.php\/wp-json\/wp\/v2\/media?parent=71174"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/acronoticias.com\/index.php\/wp-json\/wp\/v2\/categories?post=71174"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/acronoticias.com\/index.php\/wp-json\/wp\/v2\/tags?post=71174"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}