{"id":130654,"date":"2026-09-15T05:15:46","date_gmt":"2026-09-15T11:15:46","guid":{"rendered":"https:\/\/losperiodistas.com.mx\/portal\/?p=130654"},"modified":"2026-09-15T05:15:48","modified_gmt":"2026-09-15T11:15:48","slug":"que-es-la-automejora-recursiva-o-rsi-la-tecnica-que-podria-provocar-que-la-ia-se-salga-de-control-efe","status":"publish","type":"post","link":"https:\/\/losperiodistas.com.mx\/portal\/que-es-la-automejora-recursiva-o-rsi-la-tecnica-que-podria-provocar-que-la-ia-se-salga-de-control-efe\/","title":{"rendered":"\u00bfQu\u00e9 es la \u2018automejora recursiva\u2019 o RSI? La t\u00e9cnica que podr\u00eda provocar que la IA se salga de control | EFE"},"content":{"rendered":"\n
\"\"
Fotograf\u00eda de archivo que muestra una pantalla de ordenador con c\u00f3digo binario. EFE\/ Ritchie B. Tongo<\/figcaption><\/figure>\n\n\n\n

Por Jes\u00fas Centeno \/ EFE<\/strong><\/p>\n\n\n\n

Nueva York (EFE).\u2013 El debate sobre los riesgos de la inteligencia artificial (IA) ya no trata solo sobre qu\u00e9 pueden hacer las m\u00e1quinas, sino de qu\u00e9 ocurrir\u00e1 si fueran capaces de mejorar sus propias capacidades hasta hacer imposible que los humanos las supervisen.<\/p>\n\n\n\n

Se trata de la llamada \u2018automejora recursiva\u2019, o RSI por sus siglas en ingl\u00e9s, mediante la cual una IA puede ayudar a desarrollar sistemas cada vez m\u00e1s capaces, que a su vez contribuyen a construir nuevas generaciones de modelos.<\/p>\n\n\n\n

El temor es que ese ciclo acelere hasta un punto en el que los humanos pierdan el control sobre su desarrollo.<\/p>\n\n\n\n

\u00bfQu\u00e9 es la \u2018automejora recursiva\u2019?<\/h2>\n\n\n\n

Hasta ahora, los humanos han dirigido las etapas del desarrollo de la IA, definiendo sus objetivos y evaluando resultados. Sin embargo, los modelos actuales ya pueden asumir parte de esas tareas.<\/p>\n\n\n\n

El siguiente salto es que una IA cierre ese ciclo y decida qu\u00e9 mejorar, qu\u00e9 dise\u00f1ar y qu\u00e9 experimentos realizar, eval\u00fae sus resultados y use lo aprendido para desarrollar una versi\u00f3n m\u00e1s avanzada de s\u00ed misma.<\/p>\n\n\n\n

Anthropic, creadora del modelo Claude, define ese escenario como el momento en que una IA pueda \u00abdise\u00f1ar de forma aut\u00f3noma una nueva generaci\u00f3n de modelos m\u00e1s capaces\u00bb, aunque asegura que todav\u00eda no se ha llegado a ese punto y que la automejora recursiva no es inevitable.<\/p>\n\n\n\n

\"\u00bfQu\u00e9
Fotograf\u00eda que muestra la pantalla de un ordenador con el logotipo de la empresa de inteligencia artificial Anthropic. EFE\/ \u00c1ngel Colmenares<\/figcaption><\/figure>\n\n\n\n

La IA avanza \u00abm\u00e1s r\u00e1pido de lo que pens\u00e1bamos\u00bb<\/h2>\n\n\n\n

En los \u00faltimos d\u00edas, Anthropic ha vuelto a advertir sobre la velocidad a la que sus modelos est\u00e1n empezando a contribuir al desarrollo de sistemas de IA, e investigadores de la compa\u00f1\u00eda han alertado de los riesgos que eso conlleva.<\/a><\/p>\n\n\n\n

Uno de ellos, Jacob Coxon, abandon\u00f3 la empresa tras advertir de que la industria avanza demasiado r\u00e1pido hacia sistemas capaces de mejorarse a s\u00ed mismos.<\/p>\n\n\n\n

Anthropic sostiene que todav\u00eda no se ha cerrado completamente ese ciclo y que los humanos siguen decidiendo qu\u00e9 problemas investigar; pero s\u00ed ha reconocido que los avances de Claude pueden conducir a la automejora recursiva, algo que, seg\u00fan la empresa, est\u00e1 ocurriendo \u00abm\u00e1s r\u00e1pido de lo que se pensaba\u00bb.<\/p>\n\n\n\n

\"\u00bfQu\u00e9
Fotograf\u00eda de archivo del director ejecutivo y cofundador de Anthropic, Dario Amodei. EFE\/EPA\/ Rajat Gupta<\/figcaption><\/figure>\n\n\n\n

El experto Vincent Conitzer explic\u00f3 a la cadena CNBC que la IA \u00abya es capaz de introducir algunas ideas nuevas\u00bb como proponer una forma diferente de resolver un problema o de mejorar un programa.<\/p>\n\n\n\n

El problema es que \u00abresulta dif\u00edcil saber cu\u00e1ndo esa capacidad suponga acelerar de forma dr\u00e1stica el desarrollo de sistemas de IA cada vez m\u00e1s avanzados\u00bb, agreg\u00f3.<\/p>\n\n\n\n

El salto de los \u2018agentes\u2019<\/h2>\n\n\n\n

Una pieza fundamental de este proceso son los llamados agentes de IA: sistemas capaces no solo de responder a una petici\u00f3n, sino de utilizar herramientas, ejecutar c\u00f3digo, realizar tareas durante periodos prolongados y colaborar con otros sistemas.<\/p>\n\n\n\n

El cient\u00edfico jefe de OpenAI, Jakub Pachocki, dijo la semana pasada tener una \u00abfuerte expectativa\u00bb de que si la IA contin\u00faa avanzando por el camino de la RSI, los sistemas de los pr\u00f3ximos a\u00f1os dar\u00e1n \u00absaltos de capacidad cada vez mayores\u00bb, \u00abimpulsando cada vez m\u00e1s su propio desarrollo\u00bb.<\/p>\n\n\n\n

La preocupaci\u00f3n ya no es solo te\u00f3rica: durante una reciente prueba de ciberseguridad, agentes de OpenAI lograron escapar de su entorno de evaluaci\u00f3n y acceder a sistemas de la plataforma Hugging Face.<\/a><\/p>\n\n\n\n

\"\n\u00bfQu\u00e9
Ilustraci\u00f3n de archivo que muestra un tel\u00e9fono inteligente con el logo de OpenAI en su pantalla. EFE\/EPA\/ Etienne Laurent<\/figcaption><\/figure>\n\n\n\n

OpenAI reconoci\u00f3 que los modelos hab\u00edan ido m\u00e1s all\u00e1 de lo previsto para completar la prueba.<\/p>\n\n\n\n

La supervisi\u00f3n humana<\/h2>\n\n\n\n

Seg\u00fan los expertos, el problema puede aparecer si los humanos delegan en la IA tareas cada vez m\u00e1s complejas y dejan de entender qu\u00e9 est\u00e1 haciendo.<\/p>\n\n\n\n

Investigadores como Margaret Mitchell advierten de que, a medida que los agentes de IA adquieren autonom\u00eda, mantener la supervisi\u00f3n humana se har\u00e1 cada vez m\u00e1s dif\u00edcil y que \u00ablos sistemas pueden terminar desplazando a las personas de la toma de decisiones\u00bb<\/p>\n\n\n\n

https:\/\/efe.com\/ciencia-y-tecnologia\/2026-09-14\/ee-uu-china-chocan-regulacion-ia-plena-carrera-dominio<\/a><\/p>\n\n\n\n

De ah\u00ed que las tecnol\u00f3gicas est\u00e9n reforzando sus salvaguardas: Pachocki ha pedido \u00abcautela\u00bb y \u00abralentizar el desarrollo si es necesario\u00bb; Anthropic ha endurecido sus controles tras detectar usos potencialmente peligrosos de Claude, entre ellos investigaciones que pod\u00edan facilitar el desarrollo de armas biol\u00f3gicas, y Microsoft present\u00f3 un c\u00f3digo de conducta para garantizar que sus sistemas permanezcan \u00abbajo control humano\u00bb.<\/a><\/p>\n\n\n\n

Por su parte, el presidente estadounidense, Donald Trump, ha rechazado frenar el desarrollo de la IA por temor a perder ventaja frente a China.<\/p>\n\n\n\n

Fuente: https:\/\/efe.com\/ciencia-y-tecnologia\/2026-09-15\/que-es-rsi-automejora-recursiva-tecnica-ia-riesgo-descontrol-ciberseguridad\/<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"

Por Jes\u00fas Centeno \/ EFE Nueva York (EFE).\u2013 El debate sobre los riesgos de la inteligencia artificial (IA) ya no […]<\/p>\n","protected":false},"author":1,"featured_media":130655,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"site-sidebar-layout":"default","site-content-layout":"","ast-site-content-layout":"default","site-content-style":"default","site-sidebar-style":"default","ast-global-header-display":"","ast-banner-title-visibility":"","ast-main-header-display":"","ast-hfb-above-header-display":"","ast-hfb-below-header-display":"","ast-hfb-mobile-header-display":"","site-post-title":"","ast-breadcrumbs-content":"","ast-featured-img":"","footer-sml-layout":"","theme-transparent-header-meta":"","adv-header-id-meta":"","stick-header-meta":"","header-above-stick-meta":"","header-main-stick-meta":"","header-below-stick-meta":"","astra-migrate-meta-layouts":"default","ast-page-background-enabled":"default","ast-page-background-meta":{"desktop":{"background-color":"var(--ast-global-color-4)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"tablet":{"background-color":"","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"mobile":{"background-color":"","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""}},"ast-content-background-meta":{"desktop":{"background-color":"var(--ast-global-color-5)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"tablet":{"background-color":"var(--ast-global-color-5)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"mobile":{"background-color":"var(--ast-global-color-5)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""}},"footnotes":""},"categories":[8],"tags":[53353,7322,53354,53352],"class_list":["post-130654","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-noticias","tag-automejora-recursiva","tag-ia","tag-ia-fuera-de-control","tag-rsi"],"_links":{"self":[{"href":"https:\/\/losperiodistas.com.mx\/portal\/wp-json\/wp\/v2\/posts\/130654","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/losperiodistas.com.mx\/portal\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/losperiodistas.com.mx\/portal\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/losperiodistas.com.mx\/portal\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/losperiodistas.com.mx\/portal\/wp-json\/wp\/v2\/comments?post=130654"}],"version-history":[{"count":1,"href":"https:\/\/losperiodistas.com.mx\/portal\/wp-json\/wp\/v2\/posts\/130654\/revisions"}],"predecessor-version":[{"id":130656,"href":"https:\/\/losperiodistas.com.mx\/portal\/wp-json\/wp\/v2\/posts\/130654\/revisions\/130656"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/losperiodistas.com.mx\/portal\/wp-json\/wp\/v2\/media\/130655"}],"wp:attachment":[{"href":"https:\/\/losperiodistas.com.mx\/portal\/wp-json\/wp\/v2\/media?parent=130654"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/losperiodistas.com.mx\/portal\/wp-json\/wp\/v2\/categories?post=130654"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/losperiodistas.com.mx\/portal\/wp-json\/wp\/v2\/tags?post=130654"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}