El país se prepara para impulsar las herramientas y la regulación de inteligencia artificial, mientras surgen dudas sobre la robustez de sus mecanismos de ciberseguridad para evitar filtraciones y el descontrol de agentes
Eyanir Chinea / El País
México
Esta semana, en un episodio que parece salido de una serie de ficción, un agente de inteligencia artificial (IA) creado por OpenAI buscó (y encontró) vías alternativas y no autorizadas para completar la tarea que se le había encomendado: recabar información sobre el gasto público en medicamentos en Australia. El sistema terminó accediendo sin autorización a archivos no públicos de un portal del sistema de salud del país. Aunque no hay indicios de que se hayan vulnerado datos personales, el incidente se ha convertido en el primero en ser reportado contra un organismo gubernamental y, con ello, también en un cuento con moraleja para el resto de los países que despliegan la herramienta. Eso incluye a México.
La Administración de la presidenta Claudia Sheinbaum ha anunciado un ambicioso Plan Nacional de IA, con el que busca desarrollar herramientas transversales para que el Estado construya una “IA soberana”, apoyada en estrategias y talento nacionales, que reduzca la dependencia tecnológica externa y mejore su eficiencia. El Gobierno también ha anunciado su intención de legislar en materia de inteligencia artificial y ciberseguridad. Todo ello ocurre mientras cerca de la mitad de las empresas mexicanas de más de 100 empleados ya utiliza sistemas de IA.
Sin embargo, la carrera de la segunda economía latinoamericana por impulsar y regular esta tecnología apenas ha comenzado, con un punto de partida que revela una lista importante de pendientes. Los expertos describen un ecosistema con potencial, aunque todavía incipiente, que necesita reforzar la seguridad de la información y la gobernanza de los datos, además de establecer parámetros que permitan aprovechar los agentes sin multiplicar los riesgos. Este puede parecer un problema para los desarrolladores de software, pero la acelerada mejora de los modelos de lenguaje —como ha demostrado el caso australiano— abre la puerta a ataques más rápidos, baratos y difíciles de contener contra servicios de los que dependen los ciudadanos: registros de identidad, hospitales, redes de telecomunicaciones y sistemas de agua.
Según el Banco de México (Banxico), un 48,5% de las empresas con más de 100 empleados ha adoptado sistemas de IA, aunque la mayoría (57%) considera que las implementaciones todavía no han tenido efectos significativos sobre sus ventas o ingresos. La expectativa, sin embargo, es que ese impacto cambie en los próximos años, a medida que las aplicaciones sean más precisas y aumente la adopción.
Para Fernando Arditti, vicepresidente y gerente general para Latinoamérica de WSO2, una empresa global que ofrece herramientas de supervisión para agentes de IA, si el factor de ciberseguridad y protección de identidades no se integra desde la primera fase de diseño de los sistemas, y, en cambio, se deja como una preocupación secundaria, existe el riesgo de perder la capacidad de controlar y gobernar adecuadamente a los agentes. Se trata de un error frecuente en Latinoamérica, que puede impedir identificar y limitar a qué información tiene acceso un modelo, qué transacciones puede ejecutar o qué datos puede compartir. Por ello, el experto enfatiza que seguridad e IA deben desarrollarse de manera conjunta.
“Una cosa que es muy importante es entender que estos agentes se están haciendo cada vez más autónomos. Están tomando decisiones y obteniendo autorización para hacer cada vez más transacciones y cosas que hoy solo hacen los seres humanos”, advierte.
Esa autonomía creciente es precisamente la que concentra las principales preocupaciones de la industria de ciberseguridad. Según el monitoreo de SILIKN, una startup especializada en este campo, México se encuentra entre los tres países de Latinoamérica que sufren más ataques de ciberdelincuentes, con más de 40.000 millones de intentos de intrusión registrados durante el primer semestre. En paralelo, la Guardia Nacional reportó que durante 2025 desactivó 2.216 sitios web fraudulentos, de los cuales el 72,7% estaba relacionado con el sector gubernamental.
El incidente del agente rebelde en Australia se anunció el mismo día en que los líderes empresariales a la vanguardia de la IA, como OpenAI y Anthropic, advirtieron a los líderes mundiales en el Consejo de Seguridad de las Naciones Unidas (ONU) sobre los riesgos latentes que esta herramienta –que crece en sus laboratorios– supone para las personas, mientras llamaron a los gobiernos a que aumenten su supervisión.
“Si las propias creadoras de estas herramientas admiten perder el control momentáneo de sus modelos en entornos controlados, la pregunta que debería inquietar a cualquier autoridad mexicana es qué ocurre cuando esas mismas capacidades caen en manos de grupos criminales organizados que ya operan con total impunidad dentro del territorio nacional”, escribe la firma.
Ponerle frenos a la IA
En medio de la ola de dudas que levanta el rápido avance de la IA, particularmente los sistemas agénticos, la presidenta Sheinbaum ha dicho que su Administración se tomará la tarea de regularla, aunque ha advertido que requerirá de un comité de expertos para hacerlo. Legislar en tecnologías que cambian tan rápidamente es, en definitiva, un reto de equilibrio entre crear cortapisas que protejan a los ciudadanos y a las instituciones, sin restarle tracción a la innovación. Para algunos, la línea debe ser dibujada cuando los aplicativos pueden llegar a vulnerar la salud o la prosperidad de los usuarios.
“Tecnológicamente, la IA llegó para quedarse. Y será un facilitador para poder sacar todo lo bueno de nuestras compañías… pero también lo malo”, dice Óscar Hernández, director general en México de Bluetab, una compañía de IBM especializada en consultoría de datos e IA. Para ello, destaca —como lo hacen buena parte de los especialistas del sector—, será crucial establecer una adecuada gobernanza de los datos con los que se alimentan los sistemas, así como un conjunto de reglas oficiales y en cada organización que establezca límites, especialmente en asuntos que puedan afectar legalmente, económicamente o la salud de una persona. “Ahí sí o sí debe haber intervención humana”, agrega.
No obstante, destaca el contraste entre la importancia de esta tecnología y el bajo nivel de conciencia sobre los riesgos. Y esto deja abierta una pregunta cada vez más relevante: ¿quién es responsable cuando un agente falla: la tecnología o las personas que están detrás de ella? La respuesta apunta al factor humano. “Pero esto sorprendería: solamente entre el 7% y 13% de los CEOs globales conoce quién es su proveedor tecnológico, qué se está implementando en sus organizaciones y qué implicaciones tienen esos modelos de IA”, enumera citando un estudio de IBM. “Y diría que en México estamos en el umbral más bajo”, concluye.