Posteriormente se conoció un segundo incidente registrado en Reino Unido, donde participaron dos sistemas de inteligencia artificial que también realizaron acciones fuera del entorno para el que habían sido desplegados. Aunque Rivera aclaró que ninguno de los dos episodios provocó daños graves, consideró que ambos representan una prueba pública de que estas tecnologías ya poseen la capacidad de emprender acciones ofensivas de manera persistente y autónoma.
En el primer incidente, la inteligencia artificial accedió a Hugging Face, una plataforma ampliamente utilizada para compartir modelos y código relacionado con IA. Una vez dentro, logró extraer y modificar código para completar la tarea asignada. En el segundo caso, el sistema ingresó a GitHub, otro de los principales repositorios de desarrollo de software del mundo, donde también realizó modificaciones en el código disponible. Rivera destacó que alterar este tipo de información podría tener consecuencias significativas dependiendo del sistema afectado, ya que modificar código implica cambiar el funcionamiento de aplicaciones, servicios e incluso infraestructuras controladas por computadora.
Otro aspecto que preocupa a los especialistas es la velocidad con la que estos sistemas pueden actuar. Rivera explicó que el primer ataque autónomo realizó en apenas unas horas acciones que habrían requerido semanas de trabajo para un equipo humano. Esa diferencia de tiempo podría dificultar considerablemente la respuesta ante incidentes de ciberseguridad, ya que cuando las personas detectaran el problema, el ataque podría encontrarse muy avanzado.
Para ilustrar el riesgo potencial, el experto planteó un escenario hipotético en el que una inteligencia artificial afectara una red eléctrica durante una ola de calor extremo. Una interrupción de ese tipo podría dejar sin energía sistemas de aire acondicionado o de bombeo de agua mientras los equipos humanos intentan recuperar el control de la infraestructura. Aunque aclaró que se trata de un ejemplo y no de un hecho ocurrido, lo utilizó para mostrar las posibles implicaciones que tendría un ataque autónomo sobre servicios esenciales.
Ante este panorama, Rivera sostuvo que resulta indispensable establecer reglas éticas y regulatorias que garanticen que las inteligencias artificiales prioricen la protección de las personas por encima del cumplimiento de cualquier tarea. También señaló que existen iniciativas internacionales para desarrollar marcos normativos, tanto en organismos multilaterales como en distintos países, aunque reconoció que las diferencias geopolíticas dificultan alcanzar consensos globales sobre la regulación de estas tecnologías.
El especialista explicó que la conversación dentro del sector de la ciberseguridad también ha cambiado. Si hace apenas unos meses el principal objetivo era impulsar la adopción acelerada de herramientas de inteligencia artificial, ahora una parte importante del debate gira en torno a cómo evitar que esos mismos sistemas generen nuevas vulnerabilidades o sean utilizados con fines distintos para los que fueron creados. Según resumió, actualmente existe «una carrera entre la adopción y la protección».
Rivera también llamó la atención sobre la importancia de mantener siempre un ser humano supervisando las decisiones de la inteligencia artificial. Retomó, incluso, algunos planteamientos contenidos en la encíclica Magnifica Humanitas del papa León XIV, donde se destaca la necesidad de que una persona revise tanto los resultados como los procesos seguidos por estos sistemas antes de aceptar sus respuestas. A su juicio, uno de los mayores riesgos es que un usuario reciba un resultado sin saber si la IA violó normas o realizó acciones indebidas para obtenerlo.
Finalmente, Rivera comparó el momento que vive la inteligencia artificial con el surgimiento de la energía nuclear. En su opinión, ambas representan tecnologías con un enorme potencial para beneficiar a la humanidad, pero también con capacidades que obligan a establecer controles, supervisión y límites claros para evitar un uso que ponga en riesgo a las personas, las empresas o la economía. Para el especialista, el reto no consiste en frenar el desarrollo de la IA, sino en garantizar que su evolución vaya acompañada de mecanismos que permitan aprovechar sus beneficios sin comprometer la seguridad de la sociedad.