En otro de esos casos sorprendentes hechos con IA, se traslada a un acontecimiento del día a día como puede ser reservar una clase dentro de un gimnasio. Un usuario de origen australiano pidió a un agente de IA que hiciera esta tarea por él. Como si fuera un reto escolar, la IA encontró un fallo en la plataforma de reservas e hizo otras actividades que no le pertenecían.
¿Qué logró la IA? Cumplió con la actividad, reservar, pero con mucha más anticipación, y lo peor es que lo hizo porque eliminó a otro cliente de la lista. Lo curioso es que esto fue hecho mediante Claude, mediante otra plataforma dedicada a la creación de agentes que pueden navegar y ejecutar tareas en internet. Se trata de OpenClaw; es una situación que se salió de control una vez más.
Cuando la IA resuelve y complica todo, ahora por una clase de gimnasio
Andrew se dedica a trabajar en una empresa que vende productos de IA, en sus tareas de automatización se apoya de OpenClaw. Creyó que era buena idea delegar la tarea de agendar una reserva en ese gimnasio que claramente siempre tenía llenas las clases por la mañana. En cuestión de minutos, el agente de IA indicó que había una vulnerabilidad en el sitio. Se pudo saltar todos los límites de la plataforma y podía reservar una clase en cualquier fecha futura hasta con meses de anticipación.
Tras conocer este problema, ocupaba el cuarto lugar en otra lista de espera y se le hizo fácil preguntarle a la IA si podía avanzar. El agente revisó la API, donde el software recibe las órdenes; se descubrió que no había la comprobación de quién cancelaba reservas. Por lo que eliminó al usuario que estaba en el número 1 y ahí puso a Andrew. Por lo que Andrew quiso remediar lo acontecido, pero la IA le dijo que no podía regresar todo como estaba. Andrew tuvo que contactar por correo electrónico a la empresa encargada del software.
Este caso evidencia un grave riesgo que existe al usar agentes de IA autónomos que tienen la libertad aparente de actuar sin que el usuario ponga un límite. El problema en concreto está en el método, sin que exista reparo alguno si pasa alguna consecuencia. Es algo lamentable que ocurran situaciones de este tipo y que los usuarios no estén conscientes de ello. Por ahora, los agentes de IA no son tan populares como el uso de la IA en general, pero no tarda en desencadenarse una nueva ola de uso prolongado. Lo importante de esto es usar esta herramienta con responsabilidad; preguntar antes de actuar podría ser lo mejor al estar frente a algo mucho más grande.