En un altre d'aquests casos sorprenents fets amb IA, es trasllada a un esdeveniment del dia a dia com pot ser reservar una classe dins d'un gimnàs. Un usuari d'origen australià va demanar a un agent d'IA que fes aquesta tasca per ell. Com si fos un repte escolar, la IA va trobar una fallada en la plataforma de reserves i va fer altres activitats que no li pertanyien.
Què va aconseguir la IA? Va complir amb l'activitat, reservar, però amb molta més anticipació, i el pitjor és que ho va fer perquè va eliminar un altre client de la llista. El curiós és que això va ser fet mitjançant Claude, mitjançant una altra plataforma dedicada a la creació d'agents que poden navegar i executar tasques a internet. Es tracta d'OpenClaw; és una situació que es va descontrolar una vegada més.
Quan la IA resol i ho complica tot, ara per una classe de gimnàs
Andrew es dedica a treballar en una empresa que ven productes d'IA, en les seves tasques d'automatització es recolza d'OpenClaw. Va creure que era bona idea delegar la tasca d'apuntar a l'agenda una reserva en aquest gimnàs que clarament sempre tenia plenes les classes al matí. En qüestió de minuts, l'agent d'IA va indicar que hi havia una vulnerabilitat al lloc. Es va poder saltar tots els límits de la plataforma i podia reservar una classe en qualsevol data futura fins amb mesos d'anticipació.
Després de conèixer aquest problema, ocupava el quart lloc en una altra llista d'espera i se li va fer fàcil preguntar a la IA si podia avançar. L'agent va revisar l'API, on el programari rep les ordres; es va descobrir que no hi havia la comprovació de qui cancel·lava reserves. Per la qual cosa va eliminar l'usuari que estava en el número 1 i aquí va posar Andrew. Per la qual cosa Andrew va voler posar remei a l'esdevingut, però la IA li va dir que no podia tornar tot com estava. Andrew va haver de contactar per correu electrònic l'empresa encarregada del programari.
Aquest cas evidencia un greu risc que existeix en usar agents d'IA autònoms que tenen la llibertat aparent d'actuar sense que l'usuari hi posi un límit. El problema en concret està en el mètode, sense que hi hagi cap objecció si passa alguna conseqüència. És una cosa lamentable que passin situacions d'aquest tipus i que els usuaris no en siguin conscients. Per ara, els agents d'IA no són tan populars com l'ús de la IA en general, però no triga a desencadenar-se una nova onada d'ús prolongat. L'important d'això és usar aquesta eina amb responsabilitat; preguntar abans d'actuar podria ser el millor en estar davant d'una cosa molt més gran.