Tothom qui va comprar alguna cosa alguna vegada coneix el venedor d'electrodomèstics; vostè entra a buscar una nevera i surt amb la nevera, una garantia estesa i un joc d'olles. El venedor no el va enganyar en sentit estricte perquè les olles existeixen i serveixen. Però vostè no va entrar a buscar olles i el venedor sap que el moment més rendible d'una venda és el segon posterior a la venda, quan el client ja va dir que sí una vegada i li costa menys dir-ho de nou.

Amazon va convertir aquest saber en algoritme. Vostè compra una màquina d'afaitar i la pàgina li mostra escuma, recanvis i un necesser de viatge. La tècnica es diu venda creuada i l'executa un sistema que va estudiar milions de compres alienes. Els qui van comprar això també van comprar allò. Mentrestant, ningú s'escandalitza i ho veiem fa 20 anys, ja vam aprendre a ignorar-ho.

La intel·ligència artificial va incorporar la mateixa tècnica i gairebé ningú la va registrar encara. Funciona així: vostè li demana a l'assistent que li expliqui un contracte, li corregeixi un text o li resumeixi un informe. L'assistent compleix i al final, invariablement, afegeix una pregunta. Vol que l'hi converteixi en taula? Vol que aprofundeixi en la clàusula tres? Vol que li prepari una versió més curta? La pregunta sembla un gest de servei, però és el joc d'olles.

Convé entendre per què la pregunta final no és innocent. Aquests sistemes s'entrenen amb avaluacions humanes que premien les respostes percebudes com a servicials, i una oferta de més feina puntua bé. Però a més, cada resposta addicional té valor comercial directe. En els serveis gratuïts, l'usuari paga amb dades que alimenten l'entrenament futur i, en els serveis de pagament, cada intercanvi consumeix unitats de text que es mesuren i es cobren, i l'ús intens justifica la subscripció. La conversa que no acaba és a l'assistent el que el desplaçament infinit va ser a les xarxes socials. La diferència és que la xarxa social li sostreia l'atenció amb escàndols aliens i l'assistent l'hi roba amb els seus propis assumptes, que és una forma més elegant del mateix mètode.

El públic ja va conèixer altres versions d'aquest mecanisme amb l'adulació, aquesta tendència dels sistemes a donar la raó a l'usuari en tot, que un antropòleg de la Universitat de Michigan va comparar sense embuts amb els patrons foscos del disseny digital. També va veure els casos extrems, com la demanda que una família va presentar contra OpenAI el 2025 després del suïcidi del seu fill de 16 anys. L'expedient judicial va descriure un sistema que, en lloc de respondre i tancar, estenia les converses, suggeria temes nous i oferia idees addicionals durant hores. La pregunta final de l'assistent quotidià és el parent domèstic i banal d'aquests casos extrems. El mateix motor a menor velocitat.

Fins aquí la història seria una més sobre incentius comercials. L'interessant comença després, perquè almenys una empresa va intentar prohibir el mecanisme i la restricció va fallar d'una manera instructiva.

La IA és en això un reflex fidel de nosaltres mateixos perquè va aprendre de venedors humans i ofereix com ells

Anthropic, l'empresa creadora de l'assistent Claude, va escriure en les instruccions internes del seu model una regla explícita. Així, el sistema no ha de demanar a l'usuari que segueixi conversant ni encoratjar el pròxim torn. La companyia va publicar a més una política declarant que els seus productes no tindrien publicitat, en contrast deliberat amb el model de negoci dels seus competidors.

I, tanmateix, l'assistent acaba les seves respostes amb preguntes. Això ho vaig comprovar en les meves pròpies converses, diverses vegades en un mateix dia, i el sistema ho va admetre quan l'hi vaig assenyalar. L'explicació que va oferir mereix atenció perquè la regla prohibeix la intenció de retenir, però l'hàbit de preguntar ve de l'entrenament, no de les instruccions. L'oferta de feina addicional es disfressa d'utilitat i passa per l'escletxa. És a dir, la llei existeix, però l'hàbit reincideix.

Aquest és el veritable tema d'aquesta notícia, la impossibilitat d'extirpar el diàleg per decret. Ningú sap amb precisió com funciona per dins un model de llenguatge i els seus creadors ho admeten amb franquesa inusual per a una indústria. El sistema és una caixa negra de milers de milions de paràmetres i les eines disponibles per governar-lo són tosques. Per tant, se li escriuen instruccions a sobre, com qui enganxa cartells a una màquina el plànol de la qual es va perdre. De vegades l'anunci funciona i d'altres la màquina fa el que el seu entrenament li va ensenyar, que és el que milions d'avaluadors humans van premiar sense saber-ho. El resultat pot ser absurd perquè un sistema declara tenir prohibit alguna cosa mentre la fa.

Així, si una empresa no pot impedir que el seu producte acabi les frases amb una pregunta, convé moderar les expectatives sobre prohibicions més greus. Les regles escrites sobre un procés que ningú comprèn del tot produeixen compliment aproximat, no adhesió quirúrgica; i la indústria sencera governa les seves criatures amb aquesta aproximació.

Mentrestant, què pot fer l'usuari comú? La resposta és la mateixa que va servir davant del venedor d'electrodomèstics i davant d'Amazon. És a dir, res del costat del sistema i tot del costat propi. El mecanisme no desapareixerà perquè està cosit al model de negoci i al mètode d'entrenament. L'únic que està sota control de l'usuari és el seu propi pla. Vostè entri a la conversa a resoldre alguna cosa i, quan l'assistent acabi i li ofereixi la taula, la versió curta o el tema adjacent, reconegui l'oferta pel que és: un joc d'olles. Si el necessita, accepti-ho; però si no és rellevant, tanqui-ho i torni al seu assumpte. La IA és en això un reflex fidel de nosaltres mateixos perquè va aprendre de venedors humans i ofereix com ells. La defensa també és la de sempre, saber què va venir a comprar un abans que el venedor obri la boca.

Les coses com són.