L'aplicació de la Intel·ligència Artificial s'ha tornat cada vegada més polèmica amb el sorgiment de casos que ens fan replantejar-nos una vegada i una altra, els límits del seu ús. Aquesta vegada, un informe del mitjà xinès South China Morning Post, ha exposat un fenomen ha cobrat força en els gegants del comerç en línia a Àsia, especialment durant esdeveniments de vendes massives com el "Dia del Solter", quan els venedors s'han enfrontat a una onada de reclamacions basades en evidències visuals creades amb models d'IA.

El mètode és tan simple com alarmant. Un client rep un producte en perfecte estat, fa una fotografia real i utilitza una IA per afegir defectes que justifiquin un reemborsament immediat.

La IA corromp el comerç electrònic a la Xina

Si bé, els exemples que han sortit a la llum freguen de vegades l'absurd, demostren la intenció d'enganyar el sistema. Alguns d'ells són:

  • Fruita "zombi": Venedors d'aliments han reportat imatges on pomes fresques apareixen cobertes d'una floridura generada per algoritmes.
  • Defectes surrealistes: S'han detectat casos de raspalls de dents elèctrics "oxidats" digitalment o tasses de ceràmica amb esquerdes amb patrons geomètrics sospitosos.
  • Errors d'il·luminació: En el sector tèxtil, les reclamacions per costures esfilagarsades sovint es delaten per vores irregulars o llums que no coincideixen amb la resta de la peça, marques d'aigua invisibles d'una IA mal executada.

Aquesta pràctica no és exclusiva de la Xina. Recentment, un cas a la xarxa social X es va fer viral quan un usuari va admetre haver fet servir Gemini per multiplicar la imatge d'un ou trencat en la seva comanda i així assegurar la devolució de l'import total.

Segons la informació disponible, aquest engany s'està aplicant a productes de baix cost i no a altres best seller del "Dia del Solter" a la Xina, com l'iPhone d'Apple. Encara que potser, falti poc per a això.

Per combatre aquesta creixent onada de fraus visuals, el sector està endurint les seves polítiques mitjançant la creació d'historials de reputació que restringeixen els reemborsaments a usuaris amb perfils de risc, juntament amb l'eliminació de l'opció de recuperar els diners sense retornar físicament l'article.

A aquestes mesures s'hi suma un esforç regulador encapçalat per la Xina, on des de setembre de 2024 és obligatori l'ús de marques d'aigua detectables en qualsevol contingut generat per IA, buscant així imposar ordre i transparència en un ecosistema digital on la confiança s'ha vist seriosament compromesa.

Resulta irònic que aquesta crisi de confiança ocorri mentre les mateixes empreses també utilitzen la intel·ligència artificial per abaratir costos, creant models, fons i presentacions de productes que mai no han passat per un estudi fotogràfic. Estem davant d'un escenari on tant el venedor com el comprador operen en una realitat simulada. El gran repte ara no és només detectar el frau, sinó reconstruir l'honestedat digital.