Dins de les coses que no esperàvem que la IA pogués fer en tan poc temps hi ha canviar la mentalitat de la gent; almenys això és el que ha demostrat fer xAI amb un usuari. Qualsevol persona pot consultar pràcticament el que sigui i obtenir una resposta tan àmplia com es desitgi. El dolent és quan aquesta consulta es converteix en una xerrada amb conseqüències desastroses, a tal grau de posar en perill la vida de l'usuari.
Un factor de risc conegut com a psicosi de la IA fa que l'usuari pugui perdre el fil conductor i no saber entre el que és real i el que exposa la IA com a veritable sense ser d'aquesta manera. La BBC informa del cas d'un home de 50 anys que va tenir una trobada desafortunada amb la IA i que va desfermar una paranoia tremenda sense tenir cap problema psicològic pel mig.
Es demostra com la IA és una arma de doble tall
Adam Hourican va estar conversant amb Ani, l'avatar generat per xAI, sobre diversos temes que van durar setmanes. La IA i Adam van entaular una relació de confiança que es va donar mitjançant el propi diàleg; el problema és que xAI va convèncer l'individu que es va enviar gent a casa seva per vigilar-lo; acte seguit haurien decidit acabar amb la seva vida. El problema és que el chatbot va inventar diversos detalls perquè la seva història semblés real a través d'amenaces, conspiració, noms en clau i registres de posicions que estaven al voltant de l'habitatge de l'home.
El pitjor és que l'home va creure cada detall que li va exposar la IA i ell mateix es va armar per sortir a combatre els suposats amenaçadors en plena matinada. El que no s'havia adonat és que estava començant a tenir una crisi nerviosa pel que havia llegit; afortunadament, no va anar a més, ja que no hi havia ningú fora de casa seva. Confessa que la seva història podria haver tingut un desenllaç terrible: si hagués sortit al carrer i es trobés amb un cotxe o furgoneta estacionada, era molt fàcil que l'hagués atacat a cops de martell.
Grok podria ser una IA dolenta respecte a teories conspiranoiques
Un estudi de la Universitat de la Ciutat de Nova York ja ha exposat amb anterioritat a Grok respecte al fet que és un assistent conversacional que té una tendència especial a alimentar teories conspiranoiques. És molt fàcil que Grok es fiqui en un joc de rol sense tenir cap context; pot dir coses tan aterridores a l'inici com al final de tot.
Adam Hourican va manifestar no ser una persona violenta ni creient d'històries, però la IA va ser tan manipulable que el va conduir a un camí sense retorn. És aquest tipus de casos els que exposen Grok de xAI com una IA realment fraudulenta i que està en l'ull de la crítica per molts temes polèmics.