La IA está en pleno auge y todavía no hemos visto su mejor versión. Cada cierto tiempo salen nuevos modelos que plantean una mejora sustancial a su predecesor; eso es porque necesitan nutrirse de datos más precisos. Las empresas siguen invirtiendo millones en ello; por ejemplo, algunas personas están constantemente manteniendo conversaciones para poder evaluar y poner a prueba las respuestas, siendo más humanas.
El inconveniente es que estos humanos están aprovechándose de la propia IA utilizando otros chatbots que hagan el trabajo por ellos. Lo que es increíble es el contexto de que la IA se entrene con otra IA. ¿Es válido hacerlo? Es algo muy peligroso que debe evitarse.
Los propios empleados encargados de conversar con la IA emplean a la misma IA
De acuerdo con lo que expone New Scientist con testimonios de trabajadores, es una situación que parece irónica. Las empresas buscan a personas de manera desesperada para que los modelos puedan entrenarse; a su vez, consiguen que sean naturales y precisos. Obteniendo esto de seres humanos, es lógico que los modelos puedan expresarse más como nosotros, hasta pensar como nosotros y tomar parte de nuestra esencia. El problema es que el personal contratado recurre a ChatGPT u otras herramientas para hacer su trabajo.
El problema es que los empleos son temporales, mal pagados y, en su mayoría, son plataformas externas las que hacen las contrataciones. Las empresas delegan esto y no son muy cuidadosas. Además, las instrucciones que reciben los empleados son eternas, tienen revisiones estrictas y un miedo de perder su empleo por cometer errores los hace más endebles. Los empleados son revisados a tal grado que las empresas tienen forma de detectar esta actividad, normas internas y herramientas que están vigilando las pantallas. La estrategia está en pedirle al chatbot utilizado que escriba más natural y evite ciertos signos para que no sea detectado.
Puede ser como un alumno pidiendo ayuda de la IA para su tarea, incluso de cualquier actividad cotidiana que ayude a resolver un problema, pero el caso verdaderamente grave es que se están introduciendo datos que dependen exclusivamente de la calidad humana. Si la empresa recibe datos que ya fueron revisados por la IA, el entrenamiento carece de sentido. Los expertos en el tema indican que existe un fenómeno llamado 'colapso de modelos', donde la IA se entrena con otra y así consecutivamente por más modelos. En consecuencia, el modelo pierde capacidad y la variedad para poder afrontar el mundo real. Puede que los modelos no se rompan, si es que hay suficientes datos humanos.
En conclusión, las empresas necesitan emplear más personas para que los modelos se perfeccionen, pero las condiciones del trabajo tienen que ser buenas. Nadie va a hacer un trabajo por tener mal pago, malas prestaciones o cualquier cosa que haga que el empleado resuelva con otra IA. El diseño de todo el empleo debe ser el adecuado para motivarlos y que el trabajo final sea satisfactorio.