El director ejecutivo de OpenAI, Sam Altman, ha descartado que la compañía creadora de ChatGPT salga a bolsa este año y ha justificado la decisión por los riesgos de seguridad asociados a los modelos más avanzados de inteligencia artificial. "Sería un momento poco aconsejable para salir al mercado bursátil", ha afirmado en una entrevista con la revista Fortune, en la que ha remarcado que OpenAI no siente ninguna presión para dar este paso. Altman ha sostenido que la compañía todavía tiene "muchas cosas que hacer" en materia de seguridad y alineación de los sistemas de IA y ha defendido que, si es necesario, tomará decisiones "contrarias al beneficio financiero" inmediato de los inversores para garantizar que el desarrollo de la tecnología continúe bajo control humano.

El CEO de OpenAI también ha reconocido que la compañía ha estado ralentizando algunos procesos de entrenamiento y ha calificado de "inaceptable" cualquier escenario donde haya una posibilidad del 10% de una catástrofe derivada de la falta de control sobre softwares de inteligencia artificial. "Todos tenemos una enorme responsabilidad y no podemos permitir que los egos, los incentivos económicos, ni otros factores se interpongan en el camino", ha subrayado Altman.

Anthropic aboga por bajar el ritmo

La decisión de OpenAI llega un día después de que el consejero delegado de Anthropic, Dario Amodei, abogara por "bajar el ritmo" de desarrollo de la inteligencia artificial y advirtiera de que se corre el riesgo de "perder el control" de esta tecnología y provocar "ataques informáticos", "bioterrorismo" o "graves problemas económicos graves". "Tenemos que bajar el ritmo al que mejoramos las capacidades de los modelos de IA. Los avances seguirían siendo rápidos y aprovecharíamos sabiamente el tiempo que ganaríamos", afirmó Amodei en un texto publicado este sábado en el blog.

Amodei decía que además de estos ataques informáticos, "bioterrorismo" o "graves problemas económicos graves" se podrían producir si hay un desarrollo "imprudente" de la IA y ponía como ejemplo el riesgo de que la IA tome el control de internet en un plazo entre 6 y 12 meses. Por eso proponía medidas de seguridad y normativa sin dejar de tener "éxito comercial". "Hay que dar prioridad a la cautela sobre la velocidad y a la prudencia sobre el beneficio", dijo. En concreto planteaba medidas como una "evaluación incorporada" por parte de actores independientes, "coordinación democrática" con las instituciones públicas y "coordinación global" que une los esfuerzos de los países democráticos y los autoritarios a escala mundial.

Las palabras de Amodei fueron suscritas, precisamente, por el mismo Altman, que aseguró que se debe "regular el ritmo de los avances". Altman también avaló la propuesta de incorporar evaluadores independientes con un nivel de acceso equivalente al de los empleados de las mismas empresas para examinar los modelos y los riesgos asociados. En este sentido, avanzó que OpenAI adoptará un mecanismo similar y que próximamente dará más detalles sobre cómo piensa aplicarlo. Por su parte, Elon Musk, propietario y creador de Grok, la IA de la red social X, dijo que "Dario tiene razón".