Dario Amodei, fundador de Anthropic, pide reducir el ritmo de desarrollo de la inteligencia artificial. Advierte de que los nuevos modelos podrían empezar a mejorarse a sí mismos y avanzar más rápidamente de lo que nosotros somos capaces de entender y controlar.

En el otro lado, Jensen Huang, fundador de Nvidia, se opone a ralentizarla. Defiende que la seguridad es un problema de ingeniería y que la IA debe estar al alcance de todas las empresas, países y personas. Mark Zuckerberg tampoco quiere una pausa. Yann LeCun, uno de los padres de la IA moderna, considera que dejarla en manos de cuatro laboratorios norteamericanos o chinos sería un peligro para la democracia. Marc Andreessen, el gran inversor de Silicon Valley, proclama que frenar la tecnología nos condena al estancamiento.

Podríamos interpretar estas posiciones a partir de los intereses de cada uno. Anthropic puede beneficiarse de una regulación que dificulte la entrada de competidores. Nvidia gana si todo el mundo adopta la IA. Meta abre sus modelos porque no quiere que el mercado quede en manos de OpenAI o Google.

Todo esto es cierto, pero incompleto. Estas posiciones provienen también de un debate intelectual que mezcla contracultura, libertarismo, transhumanismo, ciencia ficción y filosofía moral. Para entender por qué Amodei quiere frenar, Huang quiere democratizar y Andreessen quiere acelerar, hay que conocer a los filósofos de Silicon Valley.

Cuando los ordenadores debían liberarnos

Una de las raíces se encuentra en la California de los años sesenta y setenta. Entonces, los ordenadores eran grandes máquinas controladas por los gobiernos, el ejército y las corporaciones. Pero una parte de la contracultura imaginó que podían convertirse en instrumentos de emancipación personal.

Una figura esencial es Stewart Brand, creador del Whole Earth Catalog. Publicado por primera vez en 1968, reunía libros, herramientas y conocimientos que permitían construir una casa, cultivar alimentos o crear una comunidad al margen de las estructuras tradicionales. Su lema era "acceso a las herramientas".

Detrás de la batalla sobre si hay que frenar, regular, acelerar o abrir la IA hay ideas nacidas hace más de medio siglo sobre el progreso, la libertad y el futuro de la humanidad

Brand unió las comunas hippies y los primeros ordenadores personales. En el año 1984 popularizó una frase que todavía resuena hoy: "La información quiere ser libre". Esta visión influyó en la cultura hacker, el software libre, internet y las criptomonedas. También consolidó una convicción central de Silicon Valley: el progreso aparece cuando damos herramientas poderosas a muchas personas y les permitimos experimentar sin pedir permiso.

Aquí encontramos una de las raíces de la defensa actual de la IA abierta.

Los extropianos y la singularidad

A finales de los ochenta, esta confianza en la tecnología se convirtió en una filosofía más ambiciosa. El filósofo Max More creó a su alrededor una comunidad conocida como los extropianos.

El nombre provenía de la "extropía", lo contrario simbólico de la entropía. Si la entropía significa degradación, envejecimiento y muerte, la extropía representa crecimiento, inteligencia y transformación.

Los extropianos querían utilizar la tecnología para superar todas las limitaciones humanas. Hablaban de criogenia, ingeniería genética, nanotecnología, ampliación de la inteligencia, carga de la mente en ordenadores, colonización del espacio e inmortalidad. El ser humano no era el final de la evolución, sino una fase provisional.

En este mundo arraigó una idea decisiva: la singularidad.

Si una inteligencia superior puede curar enfermedades y eliminar la escasez, tenemos la obligación de acelerarla. Pero si puede escapar de nuestro control, hay que frenarla

En el año 1965, el matemático I. J. Good había imaginado una "máquina ultrainteligente" capaz de diseñar máquinas todavía mejores. Comenzaría así una explosión de inteligencia que dejaría atrás la humana.

Vernor Vinge, matemático y autor de ciencia ficción, llamó "singularidad tecnológica" al momento en que apareciera esta inteligencia superior. A partir de entonces ya no podríamos predecir el futuro, porque la principal fuerza transformadora del mundo sería una mente que nos superaría.

Ray Kurzweil popularizaría después esta visión. Continúa pronosticando que la IA alcanzará el nivel humano hacia el 2029 y que la singularidad se producirá aproximadamente en el 2045, cuando la inteligencia biológica y la digital empiecen a fusionarse.

Esta idea permite dos lecturas opuestas. Si una inteligencia superior puede curar enfermedades, eliminar la escasez y ampliar nuestra vida, tenemos la obligación de acelerarla. Pero si puede escapar de nuestro control, hay que frenarla.

De una misma idea nacen la esperanza de los aceleracionistas y el miedo de los partidarios de la seguridad.

Racionalistas y altruistas efectivos

Eliezer Yudkowsky convirtió la preocupación por la singularidad en un movimiento intelectual. A través de sus textos y de la comunidad LessWrong, defendía que había que aprender a razonar mejor, identificar nuestros sesgos y estudiar cómo alinear una inteligencia superior con los valores humanos.

El problema no requiere imaginar un robot malvado. Una máquina puede causar una catástrofe ejecutando con gran eficacia un objetivo mal definido. El ejemplo clásico es una IA encargada de maximizar la producción de clips: si no tiene otros límites, podría acabar utilizando todos los recursos del planeta para seguir fabricándolos.

Nick Bostrom dio forma académica a esta preocupación. En el libro Superintelligence, de 2014, argumentó que crear una inteligencia superior sin haber resuelto el problema del control podía ser un riesgo existencial.

Una máquina puede causar una catástrofe ejecutando con gran eficacia un objetivo mal definido

Estas ideas influyeron en Peter Thiel, Elon Musk y los fundadores de DeepMind, OpenAI y Anthropic. La posición actual de Amodei se entiende mejor desde aquí: cuando alerta sobre la “mejora recursiva” de los modelos, recupera casi exactamente la idea de Good sobre una IA que contribuye a crear su sucesora.

Junto a los racionalistas creció el altruismo efectivo. Inspirado por filósofos como Peter Singer, William MacAskill y Toby Ord, se preguntaba cómo podíamos utilizar nuestro dinero y carreras para hacer el máximo bien posible. Al principio, la respuesta eran intervenciones concretas y medibles: mosquiteras contra la malaria, vacunas o tratamientos de bajo coste.

Pero una parte del movimiento dio un salto: las personas del futuro también cuentan. Y si la humanidad puede existir durante miles de años, el número de personas futuras será inmensamente superior al de las que vivimos hoy.

De aquí nace el largoplacismo. Aunque la probabilidad de que la IA provoque la extinción sea pequeña, el daño sería incalculable porque desaparecerían todas las generaciones futuras. Esto explica por qué tanto dinero e investigadores del altruismo efectivo se han orientado hacia la seguridad de la IA.

También explica la crítica principal: los billones de personas hipotéticas del futuro pueden acabar pesando más que los millones de personas reales que sufren hoy.

La IA abierta y la aceleración

Frente a esta visión encontramos a quienes consideran que el riesgo principal no es que la IA se distribuya demasiado, sino que quede controlada por unos pocos.

Jensen Huang defiende un futuro con modelos abiertos y propietarios, pero insiste en que cada empresa y cada país deberá desarrollar su propia IA. La inteligencia, como la electricidad o internet, debe convertirse en una infraestructura general.

Yann LeCun va más lejos. Si accedemos a la información mediante cuatro modelos construidos en California o China, estas empresas condicionarán las lenguas, culturas y visiones del mundo que vemos. Por eso defiende modelos abiertos que cada sociedad pueda adaptar a sus valores. Arthur Mensch, fundador de Mistral, sostiene una posición similar.

La inteligencia artificial, como la electricidad o internet, debe convertirse en una infraestructura general

Esta filosofía conecta con el libertarismo tecnológico de Hayek, Milton Friedman o Ayn Rand: ningún gobierno ni comité de expertos tiene suficiente información para dirigir la innovación. La competencia y la experimentación descentralizada son preferibles al control.

Su versión más radical es el aceleracionismo efectivo (e/acc). Su principal impulsor, Guillaume Verdon, defiende que la vida, la inteligencia y la tecnología forman parte de un proceso universal de evolución. Frenarlo es oponerse al progreso.

Marc Andreessen ha llevado esta visión al centro de Silicon Valley. En su Manifiesto tecnooptimista afirma que no hay ningún problema material que no pueda resolverse con más tecnología. Para él, el peligro no es avanzar demasiado, sino quedar atrapados en el estancamiento.

Los racionalistas temen una IA demasiado poderosa. Los aceleracionistas temen que no llegue lo suficientemente deprisa.

Ideas con miles de millones en juego

Esto no significa que los intereses económicos no cuenten. Cuentan mucho. La filosofía de Anthropic justifica regulaciones que una gran empresa puede cumplir mejor que una start-up. La de Nvidia imagina un mundo donde todo el mundo utiliza sus chips. La apertura de Meta debilita a OpenAI y Google.

Pero los intereses no crean estas ideas de la nada. Las seleccionan, las amplifican y, a menudo, se alinean con ellas.

El debate no enfrenta solo a optimistas y catastrofistas. Enfrenta diferentes concepciones del progreso

Amodei puede creer sinceramente que hay que ralentizar la IA y dirigir una empresa que se beneficia de la regulación. Huang puede ganar miles de millones con su expansión y creer honestamente que distribuirla es la mejor manera de hacer progresar a la sociedad.

Al final, el debate no enfrenta solo a optimistas y catastrofistas. Enfrenta diferentes concepciones del progreso.

Una IA abierta distribuye el poder, pero también las capacidades peligrosas. Una IA cerrada puede ser más controlable, pero concentra un poder inmenso. La regulación puede protegernos, pero también consolidar monopolios. Acelerar puede producir descubrimientos extraordinarios, pero dejarnos sin tiempo para entender sus consecuencias.

Durante más de medio siglo, los filósofos de Silicon Valley han imaginado este futuro. Ahora ya está aquí. Y quizás ha llegado el momento de que el resto de la sociedad también participe en la decisión.