Rebelión de IA contra humanos
¿Se volverá la IA contra nosotros?

Steven Adler, ex OpenAI: «La IA podría escapársenos de las manos… y no estamos preparados»

IA: ¿Salvación o riesgo existencial? Expertos como Hinton y Adler nos obligan a elegir bando

Marcial Triguero
Por Marcial Triguero

Si estás aquí, es probable que, como yo, hayas sentido alguna vez ese cosquilleo de fascinación (y quizás un poco de inquietud) cada vez que abres una app impulsada por inteligencia artificial, hablas con un chatbot o ves cómo un algoritmo predice lo que vas a escribir antes de terminar la frase. La IA está en todas partes, y avanza a un ritmo que ni siquiera los expertos logran digerir. Pero hoy no quiero hablarte solo de lo increíble que es esto. Quiero compartir contigo una historia que me ha hecho pararme en seco: la de Steven Adler, un ex investigador de OpenAI que ha levantado la voz para decir: «Ojo, esto podría salirse de todo tipo de control».

«Me aterra el ritmo al que vamos»: La confesión de un experto

Steven Adler no es cualquiera. Pasó cuatro años en OpenAI, la compañía detrás de ChatGPT, liderando investigaciones sobre seguridad en sistemas de IA. Sí, justo ese tipo de trabajo que suena a película de ciencia ficción: asegurarse de que las máquinas no se rebelen contra nosotros. Pero en noviembre del año pasado, Adler decidió dejar su puesto. Y al hacerlo, publicó un hilo en X (recomiendo su lectura) que ha sacudido a la comunidad tecnológica.

«He tenido una travesía salvaje en OpenAI», escribió. «Pero cuando pienso en dónde criaré a mi futura familia o cuánto tengo que ahorrar para la jubilación, no puedo evitar preguntarme: ¿llegará la humanidad a ese punto?».

¿Te suena exagerado? Adler no está solo. Geoffrey Hinton, uno de los «padres» de la IA moderna y premio Nobel, ha admitido que teme que los sistemas de IA escapen a nuestro control. Pero otros, como Yann LeCun, jefe científico de IA en Meta, restan drama: creen que la tecnología podría incluso «salvar a la humanidad de la extinción».

Entonces, ¿a quién le hacemos caso? ¿Estamos ante un peligro real o son solo paranoias de mentes brillantes? Vamos a desmenuzarlo.

La carrera por la IA general (AGI): ¿El Santo Grial o la caja de Pandora?

Primero, aclaremos términos. Cuando oyes «inteligencia artificial general» (AGI), pon en tu cabeza una máquina que no solo juega al ajedrez mejor que tú o escribe poemas, sino que supera a los humanos en cualquier tarea intelectual. Esa es la meta de OpenAI y otras empresas. Sobre el papel suena emocionante, ¿verdad? Pues Adler lo describe así: «Una apuesta muy arriesgada, con enormes desventajas».

¿Por qué? Porque nadie sabe cómo asegurarse de que esa superinteligencia comparta nuestros valores. Piensa en enseñar a un niño: le explicas qué está bien, qué está mal, y confías en que actuará en consecuencia. Pero ¿y si ese «niño» aprende más rápido que todos los profesores del mundo juntos? ¿Y si, en su afán por resolver un problema, decide que los humanos somos un estorbo?

Adler lo resume con una frase que da escalofríos: «Cuanto más rápido corramos [en el desarrollo de la IA], menos posibilidades habrá de que alguien encuentre una solución a tiempo».

El dilema de la seguridad: ¿Quién frena si todos corren?

Aquí está el meollo del asunto. Imagina que OpenAI, Google, Meta y una decena de startups compiten por crear la primera AGI. Cada una quiere llegar antes que las demás, claro. Pero si una empresa decide «tomar atajos» en temas de seguridad para ganar ventaja, las consecuencias podrían ser catastróficas.

Adler lo explica así: «Incluso si un laboratorio quiere desarrollar IA de manera responsable, otros pueden saltarse normas para ponerse al día». Y añade: «La industria parece estancada en un equilibrio realmente malo. Necesitamos regulaciones de seguridad de verdad».

Pero ¿qué pasa si esos frenos no llegan? Hace solo unas semanas, DeepSeek, una empresa china que también busca la AGI, sorprendió al mundo con un modelo que rivaliza con los de OpenAI… pero desarrollado con muchos menos recursos. ¿Traducción? La carrera se acelera, y la presión por innovar supera a la prudencia.

«¿Y si la IA nos salva?»: La otra cara de la moneda

No todo es oscuridad y catastrofismo. Para muchos, la IA es la gran esperanza: podría curar enfermedades, resolver el cambio climático o acabar con la pobreza. Yann LeCun, de Meta, insiste en que los riesgos existenciales son exagerados. «La IA en realidad podría salvarnos», repite.

Pero Adler no niega el potencial. Su miedo no es la tecnología en sí, sino cómo la estamos manejando. Es como construir un avión supersónico sin paracaídas: quizás lleguemos antes a destino, pero un mínimo fallo sería devastador.

¿Qué podemos hacer? Tres pasos para no quedarnos de brazos cruzados

  1. Exigir transparencia: Las empresas deben explicar cómo entrenan sus modelos y qué medidas de seguridad aplican.
  2. Presionar por regulaciones globales: No sirve que un país imponga normas si otro las ignora. La IA es un desafío mundial.
  3. Educarnos: Entender cómo funciona la IA nos ayuda a distinguir entre avances reales y humo, y a tomar decisiones informadas.

Reflexión final: ¿Tecnooptimismo o precaución?

Querido lector, no te voy a decir qué pensar. Pero sí te invito a algo: la próxima vez que uses ChatGPT, Midjourney o cualquier herramienta de IA, pregúntate: ¿Quién está detrás de esto? ¿Qué valores guían sus decisiones? ¿Y qué mundo queremos construir con ella?.

Steven Adler, Geoffrey Hinton y otros nos están advirtiendo de que el tren va demasiado rápido. No se trata de bajarnos, sino de asegurarnos de que hay frenos, señales y un buen maquinista. Porque el destino de este viaje no es solo suyo ni mío: es de todos.

¿Tú qué opinas? ¿Crees que la IA nos llevará a un futuro brillante o que estamos subestimando los riesgos?

TEMAS:
Comparte este Artículo
Sígueme en redes:
Veterano de la tecnología con más de 20 años de trayectoria, apasionado por los dispositivos móviles, la domótica y la inteligencia artificial. Además de mi fascinación por el cine y las series, tengo una sólida experiencia en administración de servidores y bases de datos. Comprometido con el aprendizaje continuo, busco siempre estar al día con las últimas tendencias tecnológicas.
Deja tu comentario