JATCO reconoce a CS Shell & Quaker State
noviembre 9, 2026
El debate sobre el fin de la humanidad salió de la ciencia ficción para instalarse en las políticas de seguridad de las empresas de inteligencia artificial. Una investigación especial de la edición 10 de Neurona Magazine reconstruye la historia de ese miedo y muestra que cada gran innovación ha despertado su propio pánico. El miedo a la extinción tecnológica tiene una larga historia.
Ciudad de México, 10 de noviembre de 2026. El contenido, elaborado por el equipo de investigaciones especiales de Neurona Magazine, parte del presente, con marcos como la Política de Escalado Responsable de Anthropic, y viaja hacia atrás para entender de dónde viene la ansiedad colectiva ante la tecnología.
Dos bandos frente a la inteligencia artificial
La investigación describe la división que marca nuestra era. Por un lado está el movimiento de alineación y seguridad de la IA. Este grupo pide evaluar el riesgo de catástrofes irreversibles antes de desplegar modelos más potentes. Además, popularizó el p(doom), una medida informal de la probabilidad que cada persona asigna a una catástrofe causada por la IA.
Por otro lado está el aceleracionismo eficaz. Para esta corriente, ese cálculo es una exageración. En cambio, considera que la verdadera amenaza es frenar el progreso.
El miedo a la extinción tecnológica antes de la IA
El recorrido empieza en 1942, cuando los científicos del Proyecto Manhattan temieron que una bomba nuclear incendiara la atmósfera. Después aparecen los conceptos del filósofo Günther Anders sobre la distancia entre nuestra capacidad técnica y nuestra imaginación moral. También están las advertencias de Norbert Wiener sobre delegar decisiones a sistemas automáticos.
Más adelante, la investigación explica la Hipótesis del Mundo Vulnerable de Nick Bostrom. En ella, el progreso se parece a sacar bolas de una urna sin saber cuándo saldrá una “bola negra”. Asimismo, analiza los inventos de Thomas Midgley Jr.: la gasolina con plomo y los clorofluorocarbonos.
Sin embargo, la historia también tiene ejemplos de prudencia. En la Conferencia de Asilomar de 1975, los biólogos acordaron una moratoria voluntaria ante los riesgos del ADN recombinante.
El miedo a la extinción tecnológica y el ciclo de los pánicos
Por último, la investigación retoma una idea de la investigadora Amy Orben: el ciclo de Sísifo de los pánicos tecnológicos. Primero, la humanidad sobrestima el riesgo de cada nueva tecnología. Luego la normaliza. Y finalmente vuelve a entrar en pánico con la siguiente.
Por eso, la conclusión apunta a un reto concreto. Para superar el miedo a la extinción tecnológica, la imaginación moral, la sabiduría y las instituciones tienen que avanzar a la misma velocidad que la tecnología.
Datos clave
- El p(doom) es una métrica informal de la probabilidad que una persona asigna a una catástrofe por IA.
- En 1975, la Conferencia de Asilomar estableció una moratoria voluntaria sobre el ADN recombinante.
- Nick Bostrom propuso en 2019 la Hipótesis del Mundo Vulnerable.
Neurona Magazine · Edición 10
Lee la investigación completa: los cálculos del riesgo existencial, las vulnerabilidades de Bostrom y el imperativo de la responsabilidad de Hans Jonas.
Lee el contenido completo en la página 40 de nuestra revista digital →
Preguntas frecuentes
¿Qué es el p(doom)?
El p(doom) es una métrica informal que expresa la probabilidad que una persona asigna a que la inteligencia artificial cause una catástrofe o la extinción de la humanidad. Se popularizó en las comunidades de seguridad de la IA.
¿Qué es la Hipótesis del Mundo Vulnerable?
Es una propuesta del filósofo Nick Bostrom, de 2019, que compara el progreso tecnológico con sacar bolas de una urna: la mayoría son beneficiosas o mixtas, pero una “bola negra” podría destruir a la civilización que la descubre.
¿El miedo a la inteligencia artificial es nuevo?
No del todo. Según la investigación de Neurona Magazine, la humanidad ha temido a sus innovaciones desde la imprenta, en un patrón que la investigadora Amy Orben llama el ciclo de Sísifo de los pánicos tecnológicos.
¿Dónde puedo leer la investigación completa?
La investigación completa está en la página 40 de la edición 10 de Neurona Magazine, disponible en la revista digital hojeable en neuronamagazine.com.
Glosario
- Riesgo existencial: riesgo de un evento capaz de extinguir a la humanidad o destruir de forma permanente su potencial.
- Aceleracionismo eficaz (e/acc): corriente que defiende acelerar el desarrollo tecnológico y rechaza las medidas precautorias.
- Desnivel prometeico: concepto de Günther Anders sobre la distancia entre nuestra capacidad técnica y nuestra imaginación moral.
