Visitas: 0
Reconozco que no lo sé. Y probablemente nadie lo sabe. Pero hay algo que me preocupa: cada vez son más los expertos que trabajan directamente en inteligencia artificial que advierten de riesgos extraordinariamente graves si el desarrollo de esta tecnología continúa sin suficientes controles.
¿Significa esto que una inteligencia artificial podría acabar con la humanidad dentro de diez años? No podemos afirmarlo. Sería irresponsable convertir una posibilidad en una certeza. Pero también me parece irresponsable hacer exactamente lo contrario: ignorar la advertencia porque suene demasiado apocalíptica.
En 2024, una encuesta realizada a 2.778 investigadores de inteligencia artificial encontró que la estimación mediana de los expertos situaba en un 5% la posibilidad de que futuros avances de la IA provocasen la extinción humana o un resultado de gravedad comparable. Las opiniones estaban muy divididas, pero el dato resulta suficientemente llamativo como para no despacharlo con una sonrisa.
Y han ocurrido otras cosas que deberían hacernos reflexionar.
En los últimos años, investigadores de alto nivel han abandonado algunas de las principales compañías de IA expresando públicamente su preocupación por la seguridad. Uno de los casos más conocidos fue el de Jan Leike, responsable de investigación sobre seguridad en OpenAI, que en 2024 afirmó que la cultura y los procesos de seguridad estaban perdiendo terreno frente al desarrollo de productos.
Más recientemente, en septiembre de 2026, el investigador Jacob Coxon abandonó Anthropic y volvió a plantear públicamente la posibilidad de que sistemas de IA cada vez más autónomos puedan convertirse en una amenaza extraordinariamente grave durante esta década. Sus afirmaciones son discutidas y no constituyen una predicción científica demostrada, pero forman parte de un debate que ya no puede considerarse marginal.
Aquí está, para mí, la cuestión fundamental. Yo no tengo conocimientos suficientes para determinar si esas predicciones son correctas. Pero tampoco los necesito para entender que, cuando personas que conocen profundamente esta tecnología expresan preocupaciones de semejante magnitud, lo razonable es investigar el problema con máxima seriedad.
No hace falta creer que viene el apocalipsis. Hace falta prepararse por si existe una posibilidad, aunque sea pequeña.
De hecho, el problema no consiste únicamente en una hipotética IA que algún día decida destruirnos. Existen riesgos mucho más inmediatos: ciberataques, manipulación de información, fraude, utilización de la IA para desarrollar armas, pérdida de control sobre sistemas autónomos y enormes transformaciones económicas y sociales. El Informe Internacional sobre Seguridad de la IA, respaldado por 30 países y organizaciones internacionales, señala precisamente que todavía existen importantes incertidumbres sobre las capacidades futuras y sobre la eficacia real de las medidas de seguridad.
Lo que me sorprende es la escasa sensación de urgencia que percibe la sociedad. Vivimos rodeados de noticias falsas, exageraciones, guerras, catástrofes y polémicas permanentes. Quizá por eso hemos desarrollado una especie de inmunidad frente a las advertencias. Pero una cosa es desconfiar de una noticia sensacionalista y otra muy distinta ignorar un riesgo tecnológico que podría tener consecuencias enormes.
Los gobiernos deberían estar analizando seriamente estos escenarios, coordinándose internacionalmente y estableciendo mecanismos de control y seguridad antes de que la tecnología alcance capacidades que después resulte difícil controlar.
Y los ciudadanos deberíamos prestar más atención. Tal vez dentro de diez años descubramos que todos estos temores eran exagerados. O quizá descubramos que fuimos demasiado confiados. Precisamente por eso hay que actuar ahora.
Porque si existe una posibilidad razonable de que estemos creando una tecnología cuyo comportamiento futuro no sabemos controlar completamente, esperar a tener la certeza absoluta puede ser la peor estrategia posible.
La inteligencia artificial puede convertirse en una de las mayores herramientas de progreso de la historia. Pero precisamente por su enorme poder, también merece algo que hasta ahora quizá no le hemos dedicado suficientemente: prudencia, vigilancia y responsabilidad.
ES 
EN