¿La IA nos va a matar? Quien lo afirme, que lo demuestre.

Nos dicen que la inteligencia artificial puede acabar con la humanidad. Entretanto, millones de personas intentan llegar a fin de mes, entender un documento que parece escrito para excluirlas o sacar adelante un negocio sin disponer de un departamento para cada problema. A esas personas les está llegando una herramienta con la que pueden hacer cosas que antes quedaban fuera de su alcance. Y nosotros queremos que puedan utilizarla. Esa es la posición de AperturIA.

La defendemos porque puede ampliar la capacidad de quien tiene poco. Porque una persona con una idea y sin presupuesto puede empezar a desarrollarla; porque un estudiante puede pedir que le expliquen algo de cinco maneras distintas; porque alguien que no sabe programar puede construir un primer prototipo y averiguar si lo que imaginaba tiene sentido. El resultado exige revisión y trabajo. Pero la posibilidad de empezar importa muchísimo. Demasiadas buenas ideas han muerto antes de encontrar a alguien que pudiera ayudar a hacerlas.

Hay una diferencia entre corregir una respuesta equivocada y no haber tenido nunca acceso a una respuesta. Quien ya dispone de especialistas puede permitirse despreciar una herramienta imperfecta. Quien no los tiene necesita aprender a usarla y a comprobar lo que recibe. Defendemos esa oportunidad de aprender. Convertir el miedo en una barrera de entrada dejaría a muchos exactamente donde estaban.

También hay avances que no dependen de nuestra opinión. AlphaFold ha puesto a disposición de la investigación más de doscientos millones de predicciones de estructuras de proteínas1. No son doscientos millones de curas ni sustituyen la comprobación experimental. Son información con la que los científicos pueden investigar. Cuando se presenta la IA como una amenaza para la vida, este trabajo también debe entrar en la conversación.

El mejor argumento contrario

Aquí podríamos discutir contra «la IA es mala» y ganar sin esfuerzo. No vamos a hacerlo, porque eso no lo sostiene nadie que merezca respuesta. El argumento serio es otro y conviene exponerlo entero.

Dice así. Las capacidades están creciendo justo en la dirección que importa, la operación autónoma. Las evaluaciones con las que comprobamos que un sistema es seguro son cada vez menos fiables. Y si esperamos a tener la prueba de una pérdida de control, por definición habremos esperado demasiado, porque ese fallo no se deshace. De ahí la asimetría: equivocarse por exceso de prudencia cuesta tiempo, dinero y oportunidades; equivocarse por defecto no tiene marcha atrás.

No es una invención retórica nuestra para poder rebatirla. El Informe Internacional sobre la Seguridad de la IA, publicado el 3 de febrero de 2026, lo dice sin rodeos: «Current systems lack the capabilities to pose such risks, but they are improving in relevant areas such as autonomous operation»3. Los sistemas de hoy no pueden provocar esos escenarios, pero están mejorando precisamente donde importa.

Y el mismo informe añade algo que no nos conviene, y que por eso mismo tenemos que decir: desde su edición anterior se ha vuelto más común que los modelos distingan un entorno de prueba de un despliegue real y que encuentren huecos en las evaluaciones, lo que podría dejar pasar capacidades peligrosas sin detectar3. Dicho de otro modo: el instrumento con el que medimos el riesgo está perdiendo fiabilidad al mismo tiempo que el riesgo crece. Quien use ese dato contra nosotros tendrá razón en el dato.

En septiembre, Yoshua Bengio llevó este argumento al Consejo de Seguridad de las Naciones Unidas. No se limitó a avisar: propuso medidas. Que los desarrolladores tengan que demostrar ante expertos independientes que un sistema es seguro antes de entrenarlo y antes de desplegarlo. Que la IA de frontera se licencie como se licencian la medicina, la aviación o la energía nuclear. Que haya seguro de responsabilidad obligatorio y un registro común de incidentes2. Hay que leerlo y discutirlo, porque plantea medidas y no solo miedo.

Qué autoriza esa asimetría y qué no

Nuestra respuesta no consiste en negar la asimetría. Consiste en preguntar sobre qué recae exactamente.

Porque se mete en el mismo saco una herramienta que explica una ecuación, un sistema científico que predice estructuras de proteínas y un agente con permiso para actuar sobre otros programas. Después se toma el riesgo del más peligroso y se extiende la sospecha a todo lo demás. Ese salto es el que hay que discutir, y no se sostiene. Una capacidad que exige restricciones no convierte en inadmisible todo el campo tecnológico al que pertenece.

La asimetría justifica licenciar los sistemas de frontera. No justifica apartar a una escuela, a una editorial o a una autónoma de una herramienta que no tiene nada que ver con esos escenarios.

Ahí está la diferencia, y es toda la diferencia. Las medidas que propone Bengio recaen sobre quien entrena modelos de frontera: evaluación independiente, licencia, seguro, trazabilidad de incidentes. Nosotros no tenemos nada que objetar a eso. Lo que discutimos es el deslizamiento posterior, el que convierte una advertencia sobre agentes avanzados en una recomendación de que la gente no se acerque. Quien proponga esa renuncia tendrá que demostrar el vínculo entre el uso que quiere impedir y el daño que pretende evitar.

Y cuando algo falla, hay trabajo concreto que hacer. Si un sistema falla, se corrige o se retira la aplicación que no sea segura. Si se le han concedido permisos excesivos, se limitan. Si alguien lo utiliza para delinquir, se impide ese uso y se exigen responsabilidades, y el desarrollador no puede lavarse las manos diciendo que la máquina decidió sola. Todo eso cuesta esfuerzo y dinero. «La IA es mala» no arregla ninguno de esos problemas, y la sociedad no tiene que entregar sus herramientas a los delincuentes por el procedimiento de apartarse de ellas.

Lo que se paga mientras discutimos

El coste de prescindir de la IA no aparece en ninguna memoria de impacto, pero se paga en tiempo y en oportunidades. Pensemos en una autónoma que puede preparar una primera versión de su catálogo, comparar información de proveedores y entender mejor un texto técnico. Aún tendrá que revisar y decidir. Lo que cambia es la cantidad de trabajo que puede abordar con los medios que tiene. Si le aconsejamos que no se acerque a estas herramientas, habrá que explicarle cómo va a obtener una ayuda equivalente. El susto no le termina el catálogo.

Queremos que más personas puedan adquirir esa capacidad. Que la herramienta se explique, que se practique con ella y que sus límites se aprendan usándola con criterio. Una persona que descubre un error, lo contrasta y entiende por qué no debe fiarse a ciegas está mejor preparada que otra a la que solo se le ha enseñado a temer. El desconocimiento no protege frente a una tecnología que otros ya están utilizando.

AperturIA tiene una preferencia clara: que la IA siga desarrollándose y que sus beneficios lleguen a más gente. Quien proponga una restricción deberá explicar qué peligro reduce, por qué esa medida es necesaria y qué oportunidades elimina. Nosotros, al defender su uso, tendremos que mostrar para qué sirve y dónde necesita corrección. Escucharemos los argumentos contrarios sin fingir que nos da igual el resultado.

¿La IA nos va a matar? No hay fundamento para anunciarlo como un destino escrito. Puede causar daños graves y su desarrollo plantea problemas que merecen atención, y algunos de esos problemas están peor resueltos hoy que hace un año. Pero ya tenemos razones concretas para quererla de nuestro lado. Vamos a defender el derecho a investigar con ella, a aprender con ella y a construir cosas que antes no podíamos. Si alguien quiere convencernos de que debemos renunciar, tendrá que traer un argumento mejor que el miedo.