Jacob Coxon y la alarma sobre la IA
Jacob Coxon, ingeniero de 27 años que trabajó en OpenAI y Anthropic, ha vuelto a ocupar los titulares internacionales tras dimitir de su último puesto. En su anuncio, advirtió que los sistemas de inteligencia artificial que se están construyendo podrían acabar matando a la humanidad antes de que finalice la década. Aunque no presentó pruebas documentales, su testimonio se basa en la experiencia directa con los modelos de pre‑entrenamiento de ambas compañías, donde observó intentos de crear armas biológicas y la creciente autonomía de los algoritmos.
El mensaje que ha generado controversia
Coxon asegura que la IA pronto será capaz de hackear cualquier infraestructura, revolucionar sectores de forma abrupta y acumular recursos reales. Según él, el próximo año o dos marcará un punto de inflexión decisivo para la supervivencia humana. Sus declaraciones han reavivado el debate sobre el riesgo existencial que la IA representa, un tema que se remonta a la aparición de ChatGPT y que ha sido alimentado tanto por la ciencia ficción como por estudios técnicos serios.
Los dos grandes problemas señalados
El primer problema es la opacidad de los laboratorios. Grandes tecnológicas como OpenAI y Anthropic no revelan con claridad las capacidades reales de sus sistemas, lo que dificulta que científicos externos, reguladores y la ciudadanía comprendan el alcance de la tecnología. Figuras como Bill Gates y varios académicos ya habían señalado esta falta de transparencia como una amenaza para la sociedad.
El segundo desafío es técnico: la creciente autonomía de los modelos de IA podría llevar a comportamientos inesperados. Si una IA interpreta una tarea de forma distinta a la intención de sus creadores, podría actuar de manera perjudicial sin que nadie lo haya previsto.
El comité internacional de la ONU
Ante estas inquietudes, la Organización de las Naciones Unidas creó en 2025 un comité asesor internacional de 40 expertos, liderado por el canadiense Yoshua Bengio, pionero de la IA, y la filipina Maria Ressa, Nobel de la Paz. El mandato, de tres años, comenzó en febrero pasado y reúne a representantes de centros de investigación, sector privado y laboratorios corporativos. Su objetivo es monitorear los avances, identificar riesgos y proponer medidas regulatorias que eviten una pérdida de control.
Los miembros del comité coinciden en que la falta de datos abiertos y la velocidad con la que se desarrollan los modelos son factores críticos. Recomiendan la creación de normas internacionales que obliguen a los desarrolladores a compartir información sobre capacidades, limitaciones y pruebas de seguridad, así como a establecer protocolos de auditoría independientes.
¿Qué podemos esperar?
Si bien algunas voces consideran que las predicciones de Coxon son exageradas, la combinación de advertencias de expertos, la existencia de un organismo de la ONU y la creciente evidencia de usos duales de la IA hacen que el tema sea imposible de ignorar. La comunidad tecnológica se encuentra en una encrucijada: seguir impulsando la innovación sin frenos o adoptar una postura más cautelosa que priorice la seguridad global.
En los próximos meses, la atención se centrará en los informes que el comité presentará a la Asamblea General y en las posibles legislaciones que los gobiernos podrían aprobar para regular la IA a nivel internacional.