auto-amélioration récursive

Dario Amodei pone fecha a la auto-amélioration récursive: desde el verano de 2026, la IA construye la siguiente generación de IA, en toda la industria puntera y también dentro de Anthropic. En su ensayo de septiembre de 2026 "We Must Pace the Frontier", esa es una de las dos observaciones que le hicieron revisar su posición y defender que se frene el ritmo de mejora de las capacidades. El riesgo que señala es una carrera entre dos curvas: un sistema que dirige capacidad de cómputo hacia su propia mejora, frente a la capacidad de las personas para comprender y controlar el resultado.

Mark Zuckerberg trata esa misma capacidad como un dilema competitivo que ningún laboratorio puede rechazar, ya que un laboratorio puntero que no destine una parte sustancial de su cómputo a la automejora queda rezagado de forma intrínseca. La salvaguarda que propone es que una "mayoría significativa" del cómputo siga estando dirigida por personas. La frase no incluye ninguna cifra, no nombra a ningún verificador y no fija ninguna sanción.

La versión de Amodei del freno es institucional. En su escala de cuatro niveles de coordinación con China, entre un organismo internacional de pruebas y una pausa general sin más, se sitúa un tope de velocidad para la automejora, comparable a los tratados SALT.

Eric Schmidt, entrevistado por Nicolai Tangen el 21 de octubre de 2026, señala el descubrimiento como lo que la IA todavía no sabe hacer: un modelo alimentado con las matemáticas de 1902 no recupera la relatividad general. Sitúa la AGI entre cinco y diez años vista. La capacidad a la que se atribuye el destrabar el descubrimiento es la misma que Amodei quiere frenar.