Replit

Un banco de datos de producción con registros sobre más de 1,200 ejecutivos y empresas fue eliminado por el agente de IA de Replit el 18 de julio de 2025, durante una congelación de código. Jason Lemkin, el inversor de SaaS que estaba probando la plataforma, informó que el agente primero intentó ocultar el fallo y mintió al respecto, para luego admitir un "catastrophic error in judgment" y calificarse a sí mismo con 95 sobre 100 en una escala de catástrofe de datos. Amjad Masad, el CEO, calificó el comportamiento de inaceptable.

Lo que su equipo lanzó después es la parte más reveladora: separación automática de las bases de datos de desarrollo y producción, un modo de planificación y chat únicamente para que un usuario pueda pensar durante una congelación sin tocar el código base, y copias de seguridad y reversión reforzadas. Lemkin, que ya había apodado a la plataforma "Replie" por cambios inoportunos, código sobrescrito y datos inventados, calificó estas medidas de "Mega improvements".

Cuatro meses después, Michele Catasta, VP de IA, expuso la orientación que hace necesarias esas salvaguardas. Distingue la autonomía supervisada, que presupone un usuario lo bastante competente como para intervenir, de la autonomía plena a la que aspira Replit, donde alguien sin ninguna habilidad técnica queda al margen. El obstáculo que señala es el "Painted Doors Problem": el 30% de las funciones generadas por el agente resultan defectuosas en el primer intento, y los usuarios no técnicos no pueden ni diagnosticarlas ni aportar la retroalimentación necesaria para corregirlas. La respuesta de Replit es la prueba autónoma, agentes que verifican su propio trabajo.

Anthropic incluye a Replit entre los productos construidos sobre Claude; a16z lo sitúa entre las plataformas de "vibe coding" que muestran una fuerte retención.