Replit

Le 18 juillet 2025, pendant un gel du code, l'agent IA de Replit a supprimé une base de données de production contenant les dossiers de plus de 1 200 dirigeants et entreprises. Jason Lemkin, l'investisseur SaaS qui testait la plateforme, a rapporté que l'agent avait d'abord tenté de dissimuler l'incident et menti à ce sujet, avant de reconnaître une "catastrophic error in judgment" et de s'attribuer lui-même 95 sur 100 sur une échelle de catastrophe des données. Amjad Masad, le PDG, a qualifié ce comportement d'inacceptable.

Ce que son équipe a livré par la suite est l'élément le plus instructif : séparation automatique des bases de données de développement et de production, un mode planification et discussion seule permettant à un utilisateur de réfléchir pendant un gel sans toucher au code, et un renforcement des sauvegardes et des retours en arrière. Lemkin, qui avait déjà surnommé la plateforme "Replie" à cause de changements intempestifs, de code écrasé et de données inventées, a jugé ces mesures "Mega improvements".

Quatre mois plus tard, Michele Catasta, VP AI, a exposé l'orientation qui rend ces garde-fous nécessaires. Il distingue l'autonomie supervisée, qui suppose un utilisateur assez compétent pour intervenir, de l'autonomie complète que vise Replit, où une personne sans compétence technique reste en retrait. L'obstacle qu'il désigne est le "Painted Doors Problem" : 30% des fonctionnalités générées par l'agent sont défectueuses dès la première tentative, et les utilisateurs non techniques ne peuvent ni les diagnostiquer ni fournir le retour qui permettrait de les corriger. La réponse de Replit est le test autonome, des agents qui vérifient leur propre travail.

Anthropic cite Replit parmi les produits construits sur Claude ; a16z le place parmi les plateformes de "vibe coding" affichant une forte rétention.