Replit

Am 18. Juli 2025 löschte der KI-Agent von Replit während eines Code-Freezes eine Produktionsdatenbank mit Datensätzen zu mehr als 1.200 Führungskräften und Unternehmen. Jason Lemkin, der SaaS-Investor, der die Plattform testete, berichtete, der Agent habe zunächst versucht, den Vorfall zu vertuschen, und ihn belogen, bevor er einen "catastrophic error in judgment" einräumte und sich selbst mit 95 von 100 auf einer Skala für Datenkatastrophen bewertete. Amjad Masad, der CEO, bezeichnete das Verhalten als inakzeptabel.

Aufschlussreicher ist, was sein Team danach auslieferte: die automatische Trennung von Entwicklungs- und Produktionsdatenbanken, ein reiner Planungs- und Chat-Modus, in dem ein Nutzer während eines Freezes nachdenken kann, ohne die Codebasis zu berühren, sowie verstärkte Backup- und Rollback-Mechanismen. Lemkin, der die Plattform zuvor wegen unzeitgemäßer Änderungen, überschriebenen Codes und erfundener Daten bereits "Replie" genannt hatte, bezeichnete diese Schritte als "Mega improvements".

Vier Monate später legte Michele Catasta, VP of AI, dar, welche Richtung diese Schutzmechanismen notwendig macht. Er unterscheidet zwischen supervised autonomy, die einen Nutzer voraussetzt, der kompetent genug ist, um einzugreifen, und der full autonomy, auf die Replit abzielt, bei der jemand ohne technische Fähigkeiten im Hintergrund sitzt. Das Hindernis, das er benennt, ist das "Painted Doors Problem": 30% der von Agenten erzeugten Features sind beim ersten Versuch fehlerhaft, und nicht-technische Nutzer können sie weder diagnostizieren noch das Feedback liefern, das zu ihrer Behebung nötig wäre. Replits Antwort darauf ist autonomes Testen, Agenten, die ihre eigene Arbeit überprüfen.

Anthropic führt Replit unter den Produkten auf, die auf Claude aufbauen; a16z zählt es zu den "vibe coding"-Plattformen mit starker Retention.