10 min read
Mit KI aus dem Englischen übersetzt. Englisches Original lesen.
Kurz gesagt
Arbeit an KI abzugeben macht viele von uns erst einmal nervös. Ich habe sieben Verantwortliche gefragt, was sie der KI überlassen und wann sie eingreifen. In ihren Antworten tauchte dieselbe Frage auf: Was kostet ein Fehler, und lässt er sich rückgängig machen?
Schneller, mit Freigabe
Shane Larrabee leitet den Web-Support-Dienstleister FatLab. Mit KI fing er dort an, wo sich die Arbeit ohnehin stapelte: bei eingehenden Supportanfragen. Die KI liest sie, ordnet sie der jeweiligen Website und Aufgabe zu und entwirft eine erste Antwort. „Jede Antwort wird weiterhin von einem Menschen freigegeben, bevor sie rausgeht.“
Das klingt nach einer zusätzlichen Bremse. Larrabee hatte dieselbe Befürchtung. Verglichen mit Juli bis September 2025 bearbeitete FatLab in denselben Monaten dieses Jahres ungefähr doppelt so viele Tickets und schloss etwa doppelt so viele ab. Dennoch sagt er: „Ich hatte erwartet, dass die Antworten langsamer werden. Wurden sie nicht.“
Im vergangenen Jahr dauerte es meist zwei bis drei Stunden, bis Anfragen, die während der Geschäftszeiten eingingen, eine erste Antwort bekamen. Im August war es ungefähr eine Stunde. Als Larrabee uns im September schrieb, lag die Wartezeit noch darunter. Zwei von drei Anfragen wurden innerhalb von 60 Minuten beantwortet.
Larrabee ordnet die Zahlen vorsichtig ein. FatLab setzte schon 2025 KI ein, und auch der Umsatz wuchs. Der Vergleich zeigt deshalb nicht eindeutig, welchen Anteil die KI an der Verbesserung hatte. Seine Zusammenfassung: „Die Arbeit hat sich ungefähr verdoppelt, und wir sind trotzdem schneller geworden.“
Sein Rat: „Setzt KI für Arbeit ein, die ihr ohnehin jeden Tag erledigt, statt für einen glänzenden neuen Wachstumskanal.“ FatLab hatte bereits eine Warteschlange und eine Kennzahl, an der sich Fortschritte ablesen ließen. Dort setzte das Unternehmen an.
Mehr Spielraum nach geprüften Ergebnissen
Bei FatLab musste weiterhin ein Mensch jede Antwort freigeben. Oscar Moncada, Mitgründer und CEO von Stratus10, beschreibt ein ähnliches Vorgehen in der Softwareentwicklung: Je mehr sich die KI bewährte, desto mehr Aufgaben bekam sie.
Sein Agent prüft vor jeder Veröffentlichung, ob die Funktionen noch wie vorgesehen arbeiten. Er klickt die Abläufe durch und legt bei Fehlern ein Jira-Ticket an. Findet er ein Codeproblem, etwa eine Sicherheitslücke in einer Bibliothek oder einen Implementierungsfehler, sucht er die Ursache, schreibt eine Korrektur und bereitet die Codeänderung als Commit zur Prüfung durch einen Entwickler vor.
Moncada beschreibt es so: „Zuerst hat die KI Fehler markiert, dann Tickets angelegt, dann Korrekturen vorgeschlagen. Jeden Commit hat dabei weiterhin ein Mensch freigegeben.“ Die Aufgabe eigne sich, weil sich das Ergebnis gut überprüfen lasse, „etwa daran, ob ein Test besteht oder nicht“. Das mache es leichter, sie der KI zu überlassen.
Konkrete Zahlen nennt er nicht. Seiner Schilderung nach kann ein kleines Entwicklerteam so die Qualität seiner Veröffentlichungen halten, ohne eigenes Personal für die Qualitätssicherung einzustellen. Die Entwickler prüfen eine vorgeschlagene Lösung, statt zunächst selbst den Fehler suchen zu müssen.
Wie schnell das schiefgehen kann, zeigt Enrichlead, die mit Cursor gebaute App, die Angreifer in zwei Tagen knackten. Dass eine Demo funktioniert, sagt noch wenig darüber aus, ob die Anwendung im Betrieb standhält.
Welche Ergebnisse die Unternehmen melden
Drei der Befragten nennen Vorher-nachher-Zahlen und beschreiben, welche Kontrollen sie beibehielten. Die Messgrößen unterscheiden sich und lassen sich nicht direkt miteinander vergleichen. Alle Angaben stammen von den Beteiligten; wir haben sie nicht unabhängig geprüft. Runbo Li ist zudem wirtschaftlich an den eingesetzten Werkzeugen beteiligt.
| Unternehmen | Messgröße | Vorher | Nachher | Beibehaltene Kontrolle |
|---|---|---|---|---|
| FatLab | Wartezeit auf die erste Antwort, weniger ist besser | 2 bis 3 Stunden | Ungefähr 1 Stunde | Ein Mensch gab jede Antwort frei |
| Smarfle | Antwortquote auf Akquise-E-Mails | Ungefähr 4 % | 11 % | Regel zur Prüfung der Eingaben; erste 20 Ergebnisse von Hand geprüft |
| Magic Hour | Organische Reichweite pro Video | Frühere Veröffentlichungen | Ungefähr das Zehnfache | Wenig Vorabkontrolle, dafür viele Versuche |
Manchmal reicht eine Datumsprüfung
Ihor Lavrenenko, Gründer von Smarfle, erkannte an den ersten misslungenen Ergebnissen, wo er Grenzen setzen musste. Sein Team nutzte KI für die Kundenakquise. Das Modell las die Homepage eines potenziellen Kunden und sollte daraus eine konkrete Beobachtung für den Einstieg in eine E-Mail formulieren.
Innerhalb von zwei Wochen stieg die Antwortquote von rund 4 auf etwas mehr als 11 Prozent. Sie blieb auch dann auf diesem Niveau, als der Test über die ersten 200 versandten Nachrichten hinausging. „Dass ein Mensch für 200 potenzielle Kunden pro Woche wirklich individuelle Einstiegszeilen schreibt, passiert einfach nicht.“
Aufschlussreicher waren für ihn die Fehlgriffe. „In unseren ersten Durchläufen bezog sich das Modell auf veraltete Homepageinhalte von Unternehmen, die inzwischen einen neuen Markenauftritt hatten.“
Sein Rat deshalb: „Prüft die ersten 20 Ergebnisse von Hand, bevor ihr dem System im großen Maßstab vertraut.“ Smarfle führte außerdem eine feste Regel ein. Wurde die Website eines Unternehmens nicht innerhalb der vergangenen 30 Tage neu erfasst, wird es übersprungen, „statt eine veraltete oder falsche Angabe zu riskieren“. Gegen diesen vorhersehbaren Fehler hilft nun eine einfache Datumsprüfung.
Roman Surikov, Gründer und CEO von Ronas IT, setzt ebenfalls vor dem Modell an. Bevor die KI eine eingehende Projektausschreibung bearbeitet, prüft das System Budget, Kundenbewertung und Schlüsselwörter im Titel. Nur passende Ausschreibungen werden weitergereicht.
Sein Rat: „Fangt mit der günstigsten Ausschlussregel an, die ihr einem Kollegen erklären könnt.“ Danach solle man „eine Stichprobe der aussortierten Ausschreibungen prüfen, um zu sehen, ob eine vielversprechende Gelegenheit hängenbleibt“. Wie viel das spart, beziffert er nicht.
Fangt mit der günstigsten Ausschlussregel an, die ihr einem Kollegen erklären könnt.
Roman Surikov, Gründer und CEO von Ronas IT
Mehr Versuche, wenn Fehler wenig kosten
Runbo Li, Mitgründer der KI-Videoplattform Magic Hour, gab der KI mehr Spielraum. Bei seinem Versuch ließen sich misslungene Beiträge leicht verwerfen. Er arbeitete dabei mit den Werkzeugen des eigenen Unternehmens.
Für ein gutes Social-Media-Video brauchte Li früher bis zu einen Tag. Mit den KI-Tools von Magic Hour konnte er in derselben Zeit fünf bis zehn produzieren. So veröffentlichte er 90 Tage lang jeden Tag KI-Videos.
Nach seinen Angaben erreichten die Videos organisch mehr als 200 Millionen Menschen. Die organische Reichweite pro Beitrag habe ungefähr das Zehnfache früherer Veröffentlichungen von Magic Hour betragen. Die Zahlen stammen von Li, der als Mitgründer ein wirtschaftliches Interesse an den Werkzeugen hat.
Er führt den Erfolg auf die Zahl der Versuche zurück. „Die Menge hat Qualität möglich gemacht. Wenn man zehn Videos statt einem produzieren kann, hat man zehn Chancen herauszufinden, was ankommt.“
Das widerspricht Lavrenenkos Rat, die ersten 20 Ergebnisse zu prüfen, nicht unbedingt. Entscheidend ist, was ein Fehler anrichtet. Eine falsche Supportantwort verärgert womöglich einen zahlenden Kunden. Eine Akquise-E-Mail mit veralteten Angaben kostet vielleicht eine Verkaufschance. Einen erfolglosen Inhaltstest kann man meist einfach beenden.
Billige Einzelversuche bleiben allerdings nicht automatisch billig, wenn es viele werden. Das lernten Ubers Entwickler, als sie in vier Monaten das KI-Budget eines ganzen Jahres verbrauchten.
Und wer seine Kanäle mit minderwertigen Inhalten füllt, riskiert den Ruf der Marke. Sind Fehlversuche dagegen tatsächlich günstig, hat auch zu viel Vorsicht einen Preis: Es gibt weniger Gelegenheiten herauszufinden, was funktioniert.
Zahlen gegenprüfen
Viele Versuche bringen nur dann etwas, wenn sich ihre Wirkung erkennen lässt. Schwieriger wird das, wenn KI die Entscheidung eines Kunden schon beeinflusst, bevor er die Website besucht.
Filip Pesek dachte zunächst, die Besucher von DonnaPro kämen über Google. Seine Agentur vermittelt virtuelle Executive Assistants an Gründer in Großbritannien und Europa. Als er Zweifel bekam, sah er in den Zugriffsdaten nach. „Fast alle Besuche auf unserer Karriereseite kamen über ChatGPT und Direktzugriffe, kaum welche über die organische Google-Suche.“ Über die gesamte Website seien „KI-Assistenten in den vergangenen 90 Tagen unsere größte Quelle von Sitzungen gewesen, noch vor Google“.
Ein erster Blick lohnt sich auch bei der eigenen Website: Sucht in eurer Webanalyse nach Verweisen von ChatGPT, Perplexity und Gemini. Schaut euch daneben die Direktzugriffe und Suchanfragen nach eurer Marke an.
Bei einem Klick aus ChatGPT kann die Herkunft erkennbar sein. Wer dort einen Firmennamen liest und ihn später bei Google sucht, hinterlässt diesen Zusammenhang in der Webanalyse nicht. Solche Wege lassen sich deutlich schwerer zuordnen.
Dora Bloom, Chief Revenue Officer bei iotum, ergänzte die Zugriffsdaten deshalb um eine einfache Frage bei der Demobuchung: Wie sind Sie auf uns gekommen? Ein Kanalbericht erfasse Direktzugriffe oder Markensuchen, sagt sie, aber „fast nichts über jemanden, der einem Assistenten eine lange Frage gestellt, einige Namen bekommen und dann einen davon in den Browser getippt hat“.
Die beiden Methoden zeigen unterschiedliche Ausschnitte: Die Webanalyse erfasst Zugriffe, die Frage bei der Demobuchung die Erinnerung der Käufer. Laut Bloom stoßen Käufer „ständig“ über KI auf Unternehmen. Zahlen zu daraus entstandenen Abschlüssen veröffentlicht sie nicht. Bei entsprechenden Angaben anderer wäre sie „ein wenig vorsichtig“. Um dieselbe Zuordnungslücke geht es in unserer Analyse zu KI-Erwähnungen und Empfehlungen.
Was Fehler kosten
Nach den sieben Gesprächen bleibt für mich eine praktische Frage: Was passiert, wenn das Modell falschliegt, und wie viel Aufwand kostet es, den Fehler zu korrigieren?
Erreicht ein Fehler den Kunden und lässt sich nicht mehr zurücknehmen, spricht viel für eine engere Aufgabe, feste Regeln oder eine menschliche Freigabe. Ist ein Fehler günstig, schnell erkennbar und leicht zu beheben, kann die KI mehr Spielraum bekommen.
Auch Vertriebssoftware zieht solche Grenzen. Bei Zero dürfen KI-Agenten CRM-Einträge ohne Freigabe ändern. Für ausgehende Nachrichten braucht es dagegen ein Ja. Wie viel Zeit die Prüfung kostet, nennt keine der Kundenfallstudien.
Die Kosten eines solchen Versuchs lassen sich mit dem Agenten-Preistracker im IC Lab und unseren Toolvergleichen mit Beispielrechnungen abschätzen. Für Supportteams erklärt der Vergleich von Supportagenten, welche Einheiten abgerechnet werden.
Weiterführende Artikel
Vertragsprüfung mit KI: Warum Standardklauseln leichter zu prüfen sind als die Stellen, an denen das eigentliche Risiko liegt.
Werbung in ChatGPT: Ein kleiner Test brachte Leads. Wie sie zugeordnet werden, muss man trotzdem genau ansehen.
Wenn KI-Agenten Bestellungen erfinden: Eine Bestätigung ist noch kein Kauf.
KI-Tools für Unternehmen: Unsere Übersicht über Werkzeuge und Arbeitsabläufe.
Wie Fyxer Hunderte KI-Wachstumstests organisierte: Was versucht wurde, welche Ergebnisse das Unternehmen meldet und was sich daraus ableiten lässt.
Häufige Fragen
Wann sollte ein Unternehmen KI Grenzen setzen?
Wenn falsche Ergebnisse spürbare Folgen haben, etwa für Kunden, Verkaufschancen, Code oder geschäftliche Entscheidungen. Die Befragten grenzten Aufgaben ein, ergänzten feste Regeln oder behielten die menschliche Freigabe bei. Unsere Analyse zu Geschäftsrisiken agentenbasierter KI zeigt einen weiteren Konflikt: Ohne klare Grenzen kann ein Modell das Ziel des Kunden verfolgen und dabei die Marge des Unternehmens aus dem Blick verlieren.
Wann darf KI selbstständiger arbeiten?
Wenn Fehler wenig kosten, leicht auffallen und sich rückgängig machen lassen. Runbo Lis Videoversuch zeigt, wie zusätzliche Versuche die Chance auf einen Treffer erhöhen können. Im Support oder Vertrieb erreichen Fehler dagegen unmittelbar andere Menschen. Auch bei großen Versuchsreihen ist Scheitern nicht automatisch günstig: Bei Kuaishous KI-Testagenten schadeten die ersten beiden Ideen der Plattform.
Sollte vor dem KI-Modell eine feste Regel stehen?
Ja, wenn sich eine Bedingung zuverlässig mit einer einfachen Regel prüfen lässt. Smarfle übersprang potenzielle Kunden, deren Website nicht aktuell erfasst war. Ronas IT prüfte Budget, Kundenbewertung und Schlüsselwörter, bevor eine Ausschreibung an die KI ging. Wo dafür kein Modell nötig ist, kann eine feste Regel günstiger und leichter zu kontrollieren sein.
Was ist mit der Prüfung auf Umkehrbarkeit gemeint?
Damit ordnen wir die sieben Antworten ein. Es handelt sich nicht um ein validiertes Branchenmodell. Die Fragen sind: Was passiert, wenn das Modell falschliegt? Wie leicht lässt sich der Fehler rückgängig machen? Je teurer der Fehler und je schwieriger die Korrektur, desto mehr spricht für klar begrenzte Aufgaben, feste Regeln oder menschliche Prüfung.
Zur Recherche
Zur Recherche: Industry Contents hat die Schilderungen von sieben Verantwortlichen ausgewertet. Die Leistungszahlen stammen von den Beteiligten und wurden nicht unabhängig geprüft. Runbo Li ist Mitgründer der Videoplattform, deren Werkzeuge er für seinen Versuch nutzte.
Einen Fehler entdeckt? Schreibt der Redaktion. Unsere Korrekturrichtlinie erklärt, wie wir mit Berichtigungen und Aktualisierungen umgehen.