Das LLM kommt morgen nicht von selbst zurück

5 Min. Lesezeit

Ein Modell hat keine unerledigten Angelegenheiten

Das Modell hatte ein Problem gefunden.

Es erwähnte das Risiko in Absatz sieben. Der Mensch überflog die Antwort, übernahm die Empfehlung und machte weiter. Niemand legte eine Aufgabe an, änderte einen Test oder plante eine erneute Prüfung.

Am nächsten Morgen passierte nichts.

Kein Prozess lief, um das Risiko zu prüfen. Die Antwort war beendet, und das System hatte keinen Folgeauftrag. Ein erheblicher Teil der aktuellen Fantasie, Menschen durch KI zu ersetzen, lebt davon, dieses kleine Detail zu übersehen.

In der Frage steckt unsichtbare Arbeit

Warum öffnet dieser Kunde ständig Tickets erneut, die erledigt schienen? Warum dauert jede Änderung an der Abrechnung dreimal länger als geschätzt? Warum besteht die Software jeden Test, während erfahrene Entwickler dem Release trotzdem misstrauen?

Jemand bemerkte einen Widerspruch zwischen der offiziellen Darstellung und der erlebten Realität und grenzte ihn so ein, dass er sich untersuchen ließ. Die Frage wirkt einfach, weil Fachwissen die Komplexität verdichtet hat, bevor das Modell sie überhaupt zu sehen bekam.

Eine schnelle Antwort als Beweis dafür zu nehmen, dass der Fragesteller überflüssig ist, wäre ungefähr so, als würde man den Arzt entlassen, weil das Labor die Blutwerte schnell geliefert hat.

Kürzlich musste ich Dateien aus einem GitHub-Workflow auf einem Webserver veröffentlichen. Der Agent richtete NGINX ein und schlug SSH für die Übertragung vor. Das hätte funktioniert. Aber Remote-Befehle, Pfade und Berechtigungen wirkten nach reichlich Aufwand für ein paar Dateien.

Dann fiel mir WebDAV von „damals“ ein.

Ich fragte den Agenten danach. Die Antwort änderte sich sofort: Die gewählte NGINX-Installation brachte die nötige Funktion bereits mit. Wir konnten ein Protokoll für die Dateibearbeitung auf entfernten Servern nutzen, statt um eine Remote-Shell ein Deployment-Ritual zu bauen.

Das hing von der Installation ab. Das HTTP-DAV-Modul von NGINX wird nicht standardmäßig mitkompiliert. Auch WebDAV braucht Authentifizierung, eine abgesicherte Übertragung und begrenzte Schreibrechte.

WebDAV ist nicht grundsätzlich besser als SSH. Es passte besser zu dieser Anforderung. Der Agent wusste genug, um es zu erklären und umzusetzen, sobald ich es erwähnte. Vorgeschlagen hatte er es nicht.

Ein jüngerer Entwickler könnte dasselbe Protokoll auf einem anderen Weg kennengelernt haben. Mein Beitrag war eine Erinnerung aus einem früheren Technologiezyklus, ausgelöst durch den Verdacht, dass die erste Antwort das Problem auf der falschen Ebene löste.

Hätte ich die erste kompetente Antwort akzeptiert, hätte mir der Agent geholfen, sie kompetent umzusetzen.

Ja, Agenten können morgen zurückkommen

Modelle können von sich aus Probleme ansprechen. Ein Code-Review kann einen Fehler außerhalb der geänderten Zeilen aufdecken. Ein Agent mit Zugriff auf Kundendaten kann ungewöhnliche Funkstille bemerken, eine alte Äußerung abrufen und eine Folgeaufgabe anlegen.

Mit Speicher, einem Scheduler und passenden Werkzeugen kann er morgen zurückkommen. Vielleicht fasst er sogar zuverlässiger nach als ein überlasteter Mensch.

Gut. Baut das, wenn das Problem es rechtfertigt.

Die Kontinuität entsteht durch gespeicherte Belege und laufende Software. Anthropic beschreibt in seinem Bericht über länger laufende Agenten, wie Agenten ihren Fortschritt für spätere Sitzungen dokumentieren. Das Modell entscheidet mit, was erhalten bleibt. Die nächste Sitzung braucht diese Aufzeichnungen, um weiterzuarbeiten.

Speichern allein bewahrt aber noch keine Bedeutung. Eine Zusammenfassung kann das Ergebnis festhalten und den Zweifel löschen, der es hätte verändern müssen. Eine Aufgabe kann als „erledigt“ gelten, während der erfahrene Mitarbeiter im Betrieb noch weiß, dass der Kunde den Workaround nur vorübergehend akzeptiert hat.

Bleiben weder die Belege noch eine brauchbare Aufzeichnung erhalten, kann der nächste Durchlauf nichts Verlässliches abrufen. Darauf zu vertrauen, dass ein Chatverlauf Verantwortung trägt, ist Optimismus mit Scrollbalken.

Ein Agent kann Kennzahlen auswählen, Schwellenwerte vorschlagen und seinen nächsten Termin buchen. Für seine Zugriffsrechte, sein Budget, den Eskalationsweg und die Folgen einer übersehenen Warnung ist trotzdem jemand verantwortlich. Ein Folgetermin beweist noch nicht, dass das richtige Problem im Kalender gelandet ist.

Wer Menschen ersetzt, verliert auch ihre Fragen

Das Management zählt geschriebene Dokumente, geschlossene Tickets, produzierten Code und eingesparte Stunden. Kann ein Modell die sichtbaren Ergebnisse erzeugen, erscheint die Stelle überflüssig.

Die unsichtbare Arbeit schafft es nie in die Tabelle.

Wer wusste noch, dass die Lieferantendaten zum Quartalsende unzuverlässig werden? Wer bemerkte, dass drei harmlose Kundenbeschwerden denselben Fehler beschrieben? Wer griff den Workaround sechs Monate später wieder auf?

Diese Menschen hielten die Fähigkeit des Unternehmens wach, Probleme überhaupt zu bemerken.

Menschen vergessen vieles. Sie übersehen Signale und reden sich schlechte Entscheidungen schön. Aber fachliche Sorge kann über den Moment hinaus bestehen, in dem eine Aufgabe geschlossen wird. Ein Mitarbeiter im Betrieb prüft noch einmal nach, obwohl das Dashboard wieder grün ist, weil die Erholung verdächtig glatt aussieht. Ein Entwickler verlässt den Schreibtisch und denkt weiter über eine widerspenstige Abhängigkeit nach.

Unternehmen verlassen sich ständig darauf und tun gleichzeitig so, als täten sie es nicht.

Das Ein-Personen-KI-Unternehmen bündelt diese Verantwortung bei einem einzigen Menschen. Agenten können dessen Möglichkeiten erweitern. Sie können nicht sicherstellen, dass jede fehlende Frage gestellt wird.

Deshalb kann ein solcher Personalersatz monatelang erfolgreich aussehen.

Nachfassen braucht einen Verantwortlichen

Nutzt KI zum Untersuchen, zum Hinterfragen von Annahmen und zum Nachfassen. Sorgt ausdrücklich dafür, dass die Arbeit weitergeht:

• Bewahrt ursprüngliche Belege, verworfene Alternativen und offene Zweifel auf.
• Macht aus wiederkehrenden Bedenken Tests, automatische Kontrollen oder geplante Prüfungen.
• Benennt einen Verantwortlichen, der die Frage bei neuer Sachlage wieder aufgreifen kann.
• Fragt den Agenten, was die aktuelle Fragestellung ausblendet, und prüft dann, was das System nie beobachtet.

Deshalb gehört Kontinuität in Code, Tests und dauerhafte Aufzeichnungen. Eine flüssig formulierte Sorge garantiert nicht, dass nach dem Ende der Antwort irgendetwas passiert.

LLMs machen Antworten billig. Dadurch wird es wertvoller, die Auffälligkeit zu bemerken, die richtige Frage zu wählen und nicht zuzulassen, dass eine bequeme Antwort ein unbequemes Problem für erledigt erklärt.

Wenn der Agent morgen zurückkommt, hat Software seine Rückkehr organisiert.

Wer bemerkt das Problem, für das niemand eine Erinnerung eingerichtet hat?