Ein KI-Agent, der E-Mails beantwortet: wie wir die Grenzen von KAI gezogen haben

KAI ist das KI-Mitglied unseres Teams. Es steht mit seinem Namen auf der Teamseite, denn wir wollten den Einsatz von KI nicht im Hintergrund verstecken. Aber einer KI einen Namen zu geben, ist der leichte Teil. Die eigentliche Frage ist, wie viel Arbeit Sie ihr überlassen.

KAI liest heute die E-Mails, die beim Unternehmen eingehen. Routinenachrichten beantwortet es selbst und plant Termine. Bei allem, was keine Routine ist, bereitet es nur einen Entwurf vor. Ob er versendet wird, entscheidet jemand aus dem Team. Dieser Beitrag beschreibt, wo und warum wir diese Linie gezogen haben.

Beide einfachen Optionen waren falsch

Zwei Optionen liegen zuerst nahe. Die erste: Der Agent versendet alles selbst. Die zweite: Jede Antwort wird vor dem Versand von einem Menschen freigegeben.

Die erste ist offensichtlich riskant. Ein Sprachmodell kann einen Preis oder einen Liefertermin im Brustton der Überzeugung erfinden. Die Gegenseite liest das als Zusage des Unternehmens.

Die zweite wirkt sicher, funktioniert in der Praxis aber nicht. Das haben wir auch in einem anderen Beitrag über KI-Governance beschrieben. In einem System, das für jede Antwort eine Freigabe verlangt, nähert sich die Freigabequote nach einer Weile hundert Prozent. Die freigebende Person hört auf, den Text zu lesen. Auf dem Papier gibt es menschliche Aufsicht. In Wirklichkeit entscheidet das System.

Wonach wir die Linie gezogen haben

Um eine E-Mail als Routine einzustufen, haben wir zwei Fragen gestellt. Ist die Antwort im Voraus bekannt? Lässt sie sich leicht korrigieren, wenn sie falsch ist?

Lautet die Antwort auf beide Fragen Ja, ist die Aufgabe Routine. Einen Termin vorschlagen, den Eingang eines Dokuments bestätigen, eine allgemeine Frage mit Informationen von der Website beantworten: Das fällt in diese Klasse. Schlägt KAI eine falsche Uhrzeit vor, korrigiert die Gegenseite das in der nächsten Nachricht, und niemand kommt zu Schaden.

Lautet die Antwort auch nur auf eine Frage Nein, ist die Aufgabe keine Routine. Jede Korrespondenz zu Preisen, Leistungsumfang, Verträgen, Lieferterminen und personenbezogenen Daten gehört in diese Klasse. Hier bereitet KAI einen Entwurf vor, aber die Nachricht geht nicht ohne die Entscheidung eines Teammitglieds hinaus.

Der Vorteil dieser Unterscheidung: Die menschliche Freigabe bleibt selten, aber bedeutsam. Jede Nachricht, die eine Freigabe braucht, erfordert wirklich Nachdenken. Die freigebende Person weiß, dass das, was vor ihr liegt, wichtig ist.

In der Signatur angeben, dass es eine KI ist

In der Signatur jeder E-Mail, die KAI versendet, steht, dass die Nachricht von einem KI-System verfasst wurde. Das tun wir aus zwei Gründen.

Der erste ist Ehrlichkeit. Die Gegenseite soll nicht glauben, mit einem Menschen zu schreiben, und ihr Vertrauen danach ausrichten. Der zweite ist die Regulierung. Die Verordnung (EU) 2024/1689 verlangt, dass Menschen wissen, wenn sie mit einer KI interagieren. Für unsere Ansprechpartner in Europa ist das eine Pflicht. Für die in der Türkei ist es eine gute Gewohnheit.

Was es nicht kann

KAI hat im Unternehmen keine Zeichnungsbefugnis. Es kann keine Angebote abgeben, keine Verträge schließen und keine Rechtsvorschriften auslegen. Diese Grenzen stehen nicht nur in einer Regelliste. Sie sind auch in den Werkzeugen gezogen, die der Agent nutzen kann. Wenn Sie einem Agenten eine Befugnis nicht geben, müssen Sie ihm auch nicht vertrauen, dass er sie nicht nutzt.

KAI greift über OpenRouter auf ein Sprachmodell zu. Das bedeutet, dass die Korrespondenz an einen Dienstleister im Ausland geht. Das haben wir in unserer Datenschutzinformation gesondert erläutert. Dort bitten wir auch darum, per E-Mail keine vertraulichen Informationen, keine besonderen Kategorien personenbezogener Daten und keine Geschäftsgeheimnisse zu senden.

Wo dieser Entwurf an Grenzen stößt

Die Linie zwischen Routine und Nicht-Routine ist nicht immer klar. „Ich kann nicht zum Termin kommen, ginge ein anderer Tag?“ ist eine Routinenachricht. „Ich kann nicht zum Termin kommen, weil wir das Projekt auf Eis legen“ ist es nicht. Beide beginnen mit demselben Satz.

Deshalb ist das Standardverhalten im Zweifel, einen Entwurf vorzubereiten. KAI stuft eine Nachricht, bei der es unsicher ist, nicht als Routine ein. Ein Fehler in diese Richtung, also unnötig einem Menschen Arbeit zu überlassen, ist billiger als ein Fehler in die andere Richtung.

Was wir in Kundenprojekte übertragen

Das Kriterium, das wir in unserer eigenen Arbeit nutzen, übertragen wir auch auf die Systeme, die wir für Kunden bauen. Die Autonomie eines Agenten schalten wir nicht mit einem einzigen Schalter ein oder aus. Wir klassifizieren Aufgaben danach, ob die Antwort im Voraus bekannt ist und ob sich ein Fehler rückgängig machen lässt. Je nach Klasse schließt der Agent die Aufgabe entweder ab oder hinterlässt einen Entwurf.

Dieses Kriterium ist nicht perfekt. Aber wir können offen aufschreiben, wo es steht. Und eine Grenze, die wir aufschreiben können, können wir auch überprüfen.