Ein umfangreiches Dokument zusammenfassen, Besprechungsnotizen ordnen oder aus Stichpunkten einen ersten Textentwurf erstellen: Solche Aufgaben lassen sich mit generativer KI bearbeiten. Die entscheidende betriebliche Frage lautet jedoch nicht nur, ob das System eine Antwort produziert. Ebenso wichtig ist, wie zuverlässig sich diese Antwort überprüfen lässt.
- Generierter Text ist kein geprüfter Befund
- Eine geeignete Aufgabe hat klare Grenzen
- Zusammenfassungen können Bedeutung verschieben
- Tabellen und Zahlen benötigen eine eigene Kontrolle
- Vertraulichkeit wird vor der Eingabe geklärt
- Dokumente können auch unerwünschte Anweisungen enthalten
- Kontrollierbarkeit entscheidet über die Arbeitsteilung
- Ein Pilotversuch braucht einen Vergleichsmaßstab
- Freigabe und Verantwortung bleiben eindeutig
- Der Nutzen entsteht im kontrollierten Ablauf
Ein sprachlich sauberer Text kann Informationen auslassen, Zahlen verändern oder Zusammenhänge stärker darstellen, als es die Vorlage erlaubt. Dadurch entsteht eine neue Arbeitsverteilung: Die Erstellung eines Entwurfs wird teilweise automatisiert, während Auswahl, Kontrolle und Freigabe weiterhin organisiert werden müssen. Der Nutzen hängt wesentlich davon ab, ob dieser gesamte Ablauf zur Aufgabe passt.
Generierter Text ist kein geprüfter Befund
Generative Sprachmodelle erzeugen Text auf Grundlage erlernter Muster und des bereitgestellten Kontexts. Dass eine Formulierung überzeugend klingt, bedeutet nicht, dass jede enthaltene Aussage richtig ist.
Suchhelden unterscheidet in seinem Lexikonbeitrag Künstliche Intelligenz einfach erklärt zwischen dem Oberbegriff KI, maschinellem Lernen, Deep Learning und generativen Anwendungen. Für Dokumentenarbeit ist vor allem die letzte Kategorie relevant: Sie erzeugt neue Ausgaben aus Eingaben, statt ausschließlich eine unveränderte Vorlage wiederzugeben.
Im Betrieb darf diese Ausgabe deshalb nicht automatisch den Status einer geprüften Information erhalten. Das gilt auch dann, wenn sie aus einem vorhandenen Dokument abgeleitet wurde. Die Verbindung zur Vorlage muss nachvollziehbar bleiben.
Eine geeignete Aufgabe hat klare Grenzen
Dokumentenarbeit lässt sich in kleinere Schritte zerlegen. Ein System kann beispielsweise Überschriften vorschlagen, Aussagen nach Themen sortieren oder einen Entwurf in eine vorgegebene Struktur bringen.
Je klarer die Aufgabe begrenzt ist, desto leichter lässt sich das Ergebnis beurteilen. „Ordne diese Aussagen nach den vorgegebenen Kategorien“ ist enger gefasst als „Bewerte unsere Geschäftslage“. Die zweite Aufgabe verlangt zusätzliche Annahmen und fachliche Entscheidungen.
Eine weitere Grenze betrifft Ergänzungen. Soll ein System ausschließlich vorhandene Informationen verarbeiten, muss das ausdrücklich festgelegt werden. Trotzdem bleibt zu prüfen, ob der Entwurf tatsächlich bei der Vorlage bleibt. Eine entsprechende Anweisung reduziert ein Risiko, beseitigt es aber nicht vollständig.
Zusammenfassungen können Bedeutung verschieben
Jede Zusammenfassung trifft eine Auswahl. Bei einer KI-Ausgabe ist deshalb nicht nur die Richtigkeit der enthaltenen Sätze relevant, sondern auch das, was fehlt.
Ein hypothetisches Beispiel verdeutlicht das Problem: In einer Vorlage steht, dass eine Lieferung voraussichtlich im November möglich ist, sofern eine technische Freigabe rechtzeitig erfolgt. Eine Zusammenfassung nennt nur die Lieferung im November. Der Monat wurde korrekt übernommen, die Bedingung ging jedoch verloren.
Damit verändert sich die Aussage von einer bedingten Einschätzung zu einer scheinbar festen Zusage. Solche Verschiebungen lassen sich nicht durch eine reine Rechtschreibprüfung erkennen. Entscheidend ist der Vergleich mit dem ursprünglichen Zusammenhang.
Einschränkungen verdienen besondere Aufmerksamkeit
Wörter wie „vorläufig“, „unter bestimmten Voraussetzungen“ oder „nach derzeitiger Einschätzung“ können für eine Aussage wesentlich sein. Werden sie entfernt, wächst die behauptete Sicherheit.
Bei betrieblichen Dokumenten betrifft das unter anderem Prognosen, Angebote, technische Bewertungen und interne Entscheidungen. Eine brauchbare Zusammenfassung muss deshalb neben dem Ergebnis auch relevante Bedingungen, Ausnahmen und Unsicherheiten erhalten.
Tabellen und Zahlen benötigen eine eigene Kontrolle
Die Verarbeitung von Tabellen kann zusätzliche Fehler erzeugen. Werte können der falschen Zeile zugeordnet, Einheiten übersehen oder Summen aus unterschiedlichen Bezugsgrößen gebildet werden.
Für die Prüfung reicht es nicht, dass eine Zahl irgendwo in der Vorlage vorkommt. Sie muss zur richtigen Kategorie, zum richtigen Zeitraum und zur richtigen Einheit gehören. Umsatz, Ergebnis und Liquidität beschreiben beispielsweise unterschiedliche Größen.
Rechenaufgaben sollten nach Möglichkeit mit geeigneten Rechenwerkzeugen kontrolliert werden. Ein Sprachmodell kann eine Rechnung erklären, doch die sprachliche Darstellung ist kein verlässlicher Nachweis für die korrekte Berechnung. Besonders bei wichtigen Beträgen bleibt ein unabhängiger Abgleich erforderlich.
Vertraulichkeit wird vor der Eingabe geklärt
Dokumente können personenbezogene Daten, Vertragsinhalte oder Geschäftsgeheimnisse enthalten. Bevor solche Informationen an ein KI-System übermittelt werden, muss geklärt sein, welche Verarbeitung im konkreten betrieblichen Rahmen zulässig und vorgesehen ist.
Relevant sind unter anderem Zugriffsrechte, Speicherung, mögliche Weiterverwendung und die Vertragsbedingungen des Dienstes. Ein kostenloser Zugang und ein betrieblich freigegebenes System sind organisatorisch nicht automatisch gleichwertig.
Auch das Entfernen eines Namens genügt nicht in jedem Fall zur Anonymisierung. Kombinationen aus Funktion, Standort, Projekt und Datum können Personen oder Geschäftsvorgänge weiterhin erkennbar machen. Der Schutzbedarf betrifft daher den gesamten Inhalt und nicht nur einzelne offensichtliche Angaben.
Dokumente können auch unerwünschte Anweisungen enthalten
Ein KI-System verarbeitet nicht nur Informationen, sondern reagiert auf Anweisungen. In Dokumenten oder externen Inhalten können Texte enthalten sein, die versuchen, die ursprüngliche Aufgabe umzulenken.
Solche Eingriffe werden häufig als Prompt Injection bezeichnet. Besonders problematisch kann das werden, wenn ein System zusätzlich Zugriff auf Dateien, Nachrichten oder andere betriebliche Werkzeuge besitzt.
Eine klare Trennung zwischen Arbeitsauftrag und zu verarbeitendem Material ist deshalb wichtig. Externe Dokumentinhalte sollten nicht allein aufgrund ihrer Formulierung den Rang einer verbindlichen Anweisung erhalten. Technische Begrenzungen und betriebliche Freigaben müssen diese Trennung unterstützen.
Kontrollierbarkeit entscheidet über die Arbeitsteilung
Eine einfache Entscheidungshilfe betrachtet drei Fragen: Ist das Ergebnis zuverlässig überprüfbar? Wie vertraulich ist die Eingabe? Und welche Folgen hätte ein Fehler?
| Aufgabe | Kontrollierbarkeit | Wichtiger Prüfpunkt |
|---|---|---|
| Überschriften für einen freigegebenen Text vorschlagen | Vergleichsweise hoch | Inhaltliche Passung |
| Besprechungsnotizen zusammenfassen | Mittel | Fehlende Bedingungen und Zuständigkeiten |
| Vertragsinhalte bewerten | Anspruchsvoll | Fachliche Prüfung und Vertraulichkeit |
| Kundenmitteilung vorbereiten | Abhängig vom Inhalt | Tatsachen, Zusagen und Freigabe |
Die Tabelle bewertet keine bestimmte Software. Sie zeigt, weshalb derselbe technische Ansatz je nach Aufgabe unterschiedlich organisiert werden muss. Ein leicht überprüfbarer Entwurf kann eine andere Arbeitsteilung erlauben als eine Aussage mit erheblichen wirtschaftlichen Folgen.
Ein Pilotversuch braucht einen Vergleichsmaßstab
Ein hypothetischer Betrieb könnte zunächst freigegebene interne Dokumente nach einer festen Struktur zusammenfassen lassen. Eine kleine, eindeutig abgegrenzte Stichprobe ermöglicht den Vergleich mit manuell erstellten Zusammenfassungen.
Bewertet werden nicht nur Bearbeitungsdauer und Lesbarkeit. Hinzu kommen fehlende Informationen, sachliche Fehler und der Aufwand der Nachbearbeitung. Erst die gesamte Bearbeitungskette zeigt, ob tatsächlich Zeit eingespart wird.
Wenn ein Entwurf schnell entsteht, die Kontrolle aber aufwendiger wird, kann der vermeintliche Vorteil schrumpfen. Deshalb gehört auch die Frage zum Pilotversuch, wer Fehler erkennen kann und wie diese Prüfung dokumentiert wird.
Freigabe und Verantwortung bleiben eindeutig
Ein KI-Entwurf sollte als Entwurf erkennbar bleiben, bis die vorgesehene Prüfung abgeschlossen ist. Für wichtige Dokumente ist außerdem festzuhalten, welche Vorlage verwendet wurde und wer die endgültige Fassung freigegeben hat.
Das erleichtert spätere Rückfragen. Werden Versionen vermischt oder Ausgangsdokumente verändert, lässt sich sonst kaum rekonstruieren, wie eine Aussage entstanden ist.
Die Verantwortung darf dabei nicht zwischen Technik und Fachabteilung verschwinden. Ein automatisiert erzeugter Text wird nicht dadurch verlässlich, dass niemand ausdrücklich für seine Prüfung zuständig ist. Die zuständige Person benötigt sowohl die passende Fachkenntnis als auch ausreichend Zeit für den Abgleich.
Der Nutzen entsteht im kontrollierten Ablauf
KI kann bei Dokumenten und Textentwürfen einzelne Arbeitsschritte übernehmen. Besonders gut beurteilen lässt sich ihr Einsatz dort, wo Eingaben begrenzt, Ergebnisse überprüfbar und Fehlerfolgen überschaubar sind.
Der betriebliche Mehrwert entsteht jedoch nicht allein beim Generieren. Er ergibt sich aus dem Zusammenspiel von geeigneter Aufgabe, geschützter Datenverarbeitung, fachlicher Prüfung und klarer Freigabe.
Eine schnelle Formulierung ist deshalb erst der Anfang. Entscheidend ist, ob am Ende ein verlässlicher Text mit vertretbarem Gesamtaufwand vorliegt. Diese Bewertung macht den Unterschied zwischen einer technisch möglichen Anwendung und einer organisatorisch tragfähigen Arbeitsteilung.
