Human in the Loop

Was Human in the Loop bedeutet

Human in the Loop bezeichnet den Punkt in einem automatisierten Ablauf, an dem ein Mensch das Ergebnis prüft, bevor es wirkt. Der Begriff stammt aus der Automation und ist mit Sprachmodellen wieder wichtig geworden, weil diese Systeme flüssig und überzeugend formulieren, aber nicht zuverlässig sind. Ein falscher Satz in einem Produkttext ist reparabel, eine falsche Zusage an einen Kunden nicht.

Drei Formen der Kontrolle

Die erste Form ist die Freigabe vor der Wirkung. Das System schlägt vor, ein Mensch bestätigt, danach wird veröffentlicht oder versendet. Sie ist die sicherste und die teuerste Form, weil sie bei jedem Vorgang Zeit kostet. Sie gehört überall dorthin, wo eine Aussage nach außen geht.

Die zweite Form ist die Prüfung nach der Wirkung, also eine Stichprobe. Das Ergebnis geht sofort raus, ein Teil wird kontrolliert und bei Auffälligkeiten nachgesteuert. Sie eignet sich für große Mengen mit geringem Risiko, etwa Übersetzungen von Attributen.

Die dritte Form sind Regeln, die eine Wirkung verhindern. Eine Sperrliste, ein Preisbereich, ein Verbot bestimmter Formulierungen. Hier prüft niemand den Einzelfall, das System darf bestimmte Dinge schlicht nicht tun. Diese Form ist die einzige, die ohne Personalkosten skaliert, und sie ersetzt keine der anderen.

Wie der Aufwand klein bleibt

• Nach Risiko staffeln: Interne Entwürfe brauchen keine Freigabe, Aussagen an Kunden und Rechtstexte schon.
• An der Engstelle prüfen: Nicht jede Ausgabe kontrollieren, sondern die Stelle, an der etwas schiefgehen kann.
• Freigabe erleichtern: Eine Vorlage mit getroffener Vorauswahl lässt sich schneller bestätigen als ein leerer Text.
• Nachverfolgen: Wird eine Freigabe nie abgelehnt, ist sie zu streng oder wird nicht ernst genommen. Beides ist ein Signal.

Wer die Verantwortung trägt

Die Verantwortung bleibt beim Unternehmen, unabhängig davon, welches Werkzeug im Einsatz ist. Ein Modell ist kein Verantwortlicher. Wer einen Text veröffentlicht, haftet für dessen Inhalt, auch wenn er ihn nicht geschrieben hat. Deshalb braucht jede Kette einen Namen: eine Person, die für das Ergebnis einsteht und ansprechbar ist, wenn etwas falsch ist. Ohne diesen Namen ist die Kontrolle eine Formalität, die im Zweifel niemand ausübt.

Häufige Fragen

• Ist Human in the Loop Pflicht? Nicht als Begriff. Aber die Sorgfaltspflicht verlangt, dass falsche Angaben nicht in Umlauf kommen.
• Widerspricht das der Automatisierung? Nein, es verschiebt die Arbeit vom Erstellen zur Prüfung, und das ist der schnellere Teil.
• Wann kann die Kontrolle entfallen? Wenn ein Fehler keine Außenwirkung hat und leicht zu korrigieren ist.