Was KI-Agenten können – und was sie nicht dürfen

In einer Verpackungslinie treffen Auftragsdaten, Materialinformationen, Qualitätswerte, Maschinenzustände und Instandhaltungsprozesse aufeinander. Ein KI-Agent kann diese Informationen zusammenführen und daraus einen nächsten Schritt ableiten. Damit unterscheidet er sich von einem reinen Chatbot: Er bereitet nicht nur Text vor, sondern kann über Schnittstellen Aufgaben anlegen, Parameter vorschlagen oder freigegebene Aktionen ausführen.

Genau darin liegt der Nutzen – und das Risiko. Eine plausible Antwort sagt noch nichts darüber aus, ob der aktuelle Auftrag, das verwendete Packmittel und der reale Maschinenzustand zusammenpassen. Die zentrale Gestaltungsfrage lautet deshalb nicht, wie autonom der Agent wirken soll. Sie lautet, welche Aktionen unter welchen nachprüfbaren Bedingungen erlaubt sind.

Vor jeder Empfehlung prüft der Ablauf die Herkunft und Aktualität der Daten. Ein Formatwechsel kann im ERP bereits gebucht sein, während die Linie noch auf das vorherige Packmittel eingestellt ist. Ein Kamerasystem kann Ausschuss erkennen, aber eine verschmutzte Optik als Produktfehler interpretieren. Ohne Zeitbezug, Auftragskontext und Qualitätsstatus entsteht aus korrekten Einzelwerten eine falsche Gesamtsicht.

Deshalb erhält der Agent nur einen vorbereiteten, begrenzten Kontext. Er sieht die für den Arbeitsschritt notwendigen Informationen, nicht pauschal alle Datenquellen. Widersprüche führen nicht zu einer kreativ geschätzten Antwort, sondern zu einer definierten Rückfrage oder zu einem Prüfauftrag. Die Unsicherheit wird damit Teil des Prozesses und nicht als vermeintlich sichere Entscheidung verborgen.

Ein praktikables Modell unterscheidet vier Stufen. Erstens informiert der Agent über eine Abweichung. Zweitens erstellt er einen Entwurf, etwa einen Prüfauftrag oder einen Vorschlag für die Materialbereitstellung. Drittens fordert er eine Freigabe der zuständigen Rolle an. Viertens darf er eine enge, reversible Aktion automatisch ausführen. Für jede Stufe gelten eigene Rechte, Grenzwerte und Zeitfenster.

Ein Beispiel ist ein wiederkehrender Folienriss. Der Agent darf Messwerte, Störmeldungen und Chargeninformationen zusammenstellen. Er kann eine Prüfung von Spannung, Temperatur und Rollenlauf vorschlagen. Eine automatische Sollwertänderung wäre dagegen nur innerhalb eines zuvor freigegebenen Korridors zulässig, zeitlich begrenzt und an eine direkte Qualitätskontrolle gekoppelt. Überschreitet der Prozess eine Grenze, wird der Ausgangswert wiederhergestellt und die Linie in einen definierten Zustand überführt.

Nicht zulässig sind unkontrollierte Kettenaktionen. Ein Agent darf nicht eigenständig Material sperren, einen Auftrag umplanen und gleichzeitig Qualitätsregeln ändern, nur weil diese Schritte sprachlich zusammenpassen. Je größer Reichweite und Folgewirkung, desto stärker müssen Aufgaben getrennt und Freigaben personengebunden sein.

Maschinenschutz, Verriegelungen und sicherheitsbezogene Steuerungen behalten Vorrang. Der Agent darf sie weder überstimmen noch indirekt umgehen. Seine Empfehlung wird von einer deterministischen Ausführungsschicht geprüft. Diese kontrolliert Betriebsart, Auftrag, Produkt, aktuelle Freigaben, Schutzstatus und die erlaubte Aktionsklasse unmittelbar vor der Ausführung.

Damit eine Freigabe nicht im falschen Moment weiterverwendet wird, ist sie an den konkreten Prozesszustand gebunden. Ändert sich ein relevanter Parameter oder verstreicht das Zeitfenster, muss neu geprüft werden. Technische Identitäten erhalten nur die für den einzelnen Schritt nötigen Rechte. Protokolliert werden Eingabedaten, Modellbewertung, angewendete Regel, Freigabe, Aktion und Wirkung.

In der Praxis entscheidet sich die Qualität nicht am Normalfall, sondern an Ausnahmen: fehlendes Material, ein nachträglich geänderter Auftrag, manuelle Eingriffe oder eine teilweise zurückgesetzte Linie. Der Agent braucht für solche Zustände eine eindeutige Regel. Kann er den aktuellen Kontext nicht sicher bestimmen, darf er keine vorherige Empfehlung weiterverwenden. Er fällt auf Hinweis oder Prüfung zurück und zeigt, welche Voraussetzung fehlt.

Auch organisatorische Grenzen gehören in den Ablauf. Die Schichtleitung kann andere Entscheidungen freigeben als Qualitätssicherung oder Instandhaltung. Eine Freigabe muss daher nicht nur einer Person, sondern auch einer Rolle, einem Auftrag und einer konkreten Aktion zugeordnet sein. Schichtwechsel oder Zuständigkeitsänderungen beenden offene Freigaben, statt sie unbemerkt weiterzutragen.

Für die Einführung empfiehlt sich eine kleine Auswahl wiederkehrender Vorgänge. Gute Kandidaten besitzen stabile Datenquellen, klar erkennbare Zielzustände und einen einfachen Rückweg. Der Nutzen entsteht dann nicht durch möglichst viele Werkzeuge, sondern durch einen sauber begrenzten Ablauf, der bei Unsicherheit zuverlässig stoppt und die Bedienung gezielt unterstützt.

Eine begrenzte Aktion ist nur dann verantwortbar, wenn der Rückweg vorab feststeht. Dazu gehören ein gespeicherter Ausgangszustand, eindeutige Abbruchbedingungen und eine Prüfung nach der Rücknahme. Nach einem sicheren Stopp startet die Linie nicht einfach an der letzten Position. Sensorik, Materialfluss, Schutzstatus und digitaler Auftragszustand werden erneut abgeglichen; anschließend folgt ein begrenzter Testlauf.

Für die Einführung empfiehlt sich ein stufenweises Vorgehen. Zunächst beobachtet der Agent und strukturiert Hinweise. Danach erstellt er Entwürfe. Erst wenn Daten, Rechte, Freigaben und Rückfallwege im Betrieb belastbar sind, folgen eng begrenzte automatische Aktionen.

So wird KI nicht zur parallelen Schattensteuerung, sondern zu einer kontrollierten Erweiterung vorhandener Verpackungsprozesse.