Während die neue Maschinenverordnung als Aktualisierung der bisherigen Maschinenrichtlinie gelten darf, plant die Europäische Union (EU) mit ihrer Verordnung über Künstliche Intelligenz (KI-Verordnung) eine echte Novität: Man will den weltweit ersten Rechtsrahmen für KI schaffen und damit Europa zum globalen Zentrum für vertrauenswürdige Künstliche Intelligenz machen.
Die geplante KI-Verordnung
Zwar steuern Algorithmen, Daten und Modelle bereits jetzt zahlreiche logistische Prozesse, Tendenz steigend. Doch nach wie vor gibt es Vorbehalte und ein großes Sicherheitsbedürfnis beim Einsatz der intelligenten Systeme. Dem will die EU mit ihrem Verordnungsentwurf Rechnung tragen. Als Horizontalverordnung stellt sie allgemeine Regeln für den Einsatz von KI über alle Lebens- und Anwendungsbereiche hinweg auf, unabhängig vom privaten oder gewerblichen Gebrauch. Systeme, die die Sicherheit, die Lebensgrundlagen und die Rechte der Menschen bedrohen, sind verboten. Über alle anderen KI-Systeme entscheidet ein risikobasierter Ansatz.
Einstufung nach Risiko
Als minimal riskant gelten nach den EU-Plänen einfache Anwendungen wie KI-gestützte Videospiele oder Spamfilter, ein geringes Risiko bescheinigt man etwa Chatbots. Wird es etwas komplizierter, kommt man schnell zu Hoch-Risiko-Einstufungen. Solche künstliche Intelligenzen müssten strenge Vorgaben erfüllen, bevor sie auf den Markt gebracht werden. Die Vermutung liegt nahe, dass die komplexen Lösungen, die in der Logistik Anwendung finden, als hoch riskant einzustufen sind.
Noch sind die Vorgaben sehr allgemein formuliert, etwa „hohe Qualität der Datensätze“, „angemessene Risikobewertungssysteme“ oder „angemessene menschliche Aufsicht zur Minimierung der Risiken“. Hier wird es noch vieler Konkretisierungen bedürfen. „Für die Intralogistik, die Automatisierungsindustrie, aber auch für alle anderen betroffenen Branchen, ist zukünftig ein Nachweis zur Cybersicherheit und zu Künstlicher Intelligenz unumgehbar, um Konformität zu erlangen“, erwartet Matthias Springer, Experte für Funktionale Sicherheit und Security bei der Zertifizierungsgesellschaft TÜV NORD CERT. „Einerseits für die Inverkehrbringer dieser Systeme, andererseits auch für die Betreiber im Hinblick auf nachträgliche Veränderungen und Updates.“
Maschinensicherheit nach aktualisierten Regeln
Viele der eingesetzten Systeme – automatische Regalbediengeräte, fahrerlose Transportsysteme, Maschinen mit vorausschauender Wartung – erfüllen bereits die Anforderungen aus vorhandenen Regelwerken wie der Maschinenrichtlinie. Nun könnten weitere Vorgaben folgen, neben den beschriebenen Konformitätsnachweisen etwa Transparenz- und Dokumentationspflichten.
