Neue Richtlinien der EU-Kommission
Abgesehen von Fragen rund um die MRK gibt es weitere herausfordernde Fragen rund um die Safety. Denn Roboter arbeiten nicht mehr nur stur vor sich hin. Dank der ständigen Weiterentwicklung von KI und maschinellem Lernen (ML) sind sie immer öfter mit kognitiven Fähigkeiten ausgestattet. Das heißt, basierend auf Sensordaten können sie ein ‚Verständnis‘ für die Aufgabe entwickeln und autonom eine passende Handlung planen und umsetzen. Sie können ihre Abläufe also im Sinne einer „Automatisierung der Automatisierung“ z.B. an individuelle Werkstücke anpassen, ohne dass hier explizit jeder individuelle Arbeitsschritt programmiert werden muss.
Verfahren der KI gibt es schon seit Jahrzehnten, doch die Gesetzeslage ist nach wie vor uneinheitlich. Daher arbeitet die EU-Kommission aktuell an einer neuen KI-Richtlinie, die den sicheren, ethischen und grundrechtekonformen Einsatz von KI sicherstellen soll. Damit möchte sie die Entwicklung von KI fördern, aber bestimmte Anwendungen regulieren. Mit KI ist hier außerdem nicht nur die Software gemeint, die auf maschinellem Lernen und neuronalen Netzen basiert, sondern generell alle Arten algorithmischer Entscheidungs- und Empfehlungssysteme. Das Spektrum reicht von Videospielen über Chatbots bis hin zur Software, die Lebensläufe von Bewerbern automatisch bewertet. Roboter oder selbst 3D-Drucker sind also auch betroffen, sobald sie KI-basierte Software nutzen – was in den nächsten Jahren bald der Standard werden wird. Margreth Vestager, verantwortlich für Digitalisierung und Vizepräsidentin der Kommission, sagt: „Je höher das Risiko, das KI für unser Leben bedeutet, desto strenger die Regeln.“
Die Kommission hat eine Liste mit hochriskanten Anwendungen erarbeitet, deren Einsatz nach Verabschiedung des Gesetzes genehmigungspflichtig werden dürfte. Darin befinden sich z.B. algorithmische Systeme in medizinischen Geräten wie Operationsroboter und selbstfahrende Autos, aber auch die automatisierte Gesichtserkennung auf öffentlichen Plätzen oder die Bewertung der Kreditwürdigkeit von Privatpersonen. Für diese Anwendungen ist ein qualitativ hochwertiger Datensatz vorgeschrieben und die Aktivitäten der Systeme sollen geloggt werden, damit ihre Entscheidungen nachvollziehbar werden. Bei Verstößen sind Strafen bis zu 30 Millionen Euro oder sechs Prozent des globalen Jahresumsatzes möglich.
Eine weitere Neuerung, auf die sich der Maschinenbau im Kontext der Safety einstellen muss, ist die für 2023 geplante Aktualisierung der oben genannten bestehenden Maschinenrichtlinie. Beispielsweise dürfen laut dieser Betriebsanleitungen künftig digital vorhanden sein. Zudem rückt das Thema „Security“ stärker in den Fokus und es wird eine Liste an „Hochrisiko-Maschinenprodukten“ geben. Dazu gehören beispielsweise Software und KI-Systeme, die Sicherheitsfunktionen wahrnehmen, und auch Maschinen, in die solche KI-Systeme integriert sind. Kommen Softwarekomponenten zum Einsatz, die mithilfe von KI bzw. maschinellem Lernen Personen wahrnehmen sollen, müssen diese zum Nachweis ihrer Sicherheit die CE-Kennung erhalten.