Künstliche Intelligenz (KI) hat sich in den letzten Jahren zu einer Schlüsseltechnologie für nahezu alle Industriesektoren entwickelt. Die Potentiale von KI sind noch lange nicht ausgeschöpft. KI wird auch zukünftig weiter an strategischer und wirtschaftlicher Bedeutung gewinnen.

Nachfolgend soll ein Überblick über die Innovationspotentiale von KI für den Mobilitäts- und Transportsektor, die aktuellen regulatorischen Bestrebungen auf EU-Ebene sowie die Auswirkungen auf das Typgenehmigungsverfahren gegeben werden.

KI Innovationspotentiale für den Mobilitäts- und Transportsektor

KI-basierte Technologien sind längst in der Realität angekommen und haben Produktions- und Lieferprozesse revolutioniert. Produktionsabläufe können beispielsweise durch die automatisierte Anpassung von Herstellungsprozessen an Marktentwicklungen verbessert werden (Stichwort: Produktionsoptimierung). So kann die Analyse des Buchungsverhaltens von Kunden eine tagesaktuelle Bedarfsprognose und die entsprechende Anpassung von Produktionskapazitäten und Preisen ermöglichen. Zudem kann die Effizienz der Produktionsprozesse durch den Einsatz autonomer Maschinen im Herstellungs- und Lagerungsbereich gesteigert werden (z.B. selbstfahrende Gabelstapler oder vollautomatisierte Lagersysteme).

Ein weiteres Beispiel für KI-basierte Optimierung ist die Schaffung sogenannter Smart-Supply-Chains. So bietet die globale Ausbreitung und Digitalisierung von Logistiknetzwerken die Möglichkeit, durch datenbasierte Lern- und Entscheidungsprozesse die Systemeffizienz zu steigern (z.B. durch digitalisierte Lagerplanung, autonome Ausführung von Planungsvorgängen und Bestellprozessen, automatisierte Beladungsvorgänge, Echtzeitroutenplanung sowie den Einsatz autonomer Fahrzeuge beispielsweise im Rahmen des sog. Truck-Platooning). Ergänzend zu KI-Systemen werden auch andere innovative technische Lösungen eine immer größere Rolle im Rahmen von Smart-Supply-Chains spielen. So ermöglichen beispielsweise Smart Contracts die Kommunikation und Interaktion smarter vernetzter physischer Objekte nach vorab definierten Bedingungen zu steuern und Verträge innerhalb von Smart-Supply-Chains automatisiert zu begründen, auszuführen oder durchzusetzen (siehe hierzu ein Beitrag im Betriebsberater von Sebastian Schnell und Corbinian Schwaab).

Schließlich sind Unternehmen zunehmend komplexeren Anforderungen zur Vermeidung umweltbezogener und menschenrechtlicher Risiken unterworfen (Stichwort: ESG Compliance). Auch in Sachen Nachhaltigkeit kann der Mobilitäts- und Transportsektor vom Einsatz von KI-Systemen profitieren (z.B. Einsparung von Ressourcen im Rahmen von Smart-Supply-Chains). Ein weiteres Anwendungsbeispiel kann hier das KI-gestützte Screening von Zulieferern sein (Stichwort: Lieferkettensorgfaltspflichtengesetz).

In a nutshell – der Verordnungsentwurf

Die Europäische Union hat das Innovationspotential, das von den oben beispielhaft genannten KI-basierten Ansätzen ausgeht, erkannt und sieht sich weltweit als Vorreiter bei der Implementierung eines Regelwerks zu KI. Ziel des Verordnungsentwurfs (COM (2021) 206 final) zur Schaffung eines Rechtsrahmens für KI ist es, neben der Förderung dieser Innovationspotentiale auch die Grundrechte der KI-Nutzer zu schützen und das Vertrauen in die Entwicklung von KI zu stärken.

In persönlicher Hinsicht soll der Verordnungsentwurf nicht nur für Anbieter und Nutzer von KI-Systemen innerhalb der EU gelten, sondern auch für solche außerhalb der EU, sofern das KI-System in der EU in den Verkehr gebracht oder in Betrieb genommen wird oder Menschen in der EU von dessen Nutzung betroffen sind.

In sachlicher Hinsicht definiert der Verordnungsentwurf, orientiert an den wichtigsten Funktionsmerkmalen, ein KI-System als eine Software, die mit einer oder mehreren der in Anhang I aufgeführten Techniken und Konzepte entwickelt worden ist und im Hinblick auf eine Reihe von Zielen, die vom Menschen festgelegt werden, Ergebnisse wie Inhalte, Vorhersagen, Empfehlungen oder Entscheidungen hervorbringen kann, die das Umfeld beeinflussen, mit dem sie interagieren. Als mögliche Techniken und Konzepte zur Entwicklung von KI-Systemen sind in Anhang I derzeit insbesondere machine learning, logik- und wissensgestützte Konzepte sowie statistische Ansätze genannt. Um auf technologische und marktbezogene Entwicklungen entsprechend reagieren zu können, soll Anhang I nach der Intention der EU Kommission jedoch stetig angepasst werden.

Wie bereits aus anderen EU Gesetzgebungsrahmen bekannt (z.B. der DSGVO), so sieht auch der Verordnungsentwurf einen risikobasierten Ansatz vor. Je höher das Gefahrenpotential, das von einem KI-System ausgeht, desto umfangreicher sind die regulatorischen Anforderungen.

Systeme, die ein unannehmbares Risiko darstellen, weil sie Werte der Union, insbesondere Grundrechte, verletzen, sollen nach dem Verordnungsentwurf verboten sein (z.B. Social Scoring). Systeme, die ein hohes Risiko darstellen, weil sie erhebliche Risiken für die Gesundheit und Sicherheit oder die Grundrechte von Personen bergen, unterliegen strengen Anforderungen (z.B. Sicherheitskomponenten von Produkten, wenn diese gemäß sektoralen Harmonisierungsvorschriften der Union einer Konformitätsbewertung durch Dritte unterliegen). Systeme mit nur geringem oder minimalem Risiko sollen lediglich Gegenstand von Transparenzpflichten (z.B. Chatbots, Deepfakes) oder freiwilligen Verhaltensregeln sein.

Im Mittelpunkt des Verordnungsentwurfs stehen KI-Systeme, die mit einem hohen Risiko behaftet sind. Der Verordnungsentwurf sieht für diese umfangreiche regulatorische Anforderungen vor (z.B. die Implementierung von Risikomanagementsystemen, die Erstellung technischer Dokumentation oder Informationspflichten gegenüber dem Nutzer).

Auswirkungen auf die Automobilindustrie – KI und Typgenehmigungsverfahren

KI-basierte Anwendungen sind insbesondere in der Automobilindustrie schon lange nicht mehr wegzudenken. So wird beispielsweise im Zuge der rasant fortschreitenden Automatisierung von Fahrzeugen die Rolle des traditionellen Fahrers immer mehr von KI-gestützten automatisierten Fahrsystemen unterstützt oder sogar übernommen. Die Vorteile dieser technologischen Entwicklungen werfen gleichzeitig aber auch völlig neue Fragen zu möglichen Schwachstellen automatisierter Fahrsysteme und damit verbundenen Risiken (z.B. Cybersecurity-Bedrohungen durch Hacker-Angriffe) auf.

Nach dem Verordnungsentwurf sind KI-Anwendungen, die als Sicherheitskomponenten von Fahrzeugen dienen, grundsätzlich als Hochrisiko-KI-System einzustufen. Unter einer Sicherheitskomponente ist nach dem Verordnungsentwurf ein Bestandteil eines Produkts oder Systems zu verstehen, der eine Sicherheitsfunktion für dieses Produkt oder System erfüllt oder dessen Ausfall oder Störung die Gesundheit und Sicherheit von Personen oder Sachen gefährdet. Sofern solche KI-Anwendungen in Fahrzeugen eingesetzt werden, müssten Automobilhersteller im Hinblick auf diese daher grundsätzlich die strengen Anforderungen für KI-Systeme mit hohem Risiko einhalten.

Nach dem Verordnungsentwurf soll die Einhaltung der Anforderungen für Hochrisiko-KI-Systeme dabei im Rahmen des etablierten Typgenehmigungsverfahrens (mit)geprüft werden. Insofern sieht der Verordnungsentwurf vor, dass die spezifischen Anforderungen für Hochrisiko-KI-Systeme beim Erlass künftiger Rechtsakte, die sich auf KI-Systeme beziehen, bei denen es sich um Sicherheitskomponenten im Sinne der KI-Verordnung handelt, berücksichtigt werden sollen. Es bleibt also abzuwarten, ob die in der geplanten KI-Verordnung aufgestellten neuen Anforderungen für Hochrisiko-KI-Systeme auch früher oder später Einzug in das Typgenehmigungsverfahren finden werden.

Blick in die Zukunft

Wie die genannten Beispiele verdeutlicht haben, wird KI jedenfalls für den Mobilitäts- und Transportsektor zunehmend an Bedeutung gewinnen. Neben künftigen technischen Entwicklungen wird dabei auch das Zusammenspiel zwischen Innovation und dynamischen regulatorischen Ansätzen eine zentrale Rolle spielen.

Das Gesetzgebungsverfahren auf EU-Ebene befindet sich noch in der Anfangsphase. In den nächsten Schritten befassen sich nun der Rat der Europäischen Union und das Europäische Parlament mit dem Verordnungsentwurf der Europäischen Kommission. Hierbei ist zu erwarten, dass vor allem die Anforderungen an KI-Systeme mit hohem Risiko modifiziert werden.

Wir von Hogan Lovells unterstützen betroffene Unternehmen mit unserer globalen Expertise bei der Einhaltung der Regularien rund um KI-Systeme. Dies umfasst bereits die Entwicklungs- und Testphase von KI-Systemen und reicht bis hin zu deren Implementierung und der Bereitstellung passender legal-tech Lösungen.

Schließlich sind Unternehmen zunehmend komplexeren Anforderungen zur Vermeidung umweltbezogener und menschenrechtlicher Risiken unterworfen (Stichwort: ESG Compliance). Auch in Sachen Nachhaltigkeit kann der Mobilitäts- und Transportsektor vom Einsatz von KI-Systemen profitieren (z.B. Einsparung von Ressourcen im Rahmen von Smart-Supply-Chains). Ein weiteres Anwendungsbeispiel kann hier das KI-gestützte Screening von Zulieferern sein (Stichwort: Lieferkettensorgfaltspflichtengesetz).

In a nutshell – der Verordnungsentwurf

Die Europäische Union hat das Innovationspotential, das von den oben beispielhaft genannten KI-basierten Ansätzen ausgeht, erkannt und sieht sich weltweit als Vorreiter bei der Implementierung eines Regelwerks zu KI. Ziel des Verordnungsentwurfs (COM (2021) 206 final) zur Schaffung eines Rechtsrahmens für KI ist es, neben der Förderung dieser Innovationspotentiale auch die Grundrechte der KI-Nutzer zu schützen und das Vertrauen in die Entwicklung von KI zu stärken.

In persönlicher Hinsicht soll der Verordnungsentwurf nicht nur für Anbieter und Nutzer von KI-Systemen innerhalb der EU gelten, sondern auch für solche außerhalb der EU, sofern das KI-System in der EU in den Verkehr gebracht oder in Betrieb genommen wird oder Menschen in der EU von dessen Nutzung betroffen sind.

In sachlicher Hinsicht definiert der Verordnungsentwurf, orientiert an den wichtigsten Funktionsmerkmalen, ein KI-System als eine Software, die mit einer oder mehreren der in Anhang I aufgeführten Techniken und Konzepte entwickelt worden ist und im Hinblick auf eine Reihe von Zielen, die vom Menschen festgelegt werden, Ergebnisse wie Inhalte, Vorhersagen, Empfehlungen oder Entscheidungen hervorbringen kann, die das Umfeld beeinflussen, mit dem sie interagieren. Als mögliche Techniken und Konzepte zur Entwicklung von KI-Systemen sind in Anhang I derzeit insbesondere machine learning, logik- und wissensgestützte Konzepte sowie statistische Ansätze genannt. Um auf technologische und marktbezogene Entwicklungen entsprechend reagieren zu können, soll Anhang I nach der Intention der EU Kommission jedoch stetig angepasst werden.

Wie bereits aus anderen EU Gesetzgebungsrahmen bekannt (z.B. der DSGVO), so sieht auch der Verordnungsentwurf einen risikobasierten Ansatz vor. Je höher das Gefahrenpotential, das von einem KI-System ausgeht, desto umfangreicher sind die regulatorischen Anforderungen.

Systeme, die ein unannehmbares Risiko darstellen, weil sie Werte der Union, insbesondere Grundrechte, verletzen, sollen nach dem Verordnungsentwurf verboten sein (z.B. Social Scoring). Systeme, die ein hohes Risiko darstellen, weil sie erhebliche Risiken für die Gesundheit und Sicherheit oder die Grundrechte von Personen bergen, unterliegen strengen Anforderungen (z.B. Sicherheitskomponenten von Produkten, wenn diese gemäß sektoralen Harmonisierungsvorschriften der Union einer Konformitätsbewertung durch Dritte unterliegen). Systeme mit nur geringem oder minimalem Risiko sollen lediglich Gegenstand von Transparenzpflichten (z.B. Chatbots, Deepfakes) oder freiwilligen Verhaltensregeln sein.

Im Mittelpunkt des Verordnungsentwurfs stehen KI-Systeme, die mit einem hohen Risiko behaftet sind. Der Verordnungsentwurf sieht für diese umfangreiche regulatorische Anforderungen vor (z.B. die Implementierung von Risikomanagementsystemen, die Erstellung technischer Dokumentation oder Informationspflichten gegenüber dem Nutzer).

Auswirkungen auf die Automobilindustrie – KI und Typgenehmigungsverfahren

KI-basierte Anwendungen sind insbesondere in der Automobilindustrie schon lange nicht mehr wegzudenken. So wird beispielsweise im Zuge der rasant fortschreitenden Automatisierung von Fahrzeugen die Rolle des traditionellen Fahrers immer mehr von KI-gestützten automatisierten Fahrsystemen unterstützt oder sogar übernommen. Die Vorteile dieser technologischen Entwicklungen werfen gleichzeitig aber auch völlig neue Fragen zu möglichen Schwachstellen automatisierter Fahrsysteme und damit verbundenen Risiken (z.B. Cybersecurity-Bedrohungen durch Hacker-Angriffe) auf.

Nach dem Verordnungsentwurf sind KI-Anwendungen, die als Sicherheitskomponenten von Fahrzeugen dienen, grundsätzlich als Hochrisiko-KI-System einzustufen. Unter einer Sicherheitskomponente ist nach dem Verordnungsentwurf ein Bestandteil eines Produkts oder Systems zu verstehen, der eine Sicherheitsfunktion für dieses Produkt oder System erfüllt oder dessen Ausfall oder Störung die Gesundheit und Sicherheit von Personen oder Sachen gefährdet. Sofern solche KI-Anwendungen in Fahrzeugen eingesetzt werden, müssten Automobilhersteller im Hinblick auf diese daher grundsätzlich die strengen Anforderungen für KI-Systeme mit hohem Risiko einhalten.

Nach dem Verordnungsentwurf soll die Einhaltung der Anforderungen für Hochrisiko-KI-Systeme dabei im Rahmen des etablierten Typgenehmigungsverfahrens (mit)geprüft werden. Insofern sieht der Verordnungsentwurf vor, dass die spezifischen Anforderungen für Hochrisiko-KI-Systeme beim Erlass künftiger Rechtsakte, die sich auf KI-Systeme beziehen, bei denen es sich um Sicherheitskomponenten im Sinne der KI-Verordnung handelt, berücksichtigt werden sollen. Es bleibt also abzuwarten, ob die in der geplanten KI-Verordnung aufgestellten neuen Anforderungen für Hochrisiko-KI-Systeme auch früher oder später Einzug in das Typgenehmigungsverfahren finden werden.

Blick in die Zukunft

Wie die genannten Beispiele verdeutlicht haben, wird KI jedenfalls für den Mobilitäts- und Transportsektor zunehmend an Bedeutung gewinnen. Neben künftigen technischen Entwicklungen wird dabei auch das Zusammenspiel zwischen Innovation und dynamischen regulatorischen Ansätzen eine zentrale Rolle spielen.

Das Gesetzgebungsverfahren auf EU-Ebene befindet sich noch in der Anfangsphase. In den nächsten Schritten befassen sich nun der Rat der Europäischen Union und das Europäische Parlament mit dem Verordnungsentwurf der Europäischen Kommission. Hierbei ist zu erwarten, dass vor allem die Anforderungen an KI-Systeme mit hohem Risiko modifiziert werden.