airliners.de Logo
Einmal im Monat veröffentlicht die Luftrechts-Expertin Nina Naske auf airliners.de eine neue Kolumne. Alle Luftrechts-Folgen lesen. © dpa / Fotomontage: airliners.de

Regelmäßig beschäftigt sich Luftrechtsexpertin Nina Naske auf airliners.de in ihrer Kolumne mit aktuellen Entwicklungen im Luftrecht. In ihrer Tutorial-Serie Basiswissen Luftrecht erklärt sie zudem juristische Grundlagen.

Im Februar 2020 hatte die Agentur der Europäischen Union für Flugsicherheit (European Union Aviation Safety Agency, Easa) ihre "Artificial Intelligence Roadmap 1.0" veröffentlicht. Im Dezember 2021 folgte jetzt das "Easa Concept Paper: First usable guidance for Level 1 machine learning applications". Darin beschreibt die Agentur ihre Vorstellungen zum Umgang mit Künstlicher Intelligenz des "Levels 1".

Was versteht die Easa unter Künstlicher Intelligenz?

Die Easa legt der Künstlichen Intelligenz eine denkbar weite Begriffsbestimmung zu Grunde. Als Künstliche Intelligenz versteht die Easa "any technology that appears to emulate the performance of a human" (Easa Artificial Intelligence Roadmap 1.0, Abschnitt C).

Freilich sagt die Easa in ihrer Roadmap auch, dass sie ihr Augenmerk vor allem auf Machine Learning und Deep Learning richten will, es soll um datengetriebene Lernmethoden für Algorithmen gehen, um Entscheidungsbäume und Neural Networks.

Machine Learning beschreibt die Easa als den Gebrauch von Daten, um die Leistungsfähigkeit und Arbeitsergebnisse ("performance") von Algorithmen zu verbessern. Deep Learning meine den Einsatz von Neural Networks, die anhand großer Datenmengen lernen.

Die Easa stellt dazu jetzt ihre weiterentwickelte Einteilung in drei Kategorien mit zwei Unterkategorien in der ersten und der dritten Kategorie vor (Easa Concept Paper: First usable guidance for Level 1 machine learning applications, Abschnitt B):

"Classification of AI applications Level 1 AI : assistance to human Level 1A: Human augmentation Level 1B: Human cognitive assistance in decision and action selection Level 2 AI : human/machine collaboration Level 2: Human and AI-based system collaboration Level 3 AI : more autonomous machine Level 3A: AI-based system performs decisions and actions, overridable by the human. Level 3B: AI-based system performs non-overridable decisions and actions"

Gut erkennbar ist an dieser Klassifikation, dass die Easa versucht, die neue Technologie durchgehend von der Mensch-Maschine-Interaktion aus zu denken. Die fortgeschrittenste Stufe der Künstlichen Intelligenz sieht die Easa deshalb dort, wo der Mensch die Maschine nicht mehr übersteuern kann.

Welche Aufgaben sieht die Easa für sich und den Gesetzgeber?

Die größte Herausforderung für den Einsatz von Künstlicher Intelligenz in der Luftfahrt sieht die Easa in deren Vertrauenswürdigkeit ("trustworthiness") (Easa Artificial Intelligence Roadmap 1.0, Abschnitt G). Die Wortwahl mag manchen überraschen.

In der Luftfahrt wird von Sicherheit (safety) gesprochen, wenn über die Funktionsweise des einzelnen Flugzeugs oder das Zusammenwirken von Luftfahrzeugen, Piloten und weiteren Akteuren wie beispielsweise der Flugverkehrskontrolle gesprochen wird. Für Künstliche Intelligenz aber wählt die Easa stattdessen den Begriff der Vertrauenswürdigkeit. Auch die Begründung dafür ist bemerkenswert: Die Easa stellt klar, dass Machine Learning Applications probabilistische Systeme sind und das, was sie tun, für Menschen überraschend sein kann.

Die Easa meint, es müssten in der Europäischen Union anerkannte ethische Grundsätze den Rahmen vorgeben, nach denen sich die Vertrauenswürdigkeit Künstlicher Intelligenz ableiten lasse. Das soll auch eine Prüfung der Flugsicherheit (safety assessment) und der Luftsicherheit (security assessment) voraussetzen.

Zugleich sieht die Easa in Künstlicher Intelligenz erhebliche Marktchancen für Unternehmen in der Europäischen Union und befürwortet den regen globalen Wettbewerb, in dem sich ein ethikbasierter Ansatz der Europäischen Union zum Umgang mit KI durchsetzen könne.

In ihrer Roadmap 1.0 benennt die Easa dazu die folgenden Ziele und Aufgaben:

"Five top objectives have been identified: 1 Develop a human-centric AI Trustworthiness framework, 2 Make EASA a leading certification authority for AI, 3 Support European Aviation leadership in AI, 4 Contribute to an efficient European AI research agenda, 5 Contribute actively to EU AI strategy and initiatives."

Welche konkreten Vorgaben macht die Easa für Level 1?

Das im Dezember 2021 veröffentlichte "Easa Concept Paper: First usable guidance for Level 1 machine learning applications" versteht die Easa als Schritt in der Entwicklung des mensch-zentrierten Rahmens für die Vertrauenswürdigkeit von Künstlicher Intelligenz. Die Anleitung für Level 1 ML-Anwendungen ist nach den Angaben im Konzeptpapier aber nur gedacht für "supervised and offline learning" (Easa Concept Paper: First usable guidance for Level 1 machine learning applications, Abschnitt C).

Viele Ansätze für Machine Learning sind danach ausgeschlossen, denn es muss der Mensch stets korrigierend eingreifen (supervised) und Datensatz und Algorithmus können nicht fortlaufend auch nach einer gedachten Genehmigung fortentwickelt werden.

Für diese Art der Künstlichen Intelligenz benennt die Easa mit ihrer Anleitung konkrete Vorgaben, an welchen sich die Entwicklung und Überwachung der Anwendungen orientieren soll. Für jeden der vier Bausteine beschreibt die Easa (auf zusammen immerhin mehr als 60 Seiten – der Detailgrad ist beachtlich!) Prüfschritte und Ziele, an welchen sich die Prüfung ausrichten soll.

Die Analyse der Vertrauenswürdigkeit soll mit der Benennung der Nutzer (user) und dem gedachten Einsatz (operations) beginnen, am Ende steht die Gegenprüfung, ob die Sicherheitsanforderungen eingehalten werden.

Nächster Baustein ist die "learning assurance", bei der zu prüfen ist, ob nach Durchlaufen der datenbasierten Lernprozesse die Anwendung dann, wenn sie nachfolgend mit neuen Daten arbeitet, zu ausreichenden Ergebnissen kommt.

Gefordert ist außerdem die Erklärbarkeit Level 1-KI: Menschen sollen nachvollziehen können, wie die KI zu ihren Ergebnissen kommt. Schließlich muss geprüft werden, ob es zusätzlicher Risikomitigation bedarf; gegebenenfalls müssen zusätzliche Sicherheitsmaßnahmen vorgesehen werden. Die Easa denkt dabei zunächst vor allem an klassische Technologien, die in bestimmten Szenarien anstelle der KI übernehmen können.

Wie ordnet sich das Konzeptpapier in die bestehenden Rechtsvorschriften ein?

Bei der jetzt veröffentlichten Anleitung oder der Roadmap vom Februar 2020 handelt es sich um rechtlich nicht verbindliche Angaben der Easa. Die Easa versteht ihre Veröffentlichung wohl auch nicht als Leitlinien gemäß Artikel 76 Absatz 3 der Verordnung (EU) Nr. 2018/1139, sondern prüft in ihrem Konzeptpapier stattdessen, ob Auswirkungen auf diese Leitlinien (guidance material, GM) oder auf annehmbare Nachweisverfahren (acceptable means of compliance, AMC) zu prüfen sind.

Faktisch dürfte die Luftfahrtindustrie gleichwohl gut beraten sein, sich die Inhalte gründlich durchzusehen und zumindest zu wissen, welche Aspekte davon eingehalten sind oder nicht. Für die spätere Rechtsanwendung und -auslegung werden die Easa und die nationalen Luftfahrtbehörden sicherlich auf viele Angaben und Ideen der Roadmap und des Konzeptpapiers zurückkommen.

Ganz pragmatisch prüft die Easa in ihrem Konzeptpapier auch, welche Auswirkungen ihrer Vorstellungen künftig auf bestehende Luftrechtsvorschriften zu erwarten sind (Easa Concept Paper: First usable guidance for Level 1 machine learning applications, Abschnitt E). Für die Machine Learning-Anwendungen des Level 1, die von den Vorgaben der Anleitung erfasst sind, kommt die Easa dabei überwiegend zu dem Ergebnis, dass die schlichte Rechtsanwendung der bereits vorhandenen Rechtsregeln ausreichen wird und Rechtsänderungen nicht erforderlich sein werden.

Die Bauvorschriften für Luftfahrzeuge, insbesondere die Zertifikationsspezifikationen CS-23 und CS-25 für Flugzeuge, bieten nach Einschätzung der Easa einen schon heute ausreichenden Rechtsrahmen, um Level-1-KI integrieren zu können. Für die Entwicklung und Herstellung und den Betrieb von Luftfahrzeugen erachtet die Easa auch die übrigen Rechtsvorschriften als bereits passend, bis hin zur Ausbildung von Luftfahrtpersonal und den Umweltvorschriften.

In jedem Punkt merkt die Easa aber an, dass die Sache sich für Künstliche Intelligenz des Levels 2 oder 3 anders verhalten könne. Ob aber tatsächlich Rechtsänderungen erforderlich wären, bleibt offen.

Was ist der weitere Ausblick?

Für die Luftfahrt bietet die Easa mit ihren Veröffentlichungen einen Ausblick auf den derzeit zu erwartenden weiteren Verlauf. Daran sind vor allem zwei Gesichtspunkte sehr erfreulich. Zum Einen legt die Easa offen, welche Zukunftserwartungen die Agentur selbst hat und wie sie sich ihre eigene zukünftige Handlungsweise vorstellt. Für Unternehmen der Luftfahrt bietet das verbesserte Planbarkeit und dürfte für Investitionen in Forschung und Entwicklung förderlich sein.

Zum Anderen ist der von der Easa verlautbarte Regelungsansatz, auf die bereits bestehenden Rechtsvorschriften zu setzen. Das ist vernünftig. Die zwingenden rechtlichen Vorgaben sind im Bereich der Luftfahrt über Jahrzehnte ausdifferenziert und fortentwickelt worden. Luftfahrt ist dabei seit jeher auf den Gebrauch von Hochtechnologie im Alltag ausgerichtet. Auch neue Technologien sind immer schon integriert worden. Der Rechtsrahmen muss deshalb nicht neu erfunden werden.

Mit ihrer Vorgehensweise stellt die Easa außerdem die Luftfahrt der Europäischen Union in einen Wettbewerb auf ebenem Spielfeld (level playing field). Insbesondere die USA greifen nämlich bisher in die Entwicklung und den Gebrauch von Künstlicher Intelligenz (machine learning applications) nicht regelnd ein, sondern lassen es bei der Anwendung bestehender Rechtsvorschriften. Diese Freiheit wahrt die Easa derzeit zumindest für Level 1-KI auch für die Luftfahrt hierzulande.

Gleichwohl bleiben noch viele Fragen offen. Passt die Begriffsbestimmung, welche die Easa gewählt hat? Soll es wirklich darauf ankommen, ob das Tun eines Menschen nachgebildet wird - ist es keine KI, wenn das Vorbild nicht ein Mensch ist? Es kann ja beispielsweise kaum gemeint sein, dass autonomes Fliegen dann keine KI-Anwendung ist, wenn das Flugverhalten eines Vogels nachgebildet wird.

Ist die Vertrauenswürdigkeit von Künstlicher Intelligenz wirklich ein Problem? Oder führt der Fokus auf Vertrauenswürdigkeit schlussendlich nur dazu, dass beim Einsatz von Künstlicher Intelligenz weniger verlangt wird? Wäre ein anderer Maßstab vorzugswürdig? Sollte die Künstliche Intelligenz (oder der Mensch mit der Maschine mit KI) das, was sie macht, vielleicht doch (nachweislich und statistisch signifikant) besser können als der Mensch (oder besser als der Mensch mit der Maschine ohne KI)?

Interessante Einträge aus dem airliners.de-Firmenfinder

Lufthansa Technical Training GmbH

Von Experten - Für Experten

Zum Firmenprofil

HiSERV GmbH

We make GSE simple and smart.

Zum Firmenprofil

MTU Aero Engines AG

Thinking ahead - the future of aviation now

Zum Firmenprofil

Flight Consulting Group

Dispatch, Trip Support and Ground Handling

Zum Firmenprofil

TRAINICO GmbH

Kompetenz & Leidenschaft für die Luftfahrt

Zum Firmenprofil

Flughafen Memmingen GmbH

Bayerns drittgrößter Verkehrsflughafen

Zum Firmenprofil

TEMPTON Personaldienstleistungen GmbH

Fachbereich Aviation

Zum Firmenprofil

Wildau Institute of Technology e. V. (WIT)

Berufsbegleitender Aviation-Master und Weiterbildungsformate

Zum Firmenprofil

SFT Schule für Wirtschaft und Tourismus Berlin GmbH

Ihre Reise zu neuen beruflichen Zielen!

Zum Firmenprofil

Angebote und Dienstleistungen aus dem airliners.de-Firmenfinder
Ausbildung Kaufmann / Kauffrau im E-Commerce
Ausbildung Kaufmann / Kauffrau im E-Commerce SFT Schule für Wirtschaft und Tourismus Berlin GmbH - Als Kauffrau / Kaufmann für E-Commerce arbeitest Du bei einem Online-Portal, einem Start-Up oder in den Digitalabteilungen von Reiseveranstaltern und... Mehr Informationen
GSE simple and smart
GSE simple and smart HiSERV GmbH - Rental Solutions, Services, Management. HiSERV verbessert seit 2017 den Vermietungsmarkt für Ground Support Equipment (GSE) durch überlegene Qualität,... Mehr Informationen
Flug-Permits mit FCG - Flight Consulting Group
Flug-Permits mit FCG - Flight Consulting Group Flight Consulting Group - Weltweite Überflug- und Landeerlaubnis direkt bei der Zivilluftfahrtbehörde, einschließlich Eil-, Ambulanz-, Charter- und Frachtflüge. FCG OPS ist ein... Mehr Informationen
Ground Handling & Operations
Ground Handling & Operations GAS German Aviation Service GmbH - Coordinating all ground handling services such as water service, lavatory, fuel truck or GPU for your aircraft on time is our specialty. Transportatio... Mehr Informationen
ch-aviation PRO
ch-aviation PRO ch-aviation GmbH - The world’s leading airline intelligence resource tool providing in-depth coverage of airlines and related news, as well as their fleet, network, and... Mehr Informationen
CAT B1 Prüfungsvorbereitungskurs TRAINICO GmbH - Dieser modular aufgebaute Lehrgang bereitet die Teilnehmer darauf vor, die nach Part-66 geforderte Prüfung abzulegen. Mehr Informationen
HR Business Process Outsourcing
HR Business Process Outsourcing ARTS - HR BUSINESS PROCESS OUTSOURCING INNOVATIVE PERSONALPROZESSE MIT TRANSPARENTER KOSTENSTRUKTUR - Jeder Bereich des Personalwesens ist durch hinterlegte... Mehr Informationen
A318/A319/A320/A321 (CFM56/IAE V2500) General Familiarization (E/AV/A/P)
A318/A319/A320/A321 (CFM56/IAE V2500) General Familiarization (E/AV/A/P) Lufthansa Technical Training GmbH - This course provides an overview of airplane, systems and powerplant as outlined in the Systems Description Section of the Aircraft Maintenance Manual... Mehr Informationen