Rechtliche Klippen bei der Digitalisierung sicher umschiffen

Der Artikel wurde erstmals in dem Branchenmagazin Schiff&Hafen, Ausgabe Nr. 1 | Januar 2025, im Rahmen der festen Kolumne „Navigate Digital Regulation“ von Dr. Philipp Etzkorn publiziert. Die Veröffentlichung in derSchiff&Hafen können Sie hier einsehen.

Die Digitalisierung macht natürlich auch vor der maritimen Wirtschaft nicht halt. Durch die Nutzbarmachung von KI hat diese Entwicklung zusätzlich an Geschwindigkeit gewonnen. In diesem Jahr findet die bereits 10. Ausgabe der Maritim 4.0 statt und auf der SMM 2024 wurde erstmals ein eigener KI-Bereich eingerichtet. Das zeigt deutlich, wie sehr die Branche von der Digitalisierung umgetrieben wird – mit allen Chancen und Risiken, die das mit sich bringt.

Was kommt auf Sie zu?

Parallel zur rasanten technischen Entwicklung bleiben der deutsche und europäische Gesetzgeber nicht untätig und erlassen entsprechende Regulatorik, darunter die KI-Verordnung, der Data Act und die NIS-2 Richtlinie. All diese Rechtsakte müssen von Unternehme(r)n auf ihre Relevanz überprüft werden: Was ist im konkreten Rechtsakt geregelt? Unterfällt man dem Anwendungsbereich? Bis zu welchem Zeitpunkt sind welche Schritte zu unternehmen? Wo könnten sich Haftungsrisiken oder neue Geschäftschancen auftun?

Diese Ausgabe liefert einen Kurzüberblick zum Regelungsansatz der KI-Verordnung.

KI-Verordnung („KI-VO“)

Die europäische KI-Verordnung ist seit August 2024 in Kraft und bindend. Sie muss (anders als eine Richtlinie) nicht in nationalstaatliches Recht umgesetzt werden.

Durch die KI-VO werden KI-Systeme in Abhängigkeit von ihrem Risiko reguliert, wobei der Einsatzzweck ein entscheidendes Kriterium für die Risikobewertung ist. Vier Kategorien lassen sich insofern unterscheiden: 

• Verbotene KI-Systeme: KI-Systeme, deren Einsatz vom Europäischen Gesetzgeber als unvertretbar und unvereinbar mit den Grundwerten Europas eingeordnet wurden, sind in Artikel 5 abstrakt aufgelistet. Betrachtet man Einsatzszenarien von KI im Bereich der maritimen Wirtschaft dürfte etwa dem Verbot verhaltensbeeinflussende Systeme – beispielsweise mit Blick auf die Crew – zu verwenden eine besondere Bedeutung zukommen. 
• Hochrisiko-KI-Systeme: Gewisse Systeme hat der Gesetzgeber als Hochrisiko-KI-Systeme eingeordnet (Artikel 6). Dies können beispielsweise KI-Systeme sein, die im Kontext der „Richtlinie 2014/90/EU über Schiffausrüstung“ oder der „Richtlinie 2013/53/EU über Sportboote und Wassermotorräder“ zum Einsatz kommen. Für diese Hochrisiko-KI-Systeme gelten umfangreiche regulatorische Anforderungen, in deren Zentrum ein Risikomanagementsystem steht.
• Transparenzpflichten: Manche KI-Systeme, insbesondere auch solche, die der direkten Interaktion mit natürlichen Personen dienen, müssen nach Artikel 50 Transparenzpflichten erfüllen. Dies trifft etwa auf Chatbots zu.
• GPAI-Models: Für „KI-Modelle mit allgemeinem Verwendungszweck“ („general-purpose AI models“) enthält die KI-Verordnung zusätzliche Anforderungen (Artikel 51-56). Diese Regelungen können beispielsweise relevant werden, wenn ein Unternehmen ein Sprachmodell zu internen oder externen Zwecken modifiziert.

KI-Kompetenz („AI-Literacy“) muss aufgebaut werden

Anbieter und Betreiber von KI-Systemen müssen sicherstellen, „dass ihr Personal und andere Personen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI-Systemen befasst sind, über ein ausreichendes Maß an KI Kompetenz verfügen“ (Artikel 4). Betreiber ist, wer ein KI-System in eigener Verantwortung zu beruflichen Zwecken verwendet (Artikel 3 Nr. 4) und somit eine weit gefasste Definition.

Geltungsbeginn: Die KI-VO entfaltet stufenweise Geltung.

Noch bevor das nächste Heft erscheinen wird, dürfen verbotene KI-Systeme in der EU nicht mehr verwendet werden (02.02.2025). Eine Prüfung dahingehend, ob bei Ihnen Systeme zum Einsatz kommen, die unter die Norm der verbotenen KI-Systeme fallen könnten, ist daher dringlich zu empfehlen. Die Transparenzpflichten sind ab dem 02.08.2026 einzuhalten und die Anforderungen für Hochrisiko-KI-Systeme bis zum 02.08.2027 umzusetzen. Auch wenn August 2027 heute noch in weiter Ferne scheint, sollten Sie trotzdem keine Zeit verstreichen lassen, denn die Anforderungen sind umfangreich und einzelne Pflichten knüpfen bereits an die Konzeption und Entwicklung dieser Systeme an.