Ein Thema auch für die Energiewirtschaft: EU-Kommission legt Rechtsrahmen für künstliche Intelligenz vor

Die Europäische Kommission hat am 21.4.2021 den weltweit ersten Rechtsrahmen für künstliche Intelligenz (KI) vorgelegt. Damit soll Europa zum globalen Zentrum für vertrauenswürdige KI werden. Die neuen Vorgaben werden auch KI-Anwendungen in der Energiewirtschaft betreffen.

Worum geht es der EU?

Die Bedeutung von KI-Anwendungen steigt kontinuierlich. Sie gelten als eine der Schlüsseltechnologien und als ein wesentlicher Treiber der Digitalisierung und der Entwicklung (teil-)autonomer Systeme. Die Europäische Kommission fördert daher bereits seit einigen Jahren die Zusammenarbeit der Mitgliedstaaten auf dem Gebiet der KI, um die europäische Wettbewerbsfähigkeit zu steigern und das auf den EU-Werten beruhende Vertrauen zu stärken. Bereits im Jahr 2018 stellte sie eine europäische KI-Strategie vor und veröffentlichte im vergangenen Jahr ein Weißbuch zur KI, das die Grundlage für den jetzigen Gesetzgebungsvorschlag bildet.

Nach Auffassung der Kommission gehen von den meisten KI-Systemen nur geringe oder gar keine Risiken aus. Bestimmte KI-Systeme würden jedoch Risiken bergen, die angegangen werden müssten, um unerwünschte Ergebnisse zu vermeiden. So könne etwa die Undurchsichtigkeit vieler Algorithmen zu Unsicherheiten führen und eine wirksame Durchsetzung der bestehenden Rechtsvorschriften im Bereich der Sicherheit und der Grundrechte behindern. Um diese Herausforderungen zu bewältigen, seien gesetzgeberische Maßnahmen für einen gut funktionierenden Binnenmarkt für KI-Systeme nötig, die sowohl die Vorteile als auch die Risiken angemessen berücksichtigen.

Was kommt auf Energieversorger zu?

Der neue Rechtsrahmen wird sowohl für öffentliche als auch für private Akteure innerhalb und außerhalb der EU gelten, sofern das KI-System in der Union in Verkehr gebracht wird oder Menschen in der EU von seiner Verwendung betroffen sind. Er erfasst sowohl Anbieter (z.B. Entwickler) als auch Nutzer von KI-Systemen mit hohem Risiko – zu beiden Kategorien können im Rahmen der kritischen Infrastrukturen auch Energieversorgungsunternehmen zählen. Er knüpft an eine Definition der KI an, die zukünftig in allen Mitgliedstaaten Anwendung finden wird.

Die neuen Vorschriften folgen einem risikobasierten Ansatz. Sie definieren verschiedene Risikoklassen, an die unterschiedliche Anforderungen gestellt werden. Unannehmbare Risiken bestehen für KI-Systeme, die als klare Bedrohung für die Sicherheit, die Lebensgrundlage und die Rechte der Menschen gelten; diese werden verboten.

Für KI-Systeme mit hohem Risiko werden strenge Vorgaben gelten, die erfüllt sein müssen, bevor sie verwendet werden dürfen. Entsprechende Systeme werden beispielsweise in den Bereichen kritische Infrastrukturen, Sicherheitskomponenten von Produkten, Beschäftigung und Personalmanagement sowie bei wichtigen privaten und öffentlichen Dienstleistungen erkannt. Dem Legislativvorschlag der Kommission ist eine (vorläufige) Liste der KI-Systeme mit hohem Risiko beigefügt.

Insbesondere in diese Kategorie dürften zukünftig auch KI-Anwendungen in der Energiewirtschaft fallen, z.B. zur Netzsteuerung und zum Lastmanagement, zur Vertragsabwicklung sowie zur Optimierung von Arbeitsprozessen. Die Bundesnetzagentur (BNetzA) hat bereits am 7.4.2021 eine Konsultation zum Einsatz sowie zu künftigen Möglichkeiten von KI-Anwendungen in den Netzsektoren gestartet. Dabei geht es um sektorspezifische Fragestellungen, etwa wie die Sicherheit und Zuverlässigkeit von KI-Systemen in den Netzsektoren gewährleistet werden kann, inwiefern KI-Systeme nachvollziehbar und überprüfbar sind und wer die Verantwortung beim Einsatz von (teil-)autonomen KI-Systemen trägt.

Bei KI-Systemen mit geringem Risiko gelten zukünftig besondere Transparenzpflichten; dies wird etwa Chatbots betreffen. KI-Systeme mit minimalem Risiko, wie Videospiele oder Spamfilter, sollen frei genutzt werden können.

Auf dem Weg zur Verordnung

Der Legislativvorschlag der Kommission muss nun das ordentliche Gesetzgebungsverfahren der EU durchlaufen. Gesetzgebungstechnisch hat die Kommission ihren Vorschlag in Form einer Verordnung erarbeitet. Sobald diese verabschiedet ist, wird sie unmittelbar – ohne weitere Umsetzungsschritte – in der gesamten EU gelten.

Ansprechpartner*innen: Dr. Jost Eder/Alexander Bartsch