Unter philosophischer, ethischer, rechtlicher und technologischer Sicht
Zertifizierung von KI-Anwendungen
 

Künstliche Intelligenz (KI) durchdringt im Zeitalter der Digitalisierung nahezu alle Bereiche unseres täglichen Lebens, von der Arbeit bis zum Gesundheitswesen. Aber wie lässt sich sicherstellen, dass diese Entwicklungen auch ethisch und rechtlich vertretbar sind? Unter der Federführung des Fraunhofer-Instituts für Intelligente Analyse- und Informationssysteme (IAIS) erarbeiteten Wissenschaftler der Universitäten Bonn und Köln einen Prüfkatalog zur Zertifizierung von KI-Anwendungen. Das interdisziplinäre Team stellte die Handlungsfelder aus philosophischer, ethischer, rechtlicher und technologischer Sicht nun in einer Publikation vor. Beteiligt war auch das Bundesamt für Sicherheit in der Informationstechnik (BSI).

Für KI-Anwendungen sei eine sorgfältige Gestaltung notwendig, damit die Chancen der KI im Einklang mit unseren gesellschaftlichen Werten und Vorstellungen genutzt werden können, hieß es bei der Vorstellung. Deshalb haben sich die Experten im Kontext der Kompetenzplattform KI.NRW zusammengetan, um eine durch akkreditierte Prüfer durchzuführende Zertifizierung für KI-Anwendungen zu entwickeln. Das Zertifikat soll einen Qualitätsstandard bescheinigen, der es Technologieanbietern erlaubt, KI-Anwendungen überprüfbar technisch zuverlässig und ethisch akzeptabel zu gestalten.

„Mit der Zertifizierung wollen wir dazu beitragen, Qualitätsstandards für eine ‚KI Made in Europe‘ zu setzen, den verantwortungsvollen Umgang mit der Technologie zu sichern und einen fairen Wettbewerb verschiedener Anbieter zu befördern“, sagt Prof. Dr. Stefan Wrobel, Institutsleiter des Fraunhofer IAIS und Professor für Informatik an der Universität Bonn.

Der Mensch im Mittelpunkt

Künstliche Intelligenz hat das Potenzial, die Fähigkeiten des Menschen zu erweitern und hilft, neue Erkenntnisse zu gewinnen. Wenn wir unseren Entscheidungen jedoch Ergebnisse von voll- oder teilautomatisierten selbstlernenden Systemen zugrunde legen, stellt uns dies gleichzeitig vor neue Herausforderungen. Neben der technischen Eignung müssen vor allem grundsätzliche philosophisch-ethische Aspekte, aber auch rechtliche Fragestellungen geklärt werden. Um sicherzustellen, dass der Mensch stets im Mittelpunkt dieser Entwicklung steht, ist daher ein enger Austausch zwischen Informatik, Philosophie und Rechtswissenschaften notwendig.

In dem nun veröffentlichten Whitepaper erläutern die Expertinnen und Experten ihre interdisziplinäre Herangehensweise an die KI-Zertifizierung. So gehen die Autorinnen und Autoren etwa auf die ethischen Grundsätze ein: „Alle Beteiligten sollen sich beim Einsatz von KI nach ihren moralischen Überzeugungen gut verhalten können, und niemand darf in seinen Rechten, seiner Autonomie oder Freiheit beschnitten werden“, betont Prof. Dr. Markus Gabriel, Professor für Philosophie an der Universität Bonn. Auch juristische Fragestellungen werden adressiert: „Es muss zum Beispiel geklärt werden, welche Anforderungen an KI-Anwendungen sich aus den Grundwerten und Prinzipien eines freiheitlich geordneten Rechtsstaates ergeben“, sagt Prof. Dr. Dr. Frauke Rostalski, Professorin für Rechtswissenschaft an der Universität zu Köln.

Handlungsfelder für den vertrauensvollen Einsatz von KI

Aus diesem interdisziplinären Ansatz gehen mehrere Handlungsfelder aus ethischer, rechtlicher und technologischer Sicht hervor, die im Whitepaper beleuchtet werden. Kriterien für die Zertifizierung sollen Fairness, Transparenz, Autonomie und Kontrolle, Datenschutz sowie Sicherheit und Verlässlichkeit sein. Damit orientiert sich das Zertifizierungsprojekt von KI.NRW auch an Empfehlungen der EU.

Typische Fragen innerhalb der Zertifizierung sollen sein:

  • Respektiert die KI-Anwendung gesellschaftliche Werte und Gesetze?
  • Ist eine selbstbestimmte, effektive Nutzung möglich?
  • Behandelt die KI alle Betroffenen fair?
  • Sind ihre Funktionsweise und Entscheidungen nachvollziehbar?
  • Funktioniert die KI zuverlässig und ist sie robust?
  • Ist sie sicher gegen Angriffe, Unfälle und Fehler?
  • Schützt die KI die Privatsphäre und sonstige sensiblen Informationen?

Leitplanken bereits beim Design

Bereits während des Designs der Technologien müsse geklärt werden, ob die Anwendung ethisch und rechtlich zulässig ist und falls ja, welche Leitplanken für ihre Ausgestaltung formuliert werden sollen, so die Autorinnen und Autoren. Ein notwendiges Kriterium sei, allen Beteiligten dieselben Möglichkeiten einer moralischen Entscheidung zu geben, die sie auch im Falle eines Verzichts auf den KI-Einsatz hätten, und ihre Rechte sowie ihre Freiheit zu achten.

Ein wichtiges Kriterium ist auch die Transparenz. Die Interpretierbarkeit, Nachverfolgbarkeit und Reproduzierbarkeit von Ergebnissen der Künstlichen Intelligenz müssten für die Nutzer möglich sein. Widerstreitende Interessen – wie Transparenz und Geheimhaltung von Geschäftsgeheimnissen – müssten gegeneinander abgewogen werden.

Geplant ist, bis Anfang 2020 eine erste Version des Prüfkatalogs zu veröffentlichen und die ersten KI-Anwendungen zu zertifizieren. Da sich die Künstliche Intelligenz ständig weiterentwickelt, wird auch der Prüfkatalog ein „lebendes Dokument“ sein, das ständiger Aktualisierung bedarf.

Das Whitepaper lässt sich hier downloaden.

Kontakt  
Diesen Artikel ...  
Artikelinformationen 
Artikel veröffentlicht am:
04.07.2019
Quelle(n):

Bildquelle: ©iStock.com/ThomasVogel

Autor/in 
Redaktion
Weitere Artikel 
Über KI-NOTE 
Um einen Wandel der Finanzbranche erfolgreich zu meistern, müssen Kreditinstitute sowohl Chancen als auch Herausforderungen der Künstlichen Intelligenz (KI) erkennen.

Unter der neuen Marke KI-NOTE der Bank-Verlag GmbH finden Sie Meldungen, Studien und Fachartikel zum Themenkomplex KI.

Wir beantworten Ihre Fragen rund um KI. Wir berichten über Trends, neue Technologien, Forschungsergebnisse und daraus entstehende Möglichkeiten, die KI Ihrem Unternehmen bietet.
Newsletter

die bank | Newsletter

Abonnieren Sie den kostenlosen redaktionellen Newsletter der Fachzeitschrift „die bank“.
Der Newsletter erscheint mindestens einmal im Monat und informiert Sie über aktuelle Beiträge und News.

 Anmeldung

 Newsletter-Archiv