Zukunft KI
Autor: Kai Grunwitz, Geschäftsführer der NTT Ltd. in Deutschland
Wie vertrauenswürdig ist Künstliche Intelligenz?
Künstliche Intelligenz (KI) gilt als digitale Wunderwaffe: Ob wir für ein Jobinterview eingeladen werden, welchen Kredit wir erhalten oder welcher Partner uns auf Dating-Plattformen vorgeschlagen wird, entscheiden heute intelligente Algorithmen in Sekundenschnelle. Auch Industrie und Wissenschaft vertrauen auf die Technologie – etwa beim autonomen Fahren, bei der Automatisierung in Fabriken oder der Tumorerkennung in der medizinischen Diagnostik.
Immerhin sind KI-Systeme in der Lage, massive Datenmengen in kürzester Zeit zu analysieren, mit unterschiedlichsten Referenzpunkten zu korrelieren und damit bessere Entscheidungsgrundlagen als der Mensch zu schaffen. Die Vorteile liegen also auf der Hand – der Einsatz von KI ist allerdings nicht frei von Risiken. Vor allem dann, wenn Unternehmen sich den verantwortungsvollen Umgang mit der Technologie nicht zum Auftrag machen.
Ab wann ist eine Maschinenentscheidung eigentlich riskant? Mit dieser Frage beschäftigt sich derzeit die EU-Kommission. Deren Regulierungsvorschlag trägt der sogenannten Kritikalität von KI-Systemen Rechnung. Während eine fehlerhaft konfigurierte KI im Gesundheitswesen eine Gefahr für Menschenleben darstellt und bei der biometrischen Identifikation von potenziellen Straftätern auch schnell Unschuldige ins Visier nimmt, beleidigt eine KI-Lösung für Musikempfehlungen im schlimmsten Fall nur unseren guten Geschmack.
Die EU will deshalb besonders riskante Anwendungen Künstlicher Intelligenz auch besonderen Regeln unterziehen. Diese sind unabdingbar – nur wenn es einen rechtlichen Spielraum für die technische Entwicklung von KI-Anwendungen gibt, werden Industrie und Gesellschaft Vertrauen fassen.
Heute weiß aber eigentlich keiner genau, wie die Mehrzahl der KI-Systeme arbeitet. Das betrifft die Daten, mit denen sie gefüttert werden, genauso wie die Vorgaben, die in den Algorithmen stecken. Werden einseitige Informationen zur Verfügung gestellt, erlernt die Anwendung das gleiche Denken in unbewussten Schubladen wie der Mensch.
Solche KI-Bias aufgrund verzerrter Trainingsdaten führen dann dazu, dass Menschen etwa aufgrund von Geschlecht, Alter oder Herkunft bei Bewerbungsgesprächen, der Beförderung oder der Kreditvergabe übergangen werden.
„Vertrauen kann nur entstehen, wenn Entwickler die Prozesse der Datenverarbeitung und Entscheidungsfindung offenlegen.“
Kai Grunwitz
Genauso kann KI zu einer Bedrohung für die Demokratie werden: Internetseiten neigen dazu, dem Benutzer nur Informationen anzuzeigen, die mit seinem bisherigen Online-Verhalten übereinstimmen, anstatt eine Umgebung für eine pluralistische und gleichermaßen zugängliche Debatte zu schaffen. Diese „Filterblasen“ werden spätestens dann zum Problem, wenn KI Berichte ohne Wahrheitsgehalt oder extrem realistische Deepfakes erstellt und damit zu Polarisierung und Manipulation beiträgt. Bei der medizinischen Versorgung wiederum könnte eine fehlerhaft trainierte KI-Software ein besonders teures Medikament bestimmter Hersteller empfehlen – auch wenn dieses nicht erfolgsversprechender ist als preisgünstigere Alternativen. Oder schlechte, vielleicht sogar manipulierte Daten verfälschen die Diagnose, so dass der Patient eine suboptimale Therapie verordnet bekommt.
Künstliche Intelligenz nachweislich sicher zu machen, ist deshalb eine grundlegende Voraussetzung, um die Akzeptanz der Technologie seitens Industrie und Gesellschaft zu stärken. Vertrauen kann nur entstehen, wenn Entwickler die Prozesse der Datenverarbeitung und Entscheidungsfindung offenlegen. Das schließt eine lückenlose Transparenz der Datenwege, eine Protokollierung von Ergebnissen sowie die Nachvollziehbarkeit der Analyseverfahren ein.
Die EU tut gut daran – ähnlich wie bei den seit 2018 geltenden Datenschutzregeln – auch beim Umgang mit Künstlicher Intelligenz globale Standards zu setzen. Ob das neue Regelwerk die gleiche Schlagkraft wie die DSGVO haben wird, bleibt abzuwarten. Wären die Hersteller jedoch frei von jeder Verantwortung, dann gäbe es keinen Anreiz, ein gutes Produkt auf den Markt zu bringen. Zu streng dürfen die Regelungen jedoch auch nicht sein, ansonsten wird jede Innovation im Keim erstickt.
https://hello.global.ntt/de-de/
Über den Autor:
