Künstliche Intelligenz in der EU: Neue Regulierung kommt, große Akteure in Angst

Ein großes Aufsehen hat sich um die neuen EU-Regeln im Zusammenhang mit dem Entwurf einer Regulierung von Systemen, die auf künstlicher Intelligenz und der digitalen Wirtschaft basieren, ergeben. Angesichts des expansiven Wachstums der technologischen Fähigkeiten der künstlichen Intelligenz und erheblicher Bedenken hinsichtlich der Datensicherheit, insbesondere in Bezug auf die Methodik zur Risikobewertung in solchen Systemen, ist jede Aktivität, die mit der Notwendigkeit eines tieferen Verständnisses und der Herausgabe von Richtlinien zur Minimierung potenzieller Schäden für Einzelpersonen verbunden ist, realistisch betrachtet willkommen. Diese Art von Technologie ist unvermeidlich, doch nur wenige berücksichtigen ihre Mängel und die möglichen Konsequenzen dieser Mängel.

Produzenten fortschrittlicher Technologien verlassen sich manchmal darauf, dass sich die Technologie selbst schneller entwickelt, als die Gesetzgebung Schritt halten kann, sodass jede neue Regulierung, die ihnen größere Investitionen, einen Rückgang der Einnahmen aufgrund von Einschränkungen oder sogar Verbote zur Nutzung bestimmter Funktionen verursachen könnte, oft in den Medien als Angriff auf den freien Markt und als Einschränkung von Funktionen dargestellt wird, die das Leben der Endbenutzer erleichtern. Denken Sie immer daran, dass jede solche Geschichte zwei Seiten hat, und es ratsam ist, Argumente von beiden Seiten zu sammeln und sie eingehend zu analysieren, um ein informierte kritisches Urteil zu fällen.

Kürzlich präsentierte Dokumente, das Weißbuch über Künstliche Intelligenz (KI) und die Europäische Datenstrategie, weisen auf eine sehr konkrete Richtung für die EU hin, globale Standards in der technologischen Entwicklung zu setzen und dabei den Menschen an erste Stelle zu setzen.

Dies impliziert eine Verpflichtung, das Sicherheitsniveau von KI-Systemen zu erhöhen, einschließlich fortgeschrittener Sicherheitszertifizierungen, Tests und Kontrollen von Systemen, die dann gemäß einer präzise definierten Methodik als hochriskant oder niedrigriskant klassifiziert werden. Für niedrigriskante KI-Systeme schlägt die Europäische Kommission eine freiwillige Kennzeichnung vor, wenn definierte Standards erfüllt sind.

Aus den Erfahrungen der USA und Chinas lernend, hat die EU beschlossen, konkretere Schritte zur Definition der Methodik für die Risikobewertung und die kontinuierliche Überwachung solcher Systeme zu unternehmen. Hinter diesen scheinbar einfachen Worten verbirgt sich ein viel anspruchsvolleres Konzept – die Bewertung und das Management von Risiken, die mit der Nutzung dieser Art von Technologie verbunden sind. Da jedes Risikomanagement mit der Festlegung von Zielen beginnt, könnte man annehmen, dass die größten Herausforderungen hier das Recht des Einzelnen auf Privatsphäre und die Verringerung des Risikos diskriminierender Auswirkungen durch voreingenommene Algorithmen (algorithmische Voreingenommenheit) sein werden.

Voreingenommene Algorithmen sind weder harmlos noch ein seltener Fall. Dieser Begriff bezeichnet systematische und wiederholbare Fehler in einem Computersystem, die sogenannte nachteilige Ergebnisse erzeugen. Eines davon ist sicherlich automatisierte Diskriminierung, bei der das System fälschlicherweise eine Benutzergruppe gegenüber einer anderen bevorzugt, und so weiter. Da diese Art von Fehler systematisch und wiederholbar ist und der Begriff künstliche Intelligenz impliziert, dass das System selbstständig lernt und sich entwickelt, wird die Regulierung oder Korrektur voreingenommener Algorithmen mit zunehmender Reife des Systems schwieriger. Der absichtliche Missbrauch solcher Systeme und ihrer Fähigkeiten sollte nicht einmal betont werden; alles wurde nach den amerikanischen Präsidentschaftswahlen kristallklar, als viele technologische Details öffentlich wurden.

Natürlich liegt der Teufel immer im Detail – Sie können aufhören, soziale Netzwerke zu nutzen (die, glauben Sie mir, wissen Sie besser als Sie sich selbst durch filigranes Profiling kennen), aber Sie können sich nicht freiwillig von öffentlichen Dienstleistungen auf der Grundlage derselben Technologie, die immer verbreiteter wird, zurückziehen. Ein Beispiel für einen ähnlichen Dienst, der eine Art Alarm ausgelöst hat, ist das Videoüberwachungssystem in China mit Gesichtserkennung.

Dokumente der Europäischen Kommission, die einen Plan zur Regulierung dieser Aspekte vorschlagen, enthalten auch Bestimmungen, die einen Zeitraum von bis zu fünf Jahren empfehlen, während dessen die Nutzung von Gesichtserkennungstechnologie in öffentlichen Räumen verboten wäre, außer in streng definierten Ausnahmefällen, was den europäischen Gesetzgebern Zeit geben würde, Methoden zur Bewertung und zum Management von Risiken im Zusammenhang mit dieser Art von Technologie zu entwickeln. In diesem Kontext würden auch Ausnahmen im Zusammenhang mit Forschungs- und Entwicklungs- oder Sicherheitszwecken detailliert.

Und während der Fokus anscheinend auf der Regulierung öffentlicher Dienstleistungen liegt, sind große Akteure verständlicherweise sehr besorgt. So berichtete die New York Times, dass Sundar Pichai von Alphabet (der Muttergesellschaft von Google), John Giannandrea von Apple und Mark Zuckerberg von Facebook – führende globale Unternehmen, die den Großteil ihrer Einnahmen genau aufgrund von Systemen auf der Grundlage künstlicher Intelligenz generieren – nach Brüssel kamen, um ihre Bedenken zu äußern, da die EU für sie einen bedeutenden Zielmarkt darstellt, in dem einige von ihnen bereits erhebliche Geldstrafen wegen Verletzung gesetzlich vorgeschriebener Rechte von Einzelpersonen erlitten haben.

Obwohl die Initiative selbst mehr Fragen aufwirft, als sie beantwortet, sollte die Art und Weise, wie diese Technologie betrachtet wird, und die spezifische Kategorisierung eines bestimmten KI-Systems als „hoch“ oder „niedrig riskant“ mit Verpflichtungen für fortgeschrittene Sicherheitszertifizierungen tatsächlich als positiver Schritt zum Schutz von Einzelpersonen und ihren grundlegenden Rechten und Freiheiten angesehen werden, anstatt als eine weitere Einschränkung, die den Fortschritt limitiert.

—

—