Projekt AI4POL entwickelt Tools für effizientere Regulierung

Künstliche Intelligenz für die KI-Politik

Wie kann Europa bei der Regulierung Künstlicher Intelligenz (KI) seine Ziele effizient erreichen - und dabei selbst Künstliche Intelligenz nutzen? Im Projekt AI4POL wird ein internationales Forschungsteam untersuchen, ob die EU-Regelungen den Bürgerinnen und Bürgern tatsächlich helfen. Darüber hinaus wird das Team KI-Tools und datenwissenschaftliche Methoden entwickeln, mit denen Politik und Regulierungsbehörden die Wirkungen ihrer Gesetzgebung sowie mögliche Gefahren durch die Technologieentwicklung in nicht-demokratischen Staaten besser beobachten und auswerten kann.

Prof. Gjergji Kasneci erforscht, ob der Verbraucherschutz bei KI-Tools in der Finanzbranche wirkt..

Der Einsatz von Künstlicher Intelligenz und anderen digitalen Technologien sollte mit Menschenrechten, Demokratie und Verbraucherschutz vereinbar sein - darüber sind sich die europäischen Gesellschaften weitgehend einig. Die Europäische Union hat in den vergangenen Jahren umfangreiche Gesetze erlassen, die dem Einsatz von KI einen Rahmen geben, darunter den AI Act, den Data Act und den Digital Markets Act. Wie wirken diese Regulierungen in der Praxis? Wie wenden die Nutzerinnen und Nutzer die Funktionen an, die zu ihrem Schutz gedacht sind? Und wie gefährdet der Einsatz von KI in Staaten, die nicht dieselben Werte teilen, die Ziele der europäischen Politik?

Diese Fragen wird ein internationales, interdisziplinäres Forschungsteam im Projekt AI4POL untersuchen. Die Forschenden wollen der Politik nicht nur neue Erkenntnisse, sondern auch KI-Tools und datenwissenschaftliche Methoden zur Verfügung stellen, mit denen Politik und Behörden die Wirkungen ihrer Gesetze und Maßnahmen besser beobachten, auswerten und somit verbessern können.

Technologie, Sozialwissenschaften, Wirtschaft, Ethik, Jura

"Europa hat das Ziel, innovativ und wettbewerbsfähig zu sein, ohne seine Werte aufs Spiel zu setzen. Das kann nur mit einem wirksamen Regulierungsrahmen und gut informierten Entscheiderinnen und Entscheidern in Politik und öffentlicher Verwaltung gelingen", sagt Projektleiter Prof. Jens Prüfer, Direktor des Tilburg Law and Economics Center an der Universität Tilburg. "Für solch ein Monitoring können wiederum Künstliche Intelligenz und Datenwissenschaft sehr hilfreich sein. Wir wollen die Politik unterstützen, die nicht tausende hochqualifizierte KI-Expertinnen und -Experten in ihren Reihen hat - anders als die großen Tech-Unternehmen."

Bei AI4POL werden Forschende aus Technologieentwicklung, Ethik, Rechtswissenschaft, Ökonomie und Politikwissenschaft zusammenarbeiten. Beteiligt sind die Universität Tilburg, die Technische Universität München (TUM), die University of East Anglia (UEA), Visionary Analytics, Centerdata, die Università degli Studi di Roma Unitelma Sapienza und der TUM Think Tank. Das Forschungsteam wird von einem Advisory Board mit Vertreterinnen und Vertretern aus Regulierungsbehörden, Verbraucherschutzorganisationen, zivilgesellschaftlichen Organisationen und Unternehmen beraten. Die Europäische Union fördert das Projekt mit drei Millionen Euro.

Wie wirken Verbraucherschutzmaßnahmen?

Schwerpunkte wird das Forschungsteam zum einen auf den Verbraucherschutz und zum anderen auf die Finanzbranche legen. "Wir wissen zum Beispiel wenig darüber, wie viel die Menschen von den Hinweisen bei Onlineverträgen verstehen - und ob sie nicht einfach auf ,okay' klicken, weil die Texte viel zu lang und in juristischer Fachsprache verfasst sind", sagt Gjergji Kasneci, Professor für Responsible Data Science an der TUM. "Wir wollen deshalb herausfinden, wie diese Verbraucherschutzmaßnahmen wahrgenommen werden, wie Unternehmen und Politik Feedback bekommen können und wie die Wirkung verbessert werden kann. Dabei können wiederum KI-Tools helfen, indem sie die komplizierten Texte vereinfacht zusammenfassen."

Prof. Sean Ennis, Direktor des Centre for Competition Policy an der UEA, ergänzt: "KI verändert die Art und Weise, wie Informationen erzeugt und verarbeitet werden. Im Finanzwesen ist sie zu einem integralen Bestandteil der Entscheidungsfindung geworden, zum Beispiel bei der Kreditwürdigkeitsprüfung, bei automatisierter Geldanlage oder beim Handel per Algorithmus. Auch bei der Einhaltung von Vorschriften, der Betrugserkennung und der Sicherheit spielt KI eine wichtige Rolle. Wir werden sowohl die Chancen als auch die Risiken von KI in solchen Anwendungen untersuchen."

Wertlos werden könnten die europäischen Bestrebungen, sollten sich Technologien durchsetzen, die in Staaten mit anderen ethischen Maßstäben entwickelt werden. Deshalb wird das Forschungsteam ein Verfahren erarbeiten, mit dem die KI-Forschung und -Entwicklung in autoritären Staaten analysiert und spezifische Gefahren für Europa quantifiziert werden können.

Weitere Informationen und Links

• Das Projekt AI4POL wird vom Programm "Horizon Europe" der EU gefördert.
• An der TUM sind die Professuren für Responsible Data Science, für Politische Philosophie und Theorie, für Law and Regulation of the Digital Transformation, für Law, Science and Technology und für Public Policy, Governance and Innovative Technology sowie der TUM Think Tank am Projekt beteiligt.
• Der TUM Think Tank bringt Wissenschaft, Zivilgesellschaft und Politik zusammen, um gemeinsam Lösungsvorschläge und Instrumente zu drängenden Problemen zu entwickeln. Vielfältig zusammengesetzte Gruppen erarbeiten beispielsweise, wie Künstliche Intelligenz verantwortungsbewusst eingesetzt werden kann, wie Städte mit digitalen Mitteln nachhaltiger werden können oder wie sich die Gesellschaft auf das Zeitalter der Quantentechnologien vorbereiten kann.

Technische Universität München

Corporate Communications Center

• Klaus Becker
• klaus.beckerspam prevention@tum.de
• pressespam prevention@tum.de
• Teamwebsite