Das Finanzwesen gehört zu den Branchen, in denen künstliche Intelligenz (KI) besonders nützlich ist und in denen sie bereits etabliert ist, unter anderem bei der Berechnung von Risiken in Versicherungen und der Überwachung der Anlageperformance.
Die Autorité des Marchés Financers (AMF) ist besorgt, dass Verbraucher und Finanzinstitute von KI-Systemen profitieren, und leitete ab 2019 eine wichtige Wende ein, die im vergangenen November zur Veröffentlichung eines Berichts mit dem Titel führte Künstliche Intelligenz im Finanzwesen: Empfehlungen für einen verantwortungsvollen Einsatz.
Und im Ethics and Governance Research Laboratory des AI Algora Lab unter der Leitung von Professor Marc-Antoine Dellac vom Fachbereich Philosophie der Universität Montreal wurde der Regulierungs- und Aufsichtsbehörde des Finanzsektors von Quebec ein Mandat erteilt, darüber nachzudenken ethische Fragen der KI für Finanzmärkte und formulieren eine Reihe von Empfehlungen. Das Algora-Laborteam hat dieses Projekt in Partnerschaft mit dem Zentrum für interuniversitäre Forschung und Analyse von Organisationen (CIRANO) unter der Leitung von Nathalie de Marcelles Warren vom Polytechnikum von Montreal und dem Fin-ML-Netzwerk von Professor Manuel Morales von durchgeführt UdeM.
„Die Geldgeber des Marschs im März wollten sich mit Fachleuten zusammenschließen, um die ethischen Probleme der KI im Finanzsektor zu identifizieren, und er bezieht sich auf die Person, die eine zentrale Rolle bei der Arbeit spielte, die zur Einführung der Erklärung der Verantwortung von Montreal führte im Jahr 2018, um künstliche Intelligenz zu entwickeln. Nach den Diskussionen äußerten die Leiter des Arabischen Währungsfonds, dass sie sehr an den Prinzipien der Werbung interessiert sind und sie übernehmen und auf Finanzinstitute und Aufsichtsbehörden ausdehnen wollen.“
Schutz der Verbraucherrechte und inspirierende Best Practices
Marc-Antoine Delac
Bildnachweis: Amelie Philibert
Der Finanzsektor ist ein Bereich, in dem das Kalkül von Entscheidungsprozessen weit verbreitet ist, und viele öffentliche und private Institutionen wollen seit einigen Jahren die ethischen Grundsätze der künstlichen Intelligenz einfließen lassen.
„Allerdings sind nur wenige in der Lage, diese Prinzipien in konkrete Leitlinien für den verantwortungsvollen Einsatz von künstlicher Intelligenz, den Schutz der Rechte und Interessen der Verbraucher von Finanzprodukten und die Gewährleistung von Stabilität und fairen Märkten umzusetzen“, betont Professor Dilac.
In diesem Zusammenhang hat die AMF im vergangenen Jahr begonnen, sich Gedanken über den verantwortungsvollen Umgang mit künstlicher Intelligenz zu machen. Die Arbeit von Marc-Antoine Dilhac mit Kollegen von CIRANO und Fin-ML wurde in drei Phasen durchgeführt:
- Identifizierung und Analyse relevanter Anwendungsfälle und wichtiger ethischer Fragen;
- Beratung von Bürgern zu künstlicher Intelligenz im Finanzwesen;
- Schlagen Sie der AMF Empfehlungen für das Management künstlicher Intelligenz vor.
Der Abschlussbericht ist eine Zusammenfassung dieser verschiedenen Phasen und soll als Leitfaden für Finanzinstitute dienen, die diese ethischen Grundsätze in der Praxis anwenden möchten.
„Ich habe an dieser Übung wegen des allgemeinen Auftrags der Behörde, ihrer Rolle beim Schutz der Rechte und Interessen der Verbraucher und ihrer Fähigkeit, bewährte Verfahren anzuregen, teilgenommen“, fügt Herr Dilac hinzu. Wir müssen dem intellektuellen Ehrgeiz des Arabischen Währungsfonds Tribut zollen, indem wir uns selbst einen echten Bezugsrahmen geben, um das Nachdenken über die Regulierung des Sektors anzuregen.“
Zehn tolle Empfehlungen
Der Bericht enthält eine Reihe von 10 Empfehlungen: 3 davon sind für die AMF und 7 für die Industrie formuliert. Es basiert auf einer Bestandsaufnahme von Anwendungsfällen und einer Bewertung der Risiken und Herausforderungen einer verantwortungsvollen Implementierung von KI im Finanzwesen. Diese Empfehlungen basieren auch auf der Auslegung der Grundsätze der Erklärung im spezifischen Kontext der Aktivitäten des Finanzsektors.
Unter den Empfehlungen, die dem Arabischen Währungsfonds gewidmet sind, zielen zwei hauptsächlich darauf ab, dass die Regulierungsbehörde einen Modellrahmen für die verantwortungsvolle Nutzung von KI im Finanzwesen annimmt und mit den Interessengruppen die legitimen Quellen und Arten von Daten für die Verwendung beim Betrieb von KI-Systemen identifiziert, Unabhängig von der Frage des Datenschutzes.
„Durch das Vorschlagen von Werten und Grundsätzen wird dieser Rahmen es Finanzinstituten ermöglichen, ihre ethischen Regeln für den Einsatz künstlicher Intelligenz anzupassen und inakzeptable Praktiken zu identifizieren“, erklärt Professor Dilac.
Die Empfehlungen für die Finanzinstitute selbst zielen unter anderem darauf ab, menschliche Verantwortung für Entscheidungen von Systemen künstlicher Intelligenz zu übertragen und einfache herausfordernde Maßnahmen für Kunden zu ergreifen, die im Allgemeinen nicht über ausreichende Kompetenzen verfügen. Wissen, problematische Situationen zu erkennen. Ebenso müssen sie sicherstellen, dass ihre KI-Systeme die Fairness oder die Autonomie der Verbraucher nicht untergraben – KI kann soziale Ungleichheiten nicht nur reproduzieren, sondern sie auch verbessern, zum Beispiel repräsentiert dies die Kredithistorie einer Person.
Erklärung von Montreal: Organisationskäse ist nicht mehr zeitgemäß!
Die Verabschiedung der Erklärung von Montreal zur verantwortungsvollen Entwicklung künstlicher Intelligenz durch die AMF zeigt ihre Entschlossenheit, sich an einen konsequenten ethischen Ansatz zum Schutz der Öffentlichkeit zu halten. Für Marc-Antoine Dellac zeigt diese Geste auch die Kraft dieses Rahmens, Debatten über KI zu beleuchten und das Nachdenken über den Schutz der Rechte und Nutzungsstandards der Menschen anzuregen.
„Diese wichtige Unterschrift ist ein starkes Signal an die Finanzinstitute, dass sie diese Diskussion führen müssen, wenn sie in den Augen der Öffentlichkeit glaubwürdig sein wollen.“ Misstrauen und das ist sicherlich nicht das, was sie wollen, und in diesem Sinne ist der AMF-Ansatz ein Modell dafür, wie Werbung verwendet werden kann.“
In der Tat hat die Ankündigung in den letzten drei Jahren den Standard dafür gesetzt, wie KI-Überlegungen nicht nur hier, sondern auch im Ausland gestaltet werden.
„Wir haben eine Bewegung zur Bürgerkonsultation ins Leben gerufen, die insbesondere die kanadische Regierung und die UNESCO inspiriert hat“, schließt Marc-Antoine Delac. Und wir zeigen weiterhin, dass sich diese Erklärung nicht wirklich in Nutzungsstandards übersetzen lässt, denn die Scheu öffentlicher Organisationen ist nicht mehr angebracht: Wir können uns unter dem Strich in Sachen KI-Ethik nicht mehr zufriedengeben.