„Ein moralischer Kompass, der die Entwicklung der KI zu moralisch und sozial wünschenswerten Zielen lenken wird“ ist das Ziel der Erklärung von Montreal, einem Dokument, das diese Woche in der Stadt von Forschern und Akademikern aus unterschiedlichen Bereichen, von künstlicher Intelligenz bis hin zur Philosophie, vorgestellt wurde. , einschließlich öffentlicher Gesundheit und Kriminologie.
Nach langen Überlegungen und öffentlichen Konsultationen vor Hunderten von Menschen in Quebec und im Ausland schlugen die für die Erstellung des Dokuments verantwortlichen Ausschüsse 10 Schlüsselprinzipien für die Verwaltung künstlicher Intelligenz vor.
Diese Prinzipien stellen beispielsweise sicher, dass Systeme der künstlichen Intelligenz (AIS) es ermöglichen, die Lebens-, Gesundheits- und Arbeitsbedingungen der Menschen zu verbessern (Wohlfahrtsprinzip) und dass sie die Vertraulichkeit von Daten und die Anonymität von Personalakten gewährleisten (Prinzip der Schutz der Intimität und des Privatlebens) und sollte nicht dazu führen, die Gesellschaft zu vereinen, indem Verhaltensweisen und Meinungen vereinheitlicht werden (Prinzip der inklusiven Vielfalt).
Diese Prinzipien werden auch von Empfehlungen begleitet, mit dem Ziel, politische Entscheidungsträger bei der Entwicklung moderner öffentlicher Politiken zu unterstützen, die an KI angepasst sind.
Die mit KI verbundenen Risiken sind erheblich, aber die Erklärung von Montreal ist ein durchdachter und umfassender Leitfaden, der klar die Richtlinien erläutert, die Universitäten, Unternehmen und Regierungen aufstellen müssen, um stattdessen einen positiven Einfluss auf die Gesellschaft zu haben.
Die Autoren der Anzeige ließen sich jedoch nicht täuschen. “Ich bin sehr stolz auf das, was wir getan haben, aber es ist bei weitem nicht genug. Wir können viele großartige Worte sagen, aber wenn sie nicht in Taten umgesetzt werden, werden sie nicht viel helfen”, warnte Yoshua Bengyu voll und ganz Professor am Department of Computer Science and Operational Research (DIRO) an der Universität von Montreal. Und Mitglied des Lenkungsausschusses für Werbung während der Präsentation des Dokuments.
Hier sind fünf Herausforderungen, die angegangen werden müssen, damit Werbung mehr als eine Ansammlung von Goodwill wird.
1. Große Geschäftsleute für die Sache mobilisieren
Die Erklärung von Montreal ist nicht bindend. Vielmehr lädt es interessierte Parteien ein, es freiwillig zu unterzeichnen, ohne Garantie dafür, dass seine Grundsätze eingehalten werden.
Wie Yoshua Bengyu während der Show bemerkte: „Einige Prinzipien sind sehr radikal und erfordern das Stellen von Fragen, die die Art und Weise verändern, wie Dinge getan werden.“ Einige können sogar mit anderen Geschäftszielen in Konflikt geraten.
Im Prinzip der demokratischen Partizipation heißt es in der Erklärung beispielsweise, dass „der Code von Algorithmen, ob öffentlich oder privat, den zuständigen Behörden und relevanten Interessengruppen zum Zwecke der Überprüfung und Überwachung immer zur Verfügung stehen muss“.
Die Anzeige erfordert nicht, dass ihr Code der Öffentlichkeit zugänglich gemacht wird, aber es ist wahrscheinlich, dass die Mehrheit der Unternehmen, sowohl Silicon Valley-Giganten als auch lokale Unternehmen, zögern, ihre Algorithmen freiwillig den Behörden zu übermitteln.
Das Dokument hat eindeutig ein Interesse, auch wenn es nicht vollständig befolgt wird. Ein im September veröffentlichter Bericht von SAS, Accenture, Intel und Forbes Insights stellte beispielsweise fest, dass 63 % der Unternehmen, die KI eingeführt haben, Ethikausschüsse eingerichtet haben, um den Einsatz der Technologie zu überprüfen (eine Rate, die um 73 % gestiegen ist). Kanada.). Die Montrealer Erklärung läuft Gefahr, ein mächtiges Instrument für diese Kommissionen zu werden, unabhängig davon, ob sie abgesegnet sind oder nicht. Dafür müssen die Unternehmen aber davon überzeugt werden.
2. Begleitende Werbung mit politischem Ansatz
Die Überlegungen zur Erklärung von Montreal hoben mehrere Elemente hervor, die Regierungen an die Einführung von KI anpassen müssen.
„Der gesetzliche Rahmen geht nicht weit genug, um neue digitale Realitäten zu berücksichtigen“, sagt Marc-Antoine Dellac, Professor am Institut für Philosophie der Universität Montreal und wissenschaftlicher Leiter des Joint Building Declaration Project.
Für letztere müssen sich beispielsweise die Gesetze zu personenbezogenen Daten an die Zwecke ihrer Erhebung anpassen. Es ist wahrscheinlicher, dass Menschen ihre Daten preisgeben, um Algorithmen zur Diagnose seltener Krankheiten zu entwickeln, als politische Angriffe wie Cambridge Analytica, im Zentrum des Facebook-Nutzerdatenskandals.
Die Schaffung eines „Datenministeriums“, eine Idee, die während der Konsultationen zur Erstellung der Erklärung von Montreal aufkam, könnte ein guter Weg sein, den Regierungsapparat zu modernisieren.
3. Das Innere der Black Box sehen
Einige der Herausforderungen der Erklärung von Montreal sind auch eher technischer Natur.
Die Logik hinter Entscheidungen, die beispielsweise von KI getroffen werden, ist nicht immer klar, selbst für diejenigen, die das System geschaffen haben. Einige SIAs, insbesondere solche, die Techniken der künstlichen Intelligenz wie Deep Learning verwenden, treffen Entscheidungen auf der Grundlage der Daten, in die sie eingespeist werden, jedoch ohne Begründung. Dieses Phänomen wird auch als „Black Box“ bezeichnet.
يعمل المجتمع حاليًا على طرق لرؤية الأشياء بشكل أكثر وضوحًا (علاوة على ذلك ، قدمت IBM بحثًا حول هذا الموضوع هذا الأسبوع في مونتريال بمناسبة المؤتمر العلمي NeurIPS 2018) ، ولكن طالما أن نماذج التعلم العميق لن تشرح بشكل أفضل ما قد يكون من الصعب الوفاء ببعض مبادئ Anzeige.
Doch für Marc-Antoine Dellac ist die Black Box nicht nur eine technische Frage. Es ist oft rhetorisch. Und er glaubt, dass dies für Unternehmen gut funktioniert. Und so verstecken sich einige sehr schnell hinter der Black Box, um sich eines ethischen Problems zu entledigen, anstatt darüber nachzudenken, welche Diskriminierung beispielsweise die Daten bewirken können, die sie zum Trainieren ihrer KI-Modelle verwenden.
4. Werbeentwicklung
Die Erklärung ist als „offenes, überprüfbares und anpassungsfähiges Leitdokument auf der Grundlage von sich entwickelndem Wissen, Technologien und Feedback zur Nutzung von KI in der Gesellschaft“ konzipiert. Angesichts des Platzes, den künstliche Intelligenz in unserem Leben einnehmen soll, wird diese ständige Aktualisierung mehr als notwendig sein.
Die gute Nachricht ist, dass das Internationale Observatorium für die gesellschaftlichen Auswirkungen künstlicher Intelligenz und digitaler Technologie, dessen Gründung am Montag bestätigt wurde, gut positioniert sein wird, um sicherzustellen, dass sich die Anzeige weiterentwickelt.
Es wäre jedoch wichtig, ihm mehr als einen jährlichen Anstrich zu verpassen, insbesondere wenn die Branche nach einigen Jahren feststellen sollte, dass der von dieser ersten Ausgabe favorisierte Ansatz nicht der richtige war und stattdessen eine restriktivere Lösung sein sollte berücksichtigt, z.
5. Bürgerbeteiligung sicherstellen
Die Öffentlichkeit spielte während der gesamten Mitgestaltung der Erklärung von Montreal eine Rolle. Allerdings sollte die Beteiligung der Menschen hier nicht aufhören.
„Die Bürger sind aufgerufen, Wachsamkeit zu zeigen“, betont Marc-Antoine Delac. Der wissenschaftliche Leiter der Werbung ist der Meinung, dass Personen, die im Bereich der künstlichen Intelligenz arbeiten, aber auch Unternehmen und Behörden, die diese Dienste nutzen, zu Whistleblowern werden sollten.
„Diejenigen, die voreingenommene oder unzuverlässige Ergebnisse bemerken, sollten sich zu Wort melden“, fügt er hinzu.
Dieses Konzept mag für viele weit entfernt erscheinen, aber mit den erwarteten Fortschritten in der künstlichen Intelligenz in den nächsten Jahren müssen sich die Menschen, die mit der Technologie in Berührung kommen, vermehren. Daher wird Ihnen jetzt empfohlen, die Erklärung von Montreal zur verantwortungsvollen Entwicklung künstlicher Intelligenz zu lesen, unabhängig davon, ob Sie in der Branche tätig sind oder nicht.