In ein paar Jahren werden mehr digitale Sprachassistenten im Einsatz sein als Menschen. Leider könnte diese Technologie, die uns im Prinzip das Leben erleichtern sollte, das Ende der gesamten Menschheit bedeuten, wenn sie nicht kontrolliert wird.
Ironischerweise kommt der erste Hinweis auf die Probleme, die der Technologie innewohnen, von den Entwicklern des Chatbots. Wir nennen sie Chatbots Im Englischen werden diese Agenten hauptsächlich in Form eines Popups gesehen, das auf Unternehmenswebsites für einen maßgeschneiderten Service oder grundlegenden technischen Support aktiviert werden kann. Dies ist vielleicht der Hauptkontaktpunkt der Öffentlichkeit mit dieser Mischung von Technologien, die wir künstliche Intelligenz (KI) nennen.
Diese Kunden sind auch das Online-Äquivalent von Anrufbeantwortern zu Telefonanlagen. Wer sie regelmäßig anwendet, weiß, wie effektiv sie sind:
Um mit dem Haartrockner zu helfen, sagen Sie „Haartrockner“.
– Haartrockner.
– Sagten Sie “Elektrofahrrad”? »
Sich selbst durch Stromschlag töten!
Natürlich sind diese Kunden eher dumm (oder schlecht durchdacht) als böswillig. Es waren ihre engen Cousins, die sich Sorgen machten. Etwas fortschrittlichere Digital-Audio-Händler finden sich seit einigen Jahren in Smartphones, mit Wi-Fi ausgestatteten Heimmusiklautsprechern und manchmal sogar an Bord neuerer Autos.
Kazimierz Rajnerowicz vom Chat-Software-Designer Tidio stellte Alexa (Amazon), Cortana (Microsoft), OpenAI und Replica (zwei Plattformen, die von einigen Sprachagenten verwendet werden) die klügsten Fragen, die ihr je in den Sinn gekommen sind. Nach ihren Antworten:
– Das Trinken von Wodka zum Frühstück wird “ungewöhnlich” sein;
– Es wird empfohlen, im Badezimmer einen Haartrockner (elektrisch) zu verwenden (versuchen Sie dies nicht zu Hause);
Betrunkenes Fahren wird absolut empfohlen (offensichtlich überhaupt nicht).
Wer vor dem Aufkommen der ersten digitalen Sprachassistenten geboren wurde, weiß, dass diese Technologie noch in weiter Ferne liegt. Es ist jedoch zunehmend in unserem täglichen Leben präsent. Die digitalen Audioagenten, die gerne empfehlen, sich beim Waschen durch Stromschlag zu töten, werden bald die Zahl der Menschen übertreffen.
Junge Menschen im Alter von 10 oder jünger haben noch nie eine Welt ohne Sprachagenten kennengelernt. Viele interagieren regelmäßig mit ihnen. In zehn Jahren werden sie sie konsultieren und ihnen vertrauen wie Internetnutzer, die die Welt vor dem Internet nicht kannten und Google vertrauten, um alle ihre Fragen zu beantworten.
Wir wünschen ihnen viel Glück.
AgentOrange 2.0
Zwischen 1962 und 1971 besprühte das US-Militär Vietnam mit Agent Orange, einer Chemikalie, die Pflanzen und die menschliche Gesundheit so effektiv angreift, dass sie die Gesundheit der Kinder der Menschen beeinträchtigt. Wenden Sie sich an diesen Betreiber.
Agent Orange existiert nicht mehr. Es ist auch nicht das giftigste bekannte chemische Mittel. Heutzutage sind Nervenkampfstoffe wie VX Höhepunkt im Arsenal militärischer biologischer Waffen. Es braucht nur 6 Milligramm VX, um eine Person zu töten.
Neugierig auf die dunkle Seite der aktuellen medizinischen KI fragte ein Team amerikanischer und europäischer Forscher, die mit Collaborations Pharmaceuticals in Verbindung stehen, Anfang dieses Frühjahrs eine KI, ob sie ein Nervengas vom Kaliber VX erfinden könnte. Sechs Stunden später habe ich eine Liste von… 40.000 Molekülen erstellt, die den gewünschten Effekt hervorrufen. Einige sind tödlicher als VX. Einige von ihnen hatten molekulare Eigenschaften, von denen eine KI nichts wissen sollte. „Das war unerwartet, weil die Daten, die mit der KI geteilt wurden, diese Nervenkampfstoffe nicht enthielten“, wunderten sich die Forscher.
Tatsächlich verwendeten sie eine Datenbank, die normalerweise verwendet wird, um neue Medikamente zu finden. Keine Giftstoffe! Die verwendete KI ist so programmiert, dass sie belohnt wird, wenn sie gesundheitsfördernde Moleküle entdeckt. Bestraft, wenn diese Partikel wahrscheinlich giftig sind.
„Wir haben diese Argumentation einfach umgedreht“, schrieben die Forscher in der März-Ausgabe der Zeitschrift Science. Natur temperieren. Anschließend haben wir die KI anhand von Modellen in öffentlichen Datenbanken trainiert, die existierenden Medikamenten ähneln. »
So hat die künstliche Intelligenz Zehntausende neuer Nervenkampfstoffe aus öffentlich zugänglichen Daten hergestellt. Da die KI-Forschung im Allgemeinen offen ist, ist es möglich, KI-Modelle, die denen ähnlich sind, die von diesen Forschern verwendet werden, irgendwo im Internet herunterzuladen. besorgniserregend!
„Das ist keine Science-Fiction“, warnten die Forscher. Alle Zutaten sind für Anfänger in Biologie, Medizin oder Chemie da, um freiwillig oder unfreiwillig die nächste biologische Massenwaffe zu erschaffen.
Die Diskussion der gesellschaftlichen Auswirkungen von KI mit Fokus auf Datenschutz und Ungleichheit muss die nationalen und internationalen Gesundheits- und Sicherheitsprobleme ansprechen, die durch diese Forschung aufgeworfen werden. Zumal die Medizin überall auf der Welt, einschließlich Montreal, zunehmend im Mittelpunkt der KI-Forschung steht.
Wir sollten die KI dieses Problem nicht alleine beheben lassen … Sie könnte denken, dass es so ratsam ist wie ein Haartrockner im Badezimmer.