KI-Ethik und KI-induzierte psychologische Impfung, um Menschen bei Desinformation zu helfen

Was werden wir gegen die massive Flut von Desinformationen und Fehlinformationen tun?

Es wird nachweislich mit jedem Tag schlimmer und schlimmer.

Vielleicht kann uns die künstliche Intelligenz (KI) zu Hilfe kommen. Ja, das ist richtig, wir könnten die Vorteile der KI nutzen, um mit unserem unerbittlichen Tsunami von Desinformationen und Fehlinformationen fertig zu werden. Wir könnten klug sein, dies zu versuchen. Jeder mögliche Lösungsweg scheint es wert zu sein, weiterverfolgt zu werden.

Nebenbei möchte ich sofort anerkennen und anmerken, dass die KI dies zweifellos tun wird ebenfalls Sei auch ein Teil des Problems. Es steht außer Frage, dass Menschen KI leicht nutzen können, um Desinformationen und Fehlinformationen zu erzeugen. Darüber hinaus kann KI heimtückisch eingesetzt werden, um Desinformationen und Fehlinformationen als erstaunlich gültig erscheinen zu lassen und Menschen glauben zu machen, dass die präsentierten Informationen verführerisch genau und sachlich sind. Eine ausgesprochen traurige Seite dessen, was KI auf den Tisch bringt. Wir werden gegen Ende dieser Diskussion auf dieses Abwärtsrätsel zurückkommen.

Lassen Sie uns vorerst unsere Smileys aufsetzen und untersuchen, wie KI dazu beitragen kann, Desinformation und Fehlinformationen in die Knie zu zwingen. Eine wichtige Unterströmung wird sein, dass sich all dies in wesentliche Elemente der KI-Ethik einfügt. Meine Kolumnenberichterstattung über KI-Ethik und Ethische KI ist fortlaufend und umfangreich, einschließlich den Link hier und den Link hier, nur um ein paar zu nennen.

Betrachten Sie diese Eckpfeiler, mit denen KI ein besonders hilfreicher Verbündeter im Kampf gegen Desinformation und Fehlinformation sein kann:

• Stoppen Sie am Get-Go: KI kann verwendet werden, um Desinformationen und Fehlinformationen zu erkennen und zu beseitigen, bevor sie sich verbreiten
• Vorher gesehen filtern: KI kann verwendet werden, um Desinformationen und Fehlinformationen zu filtern, sodass Sie sich keine Sorgen machen müssen, sie zu sehen
• Bereiten Sie sich darauf vor, immun zu sein: KI kann verwendet werden, um Ihre Bereitschaft und Fähigkeit zu stärken, mit Desinformationen und Fehlinformationen zu kämpfen (etwas formal bekannt als eine Art psychologische Impfung).
• Andere

Der erste aufgeführte Aufzählungspunkt beinhaltet den Versuch, Desinformation und Fehlinformation zum frühestmöglichen Zeitpunkt zu stoppen, bevor der Inhalt in die Welt gelangt.

Dies ist ein höchst problematischer Ansatz. Einige würden lautstark argumentieren, dass dies ein Versuch von Big Brother sein könnte, die Meinungsfreiheit zu unterdrücken. Wie weit würde diese KI gehen können? Könnte es Menschen daran hindern, ihre Meinung frei zu äußern? Dies könnte auf unheimliche Weise zu einem rutschigen Abhang der KI werden, der schließlich zum schlimmsten Albtraum böser Ergebnisse wird, die unschuldig mit den besten Absichten begannen.

Ich bin sicher, Sie bekommen das Bild.

Der zweite Aufzählungspunkt ist etwas gemäßigter und schlägt vor, dass wir KI verwenden könnten, um Inhalte für uns zu filtern.

Möglicherweise haben Sie einen KI-Filterbot, der alle Ihre eingehenden Datenfeeds aus verschiedenen Nachrichten und anderen Quellen scannt. Die KI ist darauf zugeschnitten, alle Desinformationen oder Fehlinformationen zu erfassen, die Ihren persönlichen Kriterien entsprechen. In einem solchen Szenario handelt es sich also nicht um eine Big Brother-Zensursituation. Sie kontrollieren die KI und wie sie Ihren wahren Posteingang mit Informationen in Ihrem Namen filtert.

Hört sich ziemlich gut an.

Es gibt jedoch einige bemerkenswerte Bedenken.

Zum Beispiel sind wir in unseren Ansichten bereits stark polarisiert, und dieser Einsatz von KI könnte diese Polarisierung tiefer und dunkler machen. Stellen Sie sich vor, dass Sie mit dieser raffinierten KI, die rund um die Uhr arbeitet, niemals auch nur ein bisschen Informationen sehen müssen, die Sie als potenzielle Desinformation und Fehlinformation eingestuft haben. Ihre polarisierte Perspektive wird jetzt fast garantiert intakt bleiben. Den ganzen Tag und wann immer Sie versuchen, einen Blick auf die Informationen zu werfen, die auf Ihre Aufmerksamkeit warten, sind diese immer vollständig vorselektiert und es besteht keine Chance, einen Blick auf sogenannte Des- und Fehlinformationen zu werfen.

Ich sage, dass Desinformation und Desinformation sein können sogenannt weil es eine enorme Menge an Kontroversen darüber gibt, was tatsächlich Desinformation und Fehlinformation ausmacht. Einige Experten bestehen darauf, dass es eine absolute Grundlage gibt, um festzustellen, was Desinformation und was Fehlinformation ist. Es gibt richtig und falsch. Alles kann berechnet werden, ohne den Fehler zu machen, dass etwas entweder Desinformation oder Fehlinformation ist.

Nicht alle sehen die Dinge so eindeutig.

Der sprichwörtliche sich gegenseitig ausschließende Ein-oder-Aus-Dichotomie-Kontrast soll eine irreführende Geisteshaltung sein. Die Desinformation einer Person gilt möglicherweise nicht als Desinformation für eine andere Person. Ebenso über Fehlinformationen. Die Behauptung ist, dass Desinformation und Fehlinformation in Bezug auf Art und Ausmaß unterschiedlich sind. Der Versuch, alle Informationen endgültig dem einen oder anderen Stapel zuzuordnen, ist viel schwieriger, als Handbewegungen vermuten lassen.

Das Wesentliche ist, dass der zweite Aufzählungspunkt über die Verwendung von KI als Filtermechanismus seine Kompromisse hat. Es steht außer Frage, dass KI zunehmend für diesen Einsatz eingesetzt wird. Gleichzeitig müssen wir uns der Herausforderungen bewusst sein, die eine solche KI in den Vordergrund rücken wird. KI als Filter für Des- und Fehlinformationen ist keine Wunderwaffe oder Volltreffer.

Das bringt uns zum dritten Punkt, nämlich der Möglichkeit, Menschen mithilfe von KI besser im Umgang mit Des- und Fehlinformationen zu machen.

Ich bezweifle, dass Sie wahrscheinlich schon viel über diesen dritten Weg der Verwendung von KI in diesem Zusammenhang gehört haben. Es beginnt sich gerade herauszukristallisieren. Sie befinden sich jetzt an der Spitze von etwas, das wahrscheinlich wachsen und allmählich in Betrieb genommen werden wird. Bitte beachten Sie jedoch, dass mit zunehmender Popularität auch Kontroversen darüber, ob dies ein geeigneter Ansatz ist, sehr sichtbar werden.

Ein Teil des Problems ist, dass KI in gewisser Weise für das verwendet wird, was manche abwertend nennen würden Gedankenspiele mit Menschen spielen.

Das scheint bedrohlich.

Dies bringt uns auch in den Bereich der KI-Ethik.

All dies bezieht sich auch auf nüchtern aufkommende Bedenken hinsichtlich der heutigen KI und insbesondere des Einsatzes von Machine Learning und Deep Learning als Technologieform und deren Nutzung. Sie sehen, es gibt Verwendungen von ML/DL, die dazu neigen, dass die KI von der breiten Öffentlichkeit vermenschlicht wird, indem sie glaubt oder sich dafür entscheidet, anzunehmen, dass die ML/DL entweder eine empfindungsfähige KI ist oder ihr nahe kommt (sie ist es nicht). Darüber hinaus kann ML/DL Aspekte des Computermusterabgleichs enthalten, die unerwünscht oder völlig unangemessen oder aus ethischer oder rechtlicher Sicht illegal sind.

Es kann nützlich sein, zunächst zu klären, was ich meine, wenn ich mich auf KI insgesamt beziehe, und auch einen kurzen Überblick über Machine Learning und Deep Learning zu geben. Es herrscht große Verwirrung darüber, was künstliche Intelligenz bedeutet. Ich möchte Ihnen auch die Grundsätze der KI-Ethik vorstellen, die für den Rest dieses Diskurses besonders wichtig sein werden.

Angabe der Aufzeichnungen über KI

Stellen wir sicher, dass wir uns über die Natur der heutigen KI einig sind.

Es gibt heute keine KI, die empfindungsfähig ist.

Wir haben das nicht.

Wir wissen nicht, ob empfindungsfähige KI möglich sein wird. Niemand kann treffend vorhersagen, ob wir eine empfindungsfähige KI erreichen werden oder ob die empfindungsfähige KI irgendwie auf wundersame Weise spontan in einer Form einer rechnergestützten kognitiven Supernova entstehen wird (normalerweise als Die Singularität bezeichnet, siehe meine Berichterstattung unter den Link hier).

Machen Sie sich bewusst, dass die heutige KI nicht in der Lage ist, in irgendeiner Weise auf Augenhöhe mit dem menschlichen Denken zu „denken“. Wenn Sie mit Alexa oder Siri interagieren, scheinen die Konversationsfähigkeiten den menschlichen Fähigkeiten ähnlich zu sein, aber die Realität ist, dass sie rechnerisch ist und menschliche Kognition fehlt. Die jüngste Ära der KI hat in großem Umfang maschinelles Lernen und Deep Learning genutzt, die den rechnergestützten Musterabgleich nutzen. Dies hat zu KI-Systemen geführt, die den Anschein menschenähnlicher Neigungen erwecken. In der Zwischenzeit gibt es heute keine KI, die einen Anschein von gesundem Menschenverstand hat und auch nicht über die kognitive Verwunderung robusten menschlichen Denkens verfügt.

Ein Teil des Problems ist unsere Tendenz, Computer und insbesondere KI zu vermenschlichen. Wenn ein Computersystem oder eine KI so zu handeln scheint, wie wir es mit menschlichem Verhalten assoziieren, besteht ein fast überwältigender Drang, dem System menschliche Qualitäten zuzuschreiben. Es ist eine gewöhnliche mentale Falle, die selbst den unnachgiebigsten Skeptiker über die Chancen, ein Bewusstsein zu erlangen, ergreifen kann.

Bis zu einem gewissen Grad ist das der Grund, warum KI-Ethik und Ethische KI ein so wichtiges Thema sind.

Die Grundsätze der KI-Ethik veranlassen uns, wachsam zu bleiben. KI-Technologen können sich manchmal mit Technologie beschäftigen, insbesondere mit der Optimierung von Hightech. Sie berücksichtigen nicht unbedingt die größeren gesellschaftlichen Auswirkungen. Eine KI-Ethik-Denkweise zu haben und diese integral in die KI-Entwicklung und -Einführung zu integrieren, ist entscheidend für die Herstellung geeigneter KI, einschließlich der Bewertung, wie KI-Ethik von Unternehmen übernommen wird.

Neben der Anwendung von KI-Ethikregeln im Allgemeinen stellt sich die entsprechende Frage, ob wir Gesetze haben sollten, die verschiedene Verwendungen von KI regeln. Auf Bundes-, Landes- und lokaler Ebene werden neue Gesetze verbreitet, die den Umfang und die Art der Gestaltung von KI betreffen. Der Versuch, solche Gesetze zu entwerfen und zu erlassen, erfolgt schrittweise. Die KI-Ethik dient zumindest als wohlüberlegte Notlösung und wird mit ziemlicher Sicherheit bis zu einem gewissen Grad direkt in diese neuen Gesetze aufgenommen.

Beachten Sie, dass einige vehement argumentieren, dass wir keine neuen Gesetze brauchen, die KI abdecken, und dass unsere bestehenden Gesetze ausreichen. Sie warnen davor, dass wir, wenn wir einige dieser KI-Gesetze erlassen, die goldene Gans töten werden, indem wir gegen Fortschritte in der KI vorgehen, die immense gesellschaftliche Vorteile bieten. Siehe zum Beispiel meine Berichterstattung unter den Link hier.

In früheren Kolumnen habe ich die verschiedenen nationalen und internationalen Bemühungen zur Ausarbeitung und Verabschiedung von Gesetzen zur Regulierung von KI behandelt, siehe den Link hier, zum Beispiel. Ich habe auch die verschiedenen Prinzipien und Richtlinien der KI-Ethik behandelt, die verschiedene Nationen identifiziert und angenommen haben, darunter zum Beispiel die Bemühungen der Vereinten Nationen wie die UNESCO-Reihe der KI-Ethik, die fast 200 Länder angenommen haben, siehe den Link hier.

Hier ist eine hilfreiche Keystone-Liste von ethischen KI-Kriterien oder Merkmalen in Bezug auf KI-Systeme, die ich zuvor eingehend untersucht habe:

• Transparenz
• Gerechtigkeit & Fairness
• Nicht-Maleficence
• Verantwortung
• Datenschutz
• Wohltätigkeit
• Freiheit & Autonomie
• Vertrauen
• Nachhaltigkeit
• Würde
• Solidarität

Diese Prinzipien der KI-Ethik sollten ernsthaft von KI-Entwicklern angewendet werden, zusammen mit denen, die KI-Entwicklungsbemühungen verwalten, und sogar von denen, die letztendlich KI-Systeme einsetzen und warten. Alle Beteiligten während des gesamten KI-Lebenszyklus der Entwicklung und Nutzung werden im Rahmen der Einhaltung der etablierten Normen der ethischen KI berücksichtigt. Dies ist ein wichtiges Highlight, da die übliche Annahme ist, dass „nur Programmierer“ oder diejenigen, die die KI programmieren, den Grundsätzen der KI-Ethik unterliegen. Wie bereits hier betont, braucht es ein Dorf, um KI zu entwickeln und einzusetzen, und dafür muss das gesamte Dorf mit den KI-Ethikvorschriften vertraut sein und sich an diese halten.

Lassen Sie uns die Dinge auf dem Boden der Tatsachen halten und uns auf die heutige nicht-empfindungsfähige KI konzentrieren.

ML/DL ist eine Form des computergestützten Musterabgleichs. Der übliche Ansatz besteht darin, dass Sie Daten zu einer Entscheidungsaufgabe zusammenstellen. Sie speisen die Daten in die ML/DL-Computermodelle ein. Diese Modelle versuchen, mathematische Muster zu finden. Nachdem solche Muster gefunden wurden, verwendet das KI-System diese Muster, wenn es auf neue Daten stößt. Bei der Präsentation neuer Daten werden die auf den „alten“ oder historischen Daten basierenden Muster angewendet, um eine aktuelle Entscheidung zu treffen.

Ich denke, Sie können sich vorstellen, wohin das führt. Wenn Menschen, die die nach dem Muster getroffenen Entscheidungen getroffen haben, ungünstige Vorurteile eingebaut haben, stehen die Chancen gut, dass die Daten dies auf subtile, aber signifikante Weise widerspiegeln. Machine Learning oder Deep Learning Computational Pattern Matching versucht einfach, die Daten entsprechend mathematisch nachzuahmen. Es gibt keinen Anschein von gesundem Menschenverstand oder anderen empfindungsfähigen Aspekten der von KI erstellten Modellierung per se.

Darüber hinaus erkennen die KI-Entwickler möglicherweise auch nicht, was vor sich geht. Die obskure Mathematik in der ML/DL könnte es schwierig machen, die jetzt verborgenen Vorurteile aufzuspüren. Sie würden zu Recht hoffen und erwarten, dass die KI-Entwickler auf die potenziell vergrabenen Vorurteile testen würden, obwohl dies schwieriger ist, als es scheinen mag. Es besteht eine solide Chance, dass selbst bei relativ umfangreichen Tests immer noch Verzerrungen in den Mustererkennungsmodellen der ML/DL eingebettet sind.

Sie könnten das berühmte oder berüchtigte Sprichwort von Garbage-in-Garbage-out verwenden. Die Sache ist die, dass dies eher Vorurteilen ähnelt, die heimtückisch als Vorurteile in die KI einfließen. Die algorithmische Entscheidungsfindung (ADM) der KI wird zwangsläufig mit Ungerechtigkeiten beladen.

Nicht gut.

Ich glaube, dass ich jetzt die Voraussetzungen dafür geschaffen habe, die Rolle der KI als Mittel zur psychologischen Impfung im Zusammenhang mit dem Umgang mit Des- und Fehlinformationen ausreichend zu diskutieren.

In die Köpfe der Menschen eindringen

Beginnen wir mit den Grundlagen oder Grundlagen, die Fehlinformationen und Desinformationen zugrunde liegen.

Im Allgemeinen bezieht sich Fehlinformation auf falsche oder irreführende Informationen.

Desinformation ist ungefähr dasselbe, besteht jedoch aus dem zusätzlichen Element von Absicht. Normalerweise interpretieren wir Informationen als Desinformationen, wenn es sich um Informationen handelt beabsichtigt falsch informieren.

Ich könnte Ihnen sagen, dass es derzeit 10 Uhr nachts ist, was, sagen wir mal, falsch ist, weil es wirklich Mitternacht ist. Wenn ich Ihnen 10 Uhr aus reiner Ahnung gesagt hätte und nicht versuchen wollte, zu täuschen, würden wir normalerweise sagen, dass ich Sie falsch informiert habe. Ich hatte Fehlinformationen übermittelt. Vielleicht war ich faul, oder vielleicht glaubte ich wirklich, es sei 10 Uhr. Wenn ich andererseits 10 Uhr erwähnt hätte, weil ich Sie absichtlich glauben machen wollte, es sei 10 Uhr und ich wüsste, dass es tatsächlich Mitternacht ist, könnte dies als eine Art Desinformation bezeichnet werden .

Ein bemerkenswerter Aspekt von Informationen insgesamt ist, dass wir normalerweise in der Lage sind, Informationen zu verbreiten, und daher können Informationen etwas weit verbreitet werden. Informationen können im weitesten Sinne wie Wasser fließen.

Ich sage dir, es ist 10 Uhr nachts. Sie haben jetzt diese bestimmte Information. Du könntest einer Gruppe von Leuten in der Nähe laut zurufen, dass es 10 Uhr nachts ist. Sie haben jetzt auch die gleichen Informationen. Vielleicht greifen einige dieser Leute zu ihren Handys und rufen andere Leute an, um ihnen zu sagen, dass es 10 Uhr ist. Alles in allem können Informationen verbreitet oder geteilt werden, und zwar manchmal so schnell, während es in anderen Fällen so langsam geschieht.

In gewisser Weise könnte man behaupten, dass Informationen viral werden können.

Es gibt ein geprägtes Wort oder eine Terminologie, die Sie vielleicht nicht besonders gesehen oder verwendet haben, die bei der Beschreibung dieses Phänomens der viralen Verbreitung von Informationen hilft, das Wort ist infodemisch. Dieses Wort ist eine Mischung aus Informationen und einer Epidemie. Im Großen und Ganzen ist eine Infodemie mit Umständen verbunden, die die Verbreitung von Fehlinformationen oder Desinformationen beinhalten. Die Vorstellung ist, dass falsche oder irreführende Informationen sich unerwünschterweise viral verbreiten können, ähnlich wie die unerwünschte Ausbreitung von Krankheiten oder Krankheiten.

Im Beispiel um 10 Uhr nachts war diese scheinbare Tatsache eine Information, die an den nahen Personenkreis weitergegeben wurde. Sie wiederum verbreiten die Tatsache an andere. Wenn die 10-Uhr-Uhr eine Fälschung war, dann wurde dieser spezielle Fall von Desinformation oder Fehlinformation auf viele andere übertragen. Sie wissen möglicherweise nicht, dass es sich bei den Informationen um Fehlinformationen oder möglicherweise Desinformationen handelt.

Ich vertraue darauf, dass all diese Definitionen und Grundlagen vernünftig erscheinen und Sie bis jetzt an Bord sind.

Super, weiter gehts.

Ich habe Sie etwas heimlich in etwas geführt, das viel Faszination und auch Angst auslöst. Das Wesentliche ist, dass es wohl vernünftige Parallelen zwischen dem, was Krankheiten viral machen, und dem, was Fehlinformationen oder Desinformationen viral machen, gibt.

Nicht jeder stimmt mit diesen behaupteten Parallelen überein. Nichtsdestotrotz sind sie interessant und sehenswert.

Lassen Sie mich näher darauf eingehen.

Sehen Sie, wir können versuchen, die praktische Analogie der Bezugnahme auf durch Menschen übertragene Krankheiten und Krankheiten, die sich ausbreiten, zu nutzen, um eine ähnliche Möglichkeit mit der Verbreitung von Fehlinformationen und Desinformationen zu vergleichen. Um zu versuchen, die Ausbreitung von Krankheiten zu stoppen, können wir darauf abzielen, eine sich abzeichnende Krankheitsquelle frühzeitig zu erkennen und einzudämmen, um die potenzielle Ausbreitung der Krankheit anzuzeigen. Ein weiterer Ansatz, um mit einer sich ausbreitenden Krankheit umzugehen, wäre, sich davor zu schützen, sie durch das umsichtige Tragen einer Maske oder Schutzausrüstung zu bekommen. Ein dritter Ansatz könnte darin bestehen, Impfungen einzunehmen, um zu versuchen, Ihre Immunität im Zusammenhang mit der Krankheit aufzubauen.

Jetzt schließt sich der Kreis, da dieselben Ansätze zur Bewältigung von Krankheiten ausdrücklich mit dem Umgang mit Fehlinformationen und Desinformationen verglichen werden können. Ich habe bereits erwähnt, dass ähnliche Bemühungen im Gange sind, künstliche Intelligenz einzusetzen, um zu versuchen, mit Desinformationen und Fehlinformationen fertig zu werden, insbesondere (wie bereits erwähnt):

• Stoppen Sie am Get-Go: KI kann verwendet werden, um Desinformationen und Fehlinformationen zu erkennen und zu beseitigen, bevor sie sich verbreiten
• Vorher gesehen filtern: KI kann verwendet werden, um Desinformationen und Fehlinformationen zu filtern, sodass Sie sich keine Sorgen machen müssen, sie zu sehen
• Bereiten Sie sich darauf vor, immun zu sein: KI kann verwendet werden, um Ihre Bereitschaft und Fähigkeit zu stärken, mit Desinformationen und Fehlinformationen zu kämpfen (etwas formal bekannt als eine Art psychologische Impfung).
• Andere

Der dritte Aspekt wird hierin von größtem Interesse sein.

Das ist der Deal.

Wir wissen, dass Krankheiten normalerweise zuschlagen menschlichen Körper. Mit der Analogie, wie Fehlinformationen und Desinformationen auftreten, könnten wir darauf hindeuten, dass schlechte Informationen auf die treffen menschlicher Verstand. Ja, Sie können vermutlich mit Desinformationen oder Fehlinformationen in Kontakt kommen, die Ihnen in den Sinn kommen. Die Desinformation oder Fehlinformation korrumpiert oder vergiftet möglicherweise Ihre Denkweise.

Ein menschlicher Körper kann geimpft werden, um sich auf den Kontakt mit Krankheiten vorzubereiten. Es stellt sich die große Frage, ob wir dasselbe für den menschlichen Geist tun können. Ist es möglich zu versuchen, den Verstand zu impfen, so dass Sie, wenn Ihnen Desinformation oder Fehlinformation in den Sinn kommt, dafür bereit sind und entsprechend geimpft wurden?

Ein Studienfach, bekannt als psychologische Impfung postuliert, dass der Verstand tatsächlich in dem Sinne geimpft werden kann, dass er bereit ist, mit Fehlinformationen oder Desinformationen umzugehen.

Betrachten Sie diese Beschreibung in einer kürzlich durchgeführten Forschungsstudie über psychologische Impfung und das, was manchmal als Tun bezeichnet wird vorbunken:

• „Das Entlarven von Fehlinformationen ist auch deshalb problematisch, weil das Korrigieren von Fehlinformationen ihre Auswirkungen nicht immer vollständig zunichte macht, ein Phänomen, das als anhaltender Einflusseffekt bekannt ist. Dementsprechend hat Prebunking im Gegensatz zum Debunking als Mittel zum präventiven Aufbau von Widerstandsfähigkeit gegen erwartete Exposition gegenüber Fehlinformationen an Bedeutung gewonnen. Dieser Ansatz basiert normalerweise auf der Inokulationstheorie. Die Impftheorie folgt einer medizinischen Immunisierungsanalogie und postuliert, dass es möglich ist, psychologischen Widerstand gegen unerwünschte Überzeugungsversuche aufzubauen, ähnlich wie medizinische Impfungen physiologischen Widerstand gegen Krankheitserreger aufbauen“ (Wissenschaft Fortschritte, 24. August 2022, „Psychological Inoculation Improves Resilience Against Misinformation On Social Media“ von den Co-Autoren Jon Roozenbeek, Sander van der Linden, Beth Goldberg, Steve Rathje und Stephan Lewandowsky).

Um auf mein Beispiel zurückzukommen, in dem es um 10 Uhr abends geht, nehmen Sie an, ich hätte Ihnen zuvor gesagt, dass die angegebene Zeit manchmal nicht die tatsächliche Zeit ist. Sie haben fortan eine Form der Impfung, um sich vor beanspruchten Zeiten in Acht zu nehmen. Diese Impfung hat Sie darauf vorbereitet, mit behaupteten Zeiten in Kontakt zu kommen, die Desinformation oder Fehlinformation sind.

Wenn ich Sie vor einigen Jahren davor gewarnt hätte, dass die angegebenen Zeiten nicht die tatsächlichen Zeiten sind, besteht die Möglichkeit, dass Sie nicht an diese Warnung von vor langer Zeit denken. Damit ist die frühere Impfung (sagen wir mal) abgenutzt. Meine Impfung für Sie muss möglicherweise aufgefrischt werden.

Es besteht auch die Möglichkeit, dass die Impfung nicht spezifisch genug war, um sie bei Bedarf zu verwenden. Wenn ich Sie vor Jahren vor behaupteten Zeiten im Vergleich zu tatsächlichen Zeiten gewarnt hätte, wäre das vielleicht zu weit gefasst. Die Impfung funktioniert möglicherweise nicht, wenn Ihnen etwa 10 Uhr mitgeteilt wird. In diesem Sinne hätte meine Impfung vielleicht sein sollen, dass Sie vorsichtig sein sollten, wenn eine behauptete Zeit von 10 Uhr verwendet wird. Natürlich sind die Impfungen bei Krankheiten etwas ähnlich, manchmal sehr spezifisch für bekannte Krankheiten, während es in anderen Fällen ein breites Spektrum gibt.

Eine vielzitierte Forschungsstudie aus dem Jahr 1961 über psychologische Impfung von William McGuire von der Columbia University gilt heute allgemein als Klassiker in diesem Studienbereich. Sie könnten diese Schlüsselpunkte von Interesse finden, die er damals gemacht hat:

• „Eine solche generalisierte Immunisierung könnte von einem von zwei Mechanismen herrühren. Eine Vorab-Enthüllung könnte die Person schockieren, zu erkennen, dass die „Wahrheiten“, die sie immer akzeptiert hat, tatsächlich verwundbar sind, und sie so provozieren, eine Verteidigung ihres Glaubens zu entwickeln, mit dem Ergebnis, dass sie widerstandsfähiger gegen die starken Gegenargumente ist, wenn sie kommen. Alternativ könnten die Widerlegungen, die in der Vorab-Enthüllung enthalten sind, alle nachfolgend präsentierten Gegenargumente gegen den Glauben weniger beeindruckend erscheinen lassen“ (William McGuire, „Resistance To Persuasion Conferred By Active And Passive Prior Refutation Of The Same And Alternative Counterarguments“, Journal of Abnormal and Sozialpsychologie, 1961).

Halten Sie diese Analogie von Impfungen und Immunisierung für einen nützlichen und treffenden Vergleich mit dem Bereich der Fehlinformation und Desinformation?

Manche tun es, manche nicht.

Für die Zwecke dieser Diskussion akzeptieren Sie bitte, dass die Prämisse vernünftig und angemessen ist.

Wie können wir versuchen, den Verstand der Menschen zu impfen oder zu immunisieren?

Wir könnten Menschen dazu bringen, Bücher zu lesen, die ihren Verstand erleuchten könnten. Wir könnten ihnen davon erzählen oder sie Videos ansehen oder Tonbänder anhören lassen. Usw.

Und wir könnten KI verwenden, um dasselbe zu tun.

Ein KI-System könnte als Ihr Impfmittel entwickelt werden. Wann immer Sie anfangen, online zu gehen, z. B. im Internet, kann eine KI-basierte App Sie auf Ihre Online-Reise vorbereiten. Die KI könnte Sie mit einer winzigen Menge an Desinformation füttern, die als solche gekennzeichnet ist, sodass Sie erkennen können, dass Sie etwas sehen werden, das absichtlich falsch ist.

Wenn Sie dieser KI-gestützten Desinformation ausgesetzt sind, wird Ihr Verstand jetzt darauf vorbereitet, mit Desinformationen oder Fehlinformationen fertig zu werden, denen Sie im Internet in freier Wildbahn begegnen könnten. Ihr Geist wurde vorbereitet. Voila, Sie sehen einen Blog im Internet, der die behauptete Tatsache anbietet, dass außerirdische Kreaturen vom Mars bereits hier auf der Erde sind und sich vor aller Augen verstecken, aber diese scheinbare Desinformation oder Fehlinformation wird von Ihrem Verstand aufgrund der vorherigen Impfung leicht zurückgewiesen (na ja, andererseits ist es vielleicht wahr und sie sind wirklich hier!).

Wie auch immer, ich hoffe, dass Sie jetzt erkennen können, wie KI helfen könnte, Menschen in Bezug auf Desinformation oder Fehlinformation zu impfen oder zu immunisieren.

Es werden verschiedene KI-Apps entwickelt, die als Desinformations- oder Fehlinformations-Inokulatoren fungieren. Die KI könnte versuchen, eine Impfung bereitzustellen, die breit angelegt ist und insgesamt den Anschein einer Immunisierung vermittelt. AI könnte auch für spezifischere Formen der Impfung entwickelt werden. Darüber hinaus kann die KI auf einer personalisierten Basis arbeiten, die auf Ihre speziellen Bedürfnisse oder Interessen abgestimmt ist. Fortgeschrittene KI in diesem Bereich wird auch versuchen, Ihr Toleranzniveau, Ihre mentale Absorptionsrate, Ihre Speicherkapazität und andere Faktoren zu bestimmen, wenn Sie sozusagen sogenannte Immunisierungsschüsse erstellen und präsentieren.

Scheint recht praktisch zu sein.

AI als Dangerous Mind Games Player

Auf diese Weise eingesetzte KI scheint auf den ersten Blick ziemlich praktisch zu sein (hey, das habe ich vor einer Sekunde erwähnt).

Es gibt eine Menge potenzieller Nachteile und Probleme, die besorgniserregend und vielleicht beängstigend sind.

In meinen Kolumnen diskutiere ich oft die Dual-Use-Fähigkeiten von KI, siehe zum Beispiel den Link hier. KI kann einen entscheidenden Beitrag für die Menschheit leisten. Leider ist die KI auch mit vielen Gefahren und unglücklichen Fallstricken belastet.

Betrachten wir für den Fall von KI als Inkulkator diese demonstrativen Fragen im Zusammenhang mit der KI-Ethik:

• Nebenwirkungen beim Menschen
• Nicht reagierende Reaktionen von Menschen
• KI-Fehlausrichtung
• KI-Unterzielung
• Cyber-Verletzung der KI
• Andere

Wir werden diese Bedenken kurz untersuchen.

Nebenwirkungen beim Menschen

Nehmen wir an, dass ein Mensch, der diese Art von KI-basierter Impfung erhält, eine nachteilige Reaktion hat oder eine nachteilige Wirkung hervorruft.

Die Person könnte die Impfung falsch interpretieren und plötzlich für alle Informationen, die sie erhält, unempfänglich werden. Sie blockieren alle Informationen. Die KI hat sie irgendwie dazu veranlasst, das Baby mit dem Bade auszuschütten (ein altes Sprichwort, das es vielleicht wert ist, in den Ruhestand zu gehen). Anstatt nur zu versuchen, mit Desinformationen und Fehlinformationen fertig zu werden, hat die Person reagiert, indem sie entschieden hat, dass alle Informationen immer falsch sind.

Ich glaube nicht, dass wir wollen, dass die Leute so über Bord gehen.

Es gibt eine Vielzahl von Nebenwirkungen, die KI fördern könnte. Dies liegt teilweise daran, wie die KI versucht hat, die Impfung durchzuführen, aber wir müssen auch einen Teil des Problems dem Menschen zuschreiben, der die Impfung erhalten hat. Sie könnten auf wilde oder bizarre Weise reagiert haben, als andere, die dieselbe KI-Impfung erhielten, dies nicht taten.

Auch hier können Sie dies mit der Analogie von Impfungen gegen Krankheiten vergleichen.

Kurz gesagt, es wird wichtig sein, dass solche KI-Bemühungen auf verantwortungsvolle Weise durchgeführt werden, um nachteilige Auswirkungen zu minimieren. Es sollte auch einen Folgeaspekt der KI geben, um zu versuchen und festzustellen, ob eine Nebenwirkung aufgetreten ist. Wenn eine Nebenwirkung festgestellt wird, sollte die KI so konzipiert sein, dass sie versucht, der Person bei ihrer Nebenwirkung zu helfen und zu versuchen, die Reaktion zu überwinden oder zu lindern.

Nicht reagierende Reaktionen von Menschen

Eine andere Möglichkeit ist, dass die AI-gefütterte Impfung keine Auswirkungen auf die empfangende Person hat.

Eine Person erhält eine KI-basierte Impfung in Bezug auf Fehlinformationen oder Desinformationen. Während die meisten Menschen es „bekommen“ und immunisiert werden, gibt es zwangsläufig Menschen, die überhaupt nicht reagieren. Sie lernen nichts von der Impfung. Sie reagieren nicht auf den Versuch der KI, sie gegen alle oder bestimmte Arten von Fehlinformationen oder Desinformationen zu immunisieren.

Auch dies ist vergleichbar mit Impfungen gegen Krankheiten.

KI sollte entwickelt werden, um mit einem solchen Umstand fertig zu werden.

KI-Fehlausrichtung

Stellen Sie sich vor, eine KI hofft, Menschen bezüglich eines bestimmten Themas zu immunisieren, das wir als Thema X bezeichnen, aber es stellt sich heraus, dass stattdessen Thema Y behandelt wird. Die KI zielt falsch.

Dies ist ein zweifaches Problem. Erstens ist das Thema X als vermuteter und erhoffter Zweck des KI-Inokulators dann nicht behandelt worden. Zweitens wird das Thema Y behandelt, aber wir wollten vielleicht nicht, dass Menschen zu diesem Thema geimpft werden.

Oops.

Fragen gibt es zuhauf. Hätte man das verhindern können? Wenn es passiert, können wir das Thema Y-Immunisierung rückgängig machen? Können wir versuchen, das Thema X-Impfung abzudecken, oder wird die Person aufgrund der ursprünglichen Fehlausrichtung durch die KI weniger empfänglich oder nicht empfänglich sein?

Viele problematische Bedenken tauchen auf.

KI-Unterzielung

Eine KI liefert eine Impfung zum Thema Z. Die Personen, die die Impfung erhalten, scheinen eine minimale oder fast vernachlässigbare Reaktion zu haben. Die Impfung reichte nicht aus, um zu greifen.

Sie könnten versucht sein, schnell zu behaupten, dass dies leicht zu lösen ist. Alles, was Sie tun müssen, ist die Impfung zu wiederholen. Vielleicht ja vielleicht nein.

Die KI-Impfung kann von so begrenztem Wert sein, dass das Ergebnis immer noch ein marginales Ergebnis ist, egal ob Menschen es hundertmal erleben. Möglicherweise müssen Sie die Impfung verstärken, anstatt sie einfach zu wiederholen.

Stellen Sie sich in der Zwischenzeit vor, dass versucht wird, die KI-gespeiste Impfung zu verstärken, aber dies geht über Bord. Die geboostete Version verursacht Hyperreaktionen. Huch, wir sind vom Schlechten zum Schlimmeren gekommen.

Cyber-Verletzung der KI

Stellen Sie sich vor, dass KI in großem Umfang eingesetzt wird, um Menschen dabei zu helfen, sich gegen Desinformationen und Fehlinformationen zu impfen.

Bei den Menschen setzt sich ein allgemeines Vertrauen durch. Sie wissen und erwarten, dass die KI ihnen Schnipsel präsentieren wird, die ihnen die Augen öffnen werden für das, was als Desinformation und Fehlinformation bekannt ist.

Alles ist schön und gut, so scheint es.

Ein Übeltäter ist irgendwie in der Lage, der KI einen Cyber-Bruch zuzufügen. Sie zwingen der KI heimlich eine gewünschte Desinformation auf, von der sie wollen, dass die Leute denken, dass es keine Desinformation ist. Die KI ist so eingerichtet, dass die tatsächliche Desinformation als wahre Information erscheint. Außerdem wird die wahre Information als Desinformation dargestellt.

Die Leute sind völlig snookered. Sie werden von KI desinformiert. Darüber hinaus sind sie, weil sie von der KI abhängig geworden sind und darauf vertrauen, dass die KI das Richtige tut, auf diese verletzte KI hereingefallen. Ohne zu zögern.

Angesichts der Tatsache, wie leicht sich Desinformation weiter verbreiten kann, könnte es den Übeltätern gefallen, dass die Existenz dieser Art von KI ihr einfachster und schnellster Weg ist, ihre heimtückischen Lügen um die Welt zu bringen. Ironischerweise natürlich, nachdem sie den KI-Inokulator genutzt haben, um die Krankheit im Wesentlichen zu verbreiten.

Fazit

Sollte die KI Gedankenspiele mit uns spielen?

Könnte KI zur Desinformation und Impfung mit Fehlinformationen ein bedrohliches Trojanisches Pferd sein?

Sie können einen substantiellen Grund dafür vorbringen, sich über einen solchen Albtraum Sorgen zu machen.

Andere spotten über eine solche Möglichkeit. Die Menschen sind schlau genug, um zu wissen, wenn die KI versucht, sie auszutricksen. Die Leute werden nicht auf ein solches Dribbeln hereinfallen. Nur Idioten würden sich von einer solchen KI in die Irre führen lassen. Das sind die üblichen Erwiderungen und Gegenargumente.

Da ich den Menschen und die menschliche Natur nicht weniger als voll und ganz bewundern möchte, möchte ich lediglich andeuten, dass es genügend Anzeichen dafür gibt, dass Menschen auf KI hereinfallen könnten, die sie in die Irre führt.

Es gibt ein noch größeres Problem, das vielleicht über all dem auftaucht.

Wer macht die KI und wie entscheidet die KI algorithmisch, was als Desinformation und Fehlinformation gilt?

Heute findet auf der ganzen Welt ein ganzes Feuergefecht darüber statt, was genau Desinformation und Fehlinformation ausmacht. Einige behaupten, dass Tatsachen Tatsachen sind, daher kann es niemals Verwirrung darüber geben, was richtige Informationen und unangemessene Informationen sind. Der Teufel steckt jedoch manchmal im Detail, das ist verdammt sicher.

Eine letzte Bemerkung vorerst. Abraham Lincoln hat den berühmten Satz gesagt: „Man kann alle Menschen zeitweise und einige Menschen die ganze Zeit täuschen, aber man kann nicht alle Menschen die ganze Zeit täuschen.“

Wird KI, die dazu dient, die Menschheit gegen Desinformation und Fehlinformation zu impfen, ein wichtiges Instrument sein, um sicherzustellen, dass nicht alle Menschen die ganze Zeit getäuscht werden können? Oder könnte es verwendet werden, um mehr Leute öfter zu täuschen?

Die Zeit wird zeigen.

Und das ist ganz sicher keine Des- oder Fehlinformation.