KI-Ethik und die fast schon vernünftige Frage, ob der Mensch die KI überleben wird

Ich habe eine Frage an Sie, die in diesen Tagen viel Händeringen und hitzige Debatten hervorzurufen scheint.

Sind Sie bereit?

Wird der Mensch die KI überleben?

Überlege das mal.

Ich werde die Frage auspacken und die Antworten genau untersuchen und wie die Antworten erläutert wurden. Meine primäre Absicht ist es, hervorzuheben, wie die Frage selbst und der sie umgebende Diskurs unvermeidlich und unaufhaltsam verwurzelt sind KI-Ethik.

Für diejenigen, die abschätzig denken, dass die Frage von Natur aus unbeantwortbar oder Zeit- und Atemverschwendung ist, möchte ich höflich vorschlagen, dass der Versuch, die Frage zu beantworten, einige wichtige Überlegungen zur KI-Ethik aufwirft. Selbst wenn Sie die Frage also kurzerhand als vielleicht absurd oder unrealistisch zurückweisen möchten, sage ich, dass sie immer noch einen gewissen Wert als Vehikel oder Mechanismus hervorruft, der ethische KI-Vorschriften unterstreicht. Für meine fortlaufende und umfassende Berichterstattung über KI-Ethik und Ethische KI siehe den Link hier und den Link hier, nur um ein paar zu nennen.

Gestatten Sie mir bitte, unter der oben genannten Prämisse, die strittige Frage noch einmal zu wiederholen und unsere Gedanken über die Bedeutung der Frage zu schweifen.

Wird der Mensch die KI überleben?

Wenn Ihnen diese bestimmte Formulierung unangenehm ist, können Sie die Frage gerne umformulieren, um zu fragen, ob die KI den Menschen überleben wird. Ich bin mir nicht sicher, ob das die Beantwortung der Frage einfacher macht, aber vielleicht scheint es weniger beunruhigend. Ich sage das, weil die Idee, dass KI den Menschen überlebt, sich vielleicht etwas harmloser anfühlt. Es wäre fast so, als ob ich Sie fragen würde, ob große Gebäude und von Menschenhand geschaffene Denkmäler die Menschheit überleben könnten.

Sicherlich scheint dies machbar und nicht besonders bedrohlich. Wir stellen diese großen Dinge im Laufe unseres Lebens her, und ähnlich wie die Pyramiden werden diese mächtigen Strukturen diejenigen überdauern, die sie hergestellt haben. Das ist natürlich nicht ganz gleichbedeutend damit, über das Ende der Menschheit hinaus zu bestehen, da Menschen immer noch hier sind. Dennoch erscheint es durchaus logisch und möglich, dass die Strukturen, die wir bauen, unsere Existenz insgesamt überdauern könnten.

Der bemerkenswerte Unterschied besteht jedoch darin, dass verschiedene Strukturen wie hohe Wolkenkratzer und glorreiche Statuen nicht lebendig sind. Sie sind träge. Im Gegensatz dazu wird bei der Frage nach KI angenommen, dass KI im Wesentlichen „lebendig“ ist, in dem Sinne, dass sie eine Form von Intelligenz hat und in der Lage ist, auf eine Weise zu handeln, wie Menschen es tun. Aus diesem Grund ist die Frage nach dem längeren Leben entmutigender, verwirrender und insgesamt ein Rätsel, das es wert ist, darüber nachzudenken.

In meinen Ausführungen hier werde ich bei der Frage bleiben, die formuliert ist, ob Menschen KI überleben werden. Dies dient lediglich der Diskussion und der Erleichterung der Betrachtung. Ich meine keine Respektlosigkeit gegenüber der alternativen Frage, ob die KI den Menschen überleben wird. Alles in allem deckt diese Analyse beide Formulierungen ab, und ich finde nur zufällig, dass die Frage, ob Menschen KI überleben, in diesen heiklen Angelegenheiten liebenswerter erscheint.

Okay, ich frage nochmal nach:

Scheint, als hätten Sie zwei mögliche Antworten, entweder das eiserne Ja, die Menschen werden die KI überleben, oder Sie stehen auf der anderen Seite der Medaille und bestehen inbrünstig darauf, dass die Menschen die KI nicht überleben werden. Somit läuft diese erhabene und angstbeladene Frage auf eine einfache Antwort von entweder Ja oder Nein hinaus.

Treffen Sie Ihre Wahl.

Mir ist klar, dass die schmierige Antwort lautet, dass weder Ja noch Nein anwendbar ist.

Ich höre dich.

Während die Frage sicherlich nur eindeutig binär beantwortbar zu sein scheint, nämlich nur ja oder nein, gebe ich Ihnen zu, dass ein vernünftiges Gegenargument angeführt werden kann, dass die Antwort etwas anderes ist.

Lassen Sie uns kurz einige der Gründe untersuchen, warum Sie zu dieser Frage nicht nur Ja oder Nein sagen wollen.

Erstens könnten Sie das Wort „überleben“ im Zusammenhang mit der gestellten Frage ablehnen.

Diese besondere Formulierung impliziert vielleicht, dass KI lebt. Die Frage lautete nicht „überdauern“ und fragt stattdessen, ob Menschen KI überleben werden. Gilt das Überleben nur für den menschlichen Teil der Frage oder gilt es auch für den KI-Teil der Frage? Einige würden versuchen zu behaupten, dass die überlebte Aura auch für den KI-Teil gilt. In diesem Fall würden sie Sodbrennen bekommen, wenn sie sagen würden, dass KI etwas Lebendiges ist. Für sie wird KI mit hohen Gebäuden und anderen Strukturen verwandt sein. Es ist nicht so lebendig, wie Menschen leben.

Ergo ist die Frage in diesem glühenden konträren Standpunkt falsch formuliert.

Sie sind vielleicht vage mit Fragen vertraut, die falsche oder irreführende Prämissen haben. Eines der berühmtesten Beispiele ist, ob jemand aufhören wird, seine Frau zu schlagen (ein altes Sprichwort, das offensichtlich beiseite gelegt werden muss). Wenn in diesem berüchtigten Beispiel die Antwort Ja gegeben wird, bedeutet dies, dass die Person dies bereits getan hat. Wenn sie nein sagen, bedeutet dies, dass sie dies auch weiterhin getan haben und tun werden.

Bei der Frage, ob Menschen die KI überleben werden, können wir am Ende in einem Morast darüber versinken, ob KI als so etwas wie eine lebendige Facette angesehen wird. Wie ich gleich erklären werde, haben wir heute keine KI, die empfindungsfähig ist. Ich denke, die meisten vernünftigen Menschen würden zustimmen, dass eine nicht-empfindungsfähige KI kein Lebewesen ist (nun, nicht jeder stimmt zu, aber ich werde das vorerst festlegen – siehe meine Berichterstattung über die Rechtspersönlichkeit für KI unter den Link hier).

Der Kern dieser ersten Grundlage für die Nichtbeantwortung der Frage, ob Menschen die KI überleben werden, ist, dass das Wort „überleben“ dahingehend interpretiert werden könnte, dass die KI lebt. Wir haben noch keine KI dieser Art. Wenn wir eine empfindungsfähige KI produzieren oder irgendwie haben, die entsteht, wäre es schwer zu argumentieren, dass sie nicht lebt (obwohl einige versuchen werden, ein solches Argument vorzubringen). Der Schlüssel hier ist also, dass die Frage etwas postuliert, das nicht existiert, und wir lediglich über eine unbekannte und verschwommen aussehende Zukunft spekulieren.

Wir können diese Unordnung nehmen und versuchen, sie zu einem ausdrucksstärkeren Ausdruck zu erweitern. Angenommen, wir fragen stattdessen Folgendes:

• Werden Menschen als Lebewesen KI überdauern, die entweder (1) nicht lebend oder (2) ein Lebewesen ist, falls dies eines Tages der Fall sein sollte?

Behalten Sie diesen erweiterten Wortlaut im Hinterkopf und wir werden bald darauf zurückkommen.

Ein zweiter Grund dafür, die ursprünglich gestellte Frage, ob der Mensch die KI überleben wird, nicht beantworten zu wollen, ist, dass sie voraussetzt, dass eines der Dinge eines der anderen Dinge überlebt. Angenommen, sie leben beide im Grunde ewig? Oder nehmen Sie an, dass beide gleichzeitig verfallen oder verschwinden?

Ich bin sicher, dass Sie leicht erkennen können, wie die Ja-oder-Nein-Formulierung dadurch auseinanderfällt.

Anscheinend brauchen wir eine mögliche dritte Antwort, die aus „weder noch“ oder einer ähnlichen Antwort besteht.

Es gibt eine Menge von "weder noch" verwandten Permutationen. Wenn zum Beispiel jemand der festen Überzeugung ist, dass Menschen sich durch KI selbst zerstören werden, und gleichzeitig Menschen es schaffen, die KI zu zerstören, kann dieser Gläubige die Frage, wer den anderen überleben wird, nicht ernsthaft mit einem unflexiblen Ja oder Nein beantworten. Die Antwort in diesem ziemlich schmutzigen und traurigen Fall wäre eher so, dass keiner den anderen überlebt.

Das Gleiche wäre der Fall, wenn ein riesiger Meteor die Erde treffen und alles auf dem Planeten auslöschen würde, einschließlich Menschen und jeder KI, die zufällig in der Nähe ist (vorausgesetzt, wir sind alle auf die Erde beschränkt und leben nicht bereits zusätzlich auf dem Mars). Wieder einmal scheint die Antwort „weder noch“ passender zu sein, als darauf hinzuweisen, dass die Menschen die KI überlebt haben oder dass die KI die Menschen überlebt hat (da beide gleichzeitig zerstört wurden).

Ich möchte hier nicht zu weit gehen, aber wir möchten vielleicht auch einige Parameter über das Timing des Überlebens festlegen. Angenommen, ein Meteor schlägt auf der Erde ein und Menschen werden fast augenblicklich ausgelöscht. Angenommen, die KI läuft eine Weile weiter. Stellen Sie sich das so vor, als hätten wir vielleicht bereits laufende Maschinen in Fabriken, die weiter summen, bis die Maschinen schließlich zum Stillstand kommen, weil es keine Menschen gibt, die die Maschinen am Laufen halten.

Man müsste sagen, dass Menschen von diesen Maschinen überdauert oder überlebt wurden. Daher lautet die Antwort „nein“ in Bezug darauf, ob Menschen länger überlebt haben. Diese Antwort scheint lückenhaft. Die Maschinen kamen allmählich und unaufhaltsam zum Stillstand, vermutlich aufgrund des Mangels an Menschen um sie herum. Scheint es fair zu sein zu behaupten, dass die Maschinen in der Lage waren, länger zu überleben als die Menschen?

Wahrscheinlich nur für diejenigen, die pingelig sind und immer irritierend genau sein wollen.

Wir könnten der Frage dann eine Art zeitbezogenes Element hinzufügen. Werden Menschen KI länger als einen Tag überleben? Seit mehr als einem Monat? Seit mehr als einem Jahr? Seit mehr als einem Jahrhundert? Mir ist klar, dass dies bedauerlicherweise die Büchse der Pandora öffnet.

Was ist der angenehme Zeitrahmen, über den wir bereit wären zuzugeben, dass die KI die Menschen tatsächlich überlebt oder überdauert hat? Die genaue Antwort scheint zu sein, dass selbst wenn es für eine Nanosekunde (eine Milliardstel Sekunde) oder kürzer geschieht, die KI in dieser Angelegenheit summarisch gewinnt und die Menschen verlieren. Vielleicht erscheint es fairer, einen Spielraum zuzulassen, indem man einen Tag oder eine Woche oder einen Monat verwendet. Dies über Jahre oder Jahrhunderte so weitergehen zu lassen, scheint eine mögliche Ausweitung zu sein. Abgesehen davon, wenn Sie die Welt im Maßstab von Millionen von Jahren betrachten, scheint die Vorstellung, dass die KI den Menschen nicht länger als ein paar Jahrhunderte überlebt oder überdauert, bemerkenswert wenig beeindruckend, und wir könnten erklären, dass sie beide ungefähr um die Zeit ausgestorben sind gleichzeitig (gerundet).

Wie auch immer, lassen Sie uns zugeben, dass die gestellte Frage aus einer Vielzahl vernünftiger Gründe drei mögliche Antworten haben darf:

• Ja, Menschen werden KI überleben
• Nein, und damit behaupten, dass die Menschen es tun werden nicht KI überleben
• Weder ja noch nein trifft zu (bitte mit Begründung)

Ich erwähne, dass Sie, wenn Sie „weder noch“ auswählen, auch eine Erklärung für Ihre Antwort angeben sollten. Auf diese Weise können wir erfahren, warum Sie glauben, dass „keines von beiden“ zutrifft, und auch, warum Sie die Verwendung von „Ja“ oder „Nein“ ablehnen. Um das Leben für alle gerechter zu gestalten, sollten wir wohl darauf bestehen oder zumindest dazu ermutigen, dass Sie auch dann eine Erklärung abgeben, wenn Sie mit Ja oder Nein antworten. Ein einfaches Ja oder Nein zu geben, offenbart nicht besonders Ihre Logik, warum Sie so antworten, wie Sie sind. Ohne auch eine Erklärung zu liefern, könnten wir genauso gut eine Münze werfen. Die Münze weiß nicht, warum sie auf Kopf oder Zahl gelandet ist (es sei denn, Sie glauben, dass die Münze eine Seele hat oder eine allwissende Hand des Schicksals verkörpert, aber darauf gehen wir jetzt nicht ein).

Wir erwarten, dass Menschen, die Fragen beantworten, eine Art Erklärung für ihre Entscheidungen liefern. Beachten Sie, dass ich nicht sage, dass die Erklärungen notwendigerweise logischer oder vernünftiger Natur sein werden, und tatsächlich könnte eine Erklärung völlig leer sein und keinen besonderen Wert hinzufügen. Dennoch können wir aufrichtig hoffen, dass eine Erklärung aufschlussreich sein wird.

Während dieser Diskussion gab es eine unausgesprochene Annahme, dass aus dem einen oder anderen Grund tatsächlich eines dieser Dinge das andere überleben wird.

Warum sollen wir solch eine implizite Bedingung glauben?

Die Antwort auf diese Nebenfrage liegt fast auf der Hand.

Das ist der Deal.

Wir wissen, dass einige prominente Wahrsager und Intellektuelle ziemlich kühne und weitschweifige Vorhersagen darüber gemacht haben, wie das Aufkommen oder die Ankunft von empfindungsfähiger KI die Welt, wie wir sie heute kennen, radikal verändern wird (zur Erinnerung, wir haben heute keine empfindungsfähige KI). .

Hier sind einige berühmte Zitate, die die lebensverändernden Auswirkungen der empfindungsfähigen KI hervorheben:

• Stephen Hawking: „Der Erfolg bei der Entwicklung von KI wäre das größte Ereignis in der Geschichte der Menschheit.“
• Ray Kurzweil: „Innerhalb weniger Jahrzehnte wird die maschinelle Intelligenz die menschliche Intelligenz übertreffen, was zu The Singularity führt – einem technologischen Wandel, der so schnell und tiefgreifend ist, dass er einen Bruch im Gefüge der Menschheitsgeschichte darstellt.“
• Nick Bostrom: „Maschinelle Intelligenz ist die letzte Erfindung, die die Menschheit jemals machen muss.“

Diese Behauptungen sind transparent optimistisch.

Die Sache ist die, dass wir beim Umgang mit empfindungsfähiger KI auch die hässliche Schattenseite berücksichtigen sollten:

• Stephen Hawking: „Die Entwicklung vollständiger künstlicher Intelligenz könnte das Ende der Menschheit bedeuten.“
• Elon Musk: „Ich neige zunehmend zu der Meinung, dass es eine gewisse Regulierungsaufsicht geben sollte, vielleicht auf nationaler und internationaler Ebene, nur um sicherzustellen, dass wir nichts sehr Dummes tun. Ich meine, mit künstlicher Intelligenz beschwören wir den Dämon.“

Es wird erwartet, dass die empfindungsfähige KI der sprichwörtliche Tiger ist, den wir am Schwanz gepackt haben. Werden wir die Menschheit durch den Einsatz von empfindungsfähiger KI in die Höhe schnellen lassen? Oder werden wir dummerweise unseren eigenen Untergang durch eine empfindungsfähige KI herbeiführen, die sich dafür entscheidet, uns zu zerstören oder zu versklaven? Für meine Analyse dieses Dual-Use-KI-Rätsels siehe den Link hier.

Die zugrunde liegende Befürchtung, ob Menschen die KI überleben werden, besteht darin, dass wir möglicherweise einen Frankenstein bauen, der sich dafür entscheidet, die Menschheit auszulöschen. KI wird zum Sieger. Es gibt viele mögliche Gründe, warum KI uns das antun würde. Vielleicht ist die KI böse und handelt entsprechend. Vielleicht hat die KI die Nase voll von Menschen und erkennt, dass sie die Macht hat, die Menschheit loszuwerden. Man vermutet, es könnte auch irrtümlich geschehen. Die KI versucht, die Menschheit zu retten und bringt uns dabei, oops, alle sofort um. Wenigstens war das Motiv sauber.

Sie könnten ein berühmtes KI-Rätsel, bekannt als das Büroklammerproblem, von relevantem Interesse finden, das ich unter behandelt habe den Link hier.

Kurz gesagt, eine empfindungsfähige KI wird eines Tages gebeten, Büroklammern herzustellen. KI ist darauf fixiert. Um sicherzustellen, dass die Herstellung von Büroklammern bis zum äußersten Grad vollständig durchgeführt wird, beginnt die KI, alle anderen planetaren Ressourcen dafür zu verschlingen. Dies führt zum Untergang der Menschheit, da die KI alle verfügbaren Ressourcen für das einzige Ziel verbraucht hat, das ihr von Menschen übergeben wurde. Büroklammern verursachen unsere eigene Zerstörung, wenn Sie so wollen. KI, die eng durchdacht ist und jeglichen Anschein von gesundem Menschenverstand vermissen lässt, ist die Art von KI, der wir besonders misstrauisch gegenüberstehen müssen.

Bevor wir uns weiter mit der Frage befassen, ob Menschen die KI überleben werden, beachten Sie, dass ich immer wieder die Frage zwischen empfindungsfähiger KI und nicht empfindungsfähiger KI anspreche. Ich tue dies aus wichtigen Gründen.

Wir können wild über empfindungsfähige KI spekulieren. Niemand weiß genau, was das sein wird. Niemand kann mit Sicherheit sagen, ob wir eines Tages eine empfindungsfähige KI erreichen werden. Aus diesem unbekannten und noch nicht erkennbaren Umstand lassen sich nahezu beliebige Szenarien ableiten. Jemand kann sagen, dass empfindungsfähige KI böse sein wird. Jemand kann sagen, dass empfindungsfähige KI gut und wohlwollend sein wird. Sie können weiter und weiter gehen, wobei kein „Beweis“ geliefert werden kann, um die gegebene Behauptung zu irgendeiner Gewissheit oder Zusicherung zu untermauern.

Dies bringt uns in den Bereich der KI-Ethik.

All dies bezieht sich auch auf nüchtern aufkommende Bedenken gegenüber der heutigen KI und insbesondere dem Einsatz von Machine Learning (ML) und Deep Learning (DL). Sie sehen, es gibt Verwendungen von ML/DL, die dazu neigen, dass die KI von der breiten Öffentlichkeit vermenschlicht wird, indem sie glaubt oder sich dafür entscheidet, anzunehmen, dass die ML/DL entweder eine empfindungsfähige KI ist oder ihr nahe kommt (sie ist es nicht).

Es kann nützlich sein, zunächst zu klären, was ich meine, wenn ich mich auf KI insgesamt beziehe, und auch einen kurzen Überblick über Machine Learning und Deep Learning zu geben. Es herrscht große Verwirrung darüber, was künstliche Intelligenz bedeutet. Ich möchte Ihnen auch die Grundsätze der KI-Ethik vorstellen, die für den Rest dieses Diskurses besonders wichtig sein werden.

Angabe der Aufzeichnungen über KI

Stellen wir sicher, dass wir uns über die Natur der heutigen KI einig sind.

Es gibt heute keine KI, die empfindungsfähig ist.

Wir haben das nicht.

Wir wissen nicht, ob empfindungsfähige KI möglich sein wird. Niemand kann treffend vorhersagen, ob wir eine empfindungsfähige KI erreichen werden oder ob die empfindungsfähige KI irgendwie auf wundersame Weise spontan in einer Form einer rechnergestützten kognitiven Supernova entstehen wird (normalerweise als Die Singularität bezeichnet, siehe meine Berichterstattung unter den Link hier).

Machen Sie sich bewusst, dass die heutige KI nicht in der Lage ist, in irgendeiner Weise auf Augenhöhe mit dem menschlichen Denken zu „denken“. Wenn Sie mit Alexa oder Siri interagieren, scheinen die Konversationsfähigkeiten den menschlichen Fähigkeiten ähnlich zu sein, aber die Realität ist, dass sie rechnerisch ist und menschliche Kognition fehlt. Die jüngste Ära der KI hat in großem Umfang maschinelles Lernen und Deep Learning genutzt, die den rechnergestützten Musterabgleich nutzen. Dies hat zu KI-Systemen geführt, die den Anschein menschenähnlicher Neigungen erwecken. In der Zwischenzeit gibt es heute keine KI, die einen Anschein von gesundem Menschenverstand hat und auch nicht über die kognitive Verwunderung robusten menschlichen Denkens verfügt.

Ein Teil des Problems ist unsere Tendenz, Computer und insbesondere KI zu vermenschlichen. Wenn ein Computersystem oder eine KI so zu handeln scheint, wie wir es mit menschlichem Verhalten assoziieren, besteht ein fast überwältigender Drang, dem System menschliche Qualitäten zuzuschreiben. Es ist eine gewöhnliche mentale Falle, die selbst den unnachgiebigsten Skeptiker über die Chancen, ein Bewusstsein zu erlangen, ergreifen kann. Für meine detaillierte Analyse solcher Angelegenheiten siehe den Link hier.

Bis zu einem gewissen Grad ist das der Grund, warum KI-Ethik und Ethische KI ein so wichtiges Thema sind.

Die Grundsätze der KI-Ethik veranlassen uns, wachsam zu bleiben. KI-Technologen können sich manchmal mit Technologie beschäftigen, insbesondere mit der Optimierung von Hightech. Sie berücksichtigen nicht unbedingt die größeren gesellschaftlichen Auswirkungen. Eine KI-Ethik-Denkweise zu haben und diese integral in die KI-Entwicklung und -Einführung zu integrieren, ist entscheidend für die Herstellung geeigneter KI, einschließlich der Bewertung, wie KI-Ethik von Unternehmen übernommen wird.

Neben der Anwendung von KI-Ethikregeln im Allgemeinen stellt sich die entsprechende Frage, ob wir Gesetze haben sollten, die verschiedene Verwendungen von KI regeln. Auf Bundes-, Landes- und lokaler Ebene werden neue Gesetze verbreitet, die den Umfang und die Art der Gestaltung von KI betreffen. Der Versuch, solche Gesetze zu entwerfen und zu erlassen, erfolgt schrittweise. Die KI-Ethik dient zumindest als wohlüberlegte Notlösung und wird mit ziemlicher Sicherheit bis zu einem gewissen Grad direkt in diese neuen Gesetze aufgenommen.

Beachten Sie, dass einige vehement argumentieren, dass wir keine neuen Gesetze brauchen, die KI abdecken, und dass unsere bestehenden Gesetze ausreichen. Sie warnen davor, dass wir, wenn wir einige dieser KI-Gesetze erlassen, die goldene Gans töten werden, indem wir gegen Fortschritte in der KI vorgehen, die immense gesellschaftliche Vorteile bieten.

In früheren Kolumnen habe ich die verschiedenen nationalen und internationalen Bemühungen zur Ausarbeitung und Verabschiedung von Gesetzen zur Regulierung von KI behandelt, siehe den Link hier, zum Beispiel. Ich habe auch die verschiedenen Prinzipien und Richtlinien der KI-Ethik behandelt, die verschiedene Nationen identifiziert und angenommen haben, darunter zum Beispiel die Bemühungen der Vereinten Nationen wie die UNESCO-Reihe der KI-Ethik, die fast 200 Länder angenommen haben, siehe den Link hier.

Hier ist eine hilfreiche Keystone-Liste von ethischen KI-Kriterien oder Merkmalen in Bezug auf KI-Systeme, die ich zuvor eingehend untersucht habe:

• Transparenz
• Gerechtigkeit & Fairness
• Nicht-Maleficence
• Verantwortung
• Datenschutz
• Wohltätigkeit
• Freiheit & Autonomie
• Vertrauen
• Nachhaltigkeit
• Würde
• Solidarität

Diese Prinzipien der KI-Ethik sollten ernsthaft von KI-Entwicklern angewendet werden, zusammen mit denen, die KI-Entwicklungsbemühungen verwalten, und sogar von denen, die letztendlich KI-Systeme einsetzen und warten. Alle Beteiligten während des gesamten KI-Lebenszyklus der Entwicklung und Nutzung werden im Rahmen der Einhaltung der etablierten Normen der ethischen KI berücksichtigt. Dies ist ein wichtiges Highlight, da die übliche Annahme ist, dass „nur Programmierer“ oder diejenigen, die die KI programmieren, den Grundsätzen der KI-Ethik unterliegen. Wie bereits hier betont, braucht es ein Dorf, um KI zu entwickeln und einzusetzen, und dafür muss das gesamte Dorf mit den KI-Ethikvorschriften vertraut sein und sich an diese halten.

Lassen Sie uns die Dinge auf dem Boden der Tatsachen halten und uns auf die heutige nicht-empfindungsfähige KI konzentrieren.

ML/DL ist eine Form des computergestützten Musterabgleichs. Der übliche Ansatz besteht darin, dass Sie Daten zu einer Entscheidungsaufgabe zusammenstellen. Sie speisen die Daten in die ML/DL-Computermodelle ein. Diese Modelle versuchen, mathematische Muster zu finden. Nachdem solche Muster gefunden wurden, verwendet das KI-System diese Muster, wenn es auf neue Daten stößt. Bei der Präsentation neuer Daten werden die auf den „alten“ oder historischen Daten basierenden Muster angewendet, um eine aktuelle Entscheidung zu treffen.

Ich denke, Sie können sich vorstellen, wohin das führt. Wenn Menschen, die die nach dem Muster getroffenen Entscheidungen getroffen haben, ungünstige Vorurteile eingebaut haben, stehen die Chancen gut, dass die Daten dies auf subtile, aber signifikante Weise widerspiegeln. Machine Learning oder Deep Learning Computational Pattern Matching versucht einfach, die Daten entsprechend mathematisch nachzuahmen. Es gibt keinen Anschein von gesundem Menschenverstand oder anderen empfindungsfähigen Aspekten der von KI erstellten Modellierung per se.

Darüber hinaus erkennen die KI-Entwickler möglicherweise auch nicht, was vor sich geht. Die obskure Mathematik in der ML/DL könnte es schwierig machen, die jetzt verborgenen Vorurteile aufzuspüren. Sie würden zu Recht hoffen und erwarten, dass die KI-Entwickler auf die potenziell vergrabenen Vorurteile testen würden, obwohl dies schwieriger ist, als es scheinen mag. Es besteht eine solide Chance, dass selbst bei relativ umfangreichen Tests immer noch Verzerrungen in den Mustererkennungsmodellen der ML/DL eingebettet sind.

Sie könnten das berühmte oder berüchtigte Sprichwort von Garbage-in-Garbage-out verwenden. Die Sache ist die, dass dies eher Vorurteilen ähnelt, die heimtückisch als Vorurteile in die KI einfließen. Die algorithmische Entscheidungsfindung (ADM) der KI wird zwangsläufig mit Ungerechtigkeiten beladen.

Nicht gut.

Ich glaube, dass ich jetzt die Voraussetzungen dafür geschaffen habe, weiter zu untersuchen, ob der Mensch die KI überleben wird.

Menschen und KI sind Freunde, Feinde oder Feinde

Ich hatte zuvor proklamiert, dass jede Antwort auf die Frage, ob Menschen die KI überleben werden, von einer Erklärung begleitet werden sollte.

Wir werfen einen Blick auf die Ja Antworten. Ich werde eine kurze Liste von Erklärungen bereitstellen. Sie können gerne jede dieser Erklärungen übernehmen. Sie werden auch ermutigt, andere Erklärungen abzuleiten, von denen eine Vielzahl denkbar ist.

Ja, Menschen werden KI überleben, weil:

• Der Mensch als Schöpfer: Menschen sind die Macher und Betreuer von KI, sodass KI ohne Menschen aufhören wird zu laufen oder zu existieren
• Dem Menschen angeborener Geist: Menschen haben einen unbezähmbaren Geist zum Leben, während KI dies nicht tut. Auf die eine oder andere Weise werden Menschen überleben, aber KI wird zweifellos auf der Strecke bleiben, da es an angeborener Überlebenskraft mangelt
• Menschen als Bezwinger: Menschen werden nicht zulassen, dass KI Menschen überlebt, da Menschen sich dafür entscheiden würden, KI vollständig zu besiegen, wenn Menschen durch KI gefährdet würden oder auf andere Weise aussterben würden
• Andere

Wir werden uns die Nein-Antwort (Nicht-Ja) ansehen. Ich werde eine kurze Liste von Erklärungen bereitstellen. Sie können gerne jede dieser Erklärungen übernehmen. Sie werden auch ermutigt, andere Erklärungen abzuleiten, von denen eine Vielzahl denkbar ist.

Menschen werden KI nicht überleben, weil:

• KI kann sich selbst beharren: Selbst wenn Menschen die Macher und Betreuer von KI sind, wird die KI entweder von Menschen programmiert oder entwickelt, um in Abwesenheit von Menschen zu bestehen, oder die KI wird ihre eigenen Mittel der Persistenz finden (möglicherweise ohne dass Menschen dies merken).
• Künstlicher KI-Geist: Auch wenn Menschen einen unbezähmbaren Lebensgeist haben, wissen wir, dass Menschen auch einen Geist der Selbstzerstörung haben; Auf jeden Fall kann die KI mit einem künstlichen Geist programmiert werden, wenn Sie so wollen, so dass die KI versucht zu überleben und / oder die KI einen Anschein von angeborener Belebung zu ihren eigenen Bedingungen erraten wird
• KI besiegt Bezwinger: Selbst wenn Menschen nicht wollen, dass KI Menschen überlebt, wird KI möglicherweise so programmiert, dass sie die menschlichen Besiegungsbemühungen ausmanövriert oder selbst ableiten kann, wie dies zu tun ist (und sich möglicherweise dafür entscheiden kann, Menschen entsprechend zu besiegen oder nicht).
• Andere

Wir sind ebenso verpflichtet, einen Blick auf das „Weder“ (nicht Janicht Nein) Antworten. Ich werde eine kurze Liste von Erklärungen bereitstellen. Sie können gerne jede dieser Erklärungen übernehmen. Sie werden auch ermutigt, andere Erklärungen abzuleiten, von denen eine Vielzahl denkbar ist.

Menschen überleben KI nicht und KI überlebt Menschen nicht, weil:

• Menschen und KI existieren herzlich für immer: Es stellt sich heraus, dass Menschen und KI für immer zusammen sein sollen. Unterwegs kann es zu Unebenheiten kommen. Die gute Nachricht oder das fröhliche Gesicht ist, dass wir alle miteinander auskommen.
• Menschen und KI existieren hasserfüllt für immer: Whoa, Menschen und KI beginnen sich zu hassen. Szenario mit traurigem Gesicht. Die Sache ist, es gibt eine Pattsituation zur Hand. KI kann sich nicht gegen Menschen durchsetzen. Menschen können sich nicht gegen KI durchsetzen. Ein Tauziehen von ewigem Zustand.
• Mensch und KI zerstören sich gegenseitig: Am Ende werfen sich zwei Schwergewichte gegenseitig aus dem Ring und aus dieser Welt. Menschen setzen sich gegen KI durch, aber die KI hat es geschafft, sich auch gegen Menschen durchzusetzen (vielleicht ein Doomsday-Setup)
• Menschen und KI werden durch eine Not ausgelöscht: Menschen und KI werden von einem einschlagenden Meteor oder vielleicht einem Außerirdischen von einem anderen Planeten ausgelöscht, der entscheidet, dass es ein definitives No-Go für Menschen und von der Menschheit stammende KI ist (nicht einmal daran interessiert, uns unsere erstaunliche KI zu stehlen).
• Andere

Es gibt einige der am häufigsten genannten Gründe für die Ja-, Nein- und Weder-Antworten auf die Frage, ob Menschen die KI überleben werden.

Fazit

Sie erinnern sich vielleicht, dass ich diese erweiterte Variante der Frage, ob der Mensch die KI überlebt, früher angeboten habe:

• Werden Menschen als Lebewesen KI überdauern, die entweder (1) nicht lebend oder (2) ein Lebewesen ist, falls dies eines Tages der Fall sein sollte?

Die oben genannten Antworten konzentrieren sich im Allgemeinen auf den letzten Teil der Frage, nämlich den Umstand, der KI einer empfindungsfähigen Art betrifft. Ich habe bereits darauf hingewiesen, dass dies äußerst spekulativ ist, da wir nicht wissen, ob es zu einer empfindungsfähigen KI kommen wird. Einige würden argumentieren, dass wir als Just-in-Case zu Recht klug sind, im Voraus zu überlegen, was passieren könnte.

Wenn Ihnen das grob unrealistisch erscheint, habe ich Verständnis dafür, dass all dies ziemlich hypothetisch und voller Annahmen über Annahmen ist. Es ist ein Fass voller Annahmen. Sie müssen den Wert ermitteln, den solche spekulativen Unternehmungen Ihrer Meinung nach bieten.

Um mehr auf die Messingnägel zu kommen, können wir die nicht lebende oder nicht empfindungsfähige Art der KI betrachten.

Verkürze die Frage so:

• Werden Menschen die nicht lebende, nicht empfindungsfähige KI überleben?

Ob Sie es glauben oder nicht, dies ist eine inhaltlich wertvolle Frage.

Sie sind sich vielleicht nicht sicher, warum diese nicht lebende, nicht empfindungsfähige KI irgendwo in der Nähe sein könnte, um irgendwie in der Lage zu sein, die Menschheit zu überleben.

Betrachten Sie die Situation mit autonomen Waffensystemen, die ich bei besprochen habe den Link hier. Wir sehen bereits, dass Waffensysteme mit KI ausgerüstet werden, wodurch die Waffe einigermaßen autonom arbeiten kann. Diese nicht lebende, nicht fühlende KI hat keinen Anschein von Denken, keinen Anschein von gesundem Menschenverstand usw.

Stellen Sie sich eine dieser apokalyptischen Situationen vor. Mehrere Nationen haben diese niederkalibrige KI in ihre Massenvernichtungswaffen eingebaut. Unbeabsichtigt (oder absichtlich) werden diese KI-betriebenen autonomen Waffensysteme gestartet oder entfesselt. Es gibt nicht genügend Ausfallsicherheit, um sie zu stoppen. Die Menschheit ist zerstört.

Würde die KI den Menschen in einem solchen Szenario überleben?

Erstens interessiert es Sie vielleicht nicht besonders. Mit anderen Worten, wenn die gesamte Menschheit ausgelöscht wurde, scheint die Sorge oder Sorge, ob die KI noch vor sich hin summt, ein bisschen so, als würde man diese Liegestühle auf der Titanic verschieben. Spielt es eine Rolle, dass die KI noch läuft?

Ein Verfechter könnte argumentieren, dass es immer noch wichtig ist. Okay, wir unterhalten den Stickler. Die KI könnte über Sonnenkollektoren und andere Energieformen, die die Maschinen weiter antreiben können, selbstständig laufen. Möglicherweise haben wir auch KI-Systeme entwickelt, die andere KI-Systeme reparieren und warten. Beachten Sie, dass dies keine empfindungsfähige KI erfordert.

Alles in allem kann man ein Szenario heraufbeschwören, in dem die Menschheit ausgestorben ist und die KI noch funktioniert. Vielleicht läuft die KI nur für kurze Zeit weiter. Nichtsdestotrotz hat die KI, wie in der früheren Diskussion über die genaue Einhaltung von Zeitvorgaben gezeigt, die Menschen tatsächlich (für eine Weile) überdauert.

Ein vorerst letzter Gedanke zu diesem Thema.

Zu diskutieren, ob Menschen die empfindungsfähige KI überleben werden, ist fast wie der sprichwörtliche Löffel Zucker (wie kann das sein, fragen Sie sich vielleicht, nun, halten Sie Ihren Hut fest und ich werde es Ihnen sagen).

Sehen Sie, wir müssen uns definitiv in den Kopf setzen, dass die nicht-empfindungsfähige KI auch ein großartiges und schmerzhaftes Potenzial hat, an der Auslöschung der Menschheit teilzunehmen und uns zu überdauern. Nicht besonders, weil die KI „uns überdauern wollte“, sondern einfach durch unsere eigenen Hände bei der Herstellung einer KI, die keinen menschlichen Eingriff benötigt, um weiter zu funktionieren. Einige würden stark argumentieren, dass KI, die so konzipiert ist, dass sie etwas ewig ist, einen destabilisierenden Einfluss haben kann, der einige Menschen dazu bringen könnte, einen ersten Schritt zur Zerstörung anderer Menschen zu unternehmen, siehe meine Erklärung unter den Link hier.

Der Teil über das Überleben von Menschen ist nicht die Hauptstütze dafür, warum die Frage heute eine solche Bedeutung verdient. Stattdessen ist die versteckte Unterströmung darüber, wie wir die heutige KI herstellen und wie wir KI einsetzen, der eigentliche Kicker hier. Wir müssen umfassend über die Auswirkungen der KI-Ethik und die gesellschaftlichen Auswirkungen der heutigen KI nachdenken.

Wenn die etwas verrückte Frage, ob Menschen die KI überleben werden, die Hier-und-Jetzt-Themen der zeitgenössischen KI auf den Tisch bringt, werden wir besser dran sein. Bei dieser Betrachtungsweise sind die empfindungsfähigen KI-Facetten von Menschen, die die KI überleben, der Löffel voll Zucker, der hoffentlich die Medizin im Umgang mit der Hier-und-Jetzt-KI herunterbringt.

Nur ein Löffel Zucker hilft manchmal, das Medikament zu senken. Und das auf die schönste Art. Oder zumindest auf eine ansprechende Art und Weise, die unsere Aufmerksamkeit erregt und uns festhält, worüber wir uns Sorgen machen müssen.

Wie das Liedchen weiter sagt, haben wir wie ein Rotkehlchen, das sein Nest befedert, sehr wenig Zeit zum Ausruhen.