KI-Ethik und das geopolitische Wrestling-Match darüber, wer das Rennen um echte KI gewinnen wird

Die Welt befindet sich in einem hektischen Rennen.

Geopolitische Mächte behaupten, dass der Gewinner sozusagen den ganzen Speck mit nach Hause nehmen wird.

Welches Rennen wird erbittert geführt und eifrig verfolgt?

Es ist das KI-Rennen.

Sie könnten dies vielleicht treffender als das Rennen um Errungenschaften bezeichnen was immer dies auch sein sollte. Künstliche Intelligenz (KI), derzeit ausführlicher als Artificial General Intelligence (AGI) bezeichnet. Wir wollen irgendwie zur scheinbar höchsten KI oder AGI gelangen, die mit menschlicher Intelligenz vergleichbar ist. Wir sind noch nicht da. In der Tat wissen wir trotz aller möglichen wilden und dreisten Schlagzeilen nicht, wann und ob wir diese hohe Messlatte erreichen werden. Die heutige KI hat weit weniger Fähigkeiten als die übergreifende menschliche Intelligenz, obwohl es sicherlich viele engere Möglichkeiten gibt, in denen die KI beeindruckende Streifzüge unternommen hat, wie zum Beispiel die Fähigkeit, erstklassiges Weltklasse-Schach zu spielen oder andere relativ eingeschränkte Aufgaben zu erledigen.

Der goldene Ring ist jedoch das Aufkommen der KI, die menschliche Intelligenz von einer frommen Natur und Tiefe zeigt, die der der Menschheit ähnlich ist. Dies ist der heilige Gral der KI-Forscher und Praktiker. Von Zeit zu Zeit gab es fadenscheinige Behauptungen, die Ziellinie des KI-Rennens bereits überschritten zu haben, was ich in meiner Kolumne entlarvt habe den Link hier. Diejenigen, die versuchen, Zieleinläufe zu überqueren, verwirren die breite Öffentlichkeit und tun dies manchmal in eifriger Unschuld, während sie manchmal ernsthaft fragwürdige Motive in der Hand haben. Alles in allem wirft dies ziemlich wichtige und wichtige Überlegungen zur KI-Ethik auf. Für meine fortlaufende und umfassende Berichterstattung über KI-Ethik und Ethische KI siehe den Link hier und den Link hier, nur um ein paar zu nennen.

Wie auch immer, es besteht kein Zweifel, dass ein weltweites KI-Sprintrennen eifrig im Gange ist. Es würde Ihnen schwer fallen, etwas anderes zu behaupten.

Denk darüber so. Wenn es uns bereits gelungen wäre, echte KI oder AGI zu erreichen, wäre der KI-Wettlauf wahrscheinlich formell und global als erfolgreich abgeschlossen erklärt worden. Ich versichere Ihnen, dass weltweite Aufmerksamkeit auf einen solch durchschlagenden und weltbewegenden Durchbruch gerichtet wäre. Sie würden davon wissen. Wir alle würden. Der KI-Wahnsinns-Dash würde praktisch nicht mehr existieren, obwohl vielleicht eine zweite Version auftreten könnte, an der diejenigen beteiligt sind, die keine echte KI erreicht haben und fieberhaft daran arbeiten, aufzuholen. Es gibt auch die beunruhigende Frage, wie wir am Ende AGI kontrollieren oder verwalten werden, wenn oder wenn wir dort ankommen.

Keine Person oder Entität oder Nation kann bis jetzt die Krone der Herstellung echter KI oder AGI beanspruchen.

In der Zwischenzeit findet ein enormes und unerbittliches Händeringen darüber statt, welche Nation (oder Nationen) an der Spitze des Rudels stehen und wer weiter hinten liegt. Die Annahme ist, dass Sie im Dreck zurückgelassen werden, wenn Sie nicht der Erste sind. Sie werden die Reste essen, die von den KI-Gewinnern übrig geblieben sind. Sie werden möglicherweise für immer der Nation oder den Nationen unterworfen sein, die den angekündigten Sprung in die wahre KI oder AGI machen.

Als kurze Nebenbemerkung und um den Wortlaut dieser Diskussion zu erleichtern, werde ich von nun an „AGI“ verwenden, wenn ich die Aura echter KI hervorrufen möchte. Die Verwendung des etwas neueren Ausdrucks „AGI“ ist manchmal irritierend für diejenigen, die nicht daran gewöhnt sind, ihn zu sehen. Wir alle sind mit „AI“ vertraut und es könnte Sie stören, wenn stattdessen das Akronym „AGI“ verwendet wird. Lassen Sie mich erklären, warum sich dies allmählich als ein Worttrend abzeichnet.

Ein Grund dafür, dass AGI in der Arena der KI-Sprache aufgestiegen ist, ist, dass die bloße Angabe von „KI“ jetzt zu einer bedauerlicherweise verwässerten Formulierung geworden ist. Niemand weiß, ob die KI, die Sie erwähnen, die Kaum-KI-Variante oder eine quasi bessere KI-Infusion ist, die Fortschritte macht, oder ob sie auf die eines Tages futuristische, vollständig menschenähnliche KI anspielen könnte. Um der Überfrachtung mit „KI“ als Schlagwort entgegenzuwirken, wird der Spitzname AGI von jenen Insidern innerhalb des KI-Bereichs bevorzugt, die gezielt und besonders auf echte KI anspielen wollen.

Betrachten Sie meine Erwähnung von AGI also kurz gesagt als die Aussage „wahre KI“ von robustem Kaliber, ähnlich der menschlichen Intelligenz, danke.

Lassen Sie uns einen vorsichtigen tiefen Atemzug nehmen und einige Facetten des Rennens zum Erreichen von AGI aufmerksam untersuchen. Es gibt sogar einen Metaaspekt, der zuerst genannt werden muss. Seien Sie sich bewusst, dass die Verwendung der Allegorie eines angeblichen Wettlaufs oder einer anderen Art von Rennsport als Metapher für das AGI-Rennen ein bisschen Sodbrennen verursacht. Warum so? Ich werde Sie kurz in die Komplikationen und Komplexitäten einweihen, warum (manche sagen) ein Wettlauf oder sein Äquivalent völlig irreführend und ein heimtückischer einfältiger Standpunkt ist.

Hier sind die wichtigsten Punkte, die ich in diesem Diskurs mit Ihnen besprechen werde:

• Wenn dies ein Rennen ist, scheint die AGI-Ziellinie ziemlich schlecht definiert zu sein
• Das AGI-Rennen kann an eine Person, ein Unternehmen oder eine Nation gehen
• Metriken und wie Nationen im AGI-Rennen verglichen werden
• Geopolitische Manöver und Ausrichtung für das AGI-Rennen
• Internationale KI-Gesetze und KI-Ethik als Schiedsrichter im AGI-Rennen

Vielleicht möchten Sie sich anschnallen, während ich den dringend voranschreitenden AGI-Wettlauf untersuche (ja, ich wage es, ihn einen Wettlauf zu nennen), bei dem sich fast jeder mit halsbrecherischer Geschwindigkeit bewegt und auf dieser brennenden Suche scheinbar in die Höhe schießt. Einige mögen sagen, dass dies ein Rennen zur Verbesserung der Menschheit ist, während andere davor warnen, dass das Rennen das völlige Verderben für uns alle bedeuten könnte.

Die Zeit wird zeigen.

Wenn dies ein Rennen ist, scheint die AGI-Ziellinie ziemlich schlecht definiert zu sein

Eine Ziellinie ist normalerweise eine ziemlich endgültige Abgrenzung. Entweder man hat das Ziel erreicht oder nicht. Zu kurz zu kommen scheint dir nicht viel zu nützen. Stellen Sie sich einen 400-Meter-Lauf bei den Olympischen Spielen vor und ob Sie sich besonders an die Läufer erinnern oder Auszeichnungen überhäufen würden, die das Rennen überhaupt nicht beendet haben (die nie die Ziellinie überquert haben). Unwahrscheinlich.

Werden wir wissen, wann wir AGI erreicht haben, sodass alle einigermaßen einverstanden sind, dass die Ziellinie erreicht wurde?

Über die Abgrenzung von AGI gibt es heftige Meinungsverschiedenheiten.

Nehmen wir zum Beispiel an, dass wir eine künstliche Intelligenz entwickeln, die durchaus in der Lage zu sein scheint, menschliche Intelligenz zu zeigen, aber es gibt darin per se keinen Anschein von Empfindungsfähigkeit (siehe meine Berichterstattung über die Argumente über die Empfindungsfähigkeit von KI unter den Link hier). Die KI ist rechnerisch in der Lage, die menschliche Intelligenz nachzuahmen oder auf andere Weise auszuführen. Es gibt jedoch keinen Funken Lebendigkeit oder Empfindungsvermögen, den wir mit Menschen und anderen Lebewesen in Verbindung bringen. Zählt dieses AGI als das Erreichen des Ziels, das wir zu haben glaubten?

Einige würden dagegen argumentieren, dass es keine Rolle spielen würde, wenn Empfindungsvermögen per se in dieses AGI eingewickelt zu sein schienen. Solange es menschliche Intelligenz zeigen könnte, ist die Einbeziehung von Empfindungsfähigkeit etwas von einer anderen Art, die wir vielleicht oder vielleicht auch nicht entstehen sehen möchten. Empfindungsfähigkeit in diesem Sinne ist ein Add-On.

Andere argumentieren vehement, dass das einzige Mittel, um menschliche Intelligenz in AGI zu erlangen, darin bestehen wird, Empfindungsvermögen vollständig zu verkörpern. AGI und Empfindungsvermögen werden entweder als gleich betrachtet, oder sie sind eine Mischung aus einer nicht reduzierbaren, untrennbaren dualen Verkörperung. Um AGI zu bekommen, muss man empfindungsfähig sein, würden sie behaupten.

Abgesehen von diesem Aspekt der Debatte besteht eine andere Perspektive darin, dass wir den berühmten Turing-Test verwenden könnten, um zu beurteilen, ob AGI erreicht wurde. Ich habe den Turing-Test unter ausführlich behandelt den Link hier. Kurz gesagt besteht die Vorstellung darin, dass ein Mensch dem AGI Fragen stellt, und wenn der Mensch die vom AGI generierten Antworten nicht von denen der Menschheit unterscheiden kann, dann würden wir den AGI als fähig erklären, menschliche Intelligenz zu zeigen.

Es gibt viele Probleme oder Mängel, die oft mit dem Turing-Test verbunden sind.

Angenommen, der Mensch, der die Nachforschungen anstellt, macht einen miesen Job und stellt keine bohrenden Fragen. Eine Sorge ist, dass viele der heute scheinbar mächtigen Large Language Models (LLMs) den Inhalt, auf dem das LLM trainiert wurde, einem Menschen nachplappern können (dh Text und digitale Medien, die oft durch groß angelegtes Scraping des Internets bezogen werden). Als solches kann ein besonders ausgewählter Mensch, der Fragen gewöhnlicher Art stellt, die bereits beantwortet wurden und online existieren, möglicherweise alle leicht vom LLM „beantwortet“ werden, aber dies ist fraglich nicht auf eine menschliche Intelligenzverkörperung eines AGI-Kalibers zurückzuführen.

Viele andere Bedenken kommen auf. Angenommen, der Mensch ist nicht in der Lage, die Antworten zu verstehen. Oder nehmen wir an, der Mensch täuscht sich selbst, indem er glaubt, dass die Antworten alle Ausdruck menschlicher Intelligenz sind. Ich habe sogar die fadenscheinige Idee von einigen behandelt, dass wir nur die KI fragen müssen, ob sie AGI ist oder empfindungsfähig ist, was, wie ich deutlich mache, keine sehr überzeugende Form des AGI-Beweises ist, siehe den Link hier.

Schließlich, als ein zusätzlicher Gedanke, müssen wir die Ziellinie vollständig erreichen, um zu berücksichtigen, dass AGI erreicht wurde?

Ich habe bereits erwähnt, dass wir normalerweise diejenigen vergessen, die die Ziellinie nicht erreichen. Dies ist möglicherweise nicht sinnvoll analog zum AGI-Rennen. Ich glaube, es lässt sich überzeugend argumentieren, dass wir, wenn wir in der Lage sind, einen substanziellen Weg in Richtung AGI zu erreichen, uns bereits in einem Zustand des Erstaunens und entweder großen Nutzens oder großen Ärgers befinden werden. Sie sehen, viele wichtige und äußerst nützliche Ergebnisse könnten durch ein fast vorhandenes AGI entstehen. Zu kurz zu kommen ist nicht so problematisch, wie einen 400-Meter-Lauf nicht zu beenden, zumal dies eine wichtige Grundlage für den Weg zur vollständigen Version von AGI sein könnte (im Vergleich möglicherweise ein Marathon).

Die Metapher, dass AGI-Errungenschaften eine Art Wettlauf oder etwas Äquivalent sind, ist manchmal unbefriedigend und unangemessen.

Das AGI-Rennen kann an eine Person, eine Entität oder eine Nation gehen

Einige hegen die verträumte Vorstellung, dass AGI von einem Tüftler erreicht wird, der im Schlafanzug in der Garage arbeitet, und ein Ergebnis von verrückt erfinderischen Computerisierungsexperimenten sein wird, an denen sie jahrelang gearbeitet haben. Das ist die klassische Hightech-Trope des einsamen Wolfs.

Es tut uns leid, Ihnen mitteilen zu müssen, dass dies ein Angebot mit extrem niedrigen Gewinnchancen ist.

Die größeren Chancen wären, dass eine Entität wie ein Unternehmen oder ein Forschungsteam der AGI-Macher sein wird. Ein starker und vorherrschender Glaube ist, dass es ein ganzes Dorf braucht, um bei AGI anzukommen. Der einsame Wolf wird weder die Ressourcen noch die Einsichten haben, um AGI zu erreichen. Sie könnten zur Quest beitragen. Sie könnten benötigte Teile des Puzzles liefern. Sie werden nicht in der Lage sein, die ganze Ausrüstung und den ganzen Kabelsalat zu sammeln.

Apropos Dörfer, ein weiterer stark vertretener Standpunkt ist, dass es Nationen sein werden, die nur in der Lage sein werden, AGI zu erreichen. Durch eine Kombination aus Menschen, Unternehmen, Akademikern und allen anderen Arten von Einheiten innerhalb eines Nationalstaates wird die AGI als Ergebnis der gemeinsamen Arbeit der nationalen Gesamtheit ankommen. Die Einheitsebene der Aufmerksamkeit für den Sieger in diesem Rennen liegt auf nationalstaatlicher Basis und nicht auf etwas verstreuterem, freierer oder individualistischer.

Kurz gesagt, wenn es ein Dorf braucht, wird das Dorf von nationaler Größe sein, daher wird der Nationalstaat der designierte Läufer sein, der die Ziellinie im AGI-Rennen überquert.

Metriken und wie Nationen im AGI-Rennen verglichen werden

Gehen Sie davon aus, dass die Errungenschaften der AGI auf nationalstaatlicher Ebene angesiedelt sein werden.

Um es noch einmal zu wiederholen, wir wissen das nicht genau, aber es scheint eine begründete Annahme zu sein.

Betrachten Sie die Auswirkungen der nationalstaatlichen Basis. Angenommen, ein einsamer Wolf schafft es, zuerst zu AGI zu gelangen und glaubt, dass ihre Arbeit über die des Nationalstaates hinausgeht, dem sie angehören. Diese Person verkündet, dass sie in Bezug auf die hergestellten AGI keinem Nationalstaat angehört. Würden wir diesem Nationalstaat immer noch Anerkennung zollen und wäre die AGI unter der Kontrolle und dem Einflussbereich dieser Nation?

Stellen Sie sich eine andere Alternative vor, bei der ein großes multinationales Konglomerat zuerst bei AGI ankommt. Welche Nation kann sagen, dass die AGI ihre „Sache“ ist, die sie verwenden und einsetzen müssen (wird sie als Eigentum ausgelegt oder stattdessen als eine Variante der juristischen Person aufgelesen)? Vielleicht sollen alle Nationen, in denen das Unternehmen existiert, die gleiche Anerkennung erhalten. Oder vielleicht nur dort, wo sich der formelle Hauptsitz geografisch befindet. Es könnte eine komplexe Spaltung eines wahren Goldschatzes sein.

Auf jeden Fall ist die allgemeine Volksmeinung, dass ein Nationalstaat der entscheidende Faktor für das Erreichen von AGI sein wird. Eine Nation, die die KI-Forschung und -Entwicklung im Rahmen ihrer nationalen Bemühungen fördert, wird vermutlich früher zu AGI kommen als andere Nationen, die dies nicht tun.

Es herrscht die Ansicht vor, dass das KI-Rennen ein nationales Rennen ist.

Eine kopfzerbrechende Frage ist, wie wir feststellen können, ob eine Nation im AGI-Rennen vor oder hinter einer anderen Nation liegt.

Bei einem konventionellen Wettlauf könnten wir leicht Metriken identifizieren, die verwendet werden können, um festzustellen, welche Läufer gut abschneiden und welche nicht. Die Geschwindigkeit des Läufers kann leicht berechnet werden. Dies garantiert nicht, dass sie zuerst fertig werden, aber es ist zumindest vielversprechend. Der physische Abstand zwischen den Läufern und die verbleibende Distanz bis zur Ziellinie sind natürlich wichtige Kriterien, die wir leicht messen können.

Das AGI-Rennen hat nicht diese Art von gesicherten Formen von Metriken oder Messungen.

Wir verwenden alle möglichen Ersatzmaße, da es keine definitive Möglichkeit gibt, zu berechnen, wo die Endlinie ist und wie weit wir davon entfernt sind.

Werfen wir einen Blick auf die Arten von Metriken, die herkömmlicherweise in Betracht gezogen werden. Eine besonders praktische Quelle für KI-bezogene globale Messungen wird jährlich vom Stanford Institute for Human-Centered AI (HAI) an der Stanford University gesammelt und veröffentlicht. Der Bericht ist kostenlos online verfügbar und die neueste Version ist berechtigt Der AI Index 2022 Jahresbericht (basierend auf den für 2020-2021 erhobenen Daten). Ich werde Ihnen gleich einige Highlights der nationalen Vergleiche vorstellen, die in ihrer neuesten Zusammenstellung erwähnt werden.

Metriken, die verwendet werden, um den nationalen und internationalen Fortschritt bei der KI zu messen, beinhalten in der Regel von allem etwas und grenzen manchmal auch an die Einbeziehung der veritablen Küchenspüle.

Zu den typischerweise untersuchten Arten von Maßnahmen gehören:

• Anzahl der KI-Forschungsartikel, die einer bestimmten Nation zugeschrieben werden
• Anzahl der zitierten Verweise auf KI-Artikel einer bestimmten Nation
• Anzahl der KI-Zeitschriften innerhalb einer bestimmten Nation
• Anzahl der KI-Konferenzen, die innerhalb einer bestimmten Nation stattfinden
• Anzahl der KI-Konferenzen, die von einer bestimmten Nation gesponsert werden
• Anzahl der innerhalb einer bestimmten Nation erteilten KI-bezogenen Patente
• Anzahl der KI-Unternehmensgründungen innerhalb einer bestimmten Nation
• Anzahl der KI-Jobs innerhalb einer bestimmten Nation
• Anzahl neuer KI-Jobs oder Einstellungen in einer bestimmten Nation
• Anzahl der KI-Gesetze oder Gesetzentwürfe, die in einem bestimmten Land eingeführt wurden
• Anzahl der KI-Gesetze, die in einem bestimmten Land verabschiedet oder erlassen wurden
• Andere

Betrachten Sie diese zeitgenössischen Hinweise aus dem HAI AI Index 2022:

• Zitate von AI-Veröffentlichungen: „Bei den Zitierungen von AI-Repository-Veröffentlichungen führen die Vereinigten Staaten die Liste mit 38.6 % aller Zitierungen im Jahr 2021 an und haben damit einen dominanten Vorsprung vor der Europäischen Union sowie dem Vereinigten Königreich (20.1 %) und China (16.4 %).“
• KI-Zeitschriften/Konferenzen: „Im Jahr 2021 war China weiterhin weltweit führend bei der Anzahl der Veröffentlichungen von KI-Journalen, -Konferenzen und -Repositorys – 63.2 % höher als die Vereinigten Staaten, wenn alle drei Veröffentlichungsarten zusammengenommen wurden. In der Zwischenzeit hatten die Vereinigten Staaten eine dominierende Führung unter den großen KI-Mächten bei der Anzahl der Zitierungen von Konferenzen und Archiven.“
• KI-Patente: „China meldet jetzt über die Hälfte der weltweiten KI-Patente an und erhält etwa 6 %, etwa so viel wie die Europäische Union und das Vereinigte Königreich. Die Vereinigten Staaten, die fast alle Patente in Nordamerika anmelden, tun dies um ein Drittel so schnell wie China. Verglichen mit der steigenden Zahl der beantragten und erteilten KI-Patente hat China eine weitaus größere Zahl von Patentanmeldungen (87,343 im Jahr 2021) als die erteilten (1,407 im Jahr 2021).“
• Neu finanzierte KI-Unternehmen: „Investitionsdaten nach der Anzahl neu finanzierter KI-Unternehmen in jeder Region. Für 2021 führten die Vereinigten Staaten mit 299 Unternehmen, gefolgt von China mit 119, dem Vereinigten Königreich mit 49 und Israel mit 28. Die Lücken zwischen den einzelnen Unternehmen sind erheblich.“
• KI-Einstellungstempo: „Neuseeland, Hongkong, Irland, Luxemburg und Schweden sind die Länder oder Regionen mit dem höchsten Wachstum bei der Einstellung von KI-Mitarbeitern von 2016 bis 2021.“
• KI-Stellenausschreibungen: „Im Jahr 2021 waren Kalifornien, Texas, New York und Virginia Bundesstaaten mit der höchsten Anzahl an KI-Stellenausschreibungen in den Vereinigten Staaten, wobei Kalifornien mehr als 2.35-mal so viele Stellenausschreibungen hatte wie Texas, die zweitgrößte. Washington, DC, hatte im Vergleich zur Gesamtzahl der Stellenausschreibungen die höchste Rate an KI-Stellenausschreibungen
• KI-Gesetzgebungsmaßnahmen: „Eine KI-Index-Analyse von Gesetzentwürfen zu KI in 25 Ländern zeigt, dass die Zahl der Gesetzentwürfe, die „künstliche Intelligenz“ enthalten, von nur 1 im Jahr 2016 auf 18 im Jahr 2021 gestiegen ist. Spanien, das Vereinigte Königreich und die Vereinigten Staaten hat 2021 die höchste Anzahl von KI-bezogenen Gesetzentwürfen verabschiedet, von denen jedes drei angenommen hat.“

Wir können die harte Arbeit bewundern und wertschätzen, die mit der Zusammenstellung dieser nationalen Läuferstatistiken für das AGI-Rennen verbunden ist.

Skeptiker streiten sich jedoch ziemlich über die Verwendung jeglicher Arten von Metriken im AGI-Rennengagement.

Die heikle Frage ist, ob Sie eine gerade Linie von der Anzahl der KI-Artikel oder KI-Konferenzen innerhalb einer bestimmten Nation bis zum endgültigen Erreichen von AGI ziehen können. Das Gleiche gilt für die Anzahl der KI-Jobs, die Anzahl der KI-Unternehmen und eine Reihe anderer Kennzahlen. Es könnte sein, dass diese Zählungen wenig mit dem Erreichen des AGI zu tun haben. Das Argument lautet, dass diese Maßnahmen mehr Hitze als Licht sind.

Das Gegenargument ist, dass wir versuchen müssen, zu messen, wo wir stehen und wohin wir gehen. Den Kopf in den Sand zu stecken scheint kein praktikabler Weg zu sein, um zu beurteilen, ob wir auf AGI zusteuern oder uns vielleicht weiter von AGI entfernen. Es wird gehofft und allgemein angenommen, dass wir AGI umso näher kommen, je mehr Energie und Aufmerksamkeit auf Fortschritte in der KI gerichtet sind. Diese Metriken sind das Beste, was wir tun können, um herauszufinden, wie viel Energie und Aufmerksamkeit im AGI-Rennen zugeteilt und verbraucht wird.

Rund und rund geht das.

Jede der Metriken kann für sich genommen auch um den Kopf geschlagen werden.

Betrachten Sie zum Beispiel die Anzahl der Gesetze oder Gesetzentwürfe zu KI.

Man kann behaupten, dass, wenn sich der Gesetzgeber auf KI-bezogene Gesetze konzentriert, dies ein gutes Zeichen dafür ist, dass die Nation die Bedeutung von KI und die gesellschaftlichen Auswirkungen dessen, wohin KI geht, ziemlich nüchtern betrachtet. Es kann argumentiert werden, dass dies zeigt, dass in dieser bestimmten Nation viele Anstrengungen zur Weiterentwicklung der KI unternommen werden. Warum sollten Sie sich die Mühe machen, KI-Gesetze zu erlassen, es sei denn, KI würde als demonstratives Element Ihrer Nation merklich aufkeimen und sprudeln?

Auf diese Weise werden die Nationen, die neue KI-Gesetze erlassen, als verräterisches Zeichen oder Signal dafür interpretiert, dass der AGI-Fortschritt in dieser Nation in vollem Gange ist.

Einige Kritiker behaupten, dass vorgeschlagene neue Gesetze über KI die KI-Bemühungen in jeder dieser bestimmten Nationen ersticken werden. Die Gesetzgeber und politischen Führer werden sich selbst in die Füße schießen. Gesetze werden vorzeitig einen düsteren Schatten auf die KI-Bemühungen in dieser bestimmten Nation werfen. Der KI-Fortschrittshahn wird mit legalen Haarverstopfungen verstopft und das Tempo des AGI-Fortschritts wird sich in dieser Nation, die das KI-Gesetz verkündet, auf ein Rinnsal verlangsamen. In der Zwischenzeit werden andere Nationen, die solche KI-Gesetze nicht verabschieden, unvermindert weitermachen. Es ist, als hätte man sich entschieden, Bleigewichte auf einen Läufer zu legen, der bereits auf der 400-Meter-Bahn ist. Wenn Sie darauf abzielten, ihnen zu helfen und sie zu beschleunigen, haben Sie genau das Gegenteil getan.

Whoa, lautet die Erwiderung, die Verabschiedung von KI-Gesetzen gleicht eher der Sicherstellung, dass es keine unnötigen Straßensperren vor dem Runner gibt. Die Gesetze bieten Anleitungen in der gleichen Weise, dass die Linien auf der Rennstrecke dazu da sind, den Läufer reibungslos in die richtige Richtung zu führen. Ohne diese gemalten Linien könnten die Läufer Amok laufen. Neue KI-Gesetze werden sie dazu bringen, gemeinsam auf ein wünschenswertes Ergebnis hinzuarbeiten. Länder, die dies in Bezug auf neue KI-Gesetze nicht tun, werden feststellen, dass ihre Läufer in alle wilden Richtungen gehen, einschließlich möglicherweise vollständig von der Strecke rennen und denen schaden, die über das AGI-Rennen hinaus unschuldig sind.

Es gibt auch „versteckte“ KI-bezogene Gesetze, die einige zählen und während andere nicht als Teil dieser Metriken zählen (was zu einem Mischmasch führt, wenn versucht wird, Zählungen zu vergleichen).

Wenn zum Beispiel eine Nation ein Gesetz über autonome Fahrzeuge wie selbstfahrende Autos erlässt, zählen Sie das dann als KI-Gesetz? Um klarzustellen, dass ein autonomes Fahrzeug wie ein vollständig autonomes selbstfahrendes Auto über ein KI-Fahrsystem verfügen wird, das den Kern der fahrerlosen Fähigkeiten bildet (siehe meine Berichterstattung unter den Link hier). Aufgrund der beteiligten KI könnten alle Gesetze über autonome Fahrzeuge vernünftigerweise als im Wesentlichen KI-Gesetze argumentiert werden. Andererseits könnten Sie überzeugend behaupten, dass sich das Gesetz auf das autonome Fahrzeug und nicht per se auf die KI bezieht, daher zählt dies nicht zu den KI-spezifischen Gesetzen.

Es ist unordentlich.

All diese Bestürzung über Metriken könnte dazu führen, dass Sie angesichts der gegensätzlichen Ansichten zu diesen gewichtigen Überlegungen mit den Schultern zucken. Wie ersichtlich ist, unterliegen die Metriken fast immer unterschiedlichen Interpretationen darüber, was sie bedeuten und wie der Status einer Nation in Bezug auf AGI angemessen analysiert wird.

Geopolitisches Manövrieren und Ausrichtung für das AGI-Rennen

Welche Nationen haben im AGI-Rennen die Nase vorn?

Welche Nationen fallen zurück?

Die oben genannten Metriken versuchen zu zeigen, wo sich jeder der Läufer derzeit befindet. Eine Grundannahme ist, dass, wenn die Metriken einen geeigneten Hinweis darauf darstellen, dass AGI eine Positionierung sucht, diese verschiedenen Pole-Positionen im Laufe der Zeit gleich bleiben könnten. Die Realität sieht natürlich so aus, dass das nationale Interesse und die Aufmerksamkeit auf dem holprigen Weg zu AGI zunehmen oder nachlassen können. Sie könnten am klügsten sein, Änderungen in der Positionierung zu erwarten.

Eine wichtige Überlegung ist, dass die Nationen in diesem Rennen nicht wirklich auf sich allein gestellt sind.

Die Nationen werden wahrscheinlich den Staffelstab untereinander übergeben. Das AGI-Rennen hat manchmal eine oder mehrere Nationen, die gerne Hand in Hand arbeiten. Manchmal geschieht dies eher vorsichtig als mit freundlicher Freude. In anderen Fällen könnten sich Nationen voneinander zurückhalten. Zu jedem Zeitpunkt kann die Haltung des Rennens ganz anders sein als vor ein paar Schritten und kann auch ein paar Schritte in die Zukunft ganz anders sein.

Betrachten Sie diesen Punkt, der im Bericht des HAI AI Index 2022 über länderübergreifende Kooperationen hervorgehoben wird: „Trotz zunehmender geopolitischer Spannungen hatten die Vereinigten Staaten und China von 2010 bis 2021 die größte Anzahl länderübergreifender Kooperationen bei KI-Veröffentlichungen, seit 2010 um das Fünffache gestiegen Die Zusammenarbeit zwischen den beiden Ländern brachte 2.7-mal mehr Veröffentlichungen hervor als zwischen dem Vereinigten Königreich und China – die zweithöchste auf der Liste.“

Zyniker würden sagen, dass der Einsatz von Cross-Collaborations vielleicht gelegentlich als Trick missbraucht wird. Eine Nation könnte offen behaupten, dass sie übergreifend zusammenarbeiten, und den Anschein erwecken, dies zu tun, während sie tief im Inneren ihren besten AGI-Fortschritt als ein verborgenes nationales Geheimnis hält. Vielleicht wird dies getan, um den Fortschritt der Cross-Collaboration-Nation abzuschwächen. Vielleicht geschieht dies, um sicherzustellen, dass die geheime Sauce nicht versehentlich verteilt wird. Alle möglichen Gründe sind möglich.

In der heutigen modernen digitalen Internet-Online-Welt kann der Versuch, AGI-Erkenntnisse streng geheim zu halten, eine schwierige Aufgabe sein. Der intensive Wunsch, AGI aufzudecken oder zu erfinden, ist ein unwiderstehlicher Reiz, der einzelne AGI-Entwickler und -Forscher dazu anspornen kann, ihre neuesten Arbeiten offen zu teilen. Nationen können feststellen, dass der Versuch, eine solche Weitergabe zu begrenzen, viel schwieriger ist, als es scheint, und wahrscheinlich viel schwieriger als in den Tagen, als alles papierbasiert war und Dokumente physisch um den Globus transportiert werden mussten.

Die Bewegung in Richtung Open Source war sicherlich ein aktueller Schwerpunkt für einen Großteil der neuesten KI- und AGI-Forschung, wie im Bericht des HAI AI Index 2022 erwähnt: „Jedes Jahr werden Tausende und Abertausende von KI-Veröffentlichungen in Open Source veröffentlicht, ob at Konferenzen oder auf Filesharing-Websites. Forscher teilen ihre Ergebnisse offen auf Konferenzen; Regierungsbehörden werden KI-Forschung finanzieren, die in Open Source endet; und Entwickler verwenden offene Softwarebibliotheken, die der Öffentlichkeit frei zugänglich sind, um hochmoderne KI-Anwendungen zu erstellen. Diese Offenheit trägt auch zur globalen Interdependenz und Vernetzung moderner KI-Forschung und -Entwicklung bei.“

Alles in allem teilen die Nationen im Allgemeinen und zeigen möglicherweise nur einen Teil ihrer Hand. Andere Nationen teilen möglicherweise nicht oder geben nur vor, dies zu tun. Einige Nationen kämpfen mächtig damit, einzuschätzen, was diejenigen innerhalb ihrer Nation verschenken oder festhalten. Usw.

Ich habe die Natur dieser nationalen Bewegungen folgendermaßen charakterisiert:

• KI-Alleingänger-Nation (versucht von alleine weiterzumachen)
• KI One-Way-Only-Nation (nimmt auf, gibt nicht aus)
• KI-Restnation (bekommt was es kann von anderen)
• AI Open-Sharing-Nation (ist stolz darauf, zu teilen)
• AI Hollow-Sharing-Nation (Falschheit beim Teilen)
• Nation der KI-Allianzen (versucht, so viele Allianzen wie möglich zu schließen)
• KI-Nicht-im-Spiel-Nation (Suchen nach AGI ist keine nationale Priorität)
• KI betrügt Nation (Reverse Engineering oder heimliches Stehlen von anderen Nationen)
• Andere

Eine Nation kann gleichzeitig in mehr als einem dieser Eimer sein.

Eine Nation kann eine Weile in einem dieser Eimer sein, aus dem Eimer herauskommen und möglicherweise später wieder hineingehen.

Die nationalstaatlichen Wünsche und Aufmerksamkeiten in Bezug auf die Suche nach AGI sind ein dynamisches Auf und Ab, das sicherlich weitergehen und ein bewegliches Ziel dafür sein wird, welches Land wo im Rennen ist, und ein ständiges Auge wird benötigt, um es herauszufinden wo alle Spieler zu einem bestimmten Zeitpunkt positioniert sind.

Internationale KI-Gesetze und KI-Ethik als Schiedsrichter im AGI-Rennen

In früheren Kolumnen habe ich die verschiedenen nationalen und internationalen Bemühungen zur Ausarbeitung und Verabschiedung von Gesetzen zur Regulierung von KI behandelt, siehe den Link hier und den Link hier, zum Beispiel. Ich habe auch die verschiedenen Prinzipien und Richtlinien der KI-Ethik behandelt, die verschiedene Nationen identifiziert und angenommen haben, darunter zum Beispiel die Bemühungen der Vereinten Nationen wie die UNESCO-Reihe der KI-Ethik, die fast 200 Länder angenommen haben, siehe den Link hier.

Hier ist eine hilfreiche Keystone-Liste von ethischen KI-Kriterien oder Merkmalen in Bezug auf KI-Systeme, die ich zuvor eingehend untersucht habe:

• Transparenz
• Gerechtigkeit & Fairness
• Nicht-Maleficence
• Verantwortung
• Datenschutz
• Wohltätigkeit
• Freiheit & Autonomie
• Vertrauen
• Nachhaltigkeit
• Würde
• Solidarität

Diese Prinzipien der KI-Ethik sollten ernsthaft von KI-Entwicklern angewendet werden, zusammen mit denen, die KI-Entwicklungsbemühungen verwalten, und sogar von denen, die letztendlich KI-Systeme einsetzen und warten.

Alle Beteiligten während des gesamten KI-Lebenszyklus der Entwicklung und Nutzung werden im Rahmen der Einhaltung der etablierten Normen der ethischen KI berücksichtigt. Dies ist ein wichtiges Highlight, da die übliche Annahme ist, dass „nur Programmierer“ oder diejenigen, die die KI programmieren, den Grundsätzen der KI-Ethik unterliegen. Wie bereits hier betont, braucht es ein Dorf, um KI zu entwickeln und einzusetzen, und dafür muss das gesamte Dorf mit den KI-Ethikvorschriften vertraut sein und sich an diese halten.

Betrachten wir den Einfluss und die Bedeutung internationaler KI-Gesetze und internationaler Proklamationen der KI-Ethikregeln auf das AGI-Rennen.

Nationen, die nach AGI streben, könnten dies mit Hingabe tun und sich einigen der oft populär gemachten existenziellen Risiken von AGI zuwenden. Die Hoffnung ist, dass die Nationen durch die Einführung internationaler KI-Gesetze und internationaler KI-Ethikvorschriften dahin geführt werden KI für immer und meide dich KI für schlecht.

Gemäß unserer Rennstreckenanalogie sind diese KI-Gesetze und Überlegungen zur KI-Ethik wie der Versuch, Läufer davon abzuhalten, die Strecke zu verlassen. Es gibt immense Versuchungen, im AGI-Rennen Abkürzungen zu nehmen. Diese Abkürzungen könnten eine Nation scheinbar früher zum Zielpfad führen, während sie gleichzeitig diese Nation und andere Nationen einem unangemessenen Risiko aussetzen. Ein subtiles, aber aufschlussreiches Beispiel ist die Dual-Use-KI, die ich untersucht habe den Link hier, wodurch ein KI-Fortschritt ohne viel Aufwand leicht von der Ausrichtung auf das Gute auf die Erzeugung katastrophaler Bösartigkeit umgestellt werden kann.

Man könnte behaupten, dass die internationalen KI-Gesetze und die internationale KI-Ethik wie Schiedsrichter oder Schiedsrichter sind.

Eine Annahme ist, dass diese international entwickelten rechtlichen und ethischen Mechanismen das AGI-Rennen auf einem gleichmäßigeren Kurs halten werden. Die Sache ist, ob bestimmte Nationen sich dafür entscheiden, die Schiedsrichter oder Schiedsrichter zu beachten, ist eine andere Sache. In ähnlicher Weise stellt sich die ärgerliche Frage, wie diese Behörden Strafen oder Anreize bieten können, um die Läufer auf dem richtigen Weg zu halten. Die Chancen stehen gut, dass Nationen tun, was sie tun wollen, wofür andere Nationen möglicherweise ihr Gewicht verlagern müssen, um die Unterstützung für den unkonventionellen Regelbruch zu stärken, den einige Nationen zwangsläufig unternehmen werden.

Fazit

Louis Pasteur, der legendäre Chemiker und Mikrobiologe, sagte den berühmten Ausspruch: „Die Wissenschaft kennt kein Land, denn das Wissen gehört der Menschheit und ist die Fackel, die die Welt erleuchtet. Die Wissenschaft ist die höchste Personifizierung der Nation, weil diese Nation die erste bleiben wird, die die Werke des Denkens und der Intelligenz am weitesten trägt.“

Können wir sagen, dass das Erreichen von AGI kein Land kennt und dass AGI der gesamten Menschheit gehören wird?

Oder wird die Nation, die zuerst bei AGI ankommt, davon Besitz ergreifen, sich von erbärmlicher Macht betrinken und machtverrückt werden?

Für diejenigen unter Ihnen, die dieses spezielle Rätsel ein wenig auf den Kopf stellen möchten, denken Sie daran, dass AGI an sich die Art von Leistung sein könnte, die die sprichwörtliche Schlange im Gras ist. Der Entdecker der Schlange könnte der erste sein, der einen Schlangenbiss bekommt. Erster zu sein, hat seine Risiken.

Das Überqueren der Ziellinie auf AGI wird nicht unbedingt so feierlich und sorglos sein, wie manche vielleicht denken. Die Nutzung von AGI wird auch nicht unbedingt einfach sein. Einige mögen argumentieren, dass es fast unmöglich sein könnte, mit AGI fertig zu werden, da die AGI anscheinend die vergleichbare Hinterlist und den Einfallsreichtum der Menschheit haben wird. Die Nationen sollten sich darüber im Klaren sein, was sie zu erreichen versuchen und was das Ergebnis sein wird, dies im Voraus tun und nicht überrascht werden. Sie könnten ein Wespennest in ihrer nationalen Schatztruhe haben.

Wie Pasteur anbot: „Das Glück begünstigt den vorbereiteten Geist.“