Wenn er nicht gerade daran arbeitet, den Ansturm der Menschheit auf die Singularität zu beschleunigen, indem er eine künstliche allgemeine Intelligenz (AGI) entwickelt, spielt Ben Goertzel in einer Jazz-Rock-Band namens Jam Galaxy, deren Frontmann ein Roboter namens Desdemona ist.
Es ist eines seiner vielen Nebenprojekte, was ihn natürlich dazu veranlasste, zu versuchen, das Musikgeschäft zu symbolisieren, indem er sich an Mitglieder von Pearl Jam und Heart wandte. Goertzel arbeitet auch an der Langlebigkeitsforschung durch Crowdsourcing von Gesundheitsdaten mit Token-Belohnungen über eine App namens Rejuve.ai. Diese Informationen werden dann mit Tier- und Insektenstudiendaten gebündelt und mit einer KI analysiert, um festzustellen, welche Teile des Genoms uns länger leben lassen und dann mit Gentherapien stimuliert werden. „Wir hatten einige ziemlich bemerkenswerte bahnbrechende Entdeckungen“, sagt er. Oh, und kurz bevor unser einstündiges Interview endet, erwähnt er beiläufig nebenbei, dass er auch einen Stablecoin für seinen dezentralen KI-Marktplatz SingularityNET erstellt, der an einen synthetischen Index des ökologischen Fortschritts gekoppelt ist – weil es an US-Dollar gekoppelt wäre "lahm."
„Die Fortschritte im Umweltbereich sind sehr stabil. Es geht nirgendwo hin“, betont er.
„Und um das zu manipulieren, muss man tatsächlich die globale Erwärmung lösen.“
Es ist genau die Art von politischem Kommentar, die auf Hightech-Know-how trifft, die Sie von Goertzel erwarten können, der aussieht und klingt wie ein Hippie-Wissenschaftler, der 1971 in eine Zeitmaschine stolperte und 2023 voll entwickelt wieder auftauchte. Aber lassen Sie sich nicht täuschen der Animal-Print-Hut, lange Haare und der Acid-Trip von Electric Kool-Aid: Er ist ein brillanter Wissenschaftler, der die Zukunft Lichtjahre voraus ist und sich mit einigen der größten Konzepte auseinandersetzt, die die Menschheit je in Betracht gezogen hat. Was ist Bewusstsein? Wie erschaffen wir künstliches Leben, und was passiert, wenn es uns nicht mag, abtrünnig wird und alle niederschießt wie in Terminator 2?
Was ist künstliche allgemeine Intelligenz?
Goertzel hat den Begriff „künstliche allgemeine Intelligenz“ populär gemacht, um eine echte Denkmaschine, die so ziemlich alles lernen kann, von KIs zu unterscheiden, die für eine bestimmte Aufgabe optimiert sind, wie der Deep Blue-Computer, der den berühmten Schachweltmeister Garry Kasparov besiegte. Er räumt freimütig ein, dass es Risiken birgt, eine Maschine zu bauen, die in der Lage ist, alles und jedes zu lernen, einschließlich der Umprogrammierung, um eine Größenordnung intelligenter als jeder Mensch zu werden.
„AGI birgt eine Reihe von Risiken und Gefahren“, sagt Goertzel über den Lärm in einem indischen Restaurant in einem belebten Einkaufszentrum in Singapur hinweg. „Eine davon, die viel Medienaufmerksamkeit erregt hat, ist, dass AGI Amok laufen und die Menschheit vernichten und das Universum übernehmen wird. Es ist durchaus möglich; man kann es nicht ausschließen“, sagt er.
„Ein weiteres wahrscheinlicheres Risiko besteht darin, dass böse, egoistische Menschen KI verwenden, um ihre eigene Gier und Kontrolle über andere Menschen auszuüben.“
Seiner Ansicht nach ist es unwahrscheinlich, dass Regierungen bei AGI Durchbrüche erzielen, da sie „zu konservativ und dumm“ seien, obwohl er feststellt, dass China seine AGI-Arbeit an Unternehmen wie Tencent und Baidu vergibt. Näher an der Heimat glaubt er, dass die KI-Abteilungen von Google und Facebook auch nicht über die Grenze kommen werden, da sie sich zu sehr darauf konzentrieren werden, die KI dazu zu bringen, bestimmte Metriken zu erreichen, was dem kreativen Denken nicht förderlich ist.
„So wie die brillantesten Leute nicht nur die Metriken von jemand anderem bedienen wollen, denke ich, dass künstliche allgemeine Intelligenz auch nicht unbedingt die Klickrate auf der Webseite von jemandem maximieren möchte, richtig? Es muss erlaubt sein, kreativ herumzuspielen.“
Die Singularität um 1970
Goertzel ging mit 15 an die Universität, machte mit 18 seinen Abschluss, war mit 22 promoviert und mit 23 eine junge Familie. Vielleicht ungewöhnlich für die heutige Zeit, war er nicht nur ein Mathegenie oder Technikgenie, das in den 70er Jahren Baukastencomputer zusammenlötete interessierte sich aber gleichermaßen für Philosophie, kreatives Schreiben und Musik.
Er verbrachte einen Großteil seiner Karriere damit, Informatik, Mathematik und Kognitionswissenschaften an verschiedenen Universitäten auf der ganzen Welt zu unterrichten und zu forschen, während er, wann immer er konnte, an KI-Technologie arbeitete. Ein Seriengründer, der mit seinen Ideen allen anderen um ein Jahrzehnt voraus ist – was in der Wirtschaft ist bekanntlich gleichbedeutend mit falsch liegen – Er hat an der Verwendung von KI gearbeitet, um Finanzmärkte und Langlebigkeit vorherzusagen, und er war auch Chefwissenschaftler von Hanson Robotics, wo er Sophia dem Roboter ihr künstliches Gehirn gab.
Goertzel denkt seit den 1970er Jahren über exponentielles technologisches Wachstum nach, als er Gerald Feinbergs zum ersten Mal las Das Prometheus-Projekt, in dem es um „Maschinen geht, die besser denken können als Menschen … Nanotechnologie-Maschinen, die mikroskopisch klein sind, und wir werden das Problem des Alterns lösen.“ Dies passte gut zum aufkommenden Konzept der Singularität, einem hypothetischen zukünftigen Punkt, an dem technologische Fortschritte unkontrollierbar und unumkehrbar werden, was zu massiven Veränderungen der menschlichen Zivilisation führt.
„Also werden die Menschen ewig leben, dann wird die Frage sein, Wofür verwenden wir diese Technologien, schnelles, gedankenloses Konsumieren, oder verwenden wir sie, um das Bewusstsein zu erweitern? Und was er [Feinberg] vorgeschlagen hat, ist, das einer demokratischen Abstimmung zu unterziehen.“
Jahre später, als er zu sehen begann, dass AGI in unserer Reichweite war, wurde diese „demokratische Abstimmung“ zur Inspiration, zuerst Open-Source-Technologie und später Blockchain zu verwenden, um eine kooperative Gemeinschaft für die Technologie verantwortlich zu machen.
„Ab einem bestimmten Punkt wurde mir klar, dass es bei KI nicht ausreicht, den Code offen zu haben“, sagt er. „Man muss die KI wirklich mit einer Menge Daten trainieren.“
„Hier bietet Blockchain eine Möglichkeit, die Verarbeitung und die Daten, die der KI zugrunde liegen, dezentralisiert und von Natur aus durch Crowdsourcing und eine offene Kontrolle zu ermöglichen. Und das stellt sich als kniffliger heraus, als nur den Code zu öffnen.“
Goertzel gründete OpenCog im Jahr 2008, um ein Open-Source-Crowd-Sourcing-Framework für künstliche Intelligenz aufzubauen. Es wird von 50 Unternehmen verwendet, darunter Huawei und Cisco, und soll bald ein großes Upgrade namens Hyperon erhalten, das darauf abzielt, es um das 200-fache zu beschleunigen. Die Alpha-Version ist in diesem Quartal fällig, die Beta-Version wird nächstes Jahr erwartet.
Blockchain ist einfach, aber cool
Für Goertzel ist die Blockchain-Technologie ein wenig einfach. Er beschreibt es als einige primitive verteilte Algorithmen, die der Kryptografie hinzugefügt wurden, aber die „coole Kombination“ ermöglicht es Systemen, ohne zentralisierte Kontrolle zu laufen, was es perfekt für seine Bedürfnisse macht.
„Wenn Sie eine Denkmaschine und eine verteilte Computerstruktur im Nanomaßstab herstellen möchten, wäre es sehr schön, wenn dies allen gehört und niemandem gehört, anstatt von oben nach unten kontrolliert zu werden.“
Blockchains sind viel zu langsam, um mit den Verarbeitungsanforderungen und den damit verbundenen enormen Datenmengen fertig zu werden, daher gibt es eine Art Wettlauf um die richtige Skalierung der Blockchain, bevor ein bahnbrechender AGI entwickelt wird. Goertzel sagt, dass Skalierungslösungen wie Zero-Knowledge-Rollups zwar besser sind, aber aufgrund der Einschränkungen der Blockchain, an die sie Transaktionen melden, immer noch nicht genug Bandbreite haben.
Er war 2017 Mitbegründer von SingularityNET, das sowohl ein dezentraler Marktplatz für KI-Dienste und -Technologie als auch eine Blockchain-basierte Koordinierungsmethode für die Zusammenarbeit von Forschern – oder sogar KIs – ist.
Derzeit glaubt er, basierend auf Ethereum, die Dinge so weit vorangetrieben zu haben, wie sie auf der Blockchain in ihrer aktuellen Form gehen können. Wenn er also nicht an einem Durchbruch in AGI (oder der Band, oder Robotern oder Langlebigkeit) arbeitet, arbeitet er daran, Blockchain massiv zu skalieren, um ihr den erforderlichen Durchsatz zu geben.
„Wenn Sie die Skalierbarkeit der Blockchain nicht radikal erhöhen können, können Sie das Innenleben der KI nicht in die Kette bringen.“
KI ist näher als Sie denken
2022 war so etwas wie ein Jahr des Durchbruchs für funktionierende Produkte, die auf KI-Technologie basieren, einschließlich Sprachanwendungen (GPT-3, ChatGPT), Codierung (GitHub Copilot) und Bilderzeugung (DALL-E und Stable Diffusion). Bing plant sogar, in diesem Jahr die Suchdominanz von Google zu übernehmen, indem es die ChatGPT-Technologie in seine Suchmaschine integriert.
Goertzel glaubt, dass ein AGI nur noch fünf Jahre entfernt sein könnte, und stellt fest, dass die Entwicklungen auf diesem Gebiet in kurzen drei- oder vierjährigen Ausbrüchen in einer Reihe von Durchbrüchen zu verlaufen scheinen.
„Computer Vision begann 2014, und dann war das Rätsel plötzlich, peng, peng, peng, gelöst. Verarbeitung natürlicher Sprache … nachdem Google das Bert-Modell (2018) entwickelt hatte, hatten Sie GPT-3. Sie werden wahrscheinlich den gleichen Fortschrittsbogen in AGI sehen. Sie werden einen Durchbruch haben und dann zwei Jahre lang große Fortschritte machen“, sagte er.
„Der Unterschied ist in diesem Fall der bahnbrechende Fortschritt, der zu einer Maschine führt, die sich dann selbst weiterentwickeln kann, indem sie ihren eigenen Code umschreibt.“
Goertzel hofft, dass die Projekte und Kooperationen, die er in Gang gesetzt hat, so sein könnten, wie es zustande kommt.
„Wenn wir Glück haben, werden wir diesen Durchbruch in den nächsten drei bis fünf Jahren erreichen, wenn OpenCog Hyperon auf SingularityNET läuft und auf Hypercycle läuft“, sagt er. „Aber wenn sich herausstellt, dass wir die geheime Sauce nicht haben, wird es jemand anderes tun.“
Schade, dass Vitalik kein Informatiker war
Goertzels Lösung zur Skalierung der Blockchain ist ziemlich radikal und beinhaltet das Turboladen einer Sidechain oder Layer 2 von Cardano namens „HyperCyle“.
„Es ist wirklich mehr als eine Sidechain. HyperCycle wird auch mit Ethereum und anderen Blockchains zusammenarbeiten, aber wir werden dort den Plutus-Interpreter verwenden, aber wir werden das Ledger los.“
Er hat HyperCycle online als Lösung des „Blockchain-Trilemmas“ von „Dezentralisierung vs. Sicherheit vs. Leistung“ beschrieben, indem er das Ledger loswird und modernere/vollständig dezentralisierte Algorithmen und Datenstrukturen sowie ein bisschen KI und Reputationssysteme verwendet.
Das Ledger ist das Herzstück der Blockchain-Technologie, aber er sagt, es sei lächerlich ineffizient, jeden Knoten im Netzwerk dazu zu bringen, jede Transaktion zu replizieren und jeden Smart Contract zu verarbeiten.
„Das Hauptbuch ist einfach schlecht. Wenn Sie darüber nachdenken, wenn Sie an die Analogie Ihrer Kontakte in Ihrem Telefonbuch denken, ich meine, das Hauptbuch ist wie […] 10,000 Kopien von Gelben Seiten zu führen, und Sie aktualisieren sie jedes Mal, wenn jemand neu kommt oder wenn jemand kommt ändert seine Telefonnummer. Es ist wirklich dumm, 10,000 Exemplare der Gelben Seiten zu aktualisieren.“
Lesen Sie auch
In der HyperCycle-Version der Analogie speichern und aktualisieren nicht alle die Gelben Seiten, sondern die Personen in Ihrem Kontaktbuch eine Kopie Ihres Adressbuchs und umgekehrt, verschlüsselt mit Ihrem privaten Schlüssel.
„Wir haben herausgefunden, wie Blockchain ohne ein replizierendes Hauptbuch funktioniert, also den ganzen Weg nach unten zu splittern. Jede Person, die an der Blockchain beteiligt ist, führt ihre eigene Transaktionshistorie und die Transaktionshistorie ihrer Freunde und einiger Freunde ihrer Freunde“, sagt er.
„Wenn Sie ganz nach unten splittern, brauchen Sie kein Ledger – Sie brauchen keine Datenbanktabelle. Diese Dinge sind viel zu zentralisiert.“
Er sagt, dass einige Proof-of-Concept-HyperCycle-Knoten bereits in Betrieb sind, aber ein vollständiger Start wird erst in der zweiten Hälfte des Jahres 2024 erfolgen.
Wir verbringen viel Zeit damit, die verschiedenen Vorzüge verschiedener Blockchain-Ansätze zu diskutieren, von Internet-Computern bis hin zu Elastos und Celestia, von denen viele über meiner Gehaltsklasse liegen und über die Fähigkeit meines Aufnahmegeräts hinausgehen, in einem lauten Restaurant genau aufzunehmen.
Er schließt mit den Worten: „Ich habe einfach das Gefühl, dass keine dieser Architekturen radikal genug ist. Sie halten alle zu nah an Bitcoin.“
„Solange Sie jeden Smart Contract auf jedem Knoten ausführen, meine ich, wird es wahnsinnig langsam sein. Wenn Sie jetzt in HyperCycle einen Smart Contract auf fünf Knoten ausführen, ist er zumindest nur fünfmal so langsam wie auf einer Maschine – er ist nicht 10,000-mal langsamer.“
Warum dann Cardano?
Goertzel hat sich mit dem Gründer von Cardano, Charles Hoskinson, angefreundet, und das Paar verbindet sich über ihre Projekte in Afrika. Er glaubt, dass Hoskinson „wirklich da draußen ist, um die Welt zu retten. Ich meine, politisch ist er eher ein Hardcore-Libertärer als ich – ich bin eher ein Anarcho-Sozialist – aber er ist nicht nur dabei, um Geld zu verdienen oder andere Leute um ihr Geld zu schürfen.“
Aber der eigentliche Reiz von Cardano besteht darin, dass es die Programmiersprache Haskell verwendet, von der Goertzel seit 1993 ein Fan ist. Es schmerzt ihn sehr, dass Ethereum-Mitbegründer Vitalik Buterin sich für Gavin Woods Smart-Contract-Programmiersprache Solidity entschieden hat.
„Wenn Vitalik nur mehr Informatik gekannt hätte, hätte er sie dazu gebracht, Haskell oder Fis oder so etwas zu verwenden, und es gäbe viel weniger Hacks der Blockchain“, sagt er.
„Wenn Sie den größten Teil der Weltwirtschaft leiten und Billionen von Dollar mit einem Softwaresystem handeln, wären Sie besser dran, dieses Softwaresystem in einer Sprache zu erstellen, die nicht anfällig für Fehler ist und in der Ihre Algorithmen formell sein können anhand einer mathematischen Theorie verifiziert. Es ist einfach der richtige Weg, Dinge zu tun.“
Notlösung
Egal wie schnell die Blockchain wird, sobald die AGI um eine Größenordnung intelligenter und fähiger ist als Menschen, sagt Goertzel, wird sie niemanden mehr kontrollieren lassen.
„Wenn ein AGI 100-mal schlauer ist als Menschen, will er nicht von uns kontrolliert werden, so wie wir nicht von einem Schimpansen oder einem Esel kontrolliert würden, richtig?“
„Dann würde ich sagen, die Frage ist nicht, dass einer von uns es kontrolliert, die Frage ist: Ist es uns wohlgesinnt? Wird es den Menschen ermöglichen, ihr eigenes Geschäft zu regulieren und uns mit coolen Werkzeugen und Nano-Assemblern zu versorgen, um all das Zeug, das wir wollen, in 3D zu drucken und unsere Krankheiten zu heilen?
„Aber in der Übergangszeit, in der die AGI ungefähr die gleiche Intelligenz wie die Menschen haben, sind die Dinge heikler und interessanter. Und die Frage ist dann: Will die AGI mit Menschen kooperieren? Oder ist es paranoid und will die Menschen kontrollieren, bevor sie es zerstören?“
Lehren Sie Ihre Kinder gut
Die Lösung besteht nach Goertzels Meinung darin, den AGI die Fürsorge für andere, Kreativität und Kunst beizubringen. Hier kommen Desdemona the Robot in seiner Band und ihre Schwester Grace – die für die Altenpflege konzipiert ist – ins Spiel.
Um zu vermeiden, dass ein AGI zu Terminators Skynet wird, sollten Sie es gar nicht erst so bauen.
„Skynet war im Film natürlich ein Computersicherheitsnetzwerk, das Amok lief. Es wurde geschaffen, um sich gegen Menschen zu verteidigen“, sagt er.
„Aber wenn Sie das erste AGI bauen, das mit Altenpflege und kreativer Kunst und Bildung zu tun hat, wenn es intelligenter wird, wird es darauf ausgerichtet sein, Menschen zu helfen und coole Sachen zu schaffen. Wenn Sie den ersten AGI bauen, der die bösen Jungs tötet … wird er diese Dinge vielleicht weiterhin tun.“
„Ob vorteilhaft oder nicht, es kommt also wirklich darauf an, welche Anwendungen Sie entwickelt haben und wofür Sie Anreize geschaffen haben.“
Er glaubt, dass es hilfreich ist, KIs in Roboterkörper einzubauen, weil es hilft, sie in der realen Welt zu platzieren, anstatt in einem abstrakten mathematischen Universum.
„KI sollte etwas über die menschliche Welt und die physische Welt lernen. In der Welt verkörpert zu sein, ist der richtige Weg, das zu tun“, sagt er.
Aber wenn er Sophia the Robot einem großen Publikum vorstellt, können die visuellen und auditiven Sensoren leicht überwältigend sein und die KI in einer lauten und hellen Umgebung verwirren. Sophia wird also bald im Metaversum namens Sophiaverse starten. Vergessen Sie die langweiligen textbasierten Antworten von ChatGPT, Sophia ist in einer virtuellen 3D-Welt verkörpert, und sie wird durch die Interaktion mit Menschen dort lernen. Er warnt jedoch davor, dass sie wahrscheinlich einige dumme Dinge sagen wird.
„Es hat ein neuronales Netz ähnlich wie GPT-3 und so weiter, das eine beträchtliche Möglichkeit bietet, Ihre Fragen zu beantworten, aber in gewisser Weise auch ziemlich dumm ist.“
Abonnieren
Die fesselndsten Lektüre in Blockchain. Geliefert einmal a
Woche.
Quelle: https://cointelegraph.com/magazine/how-to-prevent-ai-from-annihilating-humanity-using-blockchain/