Die Gründe für die Regulierung von KI-Algorithmen sind einfacher als Sie denken

Befürchten Sie, dass künstliche Intelligenz die Welt erobern wird? Viele tun es. Von Elon Musk, der sich Sorgen macht DeepMind schlägt Menschen im Go-Spiel für Fortgeschrittene im Jahr 2017 an Kongressabgeordnete und europäische politische Entscheidungsträger (siehe Ein europäischer Ansatz zur künstlichen Intelligenz) und Akademiker haben das Gefühl, dass dies das Jahrzehnt ist, in dem man KI ernst nimmt, und es setzt sich durch. Allerdings nicht aus den Gründen, die Sie vielleicht denken, und nicht aufgrund einer gegenwärtigen Bedrohung.

Hier kommen Algorithmen ins Spiel. Was ist ein Algorithmus? Am einfachsten kann man es sich als eine Reihe von Anweisungen vorstellen, die Maschinen verstehen und daraus lernen können. Wir können eine Maschine bereits anweisen, Daten strukturiert und automatisiert zu berechnen, zu verarbeiten und zu argumentieren. Das Problem besteht jedoch darin, dass die Maschine ihnen folgen wird, sobald diese Anweisungen gegeben werden. Im Moment ist das der Punkt. Im Gegensatz zu Menschen folgen Maschinen Anweisungen. Sie lernen nicht so gut. Aber sobald sie es tun, könnten sie Probleme verursachen.

Ich möchte kein sensationslüsternes Argument über die Idee vorbringen, dass Computer eines Tages die menschliche Intelligenz übertreffen könnten, besser bekannt als Singularitätsargument (siehe David Chalmers, Philosoph der NYU). Überlegungen zum Thema.) Vielmehr könnte die Fertigung das beste Beispiel dafür sein, warum KI-Algorithmen für die breite Öffentlichkeit zunehmend an Bedeutung gewinnen. Man befürchtet, dass Maschinen ihre Leistungsfähigkeit auf unsere Kosten enorm steigern werden. Nicht unbedingt aufgrund fortgeschrittener Überlegungen, sondern aufgrund der Optimierung innerhalb der Grenzen dessen, was ein Algorithmus sagt.

Bei der Herstellung geht es darum, Dinge herzustellen. Aber wenn Maschinen Dinge herstellen, müssen wir aufpassen. Auch wenn das, was die Maschinen machen, einfach ist. Ich werde erklären, warum.

Von Gummistiefeln bis hin zu Mobiltelefonen und zurück

Nehmen wir an, eine Fabrik stellt Gummistiefel her. Ich liebe Gummistiefel, weil ich in einer Gegend Norwegens aufgewachsen bin, in der es viel regnet. Ich liebe es, draußen zu sein und den vielen Elementen der Natur ausgesetzt zu sein. Nokia hat die Gummistiefel hergestellt, mit denen ich aufgewachsen bin. Ja, das Nokia, das wir heute als Elektronikkonzern kennen, der früher Gummistiefel herstellte. Warum ist dieser Schlüssel? Denn sobald Sie etwas gemacht haben, sind Sie dazu bestimmt, Verbesserungen vornehmen zu wollen. Das macht Sinn. Man könnte sagen, das liegt in der menschlichen Natur.

Was mit Nokia passiert ist, ist bekannt und läuft in etwa so ab: Ursprünglich eine Papierfabrik, war die Herstellung von Gummistiefeln (und Reifen) für das Unternehmen schon als Kind besonders erfolgreich. Sie sahen jedoch weitere Chancen. Daher verlagerten sie sich irgendwann in den 1980er-Jahren auf die Elektronikbranche und veränderten schnell die Fabriken in der Umgebung, wodurch sie eine große Struktur lokaler Zulieferer bauten, als sie mit der Herstellung von Mobiltelefonen begannen. Dies leitete die Revolution der Mobilkommunikation ein, die in Skandinavien begann und sich auf den Rest der Welt ausbreitete. Verständlicherweise haben viele die Geschichte von Nokia in den 1990er Jahren geschrieben (siehe Geheimnisse hinter dem finnischen Wunder: der Aufstieg von Nokia).

Mein Beispiel ist einfach. Vielleicht zu einfach. Aber denken Sie so darüber nach. Wenn ein großes Unternehmen schnell von der Herstellung von Schreibpapier über Stiefel zu Stiefeln, die es einfacher machen, im Regen unterwegs zu sein, und schließlich zu Mobiltelefonen übergehen kann, die die Art und Weise verändern, wie Menschen kommunizieren: Wie einfach wird der nächste Schritt sein? Angenommen, ein Unternehmen, das Mobiltelefone herstellt, beschließt, Nanobots herzustellen, und vielleicht starten diese in einem Jahrzehnt und verändern die Menschheit mit winzigen Maschinen, die autonom überall herumlaufen und in der Lage sind, die menschliche Erfahrung neu zusammenzusetzen und zu verändern. Was passiert, wenn das geschieht, ohne darüber nachzudenken, wie es geschehen soll, wer die Verantwortung übernehmen soll und welche Ziele wir letztendlich verfolgen?

Zu behaupten, dass Roboter Nokia bewusst bei der Entscheidung geholfen haben, Mobiltelefone herzustellen, wäre übertrieben. Aber es spielt eine wichtige Rolle, anzuerkennen, dass die Technologie dazu beigetragen hat, dass ein ländliches Gebiet an der Nordküste Finnlands glauben konnte, sie könnten die Weltherrschaft in einer neuen Industrie erlangen.

Die Geschichte von Nokia war in den letzten zehn Jahren nicht so rosig, da das Unternehmen das Aufkommen softwarebasierter iOS- und Android-Betriebssysteme nicht berücksichtigt hat. Aus diesem Grund stellt Nokia keine Mobiltelefone mehr her. In einer Art Comeback-Geschichte stellen sie jetzt Netzwerk- und Telekommunikationsinfrastruktur, Netzwerksicherheitslösungen, Wi-Fi-Router, intelligente Beleuchtung und Smart-TVs her (siehe Nokias Comeback-Geschichte). Nokia stellt immer noch Dinge her, das stimmt. Die einzige Beobachtung, die man machen kann, ist, dass Nokia es immer zu genießen scheint, die Dinge, die sie herstellen, zu verwechseln. Sogar die Herstellungsentscheidungen des Menschen sind manchmal schwer zu verstehen.

Unter Fertigung versteht man die Herstellung von Dingen, und die Dinge entwickeln sich weiter. Im Großen und Ganzen hat sich das, was wir heute herstellen, im Vergleich zu vor zehn Jahren verändert. 3D-Drucker ermöglichen die dezentrale Produktion vieler fortschrittlicher Produkte, sowohl in der Industrie als auch im Haushalt. Die lebensverändernden Folgen des 3D-Drucks sind noch nicht eingetreten. Wir wissen nicht, ob dies so bleiben wird, aber wir wissen, dass der Fokus der FDA auf der Regulierung der Herstellung von Produkten liegt (siehe hier), wie die daraus resultierenden gedruckten Pillen oder medizinischen Geräte, die offensichtlichen Fragen des geistigen Eigentums und der Haftung oder die Probleme im Zusammenhang mit der Möglichkeit, Schusswaffen zu drucken. Letztendlich gibt es keine politische Diskussion darüber, welche negativen Folgen der 3D-Druck darüber hinaus haben könnte, und nur wenige von uns haben sich die Mühe gemacht, darüber nachzudenken.

Ich behaupte nicht, dass der 3D-Druck an sich gefährlich ist. Vielleicht ist das ein schlechtes Beispiel. Dennoch können Dinge, die zunächst banal erscheinen, die Welt verändern. Es gibt viele Beispiele: die Pfeilspitze des Jägers und Sammlers aus Metall, die Kriege auslöst, rituelle Masken, die uns vor COVID-19 schützen, Nägel, die Wolkenkratzer bauen, Druckpressen mit beweglichen Lettern, die unsere Fabriken (noch) mit bedrucktem Papier füllen und die mit Strom versorgen Verlagswesen, Glühbirnen, die es einem ermöglichen, nachts drinnen zu sehen und zu arbeiten, ich könnte noch weitermachen. Niemand, den ich kenne, hat sich im späten 1800. Jahrhundert hingesetzt und vorhergesagt, dass Nokia seine Produktion von Papier auf Gummi auf Elektronik umstellen und sich dann von Mobiltelefonen entfernen würde. Vielleicht hätten sie es tun sollen.

Menschen sind schlechte Vorhersager für schrittweise Veränderungen, den Prozess, bei dem eine Veränderung zu weiteren Veränderungen führt und plötzlich alles völlig anders ist. Wir verstehen diesen Prozess noch nicht, weil wir kaum praktische Kenntnisse über exponentielle Veränderungen haben; Wir können es uns nicht vorstellen, nicht berechnen oder ergründen. Dennoch trifft es uns immer wieder. Pandemien, Bevölkerungswachstum, technologische Innovationen vom Buchdruck bis zur Robotik – sie treffen uns normalerweise ohne Vorwarnung.

Der Trick beim Futurismus ist nicht, ob, sondern wann. Man könnte tatsächlich in der Lage sein, Veränderungen vorherzusagen, indem man einfach einige neue Produktionsmethoden auswählt und feststellt, dass sie in Zukunft immer häufiger auftreten werden. Das ist ganz einfach. Der schwierige Teil besteht darin, genau herauszufinden, wann und vor allem wie.

Büroklammern sind nicht das Problem

Betrachten Sie noch einmal mein Fabrikbeispiel, aber stellen Sie sich dieses Mal vor, dass die Maschinen für zahlreiche Entscheidungen verantwortlich sind, nicht für alle Entscheidungen, sondern für Produktionsentscheidungen wie Optimierung. In seinem Buch SuperintelligenzDer dystopische Humanist Nick Bostrom von der Universität Oxford stellte sich bekanntlich einen KI-Optimierungsalgorithmus vor, der eine Büroklammerfabrik betreibt. Irgendwann, sagt er, stelle man sich vor, dass die Maschine zu dem Schluss kommt, dass es rational ist, zu lernen, immer mehr Ressourcen für die Aufgabe einzusetzen, und am Ende unsere Welt nach und nach in Büroklammern verwandelt und sich unseren Versuchen, sie auszuschalten, widersetzt.

Obwohl Bostrom ein kluger Kerl ist, ist sein Beispiel ziemlich dumm und irreführend (und dennoch einprägsam). Einerseits berücksichtigt er nicht die Tatsache, dass Menschen und Roboter keine getrennten Einheiten mehr sind. Wir interagieren. Die meisten cleveren Roboter entwickeln sich zu Cobots oder kollaborativen Robotern. Der Mensch wird viele Möglichkeiten haben, die Maschine zu korrigieren. Dennoch bleibt sein grundlegender Punkt bestehen. Irgendwann kann es zu einer sprunghaften Veränderung kommen, und wenn diese Veränderung schnell genug und ohne ausreichende Aufsicht erfolgt, könnte die Kontrolle verloren gehen. Aber dieses extreme Ergebnis scheint etwas weit hergeholt. Wie auch immer, ich stimme zu, wir müssen die Menschen, die diese Maschinen bedienen, regulieren und vorschreiben, dass die Arbeiter immer auf dem Laufenden bleiben, indem wir sie angemessen schulen. Diese Art von Training läuft nicht gut. Derzeit dauert es zu lange und es sind sowohl die Ausbildung als auch die Ausbildung von Fachkräften erforderlich. Eines weiß ich. In Zukunft werden alle möglichen Menschen Roboter bedienen. Wer das nicht tut, wird ziemlich machtlos sein.

Die Erweiterung des Menschen ist besser als sinnlose Automatisierung, auch wenn wir nie vollständig mit Maschinen verschmelzen. Die beiden Konzepte sind logisch unterschiedlich. Es ist möglich, dass sowohl Menschen als auch Roboter um der Automatisierung willen in der Automatisierung stecken bleiben. Das würde der Produktion in Zukunft großen Schaden zufügen. Auch wenn es keine Killerroboter hervorbringt. Ich glaube, dass eine Fusion noch Hunderte von Jahren entfernt ist, aber darum geht es nicht. Selbst wenn es nur noch XNUMX Jahre dauern wird, bis die selbstfahrenden Maschinen, die auf simplen Algorithmen basieren, die Kontrolle verlieren, passiert dieses Szenario bereits in der Werkstatt. Einige dieser Maschinen sind dreißig Jahre alt und laufen auf alten, proprietären Steuerungssystemen. Ihre größte Herausforderung besteht nicht darin, dass sie fortgeschritten sind, sondern im Gegenteil. Sie sind zu einfach, um kommunizieren zu können. Für morgen ist das kein Problem. Es handelt sich um ein bereits bestehendes Problem. Wir müssen unsere Augen dafür öffnen. Denken Sie daran, wenn Sie das nächste Mal Ihre Gummistiefel anziehen.

Ich habe immer noch meine Nokia-Stiefel aus den 1980er-Jahren. Sie haben ein Loch, aber ich behalte sie, um mich daran zu erinnern, woher ich komme und wie weit ich gelaufen bin. Es regnet auch ständig, und solange es sauber genug ist, möchte ich keine bessere Lösung als diese Stiefel. Andererseits bin ich ein Mensch. Ein Roboter wäre vermutlich schon weitergezogen. Ich frage mich, was die KI-Version von Gummistiefeln ist. Es ist kein Handy. Es ist kein Regensensor. Es verwirrt den Verstand.

Digitale Stiefel bedeuten heute, dass man sie personalisieren kann, weil sie mit 3D-gedruckten Designs versehen sind. Es gibt virtuelle Schuhe, die nur als NFTs (nicht fungible Token) existieren, die verkauft und gehandelt werden können. Die besten virtuellen Sneaker sind heutzutage 10,000 US-Dollar wert (siehe Was ist ein NFT-Sneaker und warum ist er 10,000 US-Dollar wert?). Ich habe keine Angst davor, aber sollte ich Angst haben? Wenn die virtuelle Welt mehr wertgeschätzt wird als die physische Welt, werde ich das vielleicht tun. Oder sollte ich mit der Sorge warten, bis der eigene Avatar einer KI einen eigenen NFT-Stiefel kauft, um dem „Regen“ entgegenzuwirken? Wenn wir Algorithmen nach unserem eigenen Vorbild entwickeln, ist es wahrscheinlicher, dass eine KI in Dingen gut ist, in denen wir uns wünschen, dass wir gut wären, in der Regel aber nicht gut sind, wie zum Beispiel den Kauf von Aktien, den Aufbau treuer Freundschaften (vielleicht sowohl mit Maschinen als auch mit Menschen) und das Erinnern Dinge. Das industrielle Metaversum könnte überraschend raffiniert sein – voller digitaler Zwillinge, die unsere Welt nachahmen und sie auf fruchtbare Weise übertreffen – oder es könnte erschreckend einfach sein. Vielleicht beide. Wir wissen es einfach noch nicht.

Wir müssen KI-Algorithmen regulieren, weil wir nicht wissen, was vor uns liegt. Das ist Grund genug, aber wie wir es machen, ist eine längere Geschichte. Gestatten Sie mir noch eine kurze Bemerkung: Vielleicht sollten alle grundlegenden Algorithmen öffentlich zugänglich gemacht werden. Der Grund dafür ist, dass es sonst keine Möglichkeit gibt, zu wissen, wozu sie führen könnten. Die besten sind ziemlich bekannt (siehe Top 10 der Algorithmen für maschinelles Lernen), aber es gibt keinen weltweiten Überblick darüber, wo und wie sie eingesetzt werden. Insbesondere die unüberwachten Algorithmen sollten sorgfältig beobachtet werden (siehe Sechs leistungsstarke Anwendungsfälle für maschinelles Lernen in der Fertigung), ob sie zur Vorhersage von Wartung oder Qualität, zur Simulation von Produktionsumgebungen (z. B. digitale Zwillinge) oder zur Generierung neuer Designs verwendet werden, an die ein Mensch nie denken würde. In der heutigen Landschaft handelt es sich bei diesen unbeaufsichtigten Algorithmen typischerweise um sogenannte künstliche neuronale Netze, die versuchen, das menschliche Gehirn nachzuahmen.

Ich habe begonnen, mir über neuronale Netze Sorgen zu machen, nur weil ich deren Logik schwer zu verstehen finde. Das Problem besteht darin, dass die meisten Experten, selbst diejenigen, die sie einsetzen, nicht verstehen, wie sich diese Algorithmen von Schritt zu Schritt oder von Schicht zu Schicht bewegen. Ich halte die oft verwendete Metapher der „verborgenen Schichten“ nicht für sehr treffend oder sehr lustig. Es sollte keine versteckten Ebenen in der Fertigung, bei der automatisierten Steuererhebung, bei Einstellungsentscheidungen oder bei der Hochschulzulassung geben, zum Beispiel. Vielleicht sollten Sie auch darüber nachdenken, sich Sorgen zu machen? Eines ist sicher: Menschen und Maschinen, die gemeinsam Dinge schaffen, werden die Welt verändern. Das ist bereits mehrfach der Fall. Von Papier über Gummistiefel bis hin zu den Schichten heutiger künstlicher Gehirne sollte nichts unerforscht bleiben. Wir sollten uns nicht vor der einfachen Tatsache verstecken, dass aus vielen kleinen Veränderungen plötzlich eine größere Veränderung entstehen kann.