Könnten wir jemals künstliche Intelligenz in unser Gehirn integrieren – und sollten wir das? Susan Schneider, Professorin für Philosophie und Kognitionswissenschaft an der University of Connecticut, erklärt in diesem bearbeiteten Auszug aus ihrem Buch Artificial You:AI and the Future of Your Mind .
Wir schreiben das Jahr 2045. Heute gehen Sie einkaufen. Ihre erste Station ist das Center for Mind Design. Wenn Sie eintreten, steht eine große Speisekarte vor Ihnen. Es listet Gehirnverbesserungen mit flippigen Namen auf.
„Hive Mind“ ist ein Gehirnchip, mit dem Sie die innersten Gedanken Ihrer Lieben erfahren können. „Zen Garden“ ist ein Mikrochip für meditative Zustände auf Zen-Meisterebene. „Human Calculator“ verleiht Ihnen mathematische Fähigkeiten auf Savant-Niveau.
Was würden Sie auswählen, wenn überhaupt? Erhöhte Aufmerksamkeit? Musikalische Fähigkeiten auf Mozart-Niveau? Sie können eine einzelne Erweiterung oder ein Bündel aus mehreren bestellen.
Später besuchen Sie den Android-Shop. Es ist Zeit, das neue Android zu kaufen, um sich um das Haus zu kümmern. Das Menü der KI-Köpfe ist umfangreich und vielfältig. Einige KIs haben erhöhte Wahrnehmungsfähigkeiten oder Sinne, die uns Menschen fehlen, andere haben Datenbanken, die das gesamte Internet umfassen.
Sie wählen sorgfältig die Optionen aus, die zu Ihrer Familie passen. Heute ist ein Tag der Designentscheidungen im Kopf.
Was ist die Zukunft des Geistes? Unsere Gehirne haben sich für bestimmte Umgebungen entwickelt und sind stark durch Anatomie und Evolution eingeschränkt. Aber die künstliche Intelligenz (KI) hat einen riesigen Gestaltungsraum eröffnet und bietet neue Materialien und Betriebsweisen sowie neuartige Wege, den Weltraum viel schneller als die biologische Evolution zu erkunden.
Ich nenne dieses aufregende neue Unternehmen Mind Design . Mind Design ist eine Form des intelligenten Designs, aber wir Menschen, nicht Gott, sind die Designer.
Ich finde die Aussicht auf Mind Design demütigend, denn ehrlich gesagt sind wir nicht besonders weit entwickelt. Als Außerirdischer im Film Contact von Carl Sagan sagt bei der ersten Begegnung mit einem Menschen:„Du bist eine interessante Spezies. Eine interessante Mischung. Du bist zu so schönen Träumen und so schrecklichen Albträumen fähig.“
Wir wandeln auf dem Mond, wir nutzen die Energie des Atoms, doch Rassismus, Gier und Gewalt sind immer noch alltäglich. Unsere soziale Entwicklung hinkt unserer technologischen Leistungsfähigkeit hinterher.
Es mag weniger besorgniserregend erscheinen, wenn ich Ihnen im Gegensatz dazu als Philosoph sage, dass wir über die Natur des Geistes völlig verwirrt sind. Aber es kostet auch, Probleme in der Philosophie nicht zu verstehen.
Beachten Sie, dass es sich beim Lesen wie etwas anfühlt, Sie selbst zu sein. Sie haben körperliche Empfindungen, Sie sehen die Wörter auf der Seite und so weiter. Das ist Bewusstsein, diese gefühlte Qualität deines mentalen Lebens.
Ohne Bewusstsein gäbe es weder Schmerz noch Leid, keine Freude, keine brennende Neugier, keine Trauer. Erfahrungen, positiv oder negativ, würde es einfach nicht geben.
Als bewusstes Wesen sehnen Sie sich nach Urlaub, Wanderungen im Wald oder spektakulären Mahlzeiten. Weil Bewusstsein so unmittelbar, so vertraut ist, ist es natürlich, dass du Bewusstsein primär durch deinen eigenen Fall verstehst.
Schließlich muss man kein neurowissenschaftliches Lehrbuch lesen, um zu verstehen, wie es sich anfühlt, von innen heraus bewusst zu sein. Bewusstsein ist im Wesentlichen diese Art von innerem Gefühl. Es ist dieser Kern – Ihre bewusste Erfahrung – der, wie ich behaupte, charakteristisch dafür ist, einen Verstand zu haben.
Nun zu einigen schlechten Nachrichten. Die philosophischen Implikationen der künstlichen Intelligenz nicht zu durchdenken, könnte dazu führen, dass bewusste Wesen nicht gedeihen können.
Denn wenn wir nicht aufpassen, können wir eine oder mehrere perverse Erkenntnisse erleben der KI-Technologie – Situationen, in denen die KI das Leben nicht einfacher macht, sondern stattdessen zu unserem eigenen Leiden oder Untergang oder zur Ausbeutung anderer bewusster Wesen führt.
Viele haben bereits KI-basierte Bedrohungen für das Gedeihen der Menschheit diskutiert. Die Bedrohungen reichen von Hackern, die das Stromnetz abschalten, bis hin zu superintelligenten autonomen Waffen, die direkt aus dem Film Terminator stammen .
Im Gegensatz dazu haben die von mir angesprochenen Themen weniger Aufmerksamkeit erhalten. Sie sind jedoch nicht weniger bedeutend.
Die perversen Erkenntnisse, die ich im Sinn habe, fallen im Allgemeinen in eine der folgenden Arten:(1) übersehene Situationen, die die Schaffung bewusster Maschinen beinhalten, und (2) Szenarien, die radikale Gehirnverbesserungen betreffen, wie die Verbesserungen am hypothetischen Center for Mind Design. Betrachten wir der Reihe nach jede Art von Szenario.
Bewusste Maschinen?
Angenommen, wir schaffen hochentwickelte Allzweck-KIs:KIs, die sich flexibel von einer Art intellektueller Aufgabe zur nächsten bewegen können und sogar mit Menschen in ihrer Fähigkeit zu logischem Denken konkurrieren können. Würden wir im Wesentlichen bewusst erschaffen? Maschinen – Maschinen, die sowohl Selbst als auch Subjekt der Erfahrung sind?
Wenn es darum geht, wie oder ob wir Maschinenbewusstsein schaffen könnten, tappen wir im Dunkeln. Eines ist jedoch klar:Die Frage, ob KIs Erfahrung haben könnten, wird entscheidend dafür sein, wie wir ihre Existenz bewerten.
Bewusstsein ist der philosophische Eckpfeiler unserer moralischen Systeme und von zentraler Bedeutung für unser Urteil darüber, ob jemand oder etwas ein Selbst oder eine Person und kein bloßer Automat ist. Und wenn eine KI ein bewusstes Wesen ist, würde es einer Sklaverei gleichkommen, sie zu zwingen, uns zu dienen.
Würden Sie schließlich diesem Android-Laden Ihr Geschäft überlassen, wenn die Speisen auf der Speisekarte bewusste Wesen wären – Wesen mit geistigen Fähigkeiten, die mit denen eines nicht verbesserten Menschen mithalten oder sie sogar übertreffen?
Wenn ich KI-Direktor bei Google oder Facebook wäre und an zukünftige Projekte denken würde, würde ich nicht das ethische Durcheinander haben wollen, versehentlich ein bewusstes System zu entwerfen.
Die Entwicklung eines Systems, das sich als bewusst herausstellt, könnte zu Vorwürfen der KI-Sklaverei und anderen PR-Albträumen führen. Es könnte sogar zu einem Verbot des Einsatzes von KI-Technologie in bestimmten Sektoren führen.
Ich schlage vor, dass all dies KI-Unternehmen dazu bringen könnte, sich mit Consciousness Engineering zu beschäftigen – eine absichtliche technische Anstrengung, um zu vermeiden, dass bewusste KI für bestimmte Zwecke gebaut wird, während bewusste KIs für andere Situationen entworfen werden, falls angemessen.
Dies setzt natürlich voraus, dass Bewusstsein etwas ist, das innerhalb und außerhalb von Systemen entworfen werden kann. Bewusstsein kann ein unvermeidliches Nebenprodukt beim Aufbau eines intelligenten Systems sein, oder es kann völlig unmöglich sein.
Langfristig könnte sich der Spieß um Menschen drehen, und das Problem könnte nicht darin bestehen, was wir tun könnten, um KIs zu schaden, sondern was KI tun könnte, um uns zu schaden. Tatsächlich vermuten einige, dass synthetische Intelligenz die nächste Phase in der Evolution der Intelligenz auf der Erde sein wird.
Sie und ich, wie wir gerade leben und die Welt erleben, sind nur ein Zwischenschritt zur KI, eine Sprosse auf der Evolutionsleiter. Zum Beispiel haben Stephen Hawking, Nick Bostrom, Elon Musk, Max Tegmark, Bill Gates und viele andere das „Kontrollproblem“ angesprochen, das Problem, wie Menschen ihre eigenen KI-Kreationen kontrollieren können, wenn die KI uns überlistet.
Angenommen, wir entwickeln eine KI mit menschlicher Intelligenz. Mit sich selbst verbessernden Algorithmen und schnellen Berechnungen könnte es schnell Wege finden, weitaus klüger als wir zu werden und eine Superintelligenz zu werden – das heißt, eine KI, die uns in allen Bereichen übertrifft.
Da es superintelligent ist, können wir es wahrscheinlich nicht kontrollieren. Es könnte uns im Prinzip auslöschen. Dies ist nur eine Möglichkeit, wie synthetische Wesen organische Intelligenzen verdrängen könnten; alternativ können Menschen durch kumulativ signifikante Verbesserungen des Gehirns mit KI verschmelzen.
Das Kontrollproblem hat weltweit Schlagzeilen gemacht, angeheizt durch Nick Bostroms jüngsten Bestseller:Superintelligence:Paths, Dangers and Strategies. Was jedoch übersehen wird, ist, dass das Bewusstsein zentral dafür sein könnte, wie KI uns bewertet.
Ausgehend von ihrer eigenen subjektiven Erfahrung als Sprungbrett könnte superintelligente KI in uns die Fähigkeit zu bewusster Erfahrung erkennen. In dem Maße, in dem wir das Leben nichtmenschlicher Tiere schätzen, tendieren wir schließlich dazu, sie zu schätzen, weil wir eine Bewusstseinsverwandtschaft empfinden – daher schrecken die meisten von uns davor zurück, einen Schimpansen zu töten, aber nicht, eine Orange zu essen.
Erfahren Sie mehr über künstliche Intelligenz im Science Focus Podcast :
Wenn superintelligente Maschinen kein Bewusstsein haben, entweder weil es unmöglich ist oder weil sie nicht dafür ausgelegt sind, könnten wir in Schwierigkeiten geraten.
Es ist wichtig, diese Themen in einen noch größeren, universumsweiten Kontext zu stellen. In meinem zweijährigen NASA-Projekt schlug ich vor, dass ein ähnliches Phänomen auch auf anderen Planeten auftreten könnte; anderswo im Universum könnten andere Spezies durch synthetische Intelligenzen überholt sein.
Wenn wir anderswo nach Leben suchen, müssen wir bedenken, dass die größten außerirdischen Intelligenzen postbiologisch sein können , KIs, die sich aus biologischen Zivilisationen entwickelt haben. Und sollten diese KIs kein Bewusstsein haben, da sie biologische Intelligenzen ersetzen, würde das Universum von diesen Populationen bewusster Wesen geleert werden.
Wenn das KI-Bewusstsein so bedeutend ist, wie ich behaupte, sollten wir besser wissen, ob es gebaut werden kann und ob wir Erdlinge es gebaut haben.
Betrachten wir nun den Vorschlag, dass Menschen mit KI verschmelzen sollten. Angenommen, Sie befinden sich im Center for Mind Design. Welche Gehirnverbesserungen würden Sie aus dem Menü bestellen, wenn überhaupt? Sie haben wahrscheinlich bereits das Gefühl, dass Entscheidungen über das Design von Gedanken keine einfache Angelegenheit sind.
Könnten Sie mit KI fusionieren?
Ich wäre nicht überrascht, wenn Sie die Idee, Ihr Gehirn mit Mikrochips zu erweitern, so nervtötend finden würden, wie ich es tue. Während ich dies schreibe, verfolgen Programme auf meinem Smartphone wahrscheinlich meinen Standort, hören auf meine Stimme, zeichnen den Inhalt meiner Websuchen auf und verkaufen diese Informationen an Werbetreibende.
Ich glaube, ich habe diese Funktionen deaktiviert, aber die Unternehmen, die diese Apps erstellen, machen den Prozess so undurchsichtig, dass ich mir nicht sicher sein kann. Wenn KI-Unternehmen unsere Privatsphäre jetzt nicht einmal respektieren können, denken Sie an das Missbrauchspotenzial, wenn Ihre innersten Gedanken auf Mikrochips codiert und vielleicht sogar irgendwo im Internet zugänglich sind.
Aber nehmen wir an, dass sich die KI-Vorschriften verbessern und unser Gehirn vor Hackern und Unternehmensgier geschützt werden könnte. Vielleicht spüren Sie dann die Anziehungskraft der Verbesserung, da andere um Sie herum von der Technologie zu profitieren scheinen.
Wenn die Verschmelzung mit KI zu Superintelligenz und radikaler Langlebigkeit führt, ist sie dann nicht besser als die Alternative – die unvermeidliche Degeneration von Gehirn und Körper?
Die Idee, dass Menschen mit KI verschmelzen sollten, ist heutzutage sehr in der Luft und wird sowohl als Mittel für Menschen angeboten, um zu vermeiden, dass sie von KI in der Belegschaft überholt werden, als auch als Weg zu Superintelligenz und Unsterblichkeit.
So kommentierte Elon Musk kürzlich, dass Menschen der Veraltung durch KI entkommen können, indem sie „eine Art Verschmelzung von biologischer Intelligenz und maschineller Intelligenz haben“. Zu diesem Zweck hat er eine neue Firma gegründet, Neuralink. Eines seiner ersten Ziele ist die Entwicklung von „Neural Lace“, einem injizierbaren Netz, das das Gehirn direkt mit Computern verbindet.
Neural Lace und andere KI-basierte Verbesserungen sollen es ermöglichen, dass Daten von Ihrem Gehirn drahtlos zu den eigenen digitalen Geräten oder in die Cloud übertragen werden, wo enorme Rechenleistung verfügbar ist.
Musks Beweggründe mögen jedoch weniger als rein altruistisch sein. Er treibt eine Produktlinie von KI-Verbesserungen voran, Produkte, die vermutlich ein Problem lösen, das das Gebiet der KI selbst geschaffen hat.
Vielleicht erweisen sich diese Verbesserungen als vorteilhaft, aber um zu sehen, ob dies der Fall ist, müssen wir uns über den ganzen Hype hinausbewegen. Politiker, die Öffentlichkeit und sogar KI-Forscher selbst brauchen eine bessere Vorstellung davon, was auf dem Spiel steht.
Wenn zum Beispiel die KI nicht bewusst sein kann, dann würden Sie Ihr Leben als bewusstes Wesen beenden, wenn Sie die für das Bewusstsein verantwortlichen Teile des Gehirns durch einen Mikrochip ersetzen würden. Sie würden zu dem, was Philosophen einen „Zombie“ nennen – ein unbewusstes Abbild Ihres früheren Selbst.
Selbst wenn Mikrochips Teile des Gehirns ersetzen könnten, die für das Bewusstsein verantwortlich sind, ohne Sie zu einem Zombie zu machen, ist die radikale Verbesserung immer noch ein großes Risiko. Nach zu vielen Veränderungen bist du vielleicht gar nicht mehr die Person, die übrig bleibt. Jeder Mensch, der verbessert, kann, ohne dass er es weiß, sein Leben bei diesem Prozess beenden.
Meiner Erfahrung nach erkennen viele Befürworter der radikalen Verbesserung nicht, dass das verbesserte Wesen möglicherweise nicht Sie sind. Sie neigen dazu, mit einer Auffassung des Verstandes zu sympathisieren, die besagt, dass der Verstand ein Softwareprogramm ist.
Ihnen zufolge können Sie Ihre Gehirnhardware auf radikale Weise verbessern und trotzdem dasselbe Programm ausführen, sodass Ihr Verstand immer noch existiert. So wie Sie eine Computerdatei hochladen und herunterladen können, könnte Ihr Geist als Programm in die Cloud hochgeladen werden.
Dies ist der Weg eines Technikbegeisterten zur Unsterblichkeit – das neue „Leben nach dem Tod“ des Geistes, wenn man so will, das den Körper überlebt. So verlockend eine technologische Form der Unsterblichkeit auch sein mag, wir werden sehen, dass diese Sichtweise des Geistes zutiefst fehlerhaft ist.
Wenn Sie also in Jahrzehnten in ein Mind Design Center schlendern oder einen Android Store besuchen, denken Sie daran, dass die KI-Technologie, die Sie kaufen, aus tiefen philosophischen Gründen ihre Aufgabe nicht erfüllen kann. Käufer aufgepasst .