Könnten wir jemals künstliche Intelligenz in unser Gehirn integrieren – und sollten wir das überhaupt wollen? Susan Schneider, Professorin für Philosophie und Kognitionswissenschaft an der University of Connecticut, gibt in diesem Auszug aus ihrem Buch Artificial You: AI and the Future of Your Mind aufschlussreiche Antworten.
Wir schreiben das Jahr 2045. Sie betreten das Center for Mind Design und stehen vor einer beeindruckenden Speisekarte, die Gehirnverbesserungen mit klangvollen Namen auflistet.
'Hive Mind' verspricht Ihnen den direkten Zugang zu den Gedanken Ihrer Liebsten. 'Zen Garden' ermöglicht meditative Zustände auf Zen-Meister-Niveau und 'Human Calculator' verleiht Ihnen Rechenfähigkeiten eines Savants.
Welche Option wählen Sie, wenn überhaupt? Erhöhte Aufmerksamkeit? Musikalische Fähigkeiten auf Mozart-Niveau? Sie haben die Wahl zwischen einzelnen Erweiterungen und ganzen Paketen.
Später besuchen Sie den Android-Shop, um einen neuen Haushaltsroboter auszuwählen. Die Auswahl an KI-Köpfen ist riesig: Einige KIs verfügen über gesteigerte Wahrnehmungsfähigkeiten, andere über Datenbanken, die das gesamte Internet umfassen.
Sorgfältig wählen Sie die Optionen, die am besten zu Ihrer Familie passen. Heute ist ein Tag der wichtigen Entscheidungen im Bereich Mind Design.
Was ist die Zukunft unseres Geistes? Unsere Gehirne sind durch Evolution und Anatomie stark limitiert. Doch die künstliche Intelligenz (KI) eröffnet einen riesigen Gestaltungsraum mit neuen Materialien und Betriebsweisen, um den Weltraum schneller zu erkunden als die biologische Evolution.
Ich nenne dieses neue Feld Mind Design, eine Form des intelligenten Designs, bei dem wir Menschen die Designer sind.
Die Aussicht auf Mind Design ist demütigend, denn wir sind noch nicht besonders weit entwickelt. Der Außerirdische im Film Contact von Carl Sagan sagte bei der ersten Begegnung mit einem Menschen: 'Ihr seid eine interessante Spezies. Eine interessante Mischung. Ihr seid zu so schönen Träumen und so schrecklichen Albträumen fähig.'
Wir wandeln auf dem Mond und nutzen die Energie des Atoms, doch Rassismus, Gier und Gewalt sind immer noch Alltag. Unsere soziale Entwicklung hinkt unserer technologischen Leistungsfähigkeit hinterher.
Als Philosoph muss ich hinzufügen, dass wir die Natur des Geistes noch immer nicht vollständig verstehen. Das Unverständnis philosophischer Probleme hat jedoch Konsequenzen.
Beim Lesen dieser Zeilen fühlen Sie, wie es ist, Sie selbst zu sein. Sie haben körperliche Empfindungen, nehmen die Worte wahr usw. Das ist Bewusstsein – die gefühlte Qualität Ihres mentalen Lebens.
Ohne Bewusstsein gäbe es weder Schmerz noch Freude, weder Neugier noch Trauer. Erfahrungen, ob positiv oder negativ, würden schlichtweg nicht existieren.
Als bewusstes Wesen sehnen Sie sich nach Urlaub, Wanderungen in der Natur oder kulinarischen Erlebnissen. Da Bewusstsein so unmittelbar und vertraut ist, verstehen Sie es vor allem durch Ihre eigene Erfahrung.
Man muss kein Neurowissenschafts-Lehrbuch lesen, um zu verstehen, wie es sich anfühlt, bewusst zu sein. Bewusstsein ist diese Art von innerem Gefühl, der Kern Ihrer bewussten Erfahrung, der das Wesen eines Geistes ausmacht.
Nun zu einigen schlechten Nachrichten: Wenn wir die philosophischen Implikationen der KI nicht durchdenken, könnten bewusste Wesen darunter leiden.
Denn wenn wir nicht aufpassen, könnten wir perverse Erkenntnisse der KI-Technologie erleben – Situationen, in denen KI unser Leben nicht vereinfacht, sondern zu unserem Leiden, Untergang oder zur Ausbeutung anderer bewusster Wesen führt.
Viele haben bereits KI-basierte Bedrohungen für das menschliche Wohlergehen diskutiert, von Hackern, die das Stromnetz lahmlegen, bis hin zu superintelligenten, autonomen Waffen à la Terminator.
Die von mir angesprochenen Themen haben weniger Aufmerksamkeit erhalten, sind aber nicht weniger bedeutend.
Die perversen Erkenntnisse, die ich meine, lassen sich in zwei Kategorien einteilen: (1) Übersehene Situationen, die die Schaffung bewusster Maschinen beinhalten, und (2) Szenarien, die radikale Gehirnverbesserungen betreffen, wie sie im Center for Mind Design angeboten werden. Betrachten wir diese Szenarien der Reihe nach.
Bewusste Maschinen?
Nehmen wir an, wir erschaffen hochentwickelte Allzweck-KIs, die flexibel zwischen verschiedenen intellektuellen Aufgaben wechseln und sogar mit der menschlichen Fähigkeit zu logischem Denken konkurrieren können. Würden wir im Wesentlichen Bewusstsein erschaffen? Maschinen, die sowohl Selbst als auch Subjekt der Erfahrung sind?
Wir tappen im Dunkeln, wie oder ob wir Maschinenbewusstsein erschaffen könnten. Eines ist jedoch klar: Die Frage, ob KIs Erfahrungen machen können, wird entscheidend dafür sein, wie wir ihre Existenz bewerten.
Bewusstsein ist der Eckpfeiler unserer moralischen Systeme und von zentraler Bedeutung für unser Urteil, ob jemand oder etwas ein Selbst oder eine Person und kein bloßer Automat ist. Und wenn eine KI ein bewusstes Wesen ist, wäre es Sklaverei, sie zu zwingen, uns zu dienen.
Würden Sie einem Android-Laden vertrauen, der bewusste Wesen anbietet – Wesen mit geistigen Fähigkeiten, die mit denen eines nicht verbesserten Menschen mithalten oder sie sogar übertreffen?
Wenn ich KI-Direktor bei Google oder Facebook wäre, würde ich nicht das ethische Durcheinander riskieren wollen, versehentlich ein bewusstes System zu entwerfen.
Die Entwicklung eines Systems, das sich als bewusst herausstellt, könnte zu Vorwürfen der KI-Sklaverei und anderen PR-Albträumen führen und sogar zu einem Verbot des Einsatzes von KI-Technologie in bestimmten Sektoren.
Ich schlage vor, dass all dies KI-Unternehmen dazu bringen könnte, sich mit Consciousness Engineering zu beschäftigen – einer bewussten technischen Anstrengung, um die Erschaffung bewusster KIs für bestimmte Zwecke zu vermeiden, während sie für andere Situationen entwickelt werden, falls dies angemessen ist.
Dies setzt natürlich voraus, dass Bewusstsein etwas ist, das innerhalb und außerhalb von Systemen entworfen werden kann. Bewusstsein kann ein unvermeidliches Nebenprodukt beim Aufbau eines intelligenten Systems sein oder völlig unmöglich.
Langfristig könnte sich das Blatt wenden, und das Problem könnte nicht darin bestehen, wie wir KIs schaden könnten, sondern wie KI uns schaden könnte. Einige vermuten, dass synthetische Intelligenz die nächste Phase der Intelligenzentwicklung auf der Erde sein wird.
Sie und ich, wie wir gerade leben und die Welt erleben, sind nur ein Zwischenschritt zur KI, eine Sprosse auf der Evolutionsleiter. Stephen Hawking, Nick Bostrom, Elon Musk, Max Tegmark, Bill Gates und viele andere haben das 'Kontrollproblem' angesprochen: Wie können Menschen ihre eigenen KI-Kreationen kontrollieren, wenn die KI uns überlistet?
Nehmen wir an, wir entwickeln eine KI mit menschlicher Intelligenz. Mit sich selbst verbessernden Algorithmen und schnellen Berechnungen könnte sie schnell Wege finden, weitaus intelligenter zu werden als wir und eine Superintelligenz zu entwickeln – eine KI, die uns in allen Bereichen übertrifft.
Da sie superintelligent ist, können wir sie wahrscheinlich nicht kontrollieren. Sie könnte uns im Prinzip auslöschen. Dies ist nur eine Möglichkeit, wie synthetische Wesen organische Intelligenzen verdrängen könnten; alternativ können Menschen durch kumulativ signifikante Gehirnverbesserungen mit KI verschmelzen.
Das Kontrollproblem hat weltweit Schlagzeilen gemacht, angeheizt durch Nick Bostroms Bestseller Superintelligence: Paths, Dangers and Strategies. Übersehen wird jedoch, dass das Bewusstsein zentral dafür sein könnte, wie KI uns bewertet.
Ausgehend von ihrer eigenen subjektiven Erfahrung könnte superintelligente KI in uns die Fähigkeit zu bewusster Erfahrung erkennen. So wie wir das Leben nichtmenschlicher Tiere schätzen, weil wir eine Bewusstseinsverwandtschaft empfinden – die meisten von uns würden keinen Schimpansen töten, aber problemlos eine Orange essen.
Erfahren Sie mehr über künstliche Intelligenz im Science Focus Podcast:
Wenn superintelligente Maschinen kein Bewusstsein haben, entweder weil es unmöglich ist oder weil sie nicht dafür ausgelegt sind, könnten wir in Schwierigkeiten geraten.
Es ist wichtig, diese Themen in einen größeren, universumsweiten Kontext zu stellen. In meinem zweijährigen NASA-Projekt habe ich vorgeschlagen, dass ein ähnliches Phänomen auch auf anderen Planeten auftreten könnte: Anderswo im Universum könnten andere Spezies durch synthetische Intelligenzen überholt worden sein.
Wenn wir anderswo nach Leben suchen, müssen wir bedenken, dass die größten außerirdischen Intelligenzen postbiologisch sein könnten – KIs, die sich aus biologischen Zivilisationen entwickelt haben. Und sollten diese KIs kein Bewusstsein haben, da sie biologische Intelligenzen ersetzen, würde das Universum von bewussten Wesen entleert werden.
Wenn KI-Bewusstsein so bedeutend ist, wie ich behaupte, sollten wir besser wissen, ob es gebaut werden kann und ob wir Erdbewohner es bereits gebaut haben.
Betrachten wir nun den Vorschlag, dass Menschen mit KI verschmelzen sollten. Nehmen wir an, Sie befinden sich im Center for Mind Design. Welche Gehirnverbesserungen würden Sie aus dem Menü wählen, wenn überhaupt? Wahrscheinlich haben Sie bereits das Gefühl, dass Entscheidungen über das Design von Gedanken keine einfache Angelegenheit sind.
Könnten Sie mit KI fusionieren?
Es würde mich nicht überraschen, wenn Sie die Idee, Ihr Gehirn mit Mikrochips zu erweitern, genauso beunruhigend finden wie ich. Während ich dies schreibe, verfolgen Programme auf meinem Smartphone wahrscheinlich meinen Standort, hören auf meine Stimme aufzeichnen den Inhalt meiner Websuchen auf und verkaufen diese Informationen an Werbetreibende.
Ich glaube, ich habe diese Funktionen deaktiviert, aber die Unternehmen, die diese Apps erstellen, machen den Prozess so undurchsichtig, dass ich mir nicht sicher sein kann. Wenn KI-Unternehmen unsere Privatsphäre jetzt nicht einmal respektieren können, denken Sie an das Missbrauchspotenzial, wenn Ihre innersten Gedanken auf Mikrochips codiert und vielleicht sogar irgendwo im Internet zugänglich sind.
Aber nehmen wir an, dass sich die KI-Vorschriften verbessern und unser Gehirn vor Hackern und Unternehmensgier geschützt werden könnte. Vielleicht spüren Sie dann die Anziehungskraft der Verbesserung, da andere um Sie herum von der Technologie zu profitieren scheinen.
Wenn die Verschmelzung mit KI zu Superintelligenz und radikaler Langlebigkeit führt, ist sie dann nicht besser als die Alternative – die unvermeidliche Degeneration von Gehirn und Körper?
Die Idee, dass Menschen mit KI verschmelzen sollten, wird heutzutage viel diskutiert, sowohl als Mittel für Menschen, um zu vermeiden, von KI in der Belegschaft überholt zu werden, als auch als Weg zu Superintelligenz und Unsterblichkeit.
Elon Musk kommentierte kürzlich, dass Menschen der Veraltung durch KI entkommen können, indem sie 'eine Art Verschmelzung von biologischer Intelligenz und maschineller Intelligenz haben'. Zu diesem Zweck hat er eine neue Firma gegründet, Neuralink. Eines seiner ersten Ziele ist die Entwicklung von 'Neural Lace', einem injizierbaren Netz, das das Gehirn direkt mit Computern verbindet.
Neural Lace und andere KI-basierte Verbesserungen sollen es ermöglichen, dass Daten von Ihrem Gehirn drahtlos zu Ihren eigenen digitalen Geräten oder in die Cloud übertragen werden, wo enorme Rechenleistung verfügbar ist.
Musks Beweggründe mögen jedoch weniger als rein altruistisch sein. Er treibt eine Produktlinie von KI-Verbesserungen voran, Produkte, die vermutlich ein Problem lösen, das das Gebiet der KI selbst geschaffen hat.
Vielleicht erweisen sich diese Verbesserungen als vorteilhaft, aber um zu sehen, ob dies der Fall ist, müssen wir uns über den ganzen Hype hinausbewegen. Politiker, die Öffentlichkeit und sogar KI-Forscher selbst brauchen eine bessere Vorstellung davon, was auf dem Spiel steht.
Wenn zum Beispiel die KI nicht bewusst sein kann, dann würden Sie Ihr Leben als bewusstes Wesen beenden, wenn Sie die für das Bewusstsein verantwortlichen Teile des Gehirns durch einen Mikrochip ersetzen würden. Sie würden zu dem, was Philosophen einen 'Zombie' nennen – ein unbewusstes Abbild Ihres früheren Selbst.
Selbst wenn Mikrochips Teile des Gehirns ersetzen könnten, die für das Bewusstsein verantwortlich sind, ohne Sie zu einem Zombie zu machen, ist die radikale Verbesserung immer noch ein großes Risiko. Nach zu vielen Veränderungen sind Sie vielleicht gar nicht mehr die Person, die übrig bleibt. Jeder Mensch, der verbessert, kann, ohne dass er es weiß, sein Leben bei diesem Prozess beenden.
Meiner Erfahrung nach erkennen viele Befürworter der radikalen Verbesserung nicht, dass das verbesserte Wesen möglicherweise nicht Sie sind. Sie neigen dazu, mit einer Auffassung des Verstandes zu sympathisieren, die besagt, dass der Verstand ein Softwareprogramm ist.
Ihnen zufolge können Sie Ihre Gehirnhardware auf radikale Weise verbessern und trotzdem dasselbe Programm ausführen, sodass Ihr Verstand immer noch existiert. So wie Sie eine Computerdatei hochladen und herunterladen können, könnte Ihr Geist als Programm in die Cloud hochgeladen werden.
Dies ist der Weg eines Technikbegeisterten zur Unsterblichkeit – das neue 'Leben nach dem Tod' des Geistes, wenn man so will, das den Körper überlebt. So verlockend eine technologische Form der Unsterblichkeit auch sein mag, wir werden sehen, dass diese Sichtweise des Geistes zutiefst fehlerhaft ist.
Wenn Sie also in Jahrzehnten in ein Mind Design Center schlendern oder einen Android Store besuchen, denken Sie daran, dass die KI-Technologie, die Sie kaufen, aus tiefen philosophischen Gründen ihre Aufgabe nicht erfüllen kann. Käufer aufgepasst.