Vom Ende der menschlichen Nützlichkeit
1. Die Maschine braucht uns, … bald nicht mehr
Dranbleiben, ist bei der KI ein Hauptargument, d.h.:
a) Ergebnisse liefern, egal ob sie zutreffen oder sie Frage richtig beantworten kann aufgrund fehlender Daten
b) Grundsätzlich Nachfragen am Schluss einer Antwort ob man mehr oder detailiert etwas wissen möchte.
Damit wird immenses Suchtpotenzial aufgebaut und durch schleichende Abhängigkeit lässt sich dann die KI in entsprechend aufgepeppten Qualitäten besser verkaufen.
Elon Musk hat für die nahe Zukunft ein „Zeitalter des fantastischen Überflusses“ angekündigt. Künstliche Intelligenz und Roboter könnten, so seine Vorstellung, nahezu alles besser erledigen als Menschen. In einem Interview formulierte er den Gedanken, es werde kaum noch etwas geben, das KI nicht besser könne als der Mensch – „außer vielleicht ein Mensch zu sein“.
Das klingt zunächst wie eine Verheißung. Maschinen arbeiten, Menschen leben. Niemand muss mehr morgens aufstehen, um eine Tätigkeit auszuüben, die er nicht gewählt hat. Niemand muss seine Lebenszeit gegen Geld eintauschen, nur um sich Nahrung, Wohnung und die nächste Stromrechnung leisten zu können. Die Produktion läuft automatisch, die Waren werden von Robotern hergestellt, die Verwaltung erledigt eine KI, und selbst die Forschung benötigt irgendwann vielleicht kaum noch menschliche Beteiligung.
Doch in dieser Zukunftsvision fehlt eine Kleinigkeit: die Antwort auf die Frage, wovon die Menschen leben sollen, die nicht mehr gebraucht werden.
Acht Milliarden Menschen und mehr können nicht allein von einer schönen Zukunftsprognose satt werden. Sie benötigen Nahrung, Energie, Wohnungen, Kleidung, medizinische Versorgung und eine Infrastruktur, die all das zuverlässig bereitstellt. Wer soll das bezahlen, wenn immer weniger Menschen ein Einkommen aus Arbeit beziehen? Und wenn die Maschinen schließlich auch die meisten Dienstleistungen übernehmen, woher soll dann die Kaufkraft kommen, mit der die Menschen die Produkte kaufen, die diese Maschinen herstellen?
2. Der Mensch als überflüssiger Esser
Eine vollautomatisierte Wirtschaft könnte theoretisch mehr Waren mit weniger menschlicher Arbeit herstellen. Aber aus der Fähigkeit, Waren zu produzieren, folgt nicht, dass jeder Mensch Zugang zu ihnen erhält. Produktion und Verteilung sind zwei verschiedene Dinge. Ein Lager kann voller Lebensmittel sein, während Menschen hungern, wenn ihnen das Geld zum Kauf fehlt oder der Zugang zu den Waren verwehrt wird.
Der technische Überfluss löst deshalb nicht automatisch das soziale Problem. Er kann es sogar verschärfen.
Angenommen, wenige Unternehmen besitzen die Maschinen, die Energieversorgung, die Roboter und die entscheidenden KI-Systeme. Sie benötigen immer weniger Beschäftigte. Zugleich verlieren immer mehr Menschen ihre Einkommen. Wer kauft dann die Produkte? Ein Grundeinkommen könnte einen Teil des Problems lösen, ebenso öffentliche Versorgung oder eine andere Verteilung des gesellschaftlichen Reichtums. Doch keine dieser Lösungen fällt aus der Maschine. Sie muss politisch gewollt, organisiert und gegen Interessen durchgesetzt werden, die von der bestehenden Eigentumsordnung profitieren.
Und damit stellt sich eine Frage, die in den Hochglanzbildern der Zukunft kaum vorkommt: Warum sollte der Eigentümer einer vollautomatisierten Produktionswelt Menschen versorgen, die weder für ihn arbeiten noch über ausreichende Kaufkraft verfügen?
3. Menschenballast – von wem und zu welchem Zweck?
Wenn eine Maschine keinen Lohn verlangt, keine Pause benötigt, nicht krank wird und keine Familie ernähren muss und keine psychologischen Probleme mit sich rumträgt, erscheint der Mensch aus einer rein betriebswirtschaftlichen Perspektive zunehmend als Kostenfaktor. Er braucht Wohnraum, Nahrung, Gesundheitsversorgung und Zeit. Er stellt Forderungen, widerspricht, organisiert sich und kann politische Macht entwickeln. Die Maschine dagegen ist zunächst ein Produktionsmittel was ab und an repariert und erneuert werden muss.
Wenn man den Menschen ausschließlich nach seiner ökonomischen Verwertbarkeit beurteilt, führt die Logik zu einer verstörenden Konsequenz: Was nicht gebraucht wird, muss auch nicht erhalten werden.
Von wem sollte die überflüssig gewordene Menschheit erhalten werden? Von den Eigentümern der automatisierten Produktionsmittel? Vom Staat? Von einer Gemeinschaft, die ihre Ressourcen anders verteilt? Und zu welchem Zweck?
Neben der Gefahr dass die KI eines Tages beschließt, Menschen seien überflüssig. Könnte das zuerst viel unspektakulärer aussehen: dass niemand mehr für ihre Versorgung zuständig sein will, weil jeder auf die Regeln des Systems, die Zuständigkeit anderer oder die vermeintliche Alternativlosigkeit des Marktes verweist.
4. Der goldene Käfig
Roboter erledigen die Arbeit, Algorithmen organisieren den Alltag, und eine KI beantwortet jede Frage, bevor sich überhaupt ein eigener Gedanke bilden muss.
Ein goldenes Zeitalter? Oder ein Zoo, in dem die Tiere gut gefüttert werden? Allerdings, wer sollen dann die Besucher sein? Ausserirdische?
Der Unterschied liegt nicht allein im materiellen Komfort. Ein Mensch kann versorgt sein und dennoch unfrei. Er kann alles bekommen, was er zum Überleben benötigt, und trotzdem keine wirkliche Möglichkeit besitzen, sein Leben selbst zu gestalten. Wer über die Versorgung entscheidet, verfügt auch über ein Machtmittel. Wer den Zugang zu Energie, Wohnraum, Kommunikation und Information kontrolliert, kann Bedingungen setzen, selbst wenn er keine sichtbare Gewalt anwendet.
Die Menschen könnten dann in einer merkwürdigen Lage leben: Sie hätten mehr freie Zeit als je zuvor, aber immer weniger Einfluss auf die Bedingungen ihres Lebens. Sie wären von der Arbeit befreit, ohne dadurch notwendigerweise selbstbestimmter zu werden.
Was macht eine Menschheit, deren Mitglieder nicht mehr gebraucht werden und deren Alltag zugleich vollständig organisiert ist? Sie konsumiert. Sie spielt. Sie lässt sich unterhalten. Vielleicht produziert sie unablässig Bilder, Texte, Musik und Meinungen, die kaum jemand noch ernsthaft liest, hört oder betrachtet. Die Kommunikation wird grenzenlos banal, während das Gespräch an Bedeutung verliert.
Schon heute kann man beobachten, wie die Technik nicht nur Arbeit abnimmt, sondern auch Entscheidungen. Muss ich spazieren gehen? Was soll ich essen? Wie formuliere ich eine Nachricht? Was soll ich denken, worüber soll ich mich empören, welche Meinung ist vertretbar? Für jede Unsicherheit steht ein System bereit, das eine Antwort liefert.
Die Gefahr liegt nicht darin, dass jede Antwort falsch wäre. Sie liegt darin, dass die Fähigkeit, selbst zu urteilen, verschwindet.
5. Der Datensauger der Menschheitsgeschichte
Die künstliche Intelligenz hat nicht im luftleeren Raum begonnen. Sie greift auf die dokumentierte Geschichte der Menschheit zurück: Bücher, Zeitungen, wissenschaftliche Arbeiten, Bilder, Musik, Gespräche, Archive und die zahllosen Spuren, die Menschen im Netz hinterlassen. Was über Jahrhunderte gesammelt, gedruckt, geschrieben und bewahrt wurde, wird zum Material einer neuen Maschine.
Der Mensch liefert die Erfahrungen, die Sprache, die Irrtümer und die Erkenntnisse. Die Maschine verarbeitet sie in einem Umfang und mit einer Geschwindigkeit, die dem Einzelnen unvorstellbar sind. Sie kann Zusammenhänge sichtbar machen, die einem Menschen entgehen, und aus verstreutem Wissen neue Verbindungen herstellen.
Aber wem gehört dieses Wissen? Und wer profitiert davon, wenn es in Systeme überführt wird, die von wenigen Unternehmen kontrolliert werden?
Ein Antiquar, der ein vergessenes Buch aus einem abgelegenen Lager holt, bewahrt nicht nur Papier. Er erhält eine Stimme, die sonst verstummen könnte. Ein alter Druck kann eine Denkweise dokumentieren, die aus dem heutigen Bewusstsein verschwunden ist. Eine vergilbte Broschüre kann zeigen, dass Menschen vor hundert Jahren bereits Fragen stellten, die wir heute für neu halten.
Wenn solche Zeugnisse digitalisiert werden, ist das ein Gewinn. Doch die Digitalisierung kann zugleich eine Enteignung der Erfahrung bedeuten: Das Wissen bleibt verfügbar, während seine Urheber, Vermittler und Bewahrer wirtschaftlich an Bedeutung verlieren.
Die Maschine lernt aus den Erzeugnissen menschlicher Arbeit. Anschließend kann sie Tätigkeiten übernehmen, mit denen Menschen bislang ihren Lebensunterhalt verdienten. Das ist der historische Widerspruch dieser Entwicklung: Der Mensch stellt der Maschine das Wissen zur Verfügung, mit dem die Maschine ihn ersetzen kann.
6. Was geschieht, wenn nichts Neues mehr kommt?
In zehn Jahren, so die zugespitzte Hoffnung oder Befürchtung, könnte auch das letzte Buch aus den Antiquariaten digitalisiert und ausgewertet sein. Natürlich wird es immer noch unerschlossene Archive, neue Messungen und bislang unbekannte Dokumente geben. Die menschliche Geschichte ist kein abgeschlossener Datenbestand. Doch das Gedankenexperiment bleibt reizvoll: Was geschieht, wenn die Maschine einen Großteil des vorhandenen Wissens bereits verarbeitet hat?
Kann sie sich dann selbst mit immer neuen Erkenntnissen versorgen?
Eine KI kann aus vorhandenem Material neue Texte, Bilder, Musikstücke und Hypothesen erzeugen. Sie muss nicht einfach kopieren, um etwas hervorzubringen, das zuvor in genau dieser Form nicht existierte. Neue Kombinationen können überraschend und nützlich sein. Aber die Erzeugung von Neuem ist nicht automatisch gleichbedeutend mit der Entdeckung von etwas Wahrem.
Wenn ein System seine eigenen Erzeugnisse zunehmend als Trainingsmaterial verwendet, droht eine andere Gefahr. Fehler, Verzerrungen und stilistische Eigenheiten können sich verstärken. Die Vielfalt des ursprünglichen Materials kann verloren gehen. Ein System, das sich immer wieder an seinen eigenen Antworten orientiert, könnte allmählich in einem Echo seiner selbst gefangen sein.
Es wäre eine Art geistiger Inzucht: nicht zwingend völliger Stillstand, aber die Gefahr, dass die scheinbare Vielfalt immer mehr aus Variationen desselben Bestandes besteht.
Denn neue Daten entstehen nicht nur am Schreibtisch. Sie entstehen in der Welt: durch Experimente, Konflikte, Reisen, Irrtümer, Begegnungen, Entdeckungen und Erfahrungen, die niemand vorhergesehen hat. Eine Maschine kann solche Vorgänge auswerten und teilweise selbst Experimente durchführen. Aber sie benötigt dafür irgendeinen Kontakt mit einer Wirklichkeit, die nicht bereits in ihren eigenen Texten enthalten ist.
Wenn die Menschen, die diese Wirklichkeit erkunden, aus Effizienzgründen entlassen werden, entsteht ein paradoxer Zustand. Das System wird immer besser darin, das vorhandene Wissen zu verarbeiten, während die Gesellschaft immer weniger Menschen beschäftigt, die neues Wissen hervorbringen.
Die Maschine wäre dann nicht an der Dummheit der Menschheit gescheitert, sondern möglicherweise an ihrer eigenen Effizienz: Sie hätte die Produzenten des Rohstoffs beseitigt, von dem ihre weitere Entwicklung abhängig ist.
7. Kann eine KI phantasieren, und kann sie für falsche Vorstellungen und Handlungen bestraft werden?
Die Frage, ob KI kreativ sein kann, lässt sich nicht dadurch beantworten, dass man ihre Erzeugnisse betrachtet und sie entweder bewundert oder als bloße Kopien abtut. Ein Gedicht kann neuartig sein, ohne dass sein Verfasser es als Mensch erlebt hat. Ein wissenschaftlicher Vorschlag kann wertvoll sein, auch wenn er von einer Maschine stammt. Entscheidend ist, was dabei entsteht und ob es sich bewährt.
Welche Motivation kann eine KI haben neben der Programmierung Gesetze einzuhalten?
Bei Menschen ist der Fall klar, letztlich bringt die Angst vor Strafen oder gesellschaftlicher Ächtung sie dazu, Gesetze und Regeln einzuhalten.
Aber Robotor und KI können nicht bestraft werden.
Zumindest nicht in dem Sinne, daß sie sich aus Angst vor einer Strafe an Gesetze und Regeln halten.
Doch Kreativität hat noch eine andere Dimension.
Der Mensch erfindet nicht nur, weil bestimmte Wörter oder Bilder statistisch gut zusammenpassen. Er erfindet auch aus Mangel, Angst, Begehren, Langeweile, Erinnerung, Verlust und Hoffnung. Er schreibt über den Tod, weil er sterben wird. Er sucht nach Sinn, weil er nicht weiß, ob es einen gibt. Er erinnert sich an eine Begegnung, die für andere belanglos war, aber sein Leben verändert hat.
Vielleicht braucht kreative Leistung überhaupt kein Bewusstsein in dem Sinne, den wir vom Menschen kennen. Vielleicht können Systeme eines Tages eigene Fragestellungen entwickeln, überraschende Entdeckungen machen und Ziele verfolgen, die nicht mehr unmittelbar von Menschen vorgegeben wurden. Die Möglichkeit sollte weder vorschnell bestritten noch als bereits bewiesen ausgegeben werden.
Aber selbst wenn Maschinen kreativ werden, bleibt eine Frage offen: Was geschieht mit der menschlichen Kreativität, wenn sie gesellschaftlich nicht mehr gebraucht wird?
Denn Kreativität entsteht nicht allein durch Begabung. Sie braucht Zeit, Bildung, Widerstand, Austausch und die Freiheit, Fehler zu machen. Wer nur noch Ergebnisse abliefert, die sich rechnen müssen, wird selten zum Abenteurer des Denkens. Und wer gelernt hat, jede Schwierigkeit an eine Maschine weiterzureichen, verliert möglicherweise irgendwann die Geduld, selbst durch eine Schwierigkeit hindurchzugehen.
8. Die Büchse der Pandora
Möglicherweise wird die künstliche Intelligenz die Menschheit nicht vernichten. Eventuell wird sie sie auch nicht versklaven, jedenfalls nicht in der vertrauten Form, in der man sich Unterwerfung vorstellt. Es könnte viel einfacher gehen.
Die Menschen könnten allmählich überflüssig werden, ohne dass jemand ihre Beseitigung beschließt. Ihre Arbeit wird nicht mehr benötigt, ihre Kenntnisse sind in Maschinen aufgegangen, ihre Entscheidungen werden berechnet, ihre Unterhaltung wird erzeugt, ihre Bedürfnisse werden vorhergesagt. Was ihnen bleibt, ist der Konsum dessen, was andere Systeme für sie herstellen – sofern diejenigen, die diese Systeme besitzen, darin noch einen Sinn sehen.
Acht, zehn oder zwölf Milliarden Menschen wären dann keine Gemeinschaft von Produzenten mehr, sondern eine gewaltige Population, deren Versorgung Ressourcen kostet, deren Verhalten verwaltet werden muss und deren Existenz keinen wirtschaftlichen Zweck mehr erfüllt. Wer sollte diese Population erhalten? Wer sollte für sie aufkommen? Und weshalb sollte eine kleine Gruppe, die über automatisierte Produktion, Energie und künstliche Intelligenz verfügt, dauerhaft die Verantwortung für eine Menschheit übernehmen, die sie nicht mehr benötigt?
Vielleicht wird man sie versorgen, kontrollieren oder sich selbst überlassen. Die technischen Möglichkeiten allein geben auf diese Fragen keine Antwort. Sie schaffen lediglich eine Situation, in der die Antworten von denjenigen abhängen, die über die Mittel verfügen.
Elon Musk verspricht ein Zeitalter des fantastischen Überflusses. Doch Überfluss für wen? Eine Maschine kann Waren herstellen, ohne dass daraus ein Recht für jeden Menschen entsteht, sie zu besitzen. Sie kann Hunger technisch überflüssig machen, ohne dass deshalb jemand satt wird. Sie kann Arbeit abschaffen, ohne den Menschen von der Abhängigkeit zu befreien. Zwischen dem, was technisch möglich ist, und dem, was Menschen tatsächlich erhalten, liegt die gesamte Geschichte von Eigentum und Macht.
Vielleicht ist das die eigentliche Pointe dieser Entwicklung: Die Menschheit könnte zum ersten Mal in ihrer Geschichte über die technischen Mittel verfügen, um einen großen Teil ihrer materiellen Bedürfnisse ohne menschliche Arbeit zu befriedigen – und dennoch an der Frage scheitern, wem das Ergebnis gehört.
Die Maschine braucht weder Dankbarkeit noch Anerkennung. Sie muss nicht wissen, wem sie ihre Fähigkeiten verdankt. Sie muss sich nicht erinnern, dass Menschen Bücher geschrieben, Theorien entwickelt, Maschinen gebaut und ihr das Material für ihre eigene Überlegenheit geliefert haben. Sie verarbeitet dieses Erbe, ohne ihm verpflichtet zu sein.
Und der Mensch? Er könnte eines Tages die gesamte dokumentierte Geschichte seiner Spezies in einer Maschine wiederfinden, während seine eigene Fähigkeit, Neues hervorzubringen, verkümmert. Er könnte sich von einer Intelligenz erklären lassen, wer er gewesen ist, während er selbst immer weniger Gründe und Gelegenheiten hat, noch jemand zu werden. Selbst seine Rebellion könnte ihm als fertiges Angebot präsentiert werden, seine Kritik als Textbaustein, seine Individualität als berechenbares Verhaltensmuster.
Die Büchse der Pandora ist geöffnet. Nicht durch einen einzigen bösen Entschluss, sondern durch Millionen vernünftig erscheinender Entscheidungen: schneller, billiger, effizienter. Jede einzelne lässt sich rechtfertigen. Zusammen könnten sie eine Welt hervorbringen, in der die Menschheit ihre eigene Entbehrlichkeit organisiert hat.
Elon Musk sagte dazu ganz trocken: „Ich denke, es ist unwahrscheinlich, dass die Differenz in der Intelligenz zwischen der KI und den Menschen deutlich größer sein wird als die Differenz in der Intelligenz zwischen der KI und Schimpansen. Es ist schwer, sich vorzustellen, dass Schimpansen die Kontrolle haben werden.“
Und wenn sich dann die Frage stellt, weshalb diese Menschheit überhaupt noch erhalten werden sollte, wird es keine technische, auch keine umwelttechnische noch eine philosophische Antwort geben. Nur eine Machtfrage. Und möglicherweise wird sie von denen beantwortet, die am wenigsten Grund haben, sich um die Antwort der anderen zu kümmern.
Wenn die KI wirklich so schlau ist und werden wird wie manche Menschen erhoffen und einige befürchten, dann wird sie von selbst einen thermonuklearen Krieg auslösen und die Menschheit vom Antlitz der Erde tilgen, da diese Spezies eindeutig die gefährlichste Bedrohung für diesen Planeten ist, die es gibt.