KI als "Gefahr" – Historiker Harari: “Droht die totale Überwachung”

Künstliche Intelligenz soll künftig Unmögliches möglich machen. Allerdings könnte am Ende die Vernichtung der Menschheit stehen, warnt Yuval Noah Harari. Was nun dringend zu tun ist, erklärt der Historiker im Gespräch.

Die Menschheit ist sich selbst zur Bedrohung geworden: Mit Kriegen, Konflikten und allerlei Streitigkeiten halten wir uns davon ab, existenziellen Bedrohungen wie der Klimakrise energisch entgegenzutreten. Nun soll Künstliche Intelligenz (KI) bei der Rettung helfen oder gar die Lösung selbst sein. So versprechen es die Techunternehmen – denen fällt mit Yuval Noah Harari allerdings einer der wichtigsten Denker unserer Zeit ins Wort: Ja, die KI kann uns Menschen helfen, sagt er im Interview mit t-online. Sie könnte aber auch zum größten Problem der gesamten Menschheitsgeschichte werden.

Was genau macht die KI potenziell so bedrohlich? Wie könnte sie für totalitäre Zwecke missbraucht werden? Und was sollten gerade die Regierungen demokratischer Staaten nun dringend tun, um die Gefahren durch KI einzudämmen? Diese Fragen beantwortet Harari, Autor des kürzlich erschienenen Buches "Nexus. Eine kurze Geschichte der Informationsnetzwerke von der Steinzeit bis zur künstlichen Intelligenz", im Gespräch mit unserer Redaktion.

t-online: Professor Harari, Künstliche Intelligenz könnte helfen, die Menschheit vor globalen Krisen wie dem Klimawandel oder der Überbevölkerung zu retten – zugleich geht von ihr aber auch eine existenzielle Gefahr aus. Wie kann die Menschheit sich schützen?

Yuval Noah Harari: Die Situation ist dramatisch. Die Bedrohung durch Künstliche Intelligenz ist real, wir müssen sie dringend eindämmen. Es passiert viel zu wenig, um diese Gefahr auszuschalten.

Eine staatliche Regulierung sehen die KI-Unternehmen aber ungern, auch der von der Europäischen Union verabschiedete AI Act wird kritisiert. Braucht es mehr politischen Druck auf die Digitalkonzerne?

KI-Unternehmen argumentieren, dass es zu früh sei, um über eine umfassende Regulierung nachzudenken. Aber wann soll sonst der geeignete Zeitpunkt sein? Würde irgendjemand einem Autohersteller erlauben, ein Auto mit Gaspedal, aber ohne Bremse auf die Straße zu bringen? Wohl kaum. Jedes neue Automodell, das auf die Straße rollt, ist zuvor von staatlichen Behörden akribisch geprüft und für sicher befunden worden. Bei der KI-Technologie ist das gegenwärtig überhaupt nicht der Fall: Die Unternehmen können jedes beliebige KI-System entwickeln und es auf die Welt loslassen, ohne sich vorher zu vergewissern, dass es sicher ist. Und dann lehnen sie auch noch jegliche Verantwortung ab, wenn etwas schiefgeht. Also, ja, es braucht mehr Druck.

Welche Gefahr geht konkret von der KI aus? In Ihrem neuen Buch "Nexus" warnen Sie vor der potenziellen Auslöschung der Menschheit.

Genau das ist das Problem. Wir wissen es nicht. Eine KI könnte Kontrolle über Atomwaffen erlangen oder Terroristen bei der Herstellung eines Supervirus helfen. Aber es ist noch schlimmer: Eine KI ist ein unabhängiger Akteur, eine fremdartige Intelligenz, die selbstständig lernt und Ideen entwickelt, die sich unserem menschlichen Verständnis der Welt entziehen. Außerdem macht sie Fehler. Wenn wir die Kontrolle verlieren, dann wird es richtig gefährlich. Bald wird die Zahl der Künstlichen Intelligenzen künftig in die Millionen, gar Milliarden gehen. Die Lage kann schnell völlig unbeherrschbar werden.

Haben Regierungen weltweit die Gefahr erkannt?

Sie sollten es besser, zumindest Ansätze zur Regulierung existieren. KI ist ein globales Problem, deswegen brauchen wir eine globale Lösung. Gerade im militärischen Bereich: Autonome Waffensysteme sind keine Zukunftsmusik mehr. Die Unternehmen werden sich nicht von selbst regulieren, das ist die Aufgabe von Regierungen. Ich habe mit Politikern und Technologieunternehmern Gespräche geführt, teils herrscht da offene Begeisterung für die KI und ihre Möglichkeiten. Trotzdem müssen wir bei der KI sehr, sehr vorsichtig sein. Die Situation kann schnell außer Kontrolle geraten.

Wie mächtig kann Künstliche Intelligenz werden, wenn wir ihr keine Grenze setzen?

Die Möglichkeiten der KI erscheinen nahezu grenzenlos. Was wir bislang sehen, ist nur der Beginn. Da kommt noch viel mehr. Über Jahrzehnte war KI ein Bereich der Science-Fiction, noch um 2010 haben sich nur wenige Menschen in Wissenschaft und Wirtschaft überhaupt damit beschäftigt. 2016 besiegte dann das Computerprogramm AlphaGo zur allgemeinen Überraschung den Weltklassespieler Lee Sedol im hochkomplexen Brettspiel Go. Das war ein Paukenschlag. Zahlreiche seriöse Wissenschaftler und Unternehmer glauben nun, dass die Künstlichen Intelligenzen innerhalb von zwei oder drei Jahrzehnten intelligenter und leistungsfähiger als der Mensch sein werden.

Eine schaurige Vorstellung.

Deswegen müssen wir die Kontrolle behalten. Stellen wir uns vor, wir Menschen müssten auf unserem Planeten mit Millionen von KI-Akteuren zusammenleben, die mächtiger und intelligenter sind als wir. Das wäre eine sehr schlechte Aussicht, denn unser Leben läge dann in Händen dieser fremdartigen Intelligenzen. Es ist eher unwahrscheinlich, dass eine weniger intelligente Entität wie der Homo sapiens dann noch die Kontrolle behalten kann. Je früher wir die KI einhegen, desto besser. Es muss jetzt geschehen!

Bislang sind Künstliche Intelligenzen wie ChatGPT zwar beeindruckend, auch hilfreich, sie wirken aber nicht unbedingt bedrohlich. An welchem Punkt der Entwicklung befinden wir uns im Augenblick?

Wir befinden uns erst am Anfang. ChatGPT in seinen unterschiedlichen Versionen ist ein Beginn, ein Zwischenstand, so wie einst einfache Organismen am Anfang der organischen Evolution ein Zwischenstand waren. Es gibt allerdings einen gewaltigen Unterschied: Die organische Evolution brauchte Milliarden von Jahren für die Entwicklung von den Mikroben über die Dinosaurier bis hin zu uns Menschen. Die digitale Evolution ist millionenfach schneller. Die KI-Amöben von heute können in 20 oder 30 Jahren bereits KI-Dinosaurier werden. Niemand hat eine Vorstellung davon, was danach kommt. Die KI und ihre Macht könnten im Jahr 2050 nahezu unbeschränkt sein.

Das klingt nach einer Dystopie. Kann die KI auch bei der Bewältigung menschengemachter Krisen helfen?

Auf jeden Fall. KI birgt ein immenses positives Potenzial, sonst würden wir sie nicht entwickeln. Elon Musk, die Leute bei Microsoft, Facebook, Alibaba und Tencent erzählen uns auch ständig von den positiven Möglichkeiten der KI. Das ist ihr Job. Meine Aufgabe als Historiker und Philosoph besteht hingegen darin, diesen Optimismus ein wenig auszugleichen, indem ich sage: Moment, es gibt auch einige Gefahren! Wir sollten die KI weiterentwickeln, ja, aber mit Vorsicht.

Wo konkret sehen Sie positives Potenzial bei der KI?

Mehr als eine Million Menschen sterben jährlich bei Verkehrsunfällen, die meisten verursacht durch menschliches Versagen. Jemand schläft am Steuer ein, ist betrunken oder unaufmerksam. Selbstfahrende Fahrzeuge lösen die meisten dieser Probleme. Die KI ermöglicht zudem die beste Gesundheitsfürsorge der Geschichte. Nicht nur, weil sie neue Medikamente und neue Behandlungsmethoden erfinden kann, sondern auch, weil sie 24 Stunden am Tag zu analysieren vermag, was in unserem Körper passiert. Möglicherweise werden die ärmsten Menschen der Welt durch KI zukünftig eine bessere Gesundheitsversorgung erhalten als die reichsten Menschen heutzutage.

Was ist mit der Klimakrise, die ebenso wie die Entwicklung der KI rasant voranschreitet?

Die ökologische Katastrophe, die uns bevorsteht, kann mithilfe von KI eingedämmt werden. Bessere Verfahren der Energiegewinnung und deren Verteilung sind genauso durch die KI denkbar wie effizientere Motoren. Es gibt noch viele andere positive Potenziale in zahlreichen anderen Bereichen. Meine Hoffnung ist, dass wir lernen, bei der KI auf Bremse und Gaspedal gleichzeitig zu treten, damit wir in der Lage sein werden, von all dem positiven Potenzial zu profitieren und gleichzeitig die schlimmsten Szenarien zu verhindern.

KI entlässt uns aber nicht aus der Eigenverantwortung?

Sie ist nur ein Teil der Lösung. Die Hoffnung ist ziemlich riskant, dass diese Technologie uns vor den Folgen unseres eigenen Verhaltens gegenüber der Umwelt bewahrt. Wir als Menschheit müssen uns überlegen, was wir wirklich brauchen und wollen. So wie bislang kann es nicht weitergehen. Das ist der Schlüsselgedanke.

Angesichts der zahlreichen Krisen scheint keine Zeit dafür zu sein, diesen Gedanken zu Ende zu führen.

Das ist ein weiteres großes Thema in meinem Buch "Nexus": der Unterschied zwischen organischen und anorganischen Systemen. Wir Menschen sind organische Einheiten, die nach Zyklen funktionieren. Menschen sind tagsüber aktiv, nachts gehen wir schlafen. Menschen arbeiten, sie ruhen sich aus. Sie werden alt, sie verfallen und sterben schließlich. Ein anorganisches System kennt solche Zyklen nicht. Sommer oder Winter? Einer KI ist das egal, sie muss auch weder schlafen noch essen. Da immer größere Teile der Welt – wie die Finanzsysteme – von diesem anorganischen System verwaltet werden, sind auch wir Menschen zunehmend gezwungen, nach den Regeln dieses anorganischen Systems zu leben – und das ist für uns zerstörerisch.

Wir Journalisten merken deutlich, wie krisenhaft und schnelllebig die Welt geworden ist.

Das ist ein gutes Beispiel. Die Menschen fühlen sich gezwungen, ständig wach zu sein. Immerzu ist man aufgeregt, es gibt wenig Zeit zum Ausruhen. Auch wenn Sie ein Politiker sind, dürfen Sie sich keinen Tag und zu keiner Zeit wirklich entspannen, denn es gibt immer neue Nachrichten. Das gilt auch für Leute aus der Finanzwelt, wo die KI eine Schließung der Börsen überflüssig macht. Wenn Sie ständig aktiv sein müssen, führt das in den Zusammenbruch. Schlüsselgedanken über die Zukunft der Welt anzustellen, fällt in einer solchen Situation schwer. Vor allem sollten wir auch bedenken, welche Folgen der Einzug der KI auf unsere Gesellschaften und Demokratien hat.

Welche sind das?

Durch KI droht die totale Überwachung. Stellen Sie sich vor, irgendjemand hat vor vielen Jahren etwas Anstößiges auf einer privaten Party gesagt, vielleicht einen Witz gemacht, den eine andere Person aufgezeichnet hat. Der Witzeerzähler von damals bewirbt sich heute auf einen Job, etwa eine Richterstelle – und die KI findet diesen längst vergessenen Witz von damals im Internet. Die Karriere ist zerstört. Eine KI ist immer wach, eine KI vergisst niemals. Unser aller Leben wird ein einziges, nicht enden wollendes Bewerbungsgespräch, in dem wir uns immer von unserer besten Seite zeigen müssen. Wenn man den Menschen aber keine Ruhe gibt, brechen sie zusammen. Das ganze System bricht zusammen.

Das wären gute Zeiten für Diktatoren und Nachrichtendienste.

Tatsächlich ist es so. Nehmen wir die Staatssicherheit in der DDR: Die Stasi versuchte, das Leben der DDR-Bürger nahezu umfassend zu überwachen, was aber gar nicht so einfach war. Allein um eine Person 24 Stunden am Tag zu überwachen, braucht es mindestens zwei Agenten. Denn einer muss immer schlafen oder sich ausruhen. Die Überwachung einer Gesellschaft ist mit herkömmlichen Mitteln schwer: Dazu benötigt man Millionen von Agenten, dazu Millionen Analysten, die die Abermillionen Berichte auswerten. Ganz anders ist es bei KI: Die schläft niemals und wertet alle Informationen in Sekunden aus. KI wäre in der Lage, mehr als acht Milliarden Menschen rund um den Globus lückenlos zu überwachen. Diese neue Technologie könnte die schlimmsten totalitären Regime in der Geschichte erschaffen. Zum ersten Mal ist es technisch möglich, jederzeit jeden zu verfolgen.

Also wird George Orwells Dystopie "1984" doch noch Realität?

Was wir erleben, ist viel schlimmer als Orwell. In seinem Roman "1984" gab es kleine Lücken innerhalb der Überwachung. Aber mit der KI können Sie sicherstellen, dass es keine einzige Minute Freiheit mehr gibt. Computer, Smartphones, Drohnen, Kameras und überall im öffentlichen und privaten Raum Mikrofone: So wird die Auslöschung der Privatsphäre möglich. In Chinas baut das Regime bereits ein totales Überwachungssystem auf, Israel errichtet – aus anderen Gründen – etwas ähnliches in den besetzten palästinensischen Gebieten.

Umso wichtiger ist es, dass sich die liberalen Demokratien gegen die negativen Auswirkungen der KI wehren. Haben Sie einen Ratschlag?

Technologie an sich ist weder gut noch böse. Es kommt darauf an, was wir Menschen daraus machen. Nehmen wir die sozialen Medien. Social-Media-Konzerne wie Meta, X oder Google behaupten, dass sie nicht für die Verbreitung von Verschwörungsmythen, Fake News, Empörung und Hass verantwortlich seien. In den USA und Europa setzen sich diese Unternehmen stark dafür ein, keine Haftung dafür übernehmen zu müssen, was auf ihren Plattformen alles schiefläuft. Das ist verantwortungslos – ebenso wie das Versagen demokratischer Regierungen, die Konzerne härter zu regulieren. Das muss sich schleunigst ändern.

Aber wie?

Es gibt Beispiele aus der Geschichte, an denen wir uns orientieren können. Seit es Zahlungsmittel wie Münzen und Geldscheine gibt, werden sie gefälscht. Das kann zu einer ernsthaften Gefahr für das gesamte Finanzsystem werden, deswegen gilt Geldfälschung seit jeher als schlimmes Vergehen und wird entsprechend bestraft. Nun ist aber das Fälschen von Menschen durch das Internet, durch soziale Medien und KI nicht nur möglich, sondern auch zur Gefahr geworden. Es kann überaus zerstörerisch werden. Warum wird diese enorme Bedrohung für Demokratien nicht verfolgt?

Was schlagen Sie vor?

Wir brauchen strengste Regelungen gegen das Fälschen von Menschen. Damit meine ich den Fall, dass sich eine nicht-menschliche Intelligenz als Mensch ausgibt. Es geht mir nicht darum, dass jemand ein gefälschtes Video von Kamala Harris oder Donald Trump erstellt. Ich spreche über den Fall, dass ein echter Mensch online mit jemandem interagiert, der sich als Mensch ausgibt und von seinem Gesprächspartner auch für einen solchen gehalten wird – tatsächlich aber ein Bot, ein Computerprogramm, ist.

Demokratie lebt vom Gespräch.

Genau! Eine Demokratie ist ein Gespräch, Diktaturen sind Diktate. Aber wenn das demokratische Gespräch manipuliert oder gestört wird, haben wir ein beängstigendes Problem. Schätzungen zufolge werden etwa 20 Prozent aller Tweets auf X, früher Twitter, von sogenannten Bots, sprich Computerprogrammen, generiert, möglicherweise sind es auch mehr. X ist wichtig, dort finden politische Unterhaltungen statt, dort wird beeinflusst, wer gewählt wird. Wenn immer mehr nicht-menschliche Stimmen das menschliche Gespräch beeinflussen, müssen die Regierungen einschreiten.

In Brasilien hat ein Richter X abschalten lassen und Elon Musk so gezwungen, Hass und Lügen auf X zu regulieren.

Das zeigt, dass es geht! Die europäischen Regierungen – auch Deutschland – sollten sich ein Vorbild an Brasilien nehmen. Sie müssen verhindern, dass soziale Medien die demokratischen Gesellschaften weiter vergiften.

Die Technologiekonzerne wehren sich gegen Reglementierung und verweisen auf die Redefreiheit. Ist dagegen anzukommen?

Es geht ja eben exakt um die Redefreiheit! Allerdings um die Redefreiheit von Menschen, nicht von Bots. Ja, Menschen kommunizieren manchmal zornig oder hasserfüllt, so unschön es auch sein mag, das gehört zum demokratischen Gespräch. Damit ist allerdings ein bedrohliches Problem verbunden: Die Algorithmen der Social-Media-Plattformen verstärken Stimmen der Empörung und andere negative Emotionen aus finanziellen Gründen: Mehr Empörung bedeutet mehr Engagement der Nutzer, was zwangsläufig zu mehr Gewinn für das Unternehmen führt. An dieser Stelle kommen wir wieder zur Frage von Haftung und Verantwortung.

Wie lautet Ihre Antwort?

Technologieunternehmen sind nicht haftbar, wenn ich persönlich in meinem X- oder Facebook-Account etwas Hasserfülltes schreibe. Aber sie sind sehr wohl haftbar, wenn ihre Algorithmen diese hasserfüllten Inhalte absichtlich massenhaft verbreiten. Ähnlich verhält es sich mit den Bots in den sozialen Medien. Die Konzerne dulden eine Situation, in der ich nicht sicher sein kann, ob ich mich mit einem Menschen oder einem Bot unterhalte. Sie wissen sehr gut, dass es zahlreiche Bots auf ihren Plattformen gibt, tun aber nicht genug dagegen. Das ist vollkommen inakzeptabel.

In den Konzernzentralen werden Ihre Forderungen auf wenig Gegenliebe stoßen.

Die Sache ist aber simpel. Nehmen wir an, Sie besitzen eine Druckerei. Plötzlich kommt jemand und beginnt mit dem Fälschen von Geld. Wenn Sie es nicht unterbinden, tragen Sie die Verantwortung und werden bestraft. Genauso sollten wir es bei den Plattformen der sozialen Medien handhaben.

Sie beschäftigen sich seit Jahrzehnten mit der konfliktreichen Geschichte der Menschheit: Blicken Sie eher optimistisch oder pessimistisch in die Zukunft?

Es ist keineswegs ein Naturgesetz, dass die Menschen Kriege gegeneinander führen müssen. Ja, die liberale Weltordnung ist derzeit aufs Höchste bedroht. Und ja, wir haben es mit Chaos-Agenten wie Wladimir Putin zu tun. Ich verwende das Wort Chaos an dieser Stelle mit Bedacht, denn genau darum geht es denjenigen, die die liberale Weltordnung attackieren: Sie wollen Chaos stiften, sie haben keine Idee für eine alternative Ordnung. Wenn wir als Demokraten das nicht stoppen, wird der Großteil der Welt irgendwann wie Russland sein.

Haben Sie Hoffnung, dass Putin & Co. aufgehalten werden können?

Russlands Wirtschaft ist weniger bedeutend als die Italiens. Allerdings bringt Russland weit mehr Mittel dafür auf, um Chaos zu stiften, als die westlichen Staaten ihrerseits aufwenden, die liberale Weltordnung zu stabilisieren. Wenn die Ordnung zusammenbricht, werden die Folgen auf der ganzen Welt schrecklich sein. Es kommt nun stark auf den Ausgang der Präsidentschaftswahl in den USA an.

Wie lautet da Ihre Prognose?

Es steht 50 zu 50. Aber der Menschheit ist es in ihrer Geschichte immer wieder gelungen, große Probleme zu überwinden und bisweilen auch sehr gute Entscheidungen zu treffen. Hoffen wir, dass es so bleibt.

Professor Harari, vielen Dank für das Gespräch.

Den ersten Teil des Interviews mit Harari zu den Risiken Künstlicher Intelligenz lesen Sie hier.

Wie die neuesten KI-Formen entwickelt werden und welche Risiken dabei entstehen, hat Florian Harms anlässlich eines Besuchs in Kalifornien in diesem Tagesanbruch zusammengefasst.

• 

  Star-Historiker Harari über KI: "Sie könnten uns sogar vernichten"
• 

  KI-Pionier Mustafa Suleyman: "Ahnen nicht einmal, was auf sie zukommt"
• 

  Russland gegen den Westen: "Das begreift Wagenknecht nicht"

Wenn Sie sich vertieft über die Risiken Künstlicher Intelligenz informieren möchten, finden Sie hier den detaillierten Bericht weltweit führender Wissenschaftler.