Der Gesprächspartner muss auf jede unserer Fragen antworten. Anschließend bekommt er seine Antworten vorgelegt und kann sie autorisieren.
Zum journalistischen Leitbild von t-online.Deutschlands Digitalproblem "Uns geht es viel zu gut"
Was braucht Deutschland, um bei der Digitalisierung endlich voranzukommen? Vor allem mehr Mut zur Veränderung, sagt der Gründer und KI-Experte Chris Boos. Als Mitglied in Angela Merkels Digitalrat spricht er im t-online.de-Interview unbequeme Wahrheiten aus.
Diese Bundesregierung wollte alles anders machen. Nachdem Deutschland die Digitalisierung in vielen Bereichen jahrelang verschlafen hatte, wollte die große Koalition endlich durchstarten. Vor einem Jahr setzte Bundeskanzlerin Angela Merkel den Digitalrat ein. Das Gremium besteht aus zehn Experten verschiedener Bereiche, vom Mediziner bis zum Rechtsinformatiker. Sie arbeiten ehrenamtlich, sollen die Regierung beraten und dabei auch kritische Fragen stellen.
Nach der großen Ankündigung ist es allerdings ziemlich still um den Digitalrat geworden. Grund genug, nachzufragen und mit einem der profiliertesten Köpfe des Gremiums zu sprechen: Der Computerwissenschaftler Chris Boos gilt als deutscher Pionier im Bereich künstliche Intelligenz (KI). 1995 gründete er das Unternehmen Arago, das auf KI spezialisiert ist und Konzerne durch automatisierte Prozesse zu entlasten verspricht.
Eines ist schnell klar: Boos nimmt kein Blatt vor den Mund. Lesen Sie hier, was er von der Arbeit im Kanzleramt zu berichten hat, und wo er die größten Probleme für Deutschlands digitale Zukunft sieht:
t-online.de: Herr Boos, die Bundesregierung hat sich vorgenommen, Deutschland in digitalen Dingen schneller voranzubringen. Dafür hat sie mehrere Gremien geschaffen, unter anderem den Digitalrat, in dem auch Sie sitzen. Dieser ist aber nur ein beratendes, kein steuerndes Gremium. Verteidigungsministerin Ursula von der Leyen hat kürzlich im t-online.de-Interview gefordert, es müsse in Deutschland ein Digitalministerium geben. Stimmen Sie zu?
Chris Boos: Ich kann Ihnen nicht sagen, ob wir ein Digitalministerium brauchen oder nicht. Aber ich kann Ihnen sagen, der Digitalminister wäre ein armer Mensch. Digitalisierung findet ja überall statt. Daher wäre ein Digitalminister einer, der immer nur den anderen Dampf machen kann, aber selbst keine Umsetzungskraft besäße. Das stelle ich mir schwierig vor.
Ein bisschen Dampf wäre beim Thema Digitalisierung ja mal ganz schön. Stattdessen bekommt man den Eindruck, viele digitale Themen verflüchtigen sich im Getriebe der Bürokratie. Sei es das schnelle Schließen von Funklöchern, die Erforschung künstlicher Intelligenz oder das Online-Bürgerportal ...
Da sprechen Sie ein paar schöne Punkte an. Funklöcher und Digitalisierung haben nichts miteinander zu tun.
Ach so?
Digitalisierung meint eine Art, wie wir etwas machen. Wir vergleichen uns immer mit den USA und China und gucken neidisch nach Kalifornien. Aber wenn Sie in San Francisco telefonieren, gehen fünf von zehn Anrufen nicht durch, weil das Netz so schlecht ist. Die Firmen im Silicon Valley müssen ihr eigenes Netz betreiben, damit es auf dem Campus funktioniert. An einem guten Mobilfunknetz kann Disruption also nicht liegen.
Na ja, China ist das Gegenbeispiel. Dort ist die Netzabdeckung in den aufstrebenden Küstenstädten sehr gut. Es besteht doch kein Zweifel daran, dass schnelle Mobilfunknetze der digitalen Infrastruktur förderlich sind.
Natürlich sollten wir überall 5G haben. Kein Mensch, schon gar kein Techniker, wird sich jemals gegen mehr Bandbreite wehren. Mehr Bandbreite ist cool, nicht nur wegen besserer Videoqualität. Aber ist sie das ausschlaggebende Kriterium für eine erfolgreiche Digitalisierung? Nö, eigentlich nicht.
Dann vielleicht das Online-Bürgerportal? Warum dauert dessen Aufbau so lange?
Das ist ein riesiges IT-Projekt. Wenn man so etwas anfängt, muss man zugleich die Arbeitsweise der beteiligten Akteure ändern. Die Verwaltung müsste also viel von Start-ups lernen – und vor allem einheitlich handeln. Tut sie aber nicht. Wir haben in Deutschland ganz viele von diesen Portalprojekten, das liegt am Föderalismus. Es ergibt aber keinen Sinn, dass jedes Bundesland sein eigenes Bürgerportal entwickelt. Stattdessen bräuchte es ein zentrales Portal für alle Bundesbürger und alle Vorgänge zwischen den Menschen und dem Staat. Das wäre enorm benutzerfreundlich. Dafür müssten aber viele Beteiligte erst einmal ihre Einstellung ändern.
Das ist eine harte Kritik an den Landesregierungen.
Ich denke, wir wären viel produktiver, wenn wir besser abgestimmt vorgingen. Eigentlich müssten alle Behörden in Deutschland mit einem einzigen Datenpool arbeiten. Das können Sie hierzulande aber niemandem vorschlagen. Da laufen Sie in so viele Machtfragen rein. Was da an Zeit und Geld vergeigt wird, um immer wieder den gleichen Mist zu verfassen, ist irre. Das Ergebnis ist absolut unkomfortabel für die Nutzer. Überall müssen die wieder ihre Daten eingeben. Was soll das?
Andere EU-Staaten, wie zum Beispiel Estland, machen das besser.
Estland ist ein gutes Beispiel. Die sind in der Digitalisierung vorne dran. Aber erstens haben sie wirklich bei null angefangen, nachdem sie aus der Sowjetunion rausgekommen sind. Zweitens ist es ein sehr kleines Land mit viel weniger Einwohnern als Deutschland. Wir können hierzulande nicht unsere Struktur komplett über den Haufen werfen.
Wie sollten wir dann vorgehen?
Ich finde das dänische Beispiel besser. In Dänemark werden alle Behördenschreiben nur noch elektronisch zugestellt. Punkt. Aber stellen Sie sich mal vor, Sie führen das in Deutschland ein. Dann würde in den Medien sofort irgendeine empörte Oma aus Sonstwo zitiert, die einen Brief nicht erhalten hat, weil es dort zufälligerweise noch ein Funkloch gibt. Riesen Aufregung! Mit so einer Einstellung wird hierzulande so vieles verhindert.
Woran liegt es, dass Deutschland große Reformen immerzu ausbremst?
Ganz ehrlich, die Politik ist unser geringstes Problem. Je mehr ich mich mit Politik beschäftige, desto mehr fällt mir auf, dass wir in Wahrheit ein Ausführungsproblem in der Wirtschaft haben. Uns geht es viel zu gut. Es gibt keine großen Probleme mehr. Deswegen ist keiner motiviert, etwas rabiat zu ändern. Zugleich spüren die Politiker, wie ihre Welt auseinander fällt. Deshalb sind sie eigentlich bereit, radikale Änderungen vorzunehmen. Sie warten nur darauf, dass die Wirtschaft aufspringt und mitmacht. Aber die Unternehmen sind viel zu sehr mit ihrer Gewinnoptimierung beschäftigt.
Die Wirtschaftsvertreter im Bund der Deutschen Industrie sehen das anders. Sie fordern, dass die Digitalisierung viel schneller vonstatten gehen sollte.
Ja bitte, dann macht doch! Die Aufgabe des Staates ist es, einen Rahmen zu setzen, an den sich alle halten müssen. Aber welche Regulierungen braucht ein Unternehmer denn, um seinen Schuppen zu digitalisieren? Keine! Nehmen Sie zum Beispiel München, wo all die Airtaxi-Unternehmen sitzen. Wenn Sie vor 30 Jahren gesagt hätten, wir möchten gerne 20 Kilometer vor den Toren Münchens mit unseren fliegenden Autos experimentieren und da auch noch Leute reinsetzen, hätte man Sie wahrscheinlich direkt in die Klapse eingeliefert. Heute kriegen sie erstens die Genehmigung und zweitens fragt noch jemand: "Können wir euch dabei helfen, das nötige Geld zu beschaffen?"
Sie können doch aber nicht abstreiten, dass der gesetzliche Rahmen, den Sie fordern, an vielen Stellen noch löchrig ist. Wir haben zudem den Eindruck, dass sowohl die Regierenden und Gesetzgeber als auch viele Wirtschaftsvertreter bei der Digitalisierung nur mutlos vorgehen. Noch mal: Was läuft schief?
Sowohl in der Politik als auch in der Wirtschaft sollten wir aufhören, Leute dafür herunterzuputzen, wenn sie ungewöhnliche Wege gehen. Das Beste, was wir machen können, ist, dass wir im Zweifelsfall auch mal was schiefgehen lassen und das Scheitern nicht mehr als Manko betrachten. Wenn irgendwo etwas schiefgeht – egal ob in Unternehmen oder in der Politik – schreien wir sofort, der und der müsse seinen Hut nehmen. Wir strafen diejenigen ab, die etwas riskieren. Meist noch bevor überhaupt irgendetwas passiert ist. Es gibt heute weder im Management noch in der Politik Anreize, ein Risiko einzugehen. Wie will man so jemals etwas ändern?
Wie erklären Sie sich diese destruktive Einstellung?
Wir sind zu ängstlich. Das ist ein großes gesellschaftliches Problem. Wir haben uns nach dem Zweiten Weltkrieg so mühsam nach oben gearbeitet, und jetzt sind wir einfach zu satt. Meine Oma hat noch gesagt, sie möchte gern, dass es den Enkeln besser geht. Auf die Idee würden wir heute gar nicht mehr kommen. Uns geht es schon allen gut. Jetzt geht es nur noch darum, dafür zu sorgen, dass es uns nicht schlechter geht.
- Digitalstrategie der Bundesregierung: Ein Komiteechen soll’s richten
Wie könnte man in der Gesellschaft wieder Raum für Visionen schaffen?
Wir brauchen ein Thema, hinter dem sich alle versammeln können. US-Präsident John F. Kennedy hat das damals mit seiner "Put a man on the moon"-Mission schlau vorgemacht. Das war in Wirklichkeit ein Programm, um die Gesellschaft auf die Forschung zu fokussieren – und das in Zeiten eines drohenden Krieges. Das gemeinsame Ziel lautete eben nicht, wir machen die anderen platt, sondern wir sind vor denen auf dem Mond. Das war viel besser.
Was könnte eine "Moonshot"-Mission für Deutschland sein?
Unser Moonshot ist das autonome Fahren. Das ist meine persönliche Meinung. Ohne die Autoindustrie geht in diesem Land nämlich gar nichts. Deren einzige Kennzahl sind derzeit noch verkaufte Autos. In Zukunft wird es aber um gefahrene Kilometer gehen. Das ändert alles.
Autonomes Fahren könnte die Branche womöglich vor ihrem eigenen Untergang retten. Aber warum sollten sich die Bürger für das Thema begeistern?
Wenn wir unsere Wirtschaft erhalten können, wäre das schon mal ganz nützlich, oder? Für die meisten Menschen symbolisiert das Auto Wirtschaftsstärke und persönliche Freiheit. Man kann aber noch viel mehr hinter dem Thema versammeln – Nachhaltigkeit zum Beispiel. Momentan nutzen wir unsere Autos nur während zwei Prozent ihrer "Lebenszeit". Durch autonomes Fahren könnten wir viel besser mit den Ressourcen umgehen. Man könnte auch Leute bedienen, die nicht mehr selbst Auto fahren können. Das wäre zugleich eine Antwort auf die demografische Entwicklung.
Selbstfahrende Autos brauchen künstliche Intelligenz. Die Bundesregierung will die Forschung auf diesem Gebiet fördern und hat dazu eine nationale KI-Strategie verfasst. Allerdings gibt es viel Kritik daran. Was halten Sie als Experte von dem Dokument?
Ich finde, wir sollten die bestehende Strategie erst einmal umsetzen. Und wenn dann etwas schiefgeht, sollten wir sie verbessern. Wer sich über eine Strategie beschwert, bevor irgendwas davon umgesetzt wurde, tut das im luftleeren Raum. Es gibt keine Daten, die sagen, dass die Strategie schlecht ist. Ihre Ziele – etwa, dass wir KI im Dienste der Menschen bauen – würde doch jeder unterschreiben! Stattdessen streiten sich die Leute über die Frage, ob drei Milliarden oder 500 Millionen Euro Investitionen in die Forschung genug sind. Ich sage: Lasst uns die verfügbare Kohle doch erst mal ausgeben. Und wenn wir feststellen, dass sie etwas bewirkt, können wir nach mehr fragen.
Stichworte wie "Machine Learning" werden in der KI-Strategie nicht erwähnt, das hat für Verwunderung gesorgt.
Ich finde es richtig, dass wir uns nicht auf eine bestimmte Technologie festlegen. Künstliche Intelligenz ist kein guter Begriff, weil er so viele Assoziationen auslöst. Aber es gibt halt keinen besseren. In der KI-Forschung wechselten sich schon immer "Sommer" und "Winter" ab. Sommer ist immer dann, wenn ein einziger Algorithmus gehypt wird. Darauf folgt garantiert der Winter, nämlich sobald sich herausstellt, dass der Algorithmus nicht alle Probleme der Welt lösen kann. Versuchen Sie mal in Ihrer Familie alle Probleme nach dem gleichen Schema zu lösen. Dann haben Sie schnell Chaos.
- KI-Experte im Interview: "Die Bundesregierung setzt auf veraltete Konzepte"
Die Bundesregierung wünscht sich eine künstliche Intelligenz, die dem Menschen dient und ethisch handelt. Was kann man sich unter einer "ethischen KI" vorstellen? Ist es überhaupt sinnvoll, in diesem Zusammenhang über Ethik zu sprechen?
In einer Welt, die Egoismus vor Gemeinschaft stellt und Fühlen vor Fakten, müssen wir definitiv über Ethik reden. Aber was hat das mit KI zu tun? Ethisch oder moralisch handeln kann doch nur etwas, das ein Bewusstsein, ein Ich besitzt. Eine KI besitzt kein Ich, und das wird sich auf absehbare Zeit nicht ändern. Von daher ist es aus meiner Sicht falsch zu sagen, wir bauen unsere Moralvorstellungen in die KI ein.
Aber wenn KI künftig so wichtig ist, sollte sie doch unseren ethischen Wertvorstellungen nicht widersprechen.
KI lernt von Daten. Daten entstehen aus der Interaktion von Menschen und Maschinen. Die KI kann der Gesellschaft an dieser Stelle einen Spiegel vorhalten. Wir sollten aber auf keinen Fall versuchen, die Daten so zu manipulieren, dass sie eine Welt spiegeln, die wir gerne hätten, statt der, die wir tatsächlich haben. Denn dann sind auch die Entscheidungen, die darauf basieren, garantiert falsch.
Wir sprachen vorhin schon über autonomes Fahren. Gerade hier wird einer Maschine enorm viel Verantwortung übertragen. Sollte sie dann nicht Entscheidungen treffen, die unseren eigenen Moralvorstellungen nahe kommen? Mal angenommen, ich fahre mit meinem Roboterauto irgendwohin. Es passiert etwas Unvorhergesehenes und ein Unfall ist unvermeidlich. Jetzt muss die Maschine entscheiden, wer dabei zu Schaden kommt: die Oma oder das Kind auf der Straße?
Ah, das berühmte Trolley-Problem! Drehen wir den Spieß doch mal um: Sie als Mensch und Autofahrer haben ein Ich und können frei entscheiden. Was würden Sie in dieser Situation tun?
Ich würde wahrscheinlich aus der Situation heraus reflexartig entscheiden.
Ich formuliere das mal um: Sie lassen Ihren Körper das tun, was Ihr 70.000 Jahre alter Instinkt schon getan hätte, als sie noch an der Liane durch die Gegend schwangen. Im Auto ist das garantiert falsch. Wenn sie jetzt aber zwei Sekunden vor dem Zusammenprall die Zeit anhalten und in Ruhe überlegen könnten: Was würden Sie dann machen?
Sehr genau überlegen und abwägen.
Mit welchem Ergebnis? Fahren Sie die Oma um oder das Kind?
Am liebsten keine von beiden. Ich wäre in einem Dilemma.
Genau! Wir haben uns philosophisch verstrickt. Nach unserer Lehre ist jedes Leben gleich viel wert. Sie dürfen diese Entscheidung gar nicht treffen. Nach westlicher Ethik lautet die korrekte Antwort also: Nur der Zufall kann entscheiden. In Indien oder Brasilien sieht man das aber vielleicht ganz anders.
Was folgt daraus?
Wir müssen uns als Gesellschaft fragen: Haben wir den Anspruch, dass die ganze Welt nach unserem westlichen Wertesystem tickt? Oder ist schon dieser Anspruch unethisch? Man könnte ihn fast schon als imperialistisch bezeichnen.
Wie also sollte die künstliche Intelligenz in so einer Situation am besten entscheiden?
Die KI selbst handelt nicht ethisch. Die Frage ist: Wer trainiert die KI, und darf derjenige diese KI irgendwo anders, wo vielleicht andere Werte herrschen, überhaupt einsetzen? Ich kann diese ethische Verantwortung nicht einfach auf ein paar Programmierer abwälzen. Verstehen Sie mich nicht falsch: Ich finde unser Wertesystem prima. Vielleicht würde es vielen Menschen anderswo auf der Welt damit viel besser gehen. Aber wenn das unsere Überzeugung ist, müssen wir eben dafür sorgen, dass die ganze Welt unsere KI-Produkte nutzt, die nach unseren Wertmaßstäben trainiert sind – und nicht die anderer Staaten wie etwa China.
Haben Sie den Eindruck, dass die Mehrzahl der Bürger hierzulande diese Herausforderung verstanden hat?
Mit Sicherheit nicht. Die Debatte wird noch sehr intellektuell geführt. Am Stammtisch will niemand über Moral diskutieren. Ich wünsche mir, dass wir diese philosophischen Fragen nicht einfach beiseite schieben, indem wir ein Regelwerk für angeblich ethische Maschinen und Algorithmen aufstellen, ohne die Menschen damit zu konfrontieren. Das wäre nur eine Bekämpfung der Symptome. Das Gleiche passiert übrigens, wenn Sie Facebook vorschreiben, welche Inhalte zensiert werden sollen. Die Inhalte gibt es ja trotzdem. Wenn Sie den Hass verhindern wollen, müssen Sie dafür sorgen, dass die schweigende Mehrheit den Hasskommentatoren entgegentritt und sagt: Nicht mit uns! Denn wenn 10.000 Menschen, die Hass verbreiten, sich auf einmal zehn Millionen anderen Menschen gegenübersehen, hat das eine Wirkung. Aber wenn keiner was sagt, dann sehen 10.000 Leute wie sehr viele aus. Früher nannte man das Zivilcourage. So etwas kann man nicht an eine Instanz outsourcen, die mit den Inhalten Gewinn machen will.
- Bundeskanzlerin im t-online.de-Interview: Merkel erklärt ihren Plan für Deutschlands digitale Zukunft
- Kanzleramtschef Braun im t-online.de-Interview: "Es muss Schluss sein mit den Funklöchern"
- Verteidigungsministerin von der Leyen im t-online.de-Interview: Digitalisierung muss Chefsache sein
Damit nehmen Sie Facebook, YouTube, Twitter und Co. aus der Verantwortung. Wenn eine Zeitung es aber zuließe, dass auf ihren Leserbriefseiten Menschen beleidigt, verleumdet und mit dem Tod bedroht würden, wäre das auch nicht zulässig. Der Verleger würde zu Recht dafür zur Verantwortung gezogen. Deshalb mal so gefragt: Wenn Sie drei Wünsche frei hätten, was würden Sie sich von der Bundesregierung wünschen?
Ich würde mir wünschen, dass mehr Menschen das Kabinett so erleben können, wie wir es im Digitalrat wahrnehmen: Als total offen und bemüht, etwas zu tun, was für die Menschen Sinn ergibt. Das kommt ja in den Medien nie rüber. Ich war sehr skeptisch gegenüber dem Politikbetrieb. Aber da arbeiten tatsächlich Leute, die sich Gedanken über die Menschen machen. Sie sind sich nicht immer einig, aber sie diskutieren es aus.
Wie muss man sich das vorstellen? Sie sitzen mit im Kabinettssaal, hören den Debatten zu und geben hinterher Feedback?
Wir diskutieren mit. Das Geniale an diesem Digitalrat ist, dass er ein super Team ist. Wir sind neun völlig unterschiedliche Leute aus ganz unterschiedlichen Fachgebieten. Wir sind alle Alphatiere, die aber trotzdem als Team funktionieren.
Was ist das Erfolgsgeheimnis?
Es muss sich keiner produzieren. Wir machen das alle ehrenamtlich. Weil wir es wollen. Jeder ist Experte auf seinem Gebiet. Trotzdem hört man aufeinander. Es gibt keine Besserwisser. Genau diese Einstellung brauchen wir auch für den digitalen Umbruch in Deutschland: Dieses "Hey, ich nehme auch absurden Input auf und rede drüber". Am Ende können wir uns vielleicht darauf einigen, dass eine Idee nix taugt. Aber wir haben zumindest mal darüber nachgedacht und nicht sofort gesagt, es geht eh nicht. Ich glaube, dass der Digitalrat ein Glücksfall für die Politik ist.
Dann bräuchte also jede Institution und jedes Unternehmen so einen Digitalrat?
Wenn man ihm tatsächlich zuhört, würde das viel bringen.
- Gespräch in Berlin
