/Interview

KI-Forscher Toby Walsh: Wir sollten uns nicht um schlaue, sondern um dumme KI Sorgen machen!

Chris Köver 16.11.2018 Lesezeit 14 Min

Keine Panik, Künstliche Intelligenz wird uns nicht umbringen, sondern unser Leben besser machen. Das sagt Toby Walsh, einer der führenden Experten aus der KI-Forschung. Allerdings müssen wir uns dazu klar werden, was ein gutes Leben ausmacht. Ein Gespräch darüber, was wir an Maschinen delegieren sollten, welche Jobs für uns übrig bleiben und warum alte Werte auch für neue Technologien gelten.

Eine australische Zeitung hat Toby Walsh mal als „Rockstar“ der digitalen Revolution bezeichnet. Aber eigentlich ist der Professor für Künstliche Intelligenz an der University of New South Wales weniger Rockstar und mehr Botschafter seiner Disziplin. Walsh schreibt Sachbücher für ein breites Publikum, hält TED-Talksund reist als Erklärbär für maschinelles Lernen um die Welt. Er will vor allem vermitteln, dass es bei der Künstlichen Intelligenz nicht nur um das Machbare geht, sondern um das gesellschaftlich Gewollte. Wie wollen wir in Zukunft leben? Und welche Entscheidungen müssen wir dazu treffen?

Sein neues Buch „It‘s Alive – Wie Künstliche Intelligenz unser Leben verändern wird“ ist gerade auf Deutsch erschienen. Walsh warnt darin vor Panik im Umgang mit der neuen Technologie und erinnert gleichzeitig daran, wie wichtig es ist, jetzt die Weichen zu stellen. Wir haben den Forscher zum Gespräch in Berlin getroffen.

Keine Angst vor superschlauer, sondern vor dummer KI

WIRED: Herr Walsh, wird eine Künstliche Intelligenz (KI) den Dritten Weltkrieg auslösen und die Menschheit auslöschen, wie der Tesla-Gründer Elon Musk befürchtet?
Toby Walsh: Nein, das rangiert nicht mal in den Top Ten der wahrscheinlichen Weltuntergangszenarien. Das denke nicht nur ich, das sagen auch die 50 Nobelpreisträger, die im vergangenen Jahr dazu befragt wurden. Maschinen haben keine eigenen Sehnsüchte, sie sind sich ihrer Ziele nicht bewusst. Sie tun, was wir ihnen sagen und manchmal machen sie Fehler, weil wir nicht lange genug nachgedacht und ihnen das Falsche gesagt haben. Die Maschinen, die wir heute bauen und in Zukunft bauen werden, entscheiden nicht plötzlich, den Planeten zu übernehmen. Sorgen sollten wir uns nicht um superschlaue, sondern eher um dumme KI.

WIRED: Was meinen Sie damit?
Walsh: Die KI, die wir heute haben, ist ziemlich dumm. Sie ist intelligent genug, um ein Auto zu lenken, aber nicht, um den abbiegenden Lastwagen zu erkennen, mit dem das Auto dann kollidiert und seine Passagiere tötet. Wir sind dumm, wenn wir solchen KIs Vertrauen schenken.

WIRED: Ist es zu früh, um solche Systeme alleine ein Fahrzeug lenken zu lassen, wie die US-Bundesstaaten Kalifornien und Arizona dies zulassen?
Walsh: Es ist unverantwortlich. Wenn ein Pharmaunternehmen ein potentiell tödliches Produkt an der Öffentlichkeit testen würde, ohne deren Zustimmung und ohne ethische Aufsicht, würden wir sofort einschreiten. Wir haben sehr strikte Regeln dafür, wie Medikamente getestet werden dürfen. Aber für selbstfahrende Autos haben wir diese Regeln nicht, dabei ist das vergleichbar.

WIRED: Die Hersteller dieser Systeme argumentieren, sie seien sicherer als menschliche Fahrer/innen.
Walsh: Das Ziel ist ein Gutes. Sagen wir: 3000 Menschen in Deutschland, die im nächsten Jahr nicht von Idioten am Steuer getötet werden. Die Frage ist, wie wir dorthin gelangen. Ein gutes Beispiel sind Flugzeuge. Heute ist ein Flugzeug wesentlich sicherer als die Fahrt zum Flughafen. Aber das haben wir nicht mit der Silicon-Valley-Methode „Move fast and break things“ geschafft. Wir haben die Industrie in den ersten Jahren stark reguliert. Unfälle wurden unabhängig untersucht. Nach Fehlern wurden die Lehren daraus offen mit der ganzen Industrie geteilt. So wurde Fliegen nach und nach derart sicher, dass Flugangst heute irrational ist. Dieses Maß an Sicherheit müssen wir mit selbstfahrenden Autos erreichen und der Weg dorthin muss so sicher wie möglich sein.

WIRED: Einige ihrer Kolleg/innen sagen voraus, dass wir bereits in zwanzig bis dreißig Jahren die Singularität erreichen, also den Punkt, an dem intelligente Maschine sich so rasant selbst verbessern, dass wir die Folgen nicht mehr werden abschätzen können. Glauben Sie das auch?
Walsh: Ich glaube sehr wohl, dass wir Maschinen bauen werden, die wesentlich schlauer sind als wir. Jedes Mal, wenn wir dachten, wir seien etwas Besonderes, lagen wir falsch: Die Sonne drehte sich nicht um die Erde. Wir stammten doch vom Affen ab. Wir sind vergleichsweise schlau, aber zu glauben, das sei schon das Maximum, wäre selbstbezogen und sehr wahrscheinlich falsch. Unser Hirn hat nur einen begrenzten Speicher, es verwendet begrenzte Spannung. Computer haben mehr Speicher, mehr Energie, sie sind schneller als unsere biochemischen Schaltungen. Wir wissen, dass sie eng definierte Aufgaben jetzt schon wesentlich besser erledigen können als Menschen. Sie werden sehr wahrscheinlich viel schlauer sein als wir.

Aber ich glaube nicht, dass das eine leichte Aufgabe wird oder dass eine Maschine sich über Nacht zur Superintelligenz entwickelt und ihre eigenen Pläne fasst. Wir werden es auf die herkömmliche Art machen müssen, mit Ausdauer, Schweiß und Einfallsreichtum. Und wie auch immer es ablaufen wird, es ist noch sehr weit entfernt, hundert oder zweihundert Jahre.

WIRED: Ein Forschungsteam an der Universität von Oxford hat prognostiziert, dass 47 Prozent aller Jobs binnen der nächsten 20 Jahre von KI übernommen werden könnten. Ist das realistisch?
Walsh: Erst mal: Das bedeutet nicht, dass die Arbeitslosigkeit bei 47 Prozent liegen wird. Die Studie hat untersucht, welche Jobs potentiell automatisiert werden könnten. Das heißt nicht, dass wir uns dazu entscheiden werden, es auch zu tun oder dass es wirtschaftlich sinnvoll wäre. Ich vermute, einen Fahrradmechaniker zu ersetzen, wird nie besonders sinnvoll sein – selbst wenn wir das könnten. Man muss dazu berücksichtigen, dass die Technologie auch neue Jobs schaffen wird, dass sich die Länge der Arbeitswoche verändern wird und die Demographie. Es gibt sehr viele Faktoren.

Wir werden Dinge schätzen, die von Menschenhand gemacht sind.

Toby Walsh

WIRED: Was ist ihre Schätzung?
Walsh: Ich schätze, dass 20 Prozent der Jobs verschwinden werden. Für viele Berufe wie das Autofahren wäre das wirtschaftlich und auch aus Gründen der Sicherheit sinnvoll. Wir werden allerdings sicher keinen Mangel an Arbeit haben auf dem Planeten. Jemand muss sich um Kinder kümmern, die Alten versorgen, Kunst schaffen, den Nachwuchs ausbilden.

WIRED: Mit Ausnahme der Kunst werden alle Tätigkeiten, die sie genannt haben, derzeit überwiegend von Frauen ausgeübt, oft unbezahlt oder schlecht bezahlt. Das ist die Zukunft unserer Arbeit?
Walsh: Diese Arbeit bezahlen wir im Moment zum größten Teil nicht, aber das könnten wir. Das würde unsere Gesellschaft zu einem besseren Ort machen. Wir sehen, wie Leute in den Minen und den Autofabriken ersetzt werden. Das sind größtenteils Männer, die nicht unbedingt denken, sie könnten auch alte Menschen oder Kinder pflegen. Das wird Teil der Herausforderung sein.

WIRED: Welche Berufe werden überleben?
Walsh: Arbeit wird wieder altmodisch aussehen. Ein Beispiel: Einer der jüngsten Berufe auf dem Planeten ist der des Uber-Fahrers. Dieser Job wird sehr bald wieder verschwinden, Uber testet schon selbstfahrende Wagen. Einer der ältesten Berufe der Menschheit hingegen ist der des Zimmermannes. Diese altmodischen Jobs, die Kunstfertigkeit erfordern, werden bleiben. Wir werden Dinge schätzen, die von Menschenhand gemacht sind.

Botschafter seiner Disziplin: Toby Walsh erklärt Künstliche Intelligenz so, dass auch Menschen ohne Programmier-Kenntnisse verstehen, was auf dem Spiel steht.  

Respekt, Verständnis, Liebe

WIRED: Joseph Weizenbaum, der in den 1960er Jahren eine der ersten Künstlichen Intelligenzen entwickelte, bezeichnete die Vorstellung, dass eine KI den Menschen in Positionen ersetzen könnte, in denen es um Respekt, Verständnis oder Liebe geht, als obszön und unmoralisch. Trotzdem werden heute schon KIs zur Diagnose in der Medizin, in der Therapie und der Altenpflege eingesetzt.
Walsh: Es gibt Tätigkeiten, die KI nie übernehmen sollten. Selbst wenn wir Maschinen dazu bekommen könnten, sie zu erledigen, selbst wenn sie darin besser wären als Menschen, sollten wir das nicht tun, denn wir würden dadurch etwas Zentrales von unserer Menschlichkeit verlieren. Wenn wir etwa Maschinen entscheiden lassen, wer ins Gefängnis kommt, dann geben wir einen wichtigen Teil unserer Gesellschaft auf.

WIRED: In den USA wird in Strafverfahren bereits ein Algorithmus eingesetzt, der einschätzt, mit welcher Wahrscheinlichkeit ein Straftäter rückfällig wird. Das Ergebnis wirkt sich auf die Länge der Haft und die Chancen auf Bewährung aus.
Walsh: Das finde ich erschütternd. Noch schlimmer ist, dass diese Algorithmen weiter verwendet werden, obwohl wir inzwischen wissen, dass sie rassistisch sind. So trägt dieses Programm weiter dazu bei, dass die Falschen im Gefängnis landen. Hollywood zeichnet in Robocop ein recht gutes Bild davon, in welcher Art von Zukunft wir enden, wenn wir da nicht aufpassen.

WIRED: Es geht also um Gerechtigkeit.
Walsh: Es geht um die Frage: Was ist überhaupt Gerechtigkeit? Je nachdem, wie man das definiert, ist ein bestimmter Algorithmus fair oder rassistisch voreingenommen. Aber es gibt 21 verschiedene mathematisch inkompatible Definitionen von Gerechtigkeit im Zusammenhang mit maschinellem Lernen, ausgehend von der Voraussagepräzision, also der Rate falsch-positiver und falsch-negativer Prognosen. Es geht um eine fundamentale philosophische Frage: Was heißt es eigentlich, gerecht zu sein? Wenn die Kriminalitätsrate unter Schwarzen höher ist, sollten dann nicht auch mehr Schwarze im Gefängnis sein? Begehen Sie wirklich mehr Verbrechen oder werden sie nur häufiger kontrolliert und verurteilt? Sperren wir Menschen ein, weil sie arm sind? Wir haben keine mathematisch präzise Definition von Gerechtigkeit entwickelt und überlassen diese Entscheidungen nun Maschinen. Die nächsten 50 Jahre werden sehr interessant. Wenn wir sagen, wir wollen eine Welt ohne Rassismus, dann werden wir präzisieren müssen, was das in Zahlen bedeutet.

Wir sollten feiern, dass Maschinen unsere Arbeit übernehmen.

Toby Walsh

WIRED: Was halten Sie vom Einsatz von KI in der Psychotherapie, den Weizenbaum so kritisch sah?
Walsh: Wussten Sie, dass bereits Psychotherapie-Bots eingesetzt werden um traumatisierte Geflüchtete zu behandeln? Das ist ein schwieriger Punkt, denn diese Menschen haben teils Schreckliches erlebt und brauchen dringend eine Versorgung. Es gibt aber derzeit nicht genug Therapeuten, um das zu gewährleisten. Ein Teil von uns sagt: Therapie sollte kein Job für Roboter sein. Ich würde auch eine Welt bevorzugen, in der wir genug bezahlte menschliche Psychiater haben, um diese Tätigkeit zu übernehmen. Wenn die Alternative allerdings bedeutet, gar nicht zu unterstützen, dann sind Bots womöglich die bessere Variante.

WIRED: Auch in der Altenpflege wird mit KI experimentiert. Kuschel-Roboter leisten Menschen Gesellschaft, andere entlasten die Pfleger/innen.
Walsh: In Japan wird das schon sehr stark gemacht. Aber ganz unabhängig vom demographischen Wandel: Wir sollten feiern, dass Maschinen unsere Arbeit übernehmen. Nicht nur, weil wir dadurch mehr Freizeit haben. Die Jobs, die derzeit obsolet werden, sind repetitiv, dreckig, inhuman. Das sind Jobs, die Menschen niemals hätten machen sollten. Es ist doch toll, wenn sie das nicht mehr müssen – so lange wir sicherstellen können, dass diese Menschen nicht ausrangiert werden.

WIRED: Erzählen Sie das mal einer Busfahrerin oder einem Supermarktkassierer.
Walsh: Es wird auch in den Lagerhallen von Amazon sehr bald keine Menschen mehr geben. Das ist eine gute Entwicklung, wenn man sich anschaut, wie diese Menschen behandelt werden: wie Maschinen. Wir sollten Menschen ermöglichen, ein erfüllendes Leben zu führen und ihre Zeit nicht mit etwas zu verschwenden, das eine Maschine übernehmen kann. Es geht darum zu überdenken, was der Sinn unseres Lebens ist und der Sinn von Arbeit. Wir haben uns sehr stark von Arbeit definieren lassen. Aber wenn man Menschen am Ende ihres Lebens fragt, was sie bereuen, sagen die wenigsten: „dass ich zu wenig gearbeitet habe“.

WIRED: Der Ökonom John Maynard Keynes hatte in den 1930er Jahren vorhergesagt, dass die durchschnittliche Wochenarbeitszeit auf 15 Stunden sinken wird. Davon sind wir noch weit entfernt.
Walsh: Sie ist gesunken, von etwa 60 auf rund 40 Stunden. Wenn wir den Reichtum besser verteilen würden, könnten wir sie weiter reduzieren. In Neuseeland experimentieren einige Firmen gerade mit der Vier-Tage-Woche und erzielen sehr interessante Resultate: Die Menschen sind produktiver und glücklicher, wenn sie weniger arbeiten.

WIRED: Derzeit sind viele extrem überarbeitet, während andere arbeitslos sind. Wie bekommen wir Arbeit besser verteilt?
Walsh: Wir sind derzeit sehr schlecht darin. Wir sind auch sehr schlecht darin, unbezahlte Arbeit wie Kinderbetreuung gerecht zu verteilen. Technologie wird diese Probleme nicht für uns lösen, es verschärft sie eher noch. Wir müssen uns als Gesellschaft verändern. Und das können wir. Das Wochenende wurde während der industriellen Revolution im Norden Englands erfunden, weil die Arbeiter erst einen freien Sonntag, dann den Samstag forderten. Wir könnten weiter gehen und einen freien Freitag erstreiten.

„Google und Facebook haben uns betrogen.“

WIRED: Ihr Buch „It’s Alive“ ist gerade auf Deutsch erschienen. Warum nehmen Sie sich die Zeit, um neben ihrer Forschung und Lehre noch Sachbücher zu schreiben und TED-Talks zu halten?
Walsh: Weil ich glaube, dass das eine der wichtigsten Diskussionen ist, die unsere Gesellschaft führen sollte. Es gibt viele falsche Vorstellungen und Sorgen rund um Künstliche Intelligenz: was Hollywood erzählt, was uns die Tech-Industrie glauben lassen will. Ich habe mit neun Jahren angefangen Computerprogramme zu schreiben und wollte in die KI-Forschung gehen, weil ich glaubte, Technologie würde die Welt verbessern. Aber das passiert nicht, wenn wir nicht die richtigen Entscheidungen treffen.

WIRED: In Deutschland hat die Regierung vor Kurzem eine Datenethikkommission eingesetzt, die bis zum Sommer 2019 ethische Leitlinien für den Umgang mit Algorithmen und künstlicher Intelligenz entwickeln soll. Im Parlament denkt eine Enquete-Kommission über ähnliche Fragen nach. Warum brauchen wir solche Leitlinien?
Walsh: Bis vor ein paar Jahren hatte unsere Arbeit aus der KI-Forschung keine direkte Auswirkung auf das Leben von Menschen. Sie entschied nicht darüber, wer einen Kredit bekommt oder ins Gefängnis geht. Das hat sich radikal geändert und wir sind als Gesellschaft nicht schnell genug hinterhergekommen.

Auch Google und Facebook haben uns betrogen. Sie haben keine Verantwortung für ihre Algorithmen übernommen und uns Lügen darüber aufgetischt, dass diese vermeintlich objektiv und unvoreingenommen seien. Wir wissen inzwischen, Algorithmen können ebenso diskriminieren wie Menschen, im Grunde noch schlimmer, weil sie ihre Entscheidungen nicht erklären können.

Das große Versprechen Künstlicher Intelligenz einlösen

WIRED: Brauchen wir deshalb eine neue Form von Ethik?
Walsh: Nein, ganz und gar nicht. Wir müssen uns nur an eben die Werte halten, die wir ohnehin schon haben. Der Großteil dessen, was die Menschen derzeit im Zusammenhang mit KI besorgt, ist einfach nur schlechtes Benehmen – unabhängig davon, ob eine Maschine dahintersteht. Beispiel Cambridge Analytica: Die privaten Daten von Menschen zu stehlen war schon immer schlechtes Benehmen, egal ob mit Hilfe eines Algorithmus oder ohne. Auch Wahlen zu manipulieren galt schon immer als schlechtes Benehmen. Dank der Algorithmen geht das heute schneller, ist billiger und einfacher, aber es waren die Entscheidungen von Menschen, die dahinterstanden und in diesem Fall hatten sie Facebook als Komplizen.

Das Versprechen und Potential von KI ist großartig, aber das wird nicht eingelöst, wenn wir als Gesellschaft nicht die richtigen Entscheidungen treffen. Diese Fragen sollten nicht von Techies im Silicon Valley entschieden werden. Wir sollten uns entscheiden, in welcher Art von Welt wir leben wollen. Dann kann uns die Technologie dabei helfen, unsere Ziele zu erreichen.

WIRED: Ihre Kollegin Margaret Mitchell bezeichnete die KI-Forschung als „Meer von Kerlen“. Die Microsoft-Forscherin Kate Crawford schrieb, das Feld hätte ein „Weiße-Kerle-Problem“. Wie kann es gelingen, mehr Frauen und People of Color für die Forschung zu gewinnen und würde allein das schon etwas ändern?
Walsh: Es würde mit Sicherheit helfen. Unglücklicherweise bewegen wir uns rückwärts. Die Daten zeigen: Sobald Kinder sich entscheiden können, entscheiden sich Mädchen gegen Mathematik und Informatik. Wir versuchen an unserer Universität gezielt Frauen und Minderheiten anzusprechen, aber das Problem beginnt viel früher, denn die meisten schaffen es gar nicht erst bis zu dem Punkt, an dem sie über ein Informatik- oder KI-Studium nachdenken könnten.

Toby Walsh: It’s Alive – Wie Künstliche Intelligenz unser Leben verändern wird. Edition Körber, 352 Seiten, 18 Euro, ISBN: 978-3-89684-266-4. Auch als E-Book erhältlich.

Dieses Interview erschien zuerst bei Netzpolitik.org. Die von Netzpolitik verfassten Inhalte (inklusive dieses Interviews) stehen, soweit nicht anders vermerkt, unter der Lizenz Creative Commons BY-NC-SA 4.0.