Dirk Helbing forscht zur digitalen Transformation (Bild: Giulia Marthaler).

«Wir sind an der Schwelle zur Dystopie angelangt»

von

Dirk Helbing ist Systemwissenschaftler an der ETH. Ein Gespräch über KI, Datenschutz und die Verantwortung unserer Generation.

Herr Helbing, Sie beschäftigen sich mit zukünftigen Entwicklungen. Sind Sie persönlich pessimistisch oder optimistisch eingestellt, wenn Sie an die Zukunft denken?

Ich befürchte das Schlimmste und hoffe das Beste. Wir müssen uns mit dystopischen Szenarien auseinandersetzen, um Gefahren rechtzeitig abzuwehren und eine bessere Zukunft gestalten zu können.

Womit befassen Sie sich momentan?

Mit der Frage, wie die digitale Transformation vonstatten geht, was sie mit uns und der Gesellschaft macht und welche Optionen wir haben.

Wie würden sie Ihr Forschungsgebiet beschreiben?

Man nennt es Computational Social Science, computer-gestützte Sozialwissenschaften. Es geht um eine Kombination von Datenwissenschaften, Computersimulationen von komplexen Systemen und Sozialwissenschaften. Wir versuchen so, techno-sozio-ökonomische Systeme und ihre Interaktion mit der Umwelt besser zu verstehen.

Wird der Begriff «Zukunftsforschung» dem gerecht?

Nicht wirklich. Ich bin kein Futurologe, sondern Systemwissenschaftler. Aber ich befasse mich mit der Frage, welche alternativen Zukünfte wir als Gesellschaft kreieren können. Das ist auch eine Frage der sozialen Innovation. Unser Team hat beispielsweise den Climate City Cup erfunden und ein sozio-ökologisches Finanzsystem, welches das Internet der Dinge mit der Blockchain-Technologie kombiniert und das wir FIN4 nennen. Es soll auf partizipative Weise die Entstehung einer Kreislaufwirtschaft fördern. Dies erfolgt durch ein neuartiges Koordinationssystem.

Ich wage nun einen Sprung in die Zukunft, zu einem Zeitpunkt, in dem alles digitalisiert ist: Wie könnten alltäglichste Dinge wie Einkaufen aussehen?

Natürlich könnte man alles in eine virtuelle Welt verlagern, wo man Warenhäuser mit «virtual reality» erlebbar macht. Oder wo der Computer für Sie einkauft, wenn die Lebensmittel aufgebraucht sind oder das Mindesthaltbarkeitsdatum abgelaufen ist. Die Frage, die solche Szenarien aufwerfen, ist aber, ob das die Menschen auch wollen. Würden alle Aspekte unseres Lebens digitalisiert werden, würde das vielleicht zur Isolation führen. Aber wir sind soziale Wesen.

Auch im Bildungsbereich wird momentan viel getüftelt, um das Lernerlebnis mit Technologien effizienter zu gestalten. Was kommt hier alles auf uns zu?

Die Digitalisierung wird sich in vielen Bereichen stark auf das Bildungswesen auswirken. Dabei werden zunehmend Plattformen entwickelt, die mit künstlicher Intelligenz das Lernen vereinfachen sollen. Die Gefahr ist allerdings die Zentralisierung des Wissens, und dass vielleicht zunehmend das Gleiche gelehrt wird. Das könnte die Ideenvielfalt, Kreativität und Innovationskraft in Mitleidenschaft ziehen.

Wo sehen Sie weitere Gefahren, wenn künstliche Intelligenz Einzug in das Bildungssystem nimmt?

Es gibt genügend Unternehmen, die Daten von Menschen gerne schon im Kindergarten sammeln würden. Diese Daten könnten von einem künstlich intelligenten System verarbeitet werden, das irgendwann die eigene Persönlichkeit samt der Stärken und Schwächen kennt. Das alles kann genutzt werden, um besser und schneller zu lernen. Aber mit solchen Daten kann man uns auch unglaublich effektiv manipulieren. Es stellt sich dann die Frage, ob wir in Zukunft überhaupt noch frei denken können. Die Gefahr ist, dass uns künstlich intelligente Systeme in eine Art Roboter verwandeln, der perfekt passfähig für die Industrie ist, aber nicht mehr kritisch denken kann.

In den USA wurden bereits Pilotprojekte getestet, bei denen künstliche Intelligenz den Lernfortschritt der einzelnen Schüler*innen begleitet. Kann das gut gehen?

Die Frage ist letzten Endes, wer über diese Daten verfügt. Diese Entscheidung müsste bei den betroffenen Personen liegen, also bei den Schüler*innen und den Studierenden und nicht bei einem grossen Unternehmen. Wenn wir das nicht sicherstellen, ist unsere Freiheit zu denken in Gefahr. Das heisst, dass unser Gehirn dann zunehmend von der Industrie gesteuert wird. Und das ist keine lebenswerte Gesellschaft.

Kritik wird nicht nur aufgrund des Datenschutzes laut. Was heisst es für unsere sozialen Kompetenzen, wenn wir schon von der Grundschule an allein mit dem Computer lernen?

Die Auswirkungen auf die sozialen Kompetenzen sind heute noch zu wenig erforscht. Die Konsequenzen könnten aber mindestens für eine Generation durchaus gravierend sein.

Wie können wir uns denn weiterentwickeln, ohne unsere Menschlichkeit zu verlieren und Angst um unsere Grundrechte zu haben?

Es ist höchste Zeit, dass die Politik diese Entwicklung reguliert. Wir sind an der Schwelle zur Dystopie angelangt, weil die Politik zu lange gezögert hat. Wenn nur daran gedacht wird, dass mit technologischem Fortschritt viel Geld verdient werden kann, dies aber auf dem Rücken der Menschheit geschieht, dann ist nichts dabei gewonnen. Es besteht die Gefahr, dass wir die Gesellschaft nicht rechtzeitig erneuern können, um die zukünftigen Herausforderungen zu meistern.

Also zusammengefasst: In einer dystopischen Zukunft werden wir von Robotern ersetzt, unser Optimierungswahn resultiert in hohen Arbeitslosigkeitsraten oder wir werden selbst zu einem Roboter-Abklatsch. Brauchen wir also einen Systemwandel, wenn wir solchen Szenarien entgegenwirken wollen?

Das heutige Wirtschaftssystem ist nicht nachhaltig, und damit nicht zukunftsfähig. Das heisst, die Welt wird nicht mehr funktionieren, wie der heutige Kapitalismus 1.0. Das betrifft auch den Arbeitsmarkt. Es wird etwas Neues kommen. Hoffentlich nichts Dystopisches. Vielleicht wird es ein Kapitalismus 2.0 oder sogar etwas ganz Neues. Wir brauchen eine Digitalisierung, der wir vertrauen können, und einen neuen Gesellschaftsvertrag.

Viele behaupten, im technologischen Fortschritt liege auch die Rettung vor der Klimakrise. Wie sehen Sie das?

Die heutige Digitalisierung hat nicht zu mehr Nachhaltigkeit geführt. Der Energieverbrauch ist sogar explodiert. Das heisst, die Art und Weise, wie wir heute digitale Technologien nutzen, wird uns nicht helfen, nachhaltiger zu werden. Dafür brauchen wir ein Umdenken. Dieses Umdenken wird aus meiner Sicht durch das derzeitige Künstliche-Intelligenz-Paradigma nicht begünstigt.

Wie begegnen wir als betroffene Generation einem gesellschaftlichen Wandel am besten?

Wir müssen uns intellektuell vom alten Denken befreien. In vielen Bereichen können wir noch gar nicht weit in die Zukunft denken, weil die dafür notwendigen Kategorien und Paradigmen noch nicht genügend ausgearbeitet oder weit genug verbreitet wurden. Letzten Endes ist das ein Job für Menschen, die an der Uni studiert haben. Die junge Generation weiss, was Digitalisierung bedeutet und was sie kann. Ich finde daher, die Studierenden von heute sollten selber mit ihrem Wissen die Ausgestaltung der Zukunft in die Hand nehmen, in der sie leben wollen. Die Universitäten bieten Spielräume dafür. So kann eine verhängnisvolle Fremdbestimmung vermieden werden und eine lebenswerte Zukunft gelingen. 


Dirk Helbing ist Professor für Computational Social Science am Department für Geistes-, Sozial- und Staatswissenschaften der ETH. Seit Juni 2015 ist er assoziierter Professor an der Fakultät für Technik, Politik und Management an der TU Delft. Er forscht in Zürich und in Delft zur digitalen Transformation.

 

Schreibe einen Kommentar

Deine E-Mail Adresse wird nicht veröffentlicht.

*

Neuestes von Campus

Heldin in Neonfarben

Die Studentin Ronja Trachsler verbringt ihren Nebenjob auf dem Velo. Eine Schicht

Tour de Zürich

Bewegung im Studium ist wichtig – Selbst-Isolation hin oder her. In dieser
Gehe nach Oben