Die Universität als Hüterin des Gemeinwohls im Zeitalter der künstlichen Intelligenz

Künstlicher Intelligenz (KI) begegnen wir überall, manchmal ist sie verdeckt und manchmal gar nicht zu erkennen. Sie lauert im Newsfeed-Algorithmus von Facebook, der entscheidet, welche Nachrichten angezeigt werden, sie wird in teilautonome Fahrzeuge programmiert und entscheidet, wer bei Kollisionsgefahr verunfallt oder ausweicht, und sie hat mittels neuronaler Netzwerktechnologie die besten Go-Champions der Welt spektakulär besiegt. KI-Anwendungen entwickeln sich mit zunehmender Geschwindigkeit und Raffinesse. Sie entfalten bereits Breitenwirkung in wichtigen Lebensbereichen. Dabei stellen sich wichtige und komplexe Fragen in Bezug auf ihre sozialen Auswirkungen, ihre Governance und die ethischen Prämissen, auf denen diese neuen Technologien beruhen. Diese Fragen sind nicht nur normativ herausfordernd, sondern auch mit praktischen Schwierigkeiten verbunden, da jene Mechanismen, die es braucht, um Algorithmen zur Rechenschaft ziehen zu können, sich zu einem guten Teil erst im Entwicklungsstadium befinden. Erschwerend kommt hinzu, dass die gegenwärtige Konstellation durch ein asymmetrisches Kräfteverhältnis gekennzeichnet ist: Das Schicksal von KI wird derzeit vor allem von mächtigen Branchenriesen bestimmt, welche die Forschung, Entwicklung und den Einsatz von KI kommerziell vorantreiben, während Regierungen (mit Ausnahme des Spezialfalls China) bei der Nutzung dieser leistungsstarken Technologien von privaten Anbietern abhängig sind und so zusätzlich an Steuerungskraft verlieren.

und so zusätzlich an Steuerungskraft verlieren. Das fundamentale Ausmass der Veränderungen in der Gesellschaft, die von der KI und verwandten Technologien zu erwarten sind, sowie die Machtverschiebungen zugunsten der kommerziell motivierten Unternehmen werfen die Frage auf, wer das öffentliche Interesse wahrt, wenn es um Probleme der sozialen Auswirkungen, der Ethik und der Regulierung der KI geht. Der hier vertretenen Auffassung nach kommt in diesem Zusammenhang den Universitäten eine besondere Bedeutung zu. Über die angestammten Forschungs- und Ausbildungstätigkeiten im Bereich der Entwicklung und Anwendung der KI hinaus lassen sich fünf wesentliche (Meta-)Rollen identifizieren, die akademische Institutionen ausfüllen könnten und sollten.

Erstens sollten Universitäten zur Erfüllung ihres Kernauftrags den offenen Zugang zu Ressourcen für die Forschung, Entwicklung und den Einsatz von KI-Systemen garantieren. Dies dient der Sicherung des öffentlichen Interesses. KI-Systeme erfordern bekanntlich eine erhebliche Infrastruktur und Datenressourcen. Derzeit befinden wir uns noch im «goldenen Zeitalter» der KI-Forschung, das durch umfassenden Wissensaustausch und Kooperationen (einschliesslich Projekten wie OpenAI) geprägt ist. Angesichts signifikanter ökonomischer Interessen hinter der Entwicklung dieser Technologien sowie zunehmender geopolitischer Interessen am Einsatz von KI ist aber zu erwarten, dass dieser Grad an Offenheit und Kooperation nicht lange anhalten wird. Daher sollte eine Aufgabe der Universität darin bestehen, den Zugang zu KI-Ressourcen und -Infrastrukturen auch in Zukunft zu gewährleisten, ihn stetig zu diversifizieren und zu erweitern. Dies gilt unabhängig davon, ob es sich um intellektuelle Ressourcen, um Computerressourcen und Rechenleistung oder um Datensätze handelt, die zum Beispiel beim «Machine Learning» eine strategische Rolle spielen.

Die zweite Rolle der Universität im Kontext der ethischen Grundlagen und der Governance von KI betrifft die kritische Analyse und Bewertung. Universitäten können einen wichtigen gesellschaftlichen Beitrag als unabhängige und gemeinnützige Institutionen ausüben, indem sie Mechanismen zur Messung und Bewertung der Zuverlässigkeit und Fairness von KI-Systemen entwickeln. Ein Problem besteht darin, dass KI-basierte Entscheidungssysteme oft «Black Boxes» sind: Wer weiss schon im Detail, wie ein Newsfeed auf sozialen Medien bzw. wie Siri oder andere personalisierte Assistenten funktionieren? Manchmal können selbst die Hersteller von KI-Systemen nicht mehr voraussehen, welche Folgen sich ergeben könnten, wenn Software autonom Komponenten von KI-Systemen erstellt. Es müssen neue Methoden, Metriken und Kriterien entwickelt werden, die es uns ermöglichen, diese «Black Boxes» zu bewerten und die Algorithmen zu analysieren. An Universitäten können zudem Korrektursysteme entwickelt werden, die in Fällen greifen, wenn KI-basierende Entscheidungssysteme im Ergebnis gegen gesellschaftliche Normen verstossen. In einem zunehmend kommerzialisierten Umfeld können Universitäten eine wichtige soziale Funktion erfüllen, die aufgrund der Interessenlage weder die Unternehmen noch angesichts der Informationsasymmetrie der Staat übernehmen kann.

Auf dieser Basis sind Universitäten drittens gut positioniert, eine wichtige Rolle bei der Erforschung und Entwicklung von Methoden zur Analyse der sozialen und wirtschaftlichen Auswirkungen von KI zu spielen. Das ist eine besondere Herausforderung, da es trotz profunder Kenntnis digitaler Technologien schwierig ist, zuverlässige Methoden eines umfassenden «Impact Assessment» zu entwickeln, insbesondere wenn diese Technologien einen breiten Anwendungsbereich haben und in vielfältige Bereiche der Gesellschaft eingebettet sind. KI-Technologien stellen eine noch grössere Herausforderung dar, da viele der zugrunde liegenden Prozesse nur dem Unternehmen, das sie entwickelt hat, verständlich sind. Wie kann man zum Beispiel die gesellschaftliche Wirkung eines algorithmisch bestimmten Facebook- Newsfeeds exakt messen, wenn der Filtermechanismus undurchsichtig ist? Universitäre Forschung kann in diesem Zusammenhang wichtige Beiträge bei der Festlegung von neuen Messmethoden und der Bestimmung geeigneter Überprüfungs- und Wirkungsfaktoren leisten. Für eine evidenzbasierte Politikgestaltung ist eine solche objektive wissenschaftliche Grundlage ebenfalls von grösster Bedeutung. Dabei geht es letztlich um die Frage, wie wir zuverlässig verstehen und bewerten können, was KI-Technologien im Laufe der Zeit in der Gesellschaft bewirken. Diese Herausforderung akzentuiert sich im gegenwärtigen, von «Fake News» und Angriffen auf die Wissenschaft gezeichneten Klima mit neuer Dringlichkeit.

Die vierte Funktion von Universitäten dreht sich um die Dimensionen der Verständigung und Inklusion. Dabei können Universitäten einerseits als Plattformen dienen, um jene Unternehmen im KI-Ökosystem an einen Tisch zu bringen, die aufgrund des starken Wettbewerbs nicht in einem Raum sitzen wollen oder dürfen. Zudem kommt Universitäten im digitalen Bereich eine wichtige Scharnierfunktion zwischen Industrie und Zivilgesellschaft zu, die ebenfalls in einem gegenseitigen Spannungsverhältnis stehen. Die Bedeutung der Herausforderung, in diesen Verhandlungen auch ungehörte Stimmen und unterrepräsentierte Gemeinschaften einzubeziehen, kann nicht genug betont werden, wobei Universitäten einige der wenigen Institutionen sind, die diese Lücke schliessen und damit den Dialog um weitere Perspektiven zu ergänzen vermögen. Zur Illustration: Eine derzeit in Harvard diskutierte Idee zielt auf die Einrichtung eines global vernetzten Inklusionslabors, das untersuchen soll, wie KI-Systeme konzipiert und eingesetzt werden können, um das Anliegen einer vielfältigeren digital vernetzten Gesellschaft zu unterstützen, in denen möglichst viele Menschen von den neuen technologischen Möglichkeiten profitieren. Solche und andere universitäre Programme können sicherstellen, dass KI-Technologien in Zukunft nicht nur den digitalen «haves» zur Verfügung stehen, sondern auch den digitalen «have-nots», insbesondere im globalen Süden, in ländlichen Gebieten oder in abgehängten Gemeinden.

Eine fünfte und letzte Rolle, die Universitäten in der sich entwickelnden KI-Landschaft zum Wohle des öffentlichen Interesses einnehmen können, ist jene der Übersetzer. Dabei fungieren sie als vertrauenswürdige Schnittstellen zwischen einer kleinen Gruppe von KI-Entwicklern und technischen Laien, welche die Technologien und Prozesse der KI im Einzelnen kaum verstehen, diese aber anwenden. Innerhalb der Universitäten sind beide Gruppen vertreten: einerseits technische Experten und anderseits neugierige Nichtexperten, die im Gegenzug ihr Wissen als Juristen, Geistes- oder Sozialwissenschaftler einbringen können. Universitäten haben nun die wichtige Aufgabe, die bestehenden Informationsasymmetrien und Wissenslücken zu überbrücken, die Mechanismen der KI zu übersetzen sowie ihre Auswirkungen, Chancen und Risiken zu beschreiben. Dieses Wissen soll indes nicht nur innerhalb der Universität geteilt, sondern jener breiten Öffentlichkeit zugänglich gemacht werden, die bewusst oder unbewusst diesen Technologien ausgesetzt ist. Angesichts von Fehlinformationen und Missverständnissen über KI ist diese Übersetzungsaufgabe dringend notwendig, damit der Einzelne als Nutzer, Kunde oder Bürger fundierte, mündige Entscheidungen treffen kann.

Dieses hier nur kurz umrissene Portfolio möglicher Rollen zur Sicherung des öffentlichen Interesses – weitere könnten hinzugefügt werden – zeigt die Chancen, aber auch Verantwortlichkeiten der Universitäten auf. Sie müssen zunächst als Akteure der Integration über disziplinäre, sektorielle oder räumliche Grenzen hinweg agieren. Das Feld der KI ist weitläufig, mit Anwendungen, die praktisch alle Disziplinen tangieren. Um den Herausforderungen der rasanten Entwicklung der KI-Technologien gerecht zu werden, müssen die Universitäten die Silos zwischen den Disziplinen aufbrechen und die Interdisziplinarität rasch weiter verbessern. Insbesondere besteht derzeit nach wie vor eine starke Trennung zwischen den Ingenieuren und Informatikern, die KI-Technologien und -Anwendungen entwickeln, auf der einen sowie den Geistes- und Sozialwissenschaftern und Juristen auf der anderen Seite. Die erfolgreiche Gestaltung unserer Zukunft im Zeitalter der KI braucht aber dringend den wissenschaftlichen Dialog über diese Fachgrenzen hinweg und mit dem Gesamtinteresse der Gesellschaft im Mittelpunkt.

Eine letzte Bemerkung: Alle Massnahmen, die von den Universitäten ergriffen werden können, um den grossen Herausforderungen des KI-Zeitalters zu begegnen, erfordern zwei spezifische Denkweisen, die der Natur der Wissenschaft innewohnen: Imaginationsfähigkeit und Experimentierfreude. Bei der Beantwortung vieler der anstehenden Fragen brauchen wir in der Tat eine gehörige Portion Phantasie und neue Ansätze, um Prinzipien der Ethik, des Designs, der Technik, der Governance und sogar der Kunst miteinander zu verbinden. Diese neuen Modalitäten erfordern ein ausgeprägtes «Feu sacré» und den unerschütterlichen Mut zum Experimentieren. Der lauter und zunehmend pauschal erklingende Ruf nach Regulierung alleine markiert aller Wahrscheinlichkeit nach nicht einen Königsweg im angemessenen Umgang mit den vielgestaltigen KI-Technologien. Um herauszufinden, welche Instrumente im Umgang mit den Chancen und Risiken von AI am besten funktionieren, wird es eines konstanten Lernund Anpassungsprozesses bedürfen. Dieser Experimentiergeist gilt nicht nur für die Entwicklung von KI-Technologien selbst, sondern eben auch für die Entwicklung von Governance-Systemen, von leitenden Grundsätzen und Regeln, wobei durchaus aus der Geschichte des Internets und früherer technologischer Revolutionen gelernt werden kann.

Wie alle technologischen Entwicklungen erfordert KI einen verantwortungsvollen Umgang. Universitäten kommt in diesem Kontext die wichtige Rolle zu, als Forschungs-, Ausbildungs- und Denkzentren sowie als Übersetzer und Integratoren zu agieren, um künstliche Intelligenz im öffentlichen Interesse und für das Wohl der Allgemeinheit zu gestalten.