Zum Hauptinhalt springen
27.06.2018

Künstliche Intelligenz – Enquete-Kommission soll Bundestag beraten

Anlass

Der Bundestag beschloss am 28.06.2018, die Enquete-Kommission „Künstliche Intelligenz – gesellschaftliche Verantwortung und wirtschaftliche Potenziale“ einzusetzen. Sie soll unter anderem zu ethischen Prinzipien bei der Entwicklung von Künstlicher Intelligenz (KI) oder nach einer Strategie für Forschung, Entwicklung und Umsetzung von KI in Deutschland und Europa mit dem Ziel einer führenden Position auf dem Weltmarkt beraten.

 

Übersicht

  • Prof. Dr. Dirk Helbing, Professor für Computational Social Science, Eidgenössische Technische Hochschule (ETHZ) Zürich
  • Martin Schallbruch, Stellvertretender Direktor des Digital Society Institute, ESMT European School of Management and Technology, Berlin
  • Prof. Dr. Jürgen Schmidhuber, Mitbegründer & leitender Wissenschaftler, NNAISENSE; Wissenschaftlicher Direktor, Schweizer Forschungsinstitut für künstliche Intelligenz IDSIA; Professor für Künstliche Intelligenz, USI & SUPSI
  • Prof. Dr. Silja Vöneky, Professorin für Völkerrecht und Rechtsethik und Mitglied der FRIAS Forschungsgruppe Responsible AI, Universität Freiburg

Statements

Prof. Dr. Dirk Helbing

Professor für Computational Social Science, Eidgenössische Technische Hochschule (ETH) Zürich

„Es war lange ein Traum des Silicon Valley, Künstliche Intelligenz (KI) zu bauen, die intelligenter als Menschen ist und die Probleme löst, die uns Menschen über den Kopf gewachsen sind. KI hätte unsere menschlichen Fehler nicht, dachte man. Sie wäre objektiv, fair, und unemotional, könnte viel mehr Wissen überschauen, schneller entscheiden und aus Daten lernen, die in der ganzen Welt gesammelt werden. Städte könnte man mit Mess-Sensoren versehen und automatisieren. Am Ende stünde eine Smarte Gesellschaft, die sich datengetrieben und algorithmengesteuert optimal entwickelt. Wir müssten nur tun, was uns das Smartphone sagt. Verhaltenssteuerung durch personalisierte Information und den berühmtberüchtigten chinesischen Citizen Score, ein Punktekonto für das Wohlverhalten des Bürgers, würde für die optimale Gesellschaftssteuerung sorgen. Inzwischen ist da vielerorts Ernüchterung eingekehrt. Was einst als Utopie begann, wird heute oft als Albtraum angesehen.“

„Damit treten wir in eine neue Phase der Digitalisierung ein. Die Karten werden neu gemischt. Europa hat die Chance, eigene Impulse zu setzen und damit Weltmarktführer zu werden – durch Künstliche Intelligenzsysteme, die Menschen nicht überwachen und kontrollieren, sondern die Menschen befähigen und kreative Aktivitäten koordinieren. Die Rede ist nun vom ‚wertesensitiven Design’. Gemeint ist: Wir sollten unsere verfassungsrechtlichen, sozialen, ökologischen und kulturellen Werte in die intelligenten Informationsplattformen einbauen, damit sie uns dabei unterstützen, unsere gesellschaftlichen Ziele zu erreichen, aber Freiräume für Kreativität und Innovation lassen.“

„Wenn es um demokratische Werte geht, so sind etwa die folgenden Aspekte von Bedeutung: Menschenrechte und Menschenwürde, Freiheit, (informationelle) Selbstbestimmung, Pluralismus, Minderheitenschutz, Gewaltenteilung, Checks and Balances, Mitwirkungsmöglichkeiten, Transparenz, Fairness, Gerechtigkeit, Legitimität, anonyme und gleiche Stimmrechte und nicht zuletzt Privatsphäre im Sinne von Schutz vor Exponierung und Missbrauch einerseits, andererseits im Sinne eines Rechts, in Ruhe gelassen zu werden.“

„Im globalen Miteinander scheinen überdies folgende Werte eine vielversprechende Basis für eine erfolgreiche und friedliche, vernetze Informationsgesellschaft zu sein: Vielfalt, Respekt, Partizipationschancen, Selbstbestimmung, Verantwortung, Qualität, Awareness, Fairness, Schutz, Resilienz, Nachhaltigkeit und Compliance.“

„Es ist nicht leicht, diese Eigenschaften in Informationssysteme einzubauen, aber wir können es lernen. Wir können KI-Systeme bauen, welche die Welt und uns alle voranbringen, vorausgesetzt es gibt einen breiten und fairen Zugang zu den Potenzialen dieser Systeme. Stellen Sie sich vor, die KI würde Ihnen nicht sagen, was Sie tun sollen, sondern sie würde Ihnen dabei helfen, Ihre eigenen Talente zu entfalten und Ihre Ziele zu erreichen, und zwar umso mehr, je mehr sie (auch) anderen helfen – sozusagen ein Geist aus der Flasche, der Gutes tut, der uns hilft, uns selbst und anderen zu helfen.“

„Was sich heute noch wie Utopie oder Science Fiction anhört – schon bald könnte es Realität sein. KI ist eine Chance für die Wirtschaft, für Europa und uns alle, wenn wir nur lernen damit umzugehen – damit es nicht ausgeht wie mit Goethes Zauberlehrling. Die Enquete-Kommission ‚Künstliche Intelligenz – gesellschaftliche Verantwortung und wirtschaftliche Potenziale’ hat jetzt die Chance, die Weichen für eine vielversprechende, bessere Zukunft zu stellen.“

Martin Schallbruch

Stellvertretender Direktor des Digital Society Institute, ESMT European School of Management and Technology, Berlin

„Die Einrichtung einer solchen Enquete-Kommission ist ein Fehler. Enquete-Kommissionen arbeiten gründlich und lange. Ihr Bericht liegt erst nach Jahren vor. Je breiter der Auftrag ist, desto vielfältiger sind die Empfehlungen – und desto unbedeutender. Denn bei einem so weitgehenden Auftrag kann keine politische Zuspitzung gelingen. Ein Beispiel hierfür ist die Enquete-Kommission ‚Internet und digitale Gesellschaft’. Sie hat von 2010 bis 2013 eine Fülle von Fragen rund um die Digitalisierung untersucht. Die Ergebnisse entfalteten in der politischen Gestaltung nahezu keine Wirkung.“

„Bedenklicher als Wirkungslosigkeit wäre etwas anderes: eine Verzögerung des politischen Handelns durch ein Warten auf die Kommissionsergebnisse. Methoden und Technologien der Künstlichen Intelligenz sind weit verbreitet und in vielen Anwendungen im Einsatz. Immer neue Bereiche kommen täglich hinzu. Die Politik muss jetzt politische Entscheidungen vorbereiten und treffen und darf sie nicht auf die Zukunft verschieben. Der Masterplan ‚Künstliche Intelligenz’ muss schnell erstellt werden.“

„Mit intensiverer Forschungsförderung, der Beauftragung von Technologiefolgenabschätzungen zu Einzelfragen oder der Durchführung von Sachverständigenanhörungen stehen dem Bundestag viele Mittel zur Verfügung, die politischen Fragen der Künstlichen Intelligenz zu adressieren – die Enquete-Kommission ist der falsche Weg.“

Prof. Dr. Jürgen Schmidhuber

Mitbegründer und leitender Wissenschaftler, NNAISENSE; Wissenschaftlicher Direktor, Schweizer Forschungsinstitut für künstliche Intelligenz IDSIA; Professor für Künstliche Intelligenz, USI & SUPSI

„Der Text zur Einrichtung einer Enquete-Kommission im Bundestag klingt gut: ‚Unser Ziel ist es, eine ausgewogene Debatte zu führen. [...] Wir wollen international Vorreiter bei der digitalen Spitzentechnologie KI werden’.“

„Man sollte aber vielleicht noch betonen: Deutschland war auch in der Vergangenheit schon KI-Vorreiter. Aus Deutschland kamen zum Beispiel seit den 1980ern und 90ern nicht nur die ersten selbstfahrenden Autos (Ernst Dickmanns und andere; immer noch gehören mehr als 50 Prozent der Patente für autonomes Fahren deutschen Firmen), sondern auch das für die moderne KI zentrale ‚Deep Learning’ Verfahren LSTM, das nun jeden Tag vielmilliardenfach genutzt wird – Business Week nannte LSTM ‚arguably the most commercial AI achievement’.“

„Es gibt ‚neue’ KI, und ‚alte’ KI. Zur ‚alten’ KI gehören unter anderem Theorembeweiser und Expertensysteme. Die ‚neue’ KI basiert auf maschinellem Lernen und vor allem auf tiefen neuronalen Netzen und ist in Wirklichkeit auch nicht so neu: Ihre Wurzeln liegen ebenfalls im letzten Jahrtausend, aber jetzt funktioniert sie so gut, weil die Rechner viel billiger wurden. China, die USA und die wertvollsten börsennotierten Firmen der Welt konzentrieren sich natürlich auf die ‚neue’ KI. Da muss Deutschland bei der Förderung mitziehen. Aber die ‚neue’ KI passt oft nicht gut in alte Strukturen! Man wird also auch neue Strukturen schaffen müssen.“

„Mein Wunschtraum: Die Bundesregierung kündigt an, dass sie in einer weltberühmten Großstadt (zum Beispiel Berlin oder München) zunächst zwei Millarden Euro ausgeben will für einen neuen, unabhängigen, grossen KI-Park im Bereich ‚neue KI’ (vergleichbar mit den zwei Millarden für den ‚AI Research Park’ bei Peking). Dieser muss bei Gehältern viel flexibler sein als heutige öffentliche Unis und Institute, um im Bedarfsfalle mithalten zu können mit China und den USA, wo bekannte KI-Forscher mehr als eine Million pro Jahr verdienen können, weil sie eben auch Lockvögel für andere Talente sind.“

Prof. Dr. Silja Vöneky

Professorin für Völkerrecht und Rechtsethik und Mitglied der FRIAS Forschungsgruppe Responsible AI, Universität Freiburg

„Ich begrüße die Einsetzung der Enquete-Kommission zur KI. Es ist wichtig, dass die Diskussion über KI, die eine disruptive Technologie mit ungeheuren Chancen, aber auch Risiken ist, von Parlamentariern zusammen mit Sachverständigen stattfindet, da es hier um Zukunftsfragen der Gesellschaft geht, die intensiv auch im deutschen Parlament erörtert werden sollen. So kann von Anfang an die demokratische Legitimation der Empfehlungen erhöht werden. Indem neben den 19 Parlamentariern auch 19 Sachverständige Mitglied sein werden, erreicht man einen gleichberechtigten Diskurs und macht es möglich, dass Wissenschaft, Unternehmen und Politik nicht aneinander vorbeireden.“

„Ziel der Kommission sind Handlungsempfehlungen, wie die Potenziale von KI für uns alle gefördert werden können. Der Begriff der ‚beneficial AI’, der förderlichen KI, kommt mir hier in den Sinn, der schon die Debatte um KI in den USA und UK prägt. Es wird sich zeigen, wie die Kommission darauf Bezug nehmen wird. Interessant aus meiner Sicht ist dabei vor allem, ob und wie das Paradigma der reinen Nutzen-Risiken Abwägung durch ein menschenrechtlich geprägtes ergänzt werden wird. Auf der Grundlage des Grundgesetzes gehört zu den Grund- und Menschenrechten die Forschungsfreiheit, die auch Grundlagenforschung schützt, die Berufsfreiheit der Unternehmen, aber auch die Menschenwürde und der Schutz von Leben und Gesundheit der Menschen.“

„Da es völkerrechtlich keinen spezifischen Vertrag für verantwortliche KI gibt, begrüße ich besonders auch das Ziel der Kommission zu prüfen, ob international neue Normen erforderlich sind. Völkerrechtlich könnten Regeln für Staaten in einer Soft Law Deklarationen vereinbart werden, die schneller verhandelt werden kann, oder sogar in einem Vertrag, der eine neue grenzüberschreitende Technologie sinnvoll normieren kann. Dass letzteres möglich ist, haben die Staaten eindrücklich beispielsweise im Weltraumrecht – sogar während der Zeit des Kalten Krieges – gezeigt. Hier könnte Deutschland eine wichtige Rolle bei der Suche nach internationalen Lösungen einnehmen.“

Angaben zu möglichen Interessenkonflikten

Prof. Dr. Dirk Helbing: „Conflicts of Interest sind mir keine bewusst.“

Prof. Dr. Jürgen Schmidhuber:
„Ich bin wohl weniger voreingenommen als mancher andere bzgl. der Frage, welche Sorte von KI durch die Bundesregierung zu fördern wäre, denn weder mein Institut noch meine Firma (beide in der Schweiz) werden direkt davon profitieren.“

Alle anderen:
Keine Angaben erhalten.

Primärquelle

Fraktionsvorstände von CDU, CSU und SPD (2018): Einrichtung einer
Enquete-Kommission im Bundestag „Künstliche Intelligenz – gesellschaftliche Verantwortung und wirtschaftliche Potenziale“
. Stand: 08.05.2018.

Weitere Recherchequellen

Prof. Dr. Jürgen Schmidhuber verweist auf seinen Artikel in der FAZ: „Künstliche Intelligenz ist eine Riesenchance für Deutschland“.

Deutscher Bundestag (2018): Antrag der Fraktionen CDU/CSU, SPD, FDP und DIE LINKE. Einsetzung einer Enquete-Kommission „Künstliche Intelligenz – Gesellschaftliche Verantwortung und wirtschaftliche, soziale und ökologische Potenziale". Stand: 26.06.2018.

Science Media Center Germany (2018): KI für die Wirtschaft oder die Gesellschaft? Fact Sheet.