Regierung beschließt KI-Strategie

„Die Kernthemen, Grundannahmen und Mängel der KI-Strategie der Bundesregierung zeigen, was für ein großer Aufholbedarf in der KI in Deutschland besteht. Das Problem der deutschen KI war nicht der Mangel an Finanzierung, sondern dass man seit 1985 in die schon damals gescheiterten Forschungsthemen investiert hat, zum Beispiel Deduktionssysteme, maschinelles Beweisen und Wissensbasierte Systeme (Top-Themen des Kastens auf Seite 5). Diese Themen spielen oftmals international seit Jahrzehnten in der KI keine große Rolle mehr. Sie werden nur in Deutschland (von bereits großzügig geförderten Instituten) isoliert untersucht, welche die aktuellen rasanten Entwicklungen in der KI quasi ‚verschlafen‘ haben.“

„Die aktuellen Themen, welche die KI von einem ehemals gescheiterten Nischenthema in eine Kerntechnologie verwandelt haben und in Nordamerika, England und China stark machen, werden nur im Nebensatz erwähnt (wie zum Beispiel Machine Learning) oder gar nicht erwähnt (wie zum Beispiel die heissesten Themen wie Deep Learning und Reinforcement Learning).“

„In diesem Licht muss man Ziele und Maßnahmen der Strategie betrachten. Der Aufbau der Zentren und die 100 neuen Professuren sind sehr begrüßenswert. Aber schon jetzt fehlen die Köpfe für diese Zentren und Professuren: Die derzeit offenen 15 KI Professuren an den deutschen Universitäten werden voraussichtlich großteilig nicht – oder wenn – nur durch themenfremde Forscher besetzt werden. Es müsste erst mehr KI-Mittelbau- und KI-Nachwuchsforscher herangezogen werden, bevor dies eine Chance hätte.“

„Die Fokussierung der KI-Strategie auf den Forschungstransfer zeigt auch, dass eine Gefahr besteht, dass ‚AI made in Germany‘ am Ende nur bedeutet, das man die in Deutschland typische ‚80er Jahre KI‘ durch Forschungstransfer-Institutionen in die Industrie bringt. Das Kernziel, den Anschluss in der internationalen KI Grundlagen- und Anwendungsforschung zu erreichen, wird hiermit eher nicht erreicht und die KI-Strategie der Bundesregierung hat sogar das Potential, dieses Problem zu vergrößern.“

„Jeder KI-Forscher in Deutschland fände es toll, wenn wir 100 tolle Forscher zusätzlich einstellen könnten und durch 3 Milliarden zusätzlich gefördert würden. Kurzfristig ist dieser Rahmen eher eine Überfinanzierung, aber nicht langfristig und nachhaltig abgesichert. Es besteht die Gefahr, dass nach Auslaufen der KI-Strategie genauso große Scherbenhaufen verbleiben, wie an Universitäten, welche ihren Exzellenz-Cluster nicht verlängert bekommen haben.“

„Deutschland als Gesamtheit ist weit hinter der Zeit in der KI, es wurde versäumt, in wichtigen aktuellen KI Themen zu forschen. Weder die meisten deutschen Universitäten noch das Deutsche Forschungszentrum für künstliche Intelligenz fallen an den Top-Konferenzen der KI (NIPS, ICML, AAAI, UAI, IJCAI, CoRL, R:SS, AIStats; Anmerkung: Jede dieser Konferenzen nimmt nur einen Bruchteil der eingereichten Papiere an und ist ein guter Maßstab für die Qualität der KI Forschung in Deutschland) durch Quantität ihrer Beiträge auf. Dies ist sowohl Symptom als auch Ursache: Viele deutschen KI-Forscher und Institutionen haben sich von den aktuellen rasanten Entwicklungen in der internationalen KI entkoppelt. Dies betrifft sogar deutsche KI-Nachwuchsforscher.“

„Um in der internationalen KI-Forschung mittelfristig konkurrenzfähig zu werden, müsste der Fokus auf dem Qualitätsproblem in KI-Nachwuchs- und KI-Mittelbau-Förderung liegen und deutsche KI-Nachwuchsforscher auf aktuellen Themen mit hinreichender Qualität (Qualität wie in NIPS, AAAI, etc.) heranziehen. Genauso müssten bessere Bedingungen für KI-Grundlagen- und KI-Anwendungsforschung geschaffen werden. Der Fokus der KI-Strategie auf Forschungstransfer anstatt auf Grundlagen- und Anwendungsforschung in der KI-Forschungsförderung wird den starken Trend zum KI Qualitätsverlust und der KI Forscherabwanderung weiter verstärken. Eine von Forschungslobbyisten gesteuerte Vergabe von 3 Milliarden Euro an Forschungstransfer-Institutionen wird die KI in Deutschland nicht stärken oder international konkurrenzfähig machen, wenn im Google Subunternehmen ‚Deepmind‘ alleine mehr KI-Grundlagenforschung in einer freien Form stattfindet als in aller öffentlich geförderten KI-Forschung in Deutschland zusammen.“

„In der deutschen KI-Strategie wird insbesondere der Ansatz eines ethischen Entwicklungsansatzes für algorithmische Entscheidungssysteme als Markenzeichen einer ‚AI made in Europe‘ betont (‚ethics by, in and for design‘). Dazu sollen auch Regulierungsmöglichkeiten der technischen Umsetzung zuerst weiter erforscht und dann durchgesetzt werden (S. 16). Unter einer technischen Regulierung versteht der Bericht die Herstellung von Transparenz, Nachvollziehbarkeit und Überprüfbarkeit. Also beispielsweise eine verordnete Analyse der Qualität der Inputdaten, ein Assessment des möglichen gesellschaftlichen Impacts, eine Einschränkung der verwendeten Methoden des maschinellen Lernens auf solche Methoden, die einsichtsfähige Regeln produzieren, etc.“

„Es wird allerdings nicht differenziert, wie stark welche algorithmischen Entscheidungssysteme reguliert werden sollten.“

„Wirklich relevant sind laut unserer Forschung die KI-Systeme, die Entscheidungen über Menschen oder deren Besitz treffen. Diese können in fünf Kategorien eingeteilt werden, in Abhängigkeit davon, wie hoch der zu erwartende Gesamtschaden ist, wenn diese Systeme Fehler machen. Für jede Schadensklasse sehen wir andere Instrumente der technischen Regulierung als notwendig und sinnvoll.“

„So muss meiner Ansicht nach ein Produktempfehlungssystem, das als eine sehr einfache, schwache KI angesehen werden kann, im Wesentlichen nicht auf technischer Ebene nachvollziehbar sein. Auch die Qualität der Inputdaten ist da kaum erheblich – bei Missbrauch kann, wie auch bei anderen Systemen, post-hoc ermittelt werden. Ein Anlass für eine solche Analyse könnte darin bestehen, dass zum Beispiel eine Nutzergruppe immer nur sehr teure Produkte angeboten bekäme und eine andere immer nur sehr günstige.“

„Auch die KI, die auf Seite 22 als ‚KI in der Industrie‘ beschrieben wird, muss technisch gesehen nicht reguliert werden, solange sie nur industrielle Prozesse optimiert. Algorithmen, die Nachrichten personalisiert filtern, dagegen sehr wohl, da sie die Personen in Kategorien einordnen und im politischen Bereich für einen hohen gesamtgesellschaftlichen Schaden sorgen können.“

„Eine differenzierte Betrachtungsweise des Regulierungsbedarfs erscheint uns sowohl aus Kostengründen als auch zur Aufrechterhaltung der Innovation unerlässlich. Es wäre ein starkes Zeichen, wenn die Bundesregierung an dieser Stelle die industrielle KI – solange sie nicht auch Entscheidungen über Menschen trifft – erst einmal aus den Überlegungen zu einer technischen Regulierung ausnimmt. Dass die Umwälzungen, die durch den Einsatz von industriellen KI-Systemen auf dem Arbeitsmarkt entstehen, arbeitspolitischer und bildungspolitischer Maßnahmen bedürfen, ist davon natürlich unbenommen.“

„Die Bundesregierung hat mit der KI-Strategie ein, zugegebenermaßen eindrucks- wie anspruchsvolles Programm vorgelegt. Das Strategiepapier enthält eine Reihe auf den ersten Blick konkret wirkender Vorschläge (zum Beispiel Schaffung von 100 KI-bezogener Professuren, KI-Trainer, etc.), sowie generelle Absichtserklärungen auf allgemeingesellschaftlicher Ebene. Aber dennoch bleiben Fragen an die Realisierung und Effektivität der Vorschläge, sowie zur realistischen Einschätzung der deutschen Forschungs- und Wirtschaftslandschaft – etwa hinsichtlich der Infrastruktur von ‚Digitalisierung‘ oder der Landschaft deutscher Wissenschaft, sowie zur Erfassung und Verständnis sozialpolitischer und ethischer Konsequenzen, die im Strategiepapier mal von schönen Formeln überdeckt, mal an zukünftige Zuständigkeiten verwiesen werden.“

„Das Strategiepapier offenbart mal schwer aufzulösende Widersprüche, mal werden sich in Bedeutungslosigkeit ergehende Einlässe zu Schlüsselsätzen stilisiert: Während man einerseits Europa stärken will, überhöht man an anderer Stelle das längst verbrauchte ‚Made in Germany’-Label zum national(!)-ökonomischen Imperativ. Was uns ein Satz wie ‚Wir werden die Verbindung von Software- und Hardwareentwicklung im Sinne eines Systemansatzes unterstützen‘ als Programmpunkt inhaltlich liefert, bleibt am Ende fragwürdig. Fast erschreckend banal wird es in einem Punkt wie ‚Wir werden interessante KI-Beispiele in einer Landkarte zusammenstellen‘, der besagt, dass man, wie im Grundstudium an der Uni, wohl mal ein Poster für eine Konferenz produziert.“

„Große Versprechungen scheitern an der Wirklichkeit: Wissenschaftlicher Nachwuchs soll gefördert, und 100 Professuren geschaffen werden; dabei ist, neben der Unterfinanzierung von Wissenschaft und (nicht nur höherer) Bildung allgemein, gerade das starre und konservative System der deutschen Universitätslandschaft und ihrer Karrierewege (zur Professur) ein Stolperstein für innovatives Denken.“

„Gerade die Vielzahl der Vorhaben und Versprechungen in einem zu langen und unübersichtlichen Papier zur KI-Strategie, die gerne die eierlegende Wollmichsau der Digitalisierung mit dem Markenzeichen ‚AI Made in Germany‘ wäre, als auch die extreme Uneinheitlichkeit in der Bedeutung der Vorhaben (von Milliardenschwere bis ‚wir machen ein Poster‘) zeigt, wie sehr Deutschland der globalen Entwicklung hinterher hinkt. Die bewusste Festlegung auf eine (im übrigen sehr) ‚schwache‘ Definition von KI, erlaubt es, jeden nahezu verpassten Zug der Digitalisierung in Wissenschaft und Wirtschaft zum Programmvorhaben mit besten Absichten in das Strategiepapier einzupflegen.“

„Das klingt extrem kritisch und ist es auch zurecht, gerade weil weder Infrastrukturen noch die dringend nötige Offenheit oder der dringliche öffentliche Diskurs in Deutschland vorliegen, Wissenschaft und Wirtschaft so auf KI-Kurs zu bringen, dass Defizite aufholbar erscheinen. Dennoch, es ist bei aller harschen und notwendigen Kritik eine begrüßenswerte Weiterentwicklung, die zeigt, dass man jedenfalls begriffen hat, dass es ein Problem gibt und dass sich dieses anzunehmen höchst dringlich geboten ist.“

„Künstliche Intelligenz muss wie jede Technologie dem Menschen dienen, nicht umgekehrt. Das ist der Kerngedanke der KI-Strategie der Bundesregierung und Grundlage für verantwortungsvolle und vertrauenswürdige ‚KI made in Germany‘. Der Einsatz von KI hält viele Chancen bereit. Er verbessert zum Beispiel medizinische Diagnosen. Zum Training der lernenden Systeme sind Daten notwendig. Die KI-Strategie fordert zu Recht den Aufbau von Datenpools, um die Menge an verfügbaren Daten zu erhöhen und die Entwicklung neuer Anwendungen zu unterstützen. Patienten werden ihre Informationen aber nur bereitstellen, wenn sie von der Sicherheit ihrer persönlichen Daten und dem Mehrwert der medizinischen KI-Anwendungen für ihre Gesundheit überzeugt sind. Wir müssen offen zu Potenzial und Risiken von KI mit allen gesellschaftlichen Gruppen in Dialog treten. Nur so können die Menschen Vertrauen in die Technologie gewinnen und ihre Chancen für Deutschland und Europa nutzen. Die Plattform Lernende Systeme organisiert den Austausch von Politik, Wissenschaft und Wirtschaft mit der Zivilgesellschaft. Wir bündeln die verschiedenen Perspektiven in Empfehlungen und veranschaulichen sie in Anwendungsszenarien, die wir in die öffentliche Debatte einbringen. Wie wir Künstliche Intelligenz einsetzen und welche Veränderungen wir dafür in Kauf nehmen wollen, müssen wir in einem breiten gesellschaftlichen Dialog entscheiden.“