Große Sprachmodelle: Wie geht es weiter?

Damit KI-Modelle bei der Lösung einer Aufgabe keinen Schaden verursachen, versuchen Entwickelnde durch „Alignment“ dafür zu sorgen, dass sich die Systeme an menschliche Wertevorstellungen halten. Auch dafür gibt es verschiedene KI-Trainingsmethoden. Ob Alignment – gerade bei den aktuellen, leistungsstarken Modellen – zuverlässig funktioniert, ist unklar. Das gilt für die öffentlich verfügbaren genauso wie für die unveröffentlichten Systeme. In Tests sind Sicherheitsmechanismen wie Teile des Alignments zum Teil bewusst deaktiviert. Umso wichtiger sind sichere Testumgebungen und Überwachung der Tests. Bei beidem hat es in der Vergangenheit Defizite bei KI-Anbietern gegeben, was zu den Hacks auf reale Plattformen führte.

Aufgrund der Vorfälle hat OpenAI in einer kürzlich veröffentlichten Pressemitteilung Nachbesserungen angekündigt [III]. Das KI-Unternehmen habe die Sicherheit der Testumgebungen erhöht und die Überwachung der Modelle verstärkt. Außerdem werde Alignment künftig höher priorisiert und das Reinforcement Learning für einige Modelle zeitweise pausiert. Ob die Maßnahmen ausreichen, bleibt abzuwarten. Es besteht die Sorge, dass noch fähigere Sprachmodelle künftig auch die verstärkten Sicherheitsmaßnahmen umgehen und unkontrollierbar werden könnten.

Das Science Media Center Germany hat mit einer Expertin und zwei Experten in einem Press Briefing besprochen, welche Fähigkeiten von neuen Sprachmodellen zu erwarten sind, wie Sicherheit gewährleistet werden kann, wie gute Testszenarien gestaltet sein sollten und ob die aktuellen Vorkommnisse ein erstes Zeichen für einen Kontrollverlust über KI-Modelle darstellen oder durch bessere Sicherheitsvorkehrungen eingehegt werden können.