Deepfake-Regulierung: Gesetzentwurf zum Schutz vor digitaler Gewalt

„Es ist gut, dass endlich der Fokus weg vom Strafrecht hin zu anderen Instrumenten des Rechts wie Unterlassen oder Löschung verlagert wird. Wie schon im Strafrecht werden die bestehenden Instrumente allerdings wenig genutzt beziehungsweise – wie auch die neuen – wenig scharf gestellt. Denn weiterhin obliegt es vor allem dem Einzelnen, sich gegen Rechtsverletzungen zu wehren: Man muss selbst aktiv werden und sich helfen – mit allem, was das an emotionalem, zeitlichem und finanziellem Aufwand sowie notwendigem, aber in der Regel nicht vorhandenem Wissen bedeutet. Es wäre sehr viel sinnvoller, wenn hier eine institutionelle Begleitung und Rechtsverfolgung explizit möglich gemacht würde. Das kann zum Beispiel durch Aufsichten oder Verbände geschehen.“

„Bei den strafrechtlichen Delikten fehlt es an Konsistenz und Klarheit, und es werden zu viele, voneinander schwer abgrenzbare, Einzeltatbestände kreiert.“

„Der Entwurf baut vorsorglich schon gleich die Möglichkeit ein, die Vorratsdatenspeicherung von Verbindungsdaten bei den Telekommunikationsanbietern auch für diese Zwecke zu nutzen. Die Vorratsdatenspeicherung ist derzeit noch in der politischen Diskussion. Ihre Umsetzung im Entwurf widerspricht den ganz engen Begrenzungen, die verfassungs- und europarechtlich für eine Vorratsdatenspeicherung und die Nutzung dieser Daten zu fordern sind. Denn damit werden alle Telekommunikationsdaten aller Bürger/innen anlasslos gespeichert.“

„Zudem fehlt es an einem Umgang mit den Besonderheiten sozialer Medien: Inhalte werden im Netz sehr schnell geteilt, sie gehen schnell ‚viral‘. Daher muss schnell reagiert werden, wenn man eine Verbreitung wirkungsvoll hindern will. Dafür sieht der Entwurf aber nichts vor, um die Betroffenen zu unterstützen. Es gibt zum Beispiel weiterhin keine Möglichkeit, dass bis zu einer vorläufigen Klärung die Verbreitung pausiert wird. Außerdem ist nicht vorgesehen, dass auch diejenigen belangt werden, die solches Material weiterverbreiten. Eine Sperrung von Accounts wird vermutlich nur wenig helfen, weil dann eben neue Accounts eröffnet werden – wie bei einer Hydra.“

„Zudem ist die Kontrolle durch die Gerichte wenig konkretisiert. Wichtig wäre es, dass bei einzelnen Gerichten eine Zuständigkeit gebündelt wird. So könnte sichergestellt werden, dass Anträge mit Sachverstand und kritischem Blick beurteilt werden. Denn die Gerichte sollen künftig eine wichtige Rolle in der Unterstützung der Betroffenen spielen. Das können sie nur, wenn echte Sachkunde vorhanden ist.“

„Die Plattformbetreiber und die KI-Tool-Entwickler/innen und -Nutzer/innen müssten insgesamt stärker in die Pflicht genommen werden. ‚Notice-and-Take-Down‘ ist ein Instrument, von dem seit Jahren bekannt ist, dass es kaum funktioniert. Das Prinzip dabei ist, dass Betroffene Plattformen einen Hinweis geben, auf den die diese dann reagieren müssen. Das funktioniert insbesondere nicht, wenn im großen Stil und mit großer Verbreitung vorgegangen wird. Die Verfahren von Renate Künast um gefälschte Memes zeigen das eindeutig.“

„Das Gesetz bezieht zwar – durch den strafrechtlich erweiterten Schutz – grundsätzlich die Polizei und Staatsanwaltschaft ein. Allerdings bleibt eine Hauptlast weiterhin allein auf den Schultern der Betroffenen. Schadensersatz greift faktisch kaum. Die Durchsetzung von Unterlassung, Sperrung sowie Identitätsfeststellung und so weiter ist enorm aufwendig und abhängig vom Mitwirken der Plattformen. Es fehlt an Beweislasterleichterungen und -umkehr. Diese würden ein Vorgehen erleichtern und den Aufwand reduzieren.“

„Das wäre erst recht der Fall, wenn künstliche Intelligenz (KI) eingesetzt wird. Hier hätte man – wie ursprünglich geplant – viel stärker auf Verbände und andere Institutionen setzen müssen, um einen effektiven Schutz und eine echte Umsetzung durch die Plattformen durchzusetzen – auch mittels KI.“

„Zivilrechtlich sind große Teile des Unrechts digitaler Gewalt bereits erfasst. Diese regelt etwa das allgemeine Persönlichkeitsrecht und das Recht am eigenen Bild. Auch das Datenschutzrecht kann hier helfen. Problematisch ist aber regelmäßig die Rechtsdurchsetzung. Hier setzt der Gesetzesentwurf zu Recht an.“

„Er ist damit der Plattformregulierung durch das Netzwerkdurchsetzungsgesetz oder den Digital Services Act (DSA) strukturell ähnlich: Auslöser ist die strafrechtliche Sanktion. Es werden keine neuen zivilrechtlichen Verbote erlassen. Verstöße können aber durch den Auskunftsanspruch und den Anspruch auf Accountsperre besser zivilrechtlich geahndet werden. Das kann etwa im Rahmen von Klagen auf Schadensersatz sowie auf künftige Unterlassung geschehen. Das ergibt aus meiner Sicht Sinn.“

„Das Zivilrecht kennt mit dem allgemeinen Persönlichkeitsrecht ein breit anwendbares und flexibles Instrument zur Erfassung vielfältiger Sachverhalte im Bereich digitaler Gewalt und Deepfakes. Das allgemeine Persönlichkeitsrecht verlangt immer eine Abwägung der unterschiedlichen betroffenen Rechtspositionen. Was den Inhalt dieses Rechts anbelangt, kann auf eine lange und reiche Rechtsprechungstradition zurückgegriffen werden, die unterschiedlichste Konstellationen erfasst. Insofern unterscheidet sich das Zivilrecht diametral vom Strafrecht. Denn das Strafrecht knüpft aufgrund des dort geltenden Bestimmtheitsgrundsatzes sehr spezifisch an einzelne Begehungsformen an. Der materiellrechtliche Reformdruck ist daher im Strafrecht deutlich höher als im Zivilrecht. Auch dies geht der Gesetzesentwurf an.“

„Wichtig wäre es, die vom deutschen Gesetzgeber auf den Weg gebrachten Reformen auf europäischer Ebene zu ergänzen. Das könnte durch ein neues Verbot von KI-Systemen, die für digitale Gewalt genutzt werden können, geschehen. Das europäische Parlament hat hier richtigerweise Vorschläge zur Verbesserung der KI-Verordnung gemacht. Diese werden hoffentlich in den kommenden Wochen zwischen den europäischen Gesetzgebungsinstitutionen vereinbart und können dann im Sommer in Kraft treten.“