Ethische Aspekte bei Facebooks Suizid-Prävention

„Wenn Facebook ohne Einwilligung seiner Kunden ein nicht wissenschaftlich gestütztes Screening zur Aufdeckung eines erhöhten Risikos für eine Selbsttötung einsetzt und dafür die Privatsphäre der Kunden verletzt, ist das ethisch nicht vertretbar. Suizidprävention ist ein wichtiges gesellschaftliches Anliegen. Wenn Facebook dabei mit seinen technologischen Möglichkeiten und auf der Grundlage seiner riesigen Menge an Daten eine Rolle spielen kann und möchte, soll es sich an die bewährten Standards für die Einführung und Evaluation von Screeningverfahren halten. Dazu gehört vor allem, dass Facebook unter Einbeziehung unabhängiger Wissenschaftler nachweisen muss, dass das Screening mehr nutzt als schadet. Dazu müssen Daten vorliegen, die auch zu veröffentlichen sind.“

„Wir haben uns bei CERES in unserer Studie „Algorithmen in der digitalen Gesundheitsversorgung“ ausführlich mit der algorithmengestützten Vorhersage von psychischen Erkrankungen bei Nutzern sozialer Medien befasst. Hier finden Sie von Seite 37 bis 45 differenzierte Ausführungen und Empfehlungen [1].“

„Bei sensiblen Daten – wie Daten zu religiösen oder weltanschaulichen Überzeugungen, Sexualleben und Gesundheitsdaten – handelt es sich um Daten mit besonderer Schutzbedürftigkeit, deren Verarbeitung untersagt ist. Dies umfasst auch Daten, die Ausdruck einer körperlichen, seelischen, sozialen, familiären Notlage sein können und deren Offenlegung den Betroffenen beschämen können [2]. Gesundheitsdaten können außerdem durch die Verknüpfung unterschiedlicher Daten entstehen, die nichts über den Gesundheitszustand aussagen [3], aber Rückschlüsse darauf zulassen.“

„Relevante Ausnahmen sind:
- Ausdrückliche Einwilligung in einen festgelegten Zweck,
- die Verarbeitung bezieht sich auf personenbezogene Daten, die die betroffene Person offensichtlich öffentlichgemacht hat.“

„Auch wenn die betroffene Person die Daten öffentlich gemacht und damit einem unbestimmten Personenkreis mitgeteilt hat, können dennoch die Erwartungen, Grundfreiheiten und Grundrechte des Betroffenen gegen eine weitere Verarbeitung durch Facebook zum Zweck der Analyse einer Suizidgefährdung sprechen. Eine (ausschließlich) automatisierte Entscheidung, die auf sensiblen Daten beruht, bedarf im Übrigen immer einer ausdrücklichen Einwilligung der betroffenen Person.“

„Da Facebook Rückschlüsse auf den Gesundheitszustand oder die psychische Gesundheit durch Anwendung eines intransparenten Verfahrens zieht, ergibt sich gerade daraus auch die besondere Schutzbedürftigkeit dieser Daten. Unklar ist hierbei insbesondere, welche Kriterien für eine Gefährdung der Person sprechen sollen, wer Zugriff auf diese Daten hat und für welchen Zeitraum diese Information gespeichert wird. Selbst wenn veröffentlichte Daten analysiert werden, müssen die Grundrechte des Betroffenen berücksichtigt werden und die Rechtmäßigkeit dieser weiteren Verarbeitung ist nicht ohne weiteres zu unterstellen. Im Falle einer Einwilligung muss diese informiert und ausdrücklich erfolgen, was in der Praxis schwierig umzusetzen sein dürfte.“

„Facebook versucht sich hier an Forschung zu einer medizinischen Diagnose. Diese sollte den strengen methodischen Anforderungen medizinischer Verfahren standhalten. Das heißt zum Beispiel: unbedingte Einwilligung der Betroffenen, unabhängige Evaluation und öffentlich nachvollziehbare Kriterien. Nichts davon ist hier gegeben. Laut einem Artikel der New York Times zum Thema evaluiert Facebook nicht einmal, ob die Alarme zutreffend waren: ‚Facebook said that, for privacy reasons, it did not track the outcomes of its calls to the police.‘ [III]”

„Die Methodik von Facebook basiert auf Algorithmen aus dem Feld des maschinellen Lernens. Sie versuchen Gemeinsamkeiten zwischen Beiträgen von verschiedenen suizidgefährdeten Personen zu finden. Wie die Autoren darstellen, wird hier automatisch verallgemeinert, es wird eine Art allgemeines Muster für Suizidgefahr gesucht. Damit können auch diverse Beiträge in den Fokus der Algorithmen geraten, die nichts mit Suizid zu tun haben. Angesichts der Konsequenzen wie Polizeieinsätze, verunsicherte Freunde und Familie und der sozialen Stigmatisierung von Selbsttötungen, haben solche Fehlalarme schwerwiegende Folgen.“

„Der aktuelle Einsatz der Suizidpräventionsalgorithmen geht über die Köpfe der Beteiligten hinweg. Wer auf Facebook (oder anderswo) von Suizidplänen berichtet, hat dabei normalerweise ein Publikum im Kopf – Bekannte, Freunde, Familie, und so weiter. Facebooks Reaktion sollte die Handlungsmöglichkeiten der somit Angesprochenen nicht behindern. Diese haben für gewöhnlich auch viel mehr Informationen. Sie wissen beispielsweise, ob die Person schon in Behandlung ist, oder kennen den entsprechenden Arzt. Die Nutzung der Daten von Facebook ist eventuell dann sinnvoll, wenn es den Angehörigen nicht gelingt, die Person zu lokalisieren. Dieser Fall wurde ebenfalls in dem Artikel der New York Times beschrieben [III]. Das kann dann aber auch durch eine Anfrage der Polizei geschehen und braucht kein pro-aktives Handeln von Facebook.“

„Die rechtliche Lage kann ich als Medienwissenschaftler nicht einschätzen. Es handelt sich hier um hochsensible, gesellschaftlich stigmatisierte, medizinische Informationen, die zumindest aus ethischer Sicht nicht ohne Zustimmung der Betroffenen gesammelt und verarbeitet werden sollten.“

„Der Fall illustriert deutlich, welch intimes Wissen Firmen wie Facebook inzwischen über uns erlangen können. Dass hier ein hehrer Zweck verfolgt wird, sollte nicht davon ablenken, dass dies eine willkürliche Entscheidung der Firma ist, von der wir weder im Positiven noch im Negativen abhängig sein sollten. Deshalb braucht es dringend eine Regelung, welche die Sammlung und den Umgang mit solchen Daten allgemeinverbindlich und im Sinne des Gemeinwohls festschreibt.“

„Aufgrund der Sensibilität der Daten müsste auf jeden Fall genau geregelt werden, was nach einem solchen Alarm mit den Informationen geschieht: beispielsweise, ob Facebook diese speichert und für andere Zwecke nutzen kann oder an bestimmte Stellen weitergeben darf, was sehr fragwürdig wäre.“

„Facebook hat bezüglich der Suizidprävention eine Vorreiterrolle innerhalb der sozialen Medien inne, die aus Sicht der Prävention grundsätzlich sicherlich begrüßenswert ist. So hat Facebook zum Beispiel im Rahmen der Erstellung von Empfehlungen zum Umgang mit Online-Technologien [4] mit internationalen FachexpertInnen – darunter auch meine ForscherInnengruppe – zusammengearbeitet. Für einen breiteren Einblick in weitere Aspekte der Zusammenarbeit empfiehlt sich auch die Stellungnahme von Facebook [5].“

„Die Autoren fokussieren in ihrem Kommentar auf den Aspekt von Algorithmen, die von Facebook zur Erkennung von potenziell Suizidgefährdeten auf Basis von Interaktionen auf der Plattform in mehreren Ländern verwendet werden. Gerade bei derart neuen und noch nicht ausreichend beforschten Ansätzen, die in unterschiedlichen kulturellen Settings angewandt werden, ist dabei ein offener Diskurs in der internationalen Forschungscommunity dringend erforderlich. Hier gibt es klar Verbesserungspotenzial, da etwaig vorhandene (interne) Evaluationsergebnisse und Details zu den verwendeten Algorithmen nicht wissenschaftlich publiziert und somit bekannt sind.“

„Ein populationsbezogenes Vorgehen, wie von Facebook versucht, steht dabei keineswegs zwangsläufig im Widerspruch zu einer effektiven Suizidprävention auf individueller Ebene. Wie richtigerweise von den Autoren des Kommentars ausgeführt, ist der Ansatz nicht für ein individuelles Risikoassessment ausreichend, relevante Hinweise über mögliche Suizidgefährdung sind jedoch durchaus denkbar. Um festzustellen, wie gut derartige Algorithmen funktionieren, und sie zu verbessern, bedarf es genau jener Analysen und Evaluationen, die breit in der wissenschaftlichen Community diskutiert werden, in diesem Fall aber nicht vorhanden oder bekannt sind. Personen haben dabei selbstverständlich ein Recht der Teilnahme an Forschung zuzustimmen oder diese zurückzuweisen. Personen ohne ihr Wissen und ihre Zustimmung in wissenschaftliche Untersuchungen zu involvieren, verstößt gegen ethische Standards und Übereinkommen der wissenschaftlichen Forschung.“

„Die praktische Umsetzung der gewonnenen Erkenntnisse bedarf darüber hinaus einer klar definierten und abgestimmten Zusammenarbeit mit Personen, die adäquat qualifiziert sind, sowie mit Hilfseinrichtungen vor Ort. Nutzungsbedingungen, denen NutzerInnen bei Verwendung von Facebook zustimmen, sollten klar beschreiben, wie das Vorgehen im Falle von möglicher Suizidalität ist. Derzeit findet sich in Facebooks Nutzungsbedingungen ein Hinweis auf Gemeinschaftsstandards, in denen Grundgedanken zu Umgang mit Suizidalität beschrieben sind [6].“

„Es gibt nun einen dringenden Aufholbedarf, effektive und verträgliche Angebote für suizidale Personen in den sozialen Medien zu entwickeln und anzubieten – und Facebook ist hier wieder in einer Vorreiterrolle. Neben nachträglichen Innovationen als Reaktion auf Suizide würde auch eine proaktive Gesundheitsfolgenabschätzung bereits vor Einführung von neuartigen Kommunikationstechnologien einen wesentlichen Beitrag liefern, um einen sicheren Umgang mit neuen Technologien zu gewährleisten. Niemand bezweifelt heute, dass es sinnvoll ist, Medikamente und diverse Gesundheitstechnologien bereits bevor sie auf den Markt kommen umfangreich in Bezug auf ihre Wirkungen zu testen. Eine umfassende Qualitätssicherung bereits vor der Einführung von Unterhaltungsprodukten, wie zum Beispiel Streamingdiensten, wäre ein wichtiger weiterer Schritt.“

„Facebook hat bezüglich der Suizidprävention eine Vorreiterrolle innerhalb der sozialen Medien inne, die aus Sicht der Prävention grundsätzlich sicherlich begrüßenswert ist. So hat Facebook zum Beispiel im Rahmen der Erstellung von Empfehlungen zum Umgang mit Online-Technologien [4] mit internationalen FachexpertInnen – darunter auch meine ForscherInnengruppe – zusammengearbeitet. Für einen breiteren Einblick in weitere Aspekte der Zusammenarbeit empfiehlt sich auch die Stellungnahme von Facebook [5].“