Zum Hauptinhalt springen
25.07.2019

Neuralink: Hirn-Computer-Schnittstelle von Elon Musk und Kritik an Publikation

Anlass

Der Medienrummel war groß, als Elon Musk am 17.07.2019 seine neuen Visionen im Bereich Neurotechnologie verkündete [I]. Mit seiner Firma „Neuralink“ will er flexible Elektroden per Roboter minimal-invasiv ins menschliche Gehirn einbringen und mit einem Computer verknüpfen. Die Elektroden sollen angeblich die Aktivität von 1.000 Nervenzellen gleichzeitig aufzeichnen – und diese in Zukunft auch gezielt ansteuern können. Damit verfolgt er die illusionär anmutenden Ideen, per App auf Knopfdruck neue Sprachen ins Gehirn „einspielen“ zu können oder Werbung und Stadtpläne direkt im Gehirn verfügbar zu machen. Realistischer scheinen die Ziele, Erkrankungen des zentralen Nervensystems, wie beispielsweise eine Querschnittslähmung, behandeln zu können.

Am Tag nach der Pressekonferenz veröffentlichte Musk eine Publikation mit wissenschaftlichen Details zum Fortschritt seiner Firma auf dem Preprint-Server BioRxiv (siehe Primärquelle), die vor allem die Roboter- und Elektrodentechnik vorstellt. Werden wissenschaftliche Publikationen auf einem Preprint-Server veröffentlicht, bedeutet das, dass diese noch nicht durch unabhängige Wissenschaftler begutachtet wurden (Peer-Review). Auch wenn die erste Berichterstattungswelle vorbei ist, lohnt es sich, diese Art der Publikation näher zu beleuchten. Sie wirft die Frage der Wissenschaftlichkeit solcher Projekte auf. Die wissenschaftliche Gemeinschaft hat beispielsweise schnell die Publikationspraxis kritisiert [II], da neben Musks Namen weitere wissenschaftliche Autoren des Papiers hinter dem Firmennamen verborgen bleiben. Ein weiterer Kritikpunkt lautet, dass die vorgestellten Ergebnisse keinen echten Fortschritt im Gebiet der Hirn-Computer-Schnittstelle darstellen.

Wir haben Experten gebeten, die Ergebnisse aus Sicht der Neurotechnologie und einer wissenschaftspolitischen Perspektive zu beurteilen. Darüber hinaus haben wir beim Preprint-Server BioRxiv direkt nachgefragt, welche Kriterien und Mechanismen zum Einsatz kommen, um eine gewisse Wissenschaftlichkeit von hochgeladenen Publikationen sicherzustellen.

Übersicht

     

  • Prof. Dr. Ulrich Dirnagl, Direktor der Abteilung Experimentelle Neurologie, Charité – Universitätsmedizin Berlin
  •  

  • Dr. Philipp Kellmeyer, Facharzt für Neurologie, Universitätsklinikum Freiburg, und Mitarbeiter im Forschungsschwerpunkt Responsible Artificial Intelligence am Freiburg Institute for Advanced Studies (FRIAS), Albert-Ludwigs Universität Freiburg
  •  

  • Dr. John R. Inglis, Co-Gründer von bioRxiv und medRxiv, Cold Spring Harbor Laboratory; geschäftsführender Direktor und Verleger, Cold Spring Harbor Laboratory Press, Vereinigte Staaten
  •  

Statements

Prof. Dr. Ulrich Dirnagl

Direktor der Abteilung Experimentelle Neurologie, Charité – Universitätsmedizin Berlin

„Zusammenfassung.
Die Veröffentlichung ist ein Werbeprospekt der Firma Neuralink. Dahinter steckt irrsinnig viel Geld und eine durchaus beindruckende Zusammenarbeit von Ingenieuren, Programmierern, Materialexperten, Robotik-Spezialisten und weiteren. Dies hat das Zeug, das Feld des Brain-Machine-Interface (BMI) inkrementell (ein Stückchen) voranzubringen, also bereits existierende BMI-Systeme zur Steuerung einfachster Funktionen durch Gehirnaktivität nach intensivem Training etwas zu verbessern. Damit könnte einzelnen Patienten, beispielweise nach Querschnittslähmung, geholfen werden – das ist selbstverständlich toll. Alles andere aber ist unseriöser Hype, Science Fiction und durch nichts im Artikel oder unserem sonstigen Wissen zur Funktion des Gehirns belegt. Dabei müssen wir uns eingestehen, dass wir ohnehin praktisch gar nicht wissen, wie das Gehirn funktioniert. Und der beschriebene Apparat wird uns da keinen Deut weiter bringen. Insgesamt erinnert mich diese Episode sehr an das Human Brain Project, das von der EU mit über einer Milliarde Euro gefördert wird. Vor genau zehn Jahren, am 22.07.2009, hat der Vater dieses Projekts, Henry Markram, in einem TED Talk in Oxford angekündigt, dass ‚wir in der Lage sein werden, das menschliche Gehirn im Computer zu simulieren‘. Dies ist das erklärte Ziel des Human Brain Project. Durch diese Simulation würden wir dann Wahrnehmung und Realität, vielleicht sogar unsere physikalische Realität verstehen. Er schloss damit, dass in zehn Jahren (also heute) ein Hologramm seinen TED Talk halten würde [1]. Passiert ist in den zehn Jahren gar nichts dergleichen, außer dass viel Geld ausgegeben wurde.“

„Der Artikel.
Der Neuralink Artikel beschreibt Komponenten eines Brain Machine Interface (BMI), also einem invasiven, das heißt chirurgisch ins Gehirn implantierten, ‚Medical Device‘, mit dem man das Gehirn befähigt, nach Training mittels Gedanken eine ‚Maschine‘ zu steuern. Dies könnte ein Roboterarm sein oder die Steuerung von Befehlen auf einem Computer durch Bewegen eines Mauscursors.“

„Der Artikel beschreibt oberflächlich einige Elemente eines von der Firma als nicht-funktionalen Prototypen generierten BMI: Elektroden zur Ableitung von Hirnaktivität, einen Chip zur Verarbeitung und Übertragung der Signale und einen OP-Roboter zum Einsetzen der Elektroden. Es fehlt alles, was nach der Ableitung der Signale noch benötigt wird, also zum Beispiel der Roboter, der die Funktion steuert und so weiter. Es wird also kein BMI beschrieben, sondern Teile davon.“

„Was ist neu?
Das Prinzip BMI und die verwendeten Komponenten sind nicht neu, sondern werden von verschiedenen Gruppen weltweit in ähnlicher Form entwickelt, und sind auch schon bei ausgewählten Patienten mit Rückenmarksverletzungen eingesetzt worden. Diese konnten damit – nach langem Training – sehr einfache Funktionen ausführen, wie zum Beispiel ein Tasse zu greifen.“

„Der Artikel beschreibt aber eine Reihe von technischen Verbesserungen, welche potenziell die Funktionaliät von BMIs verbessern könnten, zum Beispiel: neue, sehr dünne Ableitelektroden, die Möglichkeit von einigen Tausend (statt von einigen Hundert) Elektroden ableiten zu können und den OP-Roboter zur Implantation. Trotzdem bleibt es bei der Versprechung, dass dies ein BMI verbessern könne (was plausibel ist), gezeigt wurde das nicht (Formulierung: ‚It is plausible to imagine…‘). Vieles ist plausibel, und wir können uns alle viel vorstellen. Ernstgenommen wird dies an dieser Stelle selbstverständlich nur, weil Elon Musk dahinter steht. Das soll dafür garantieren, dass schon irgendwas dran sein muss. Schließlich baut der ja auch Elektroautos…“

„Ist das ein wissenschaftlicher Artikel?
Alles darüber hinausgehende – wie die im Artikel angedeuteten Funktionen, beispielsweise, dass damit das Hirn stimuliert werden könne, oder wie von Elon Musk bei der Präsentation behauptet, dass damit eine ‚Symbiose des menschlichen Gehirns mit künstlicher Intelligenz‘ möglich wäre – bleibt pure, durch nichts belegte Spekulation.“

„Der Artikel kommt im Gewand einer wissenschaftlichen Publikation daher, ist aber nichts als ein Werbeprospekt der Firma Neuralink. Eine Nachvollziehbarkeit der dort angedeuteten Spezifikationen und Leistungen des Systems ist nicht gegeben. An einer Stelle wird der Artikel als ‚white paper‘ bezeichnet. Wissenschaftlich bietet der Artikel nichts Neues: Andere Gruppen sind wesentlich weiter und haben bereits Anwendungen am Menschen gezeigt.“

„Insofern ist die Akzeptanz des Artikels als Preprint bei Biorxiv zumindest in Frage zu stellen, die Kategorie, in der er publiziert wurde, ist ja ‚New results‘. Grundsätzlich ist aber zu sagen, dass es das Wesen eines Preprints ist, keinem peer review, und auch keinem editorial review zu unterliegen. Die einzige Bedingung ist, ‚that it concerns a relevant scientific field, the content is unpublished at the time of submission, and all its authors have consented to its deposition’ (Biorxiv [2]). Die Auseinandersetzung findet dann via Kommentaren auf Biorxiv, auf Pubpeer, durch direkten Kontakt mit Autoren, oder in Blogs oder auf Twitter statt. Dies geschieht auch derzeit, auf Pubpeer finden sich beipsielweise vernichtende Kritiken von Lydia Maniatis [3].“

„Ethische Bedenken.
Trotzdem ergeben sich ethische Bedenken: Elon Musk ist alleiniger Autor, obwohl völlig klar ist, dass er den Artikel gar nicht verfasst haben kann. Dies ist ein klarer Verstoß gegen die allgemein und international akzeptierte Publikationsethik (COPE) [4]. Sehr bedenklich – allerdings in USA lege artis, wobei in Deutschland undenkbar – ist die Tatsache, dass die im Artikel angerissenen Tierexperimente durch ein firmen-internes Reviewboard ‚genehmigt‘ wurden. Man hat also selber entschieden, dass die Experimente ethisch vertretbar sind. Außerdem weckt der Artikel unbegründete Hoffnungen bei verzweifelten Patienten, auch dies ist unethisch.“

„Der Hype.
Der mit dem Artikel und der Präsentation von Elon Musk bewusst generierte Hype suggeriert Fähigkeiten eines BMI, welche von keinem ernstzunehmenden BMI-Forscher so akzeptiert würden. Das Auslösen von ‚Spikes‘ einzelner oder von Gruppen von Neuronen, auch wenn diese von mehreren Tausend Orten kommen, kann keine Aussagen machen über Gedanken, Vorstellungen und ähnliches eines Gehirns. Es ist geradezu umgekehrt: Das Prinzip eines BMI besteht ja gerade darin, das Hirn darauf zu trainieren, willentlich Aktivitäten von Nervenzellen zu generieren, die vorher dort noch nicht aufgetreten sind, um damit eine spezifische (dem Gehirn bis dahin fremde) Reaktion der Maschine auszulösen. Deshalb dauert es auch sehr lange, bis selbst einfachste Funktionen (Cursor rauf, Cursor runter) auch nur halbwegs zuverlässig funktionieren. Wenn man sich die physische und psychische Anstrengung der Patienten bei der Bedienung eines BMI anschaut, wird einem einiges klar. Bei einem nicht geringen Anteil der Patienten, bei denen so etwas versucht wurde, funktioniert es überhaupt nicht. Ob eine Erhöhung der Anzahl von Elektroden die Fähigkeit der Steuerung wesentlich verbessern kann, ist unklar und wird von Forschern im Feld angezweifelt.“

Dr. Philipp Kellmeyer

Facharzt für Neurologie, Universitätsklinikum Freiburg, und Mitarbeiter im Forschungsschwerpunkt Responsible Artificial Intelligence am Freiburg Institute for Advanced Studies (FRIAS), Albert-Ludwigs Universität Freiburg

„Die von Neuralink in dem als Preprint veröffentlichten – und damit bislang noch nicht im Peer-Review-Verfahren begutachteten – Manuskript und der Präsentation des Tesla-Chefs Elon Musk veröffentlichten Verlautbarungen repräsentieren aus meiner Sicht eine Zusammenfassung von Zwischenergebnissen der aktuellen firmeninternen Forschung.“

„Fundamental neu sind die Arbeiten im Hinblick auf die Elektrodentechnologie nicht, da verschiedene Arbeitsgruppen weltweit an Elektrodensystemen mit hoher Kontaktdichte (high-density electrode grids) arbeiten. Im Einzelnen mögen sich die verwendeten Materialien, die Anordnung der Elektroden und die Verpackung (hermetic packaging) von anderen Ansätzen unterscheiden. Ebenso ist die drahtlose Signalübertragung mittlerweile Standard in der Entwicklung neuerer Systeme zum Brain-Computer-Interfacing. So lange jedoch keine unabhängig begutachteten Langzeitergebnisse über die Gewebeverträglichkeit und Nicht-Toxizität im Tierversuch vorliegen – die erste Anwendungsstudie sei laut Neuralink 2020 geplant –, sind auch die hier vorgelegten Ergebnisse mit Vorsicht zu genießen.“

„Der Stand der Forschung ist unzureichend wiedergegeben, da zum Beispiel wichtige Forschungsarbeiten zu flexibel eingebetteten Elektrodenimplantaten nicht diskutiert werden.“

„Insofern die Arbeiten dem Standard guter wissenschaftlicher Praxis folgen, tragen sie im üblichen Sinne zum inkrementellen Erkenntnisgewinn und Fortschritt im Bereich Brain-Computer-Interfacing bei. Da die vorgestellten Arbeiten jedoch weitgehend nicht wissenschaftlich begutachtet, geschweige denn validiert oder reproduziert sind, sind diese Qualitätsstandards noch nicht erfüllt.“

Auf die Frage, inwiefern es mit wissenschaftlichen Standards vereinbar ist, Namen von Autoren und beteiligten Wissenschaftler hinter einem Geschäftsnamen zu verbergen:
„Aus meiner Sicht entspricht dies nicht den üblichen Regeln guter wissenschaftlicher Praxis. Die Veröffentlichungen sollten von den Autoren vorgenommen werden, unter Nennung des Namens, die wesentlich an der Forschung beteiligt waren.“

„Aus meiner Sicht ist die Motivation zur Veröffentlichung der vorläufigen Ergebnisse zu diesem Zeitpunkt aus den Dokumenten nicht ersichtlich, das heißt, dies mag mitunter eher von strategischen Überlegungen getrieben sein, entweder wirtschaftlich (Tesla hat gerade erneut schlechte Ertragszahlen vorgelegt und steht wirtschaftlich unter enormen Erfolgsruck [5]) oder im Hinblick auf ‚intellectual property‘ (geistiges Eigentum, im Sinne von: beweisen zu können, der/die Erste mit dieser Idee gewesen zu sein; Anm. d. Red.), statt aufgrund substanzieller wissenschaftlicher Gründe für die Veröffentlichung. 

„In Deutschland gilt die Forschungsfreiheit gleichermaßen für die akademische Forschung wie für die privatwirtschaftliche Forschung. Aus forschungsethischer Sicht ist es jedoch meiner Meinung nach wichtig, dass dann auch die gleichen Regeln guter wissenschaftlicher Praxis gelten und ethische Standards eingehalten werden. Leider erreicht die Unternehmensforschung in den meisten Fällen nicht diese Standards, und der aktuelle Fall von Neuralink ist hierfür aus meiner Sicht ein negatives Beispiel.“

„Für Forschung, die in erster Linie von Erkenntnisgewinn und Wissensfortschritt motiviert ist, ist die Möglichkeit der Preprint-Server eine tolle Möglichkeit frühzeitig in Austausch mit Kolleg*innen zu treten (pre-publication peer review) und so die Qualität ihrer Arbeit zu verbessern. Im Sinne offener Wissenschaft (open science) ist dies also sehr zu begrüßen. Wenn die Hauptmotivation jedoch die frühzeitige Sicherung von intellectual property und Verwertungsrechten ist, wird das System aus meiner Sicht für die Kommerzialisierung von Wissenschaft missbraucht.“

„Bislang überprüfen die meisten Preprint-Services die eingereichten Manuskripte nur sehr oberflächlich, um groben Unfug zu entfernen. Die eigentliche wissenschaftliche Überprüfung und Validierung hängt dann weiterhin von einer detailiierten gutachterlichen Bewertung der Arbeit ab.“

„Aus meiner Sicht ist zur Förderung des offenen Wissensaustausch eine transparente Veröffentlichungskultur unerlässlich. Dies beeinhaltet neben der Möglichkeit zur Preprint-Veröffentlichung aber auch die Prä-Registrierung von Studien, die offene, das heißt nicht-anonyme Begutachtung von Manuskripten und viele andere Maßnahmen, die seit einigen Jahren von der Open-Science-Community gefordert werden.“

Dr. John R. Inglis

Co-Gründer von bioRxiv und medRxiv, Cold Spring Harbor Laboratory; geschäftsführender Direktor und Verleger, Cold Spring Harbor Laboratory Press, Vereinigte Staaten

Auf die Frage, inwiefern Regeln für die Angabe von Autorenschaften bestehen und wie der aktuelle Fall von Neuralink einzuschätzen ist:
„Papiere von Forschungskonsortien sind auf bioRxiv selten. Die Regeln für die Kommunikation ihrer Arbeit sind von Konsortium zu Konsortium unterschiedlich. Es gab öffentliche Kritik daran, dass das Papier nicht die Personen aus dem Neuralink-Konsortium nannte, die die Arbeit geleistet haben, es gab jedoch keine Kommentare der betroffenen Personen. Wir prüfen, ob eine Auflistung der Mitglieder von Konsortien eine Anforderung für Forschungsarbeiten aus solchen Gruppen sein sollte, die in Zukunft bei bioRxiv eingereicht werden sollen, oder nicht.“

„Wenn Sie mit dem Passus ‚technische Filterung‘ fragen wollen, ob wir automatisierte Methoden zur Überprüfung von Papieren verwenden, lautet die Antwort Nein, mit Ausnahme der Plagiaterkennung. Wir haben nicht vor, eine solche Technologie einzuführen.“

Auf die Frage, wie folgende Beschreibung auf der Website genau zu verstehen ist: „Alle Artikel durchlaufen ein grundlegendes Screening-Verfahren für anstößige und/oder nicht-wissenschaftliche Inhalte und für Material, das ein Gesundheits- oder Biosicherheitsrisiko darstellen könnte und auf Plagiate überprüft wird“:
„Es handelt sich um einen zweistufigen Prozess, der von einem internen Team und einer internationalen Gruppe von über 120 Hauptprüfern (‚bioRxiv-affiliates‘) durchgeführt wird."

Angaben zu möglichen Interessenkonflikten

Alle: Keine Angaben erhalten.

Primärquelle

Musk E & Neuralink (2019): An integrated brain-machine interface platform with thousands of channels. DOI: 10.1101/703801. Preprint-Publikation auf dem Server bioRxiv. 
Preprint-Publikation bedeutet, dass diese Veröffentlichung noch keine wissenschaftliche Begutachtung von unabhängigen Experten durchlaufen hat (Peer-Review).

Literaturstellen, die von den Experten zitiert wurden

[1] Yong E (22.07.2019): The Human Brain Project Hasn’t Lived Up to Its Promise. The Atlantic.

[2] bioRxiv: Submission Guide.

[3] Pubpeer: An integrated brain-machine interface platform with thousands of channelsPubpeer ist eine Plattform, auf der wissenschaftliche Ergebnisse in der Gemeinschaft diskutiert werden.

[4] COPE: Authorship and contributorship.

[5] Siddiqui F (24.07.2019): Tesla loss shows perils of lower-priced Model 3. Washington Post.

Literaturstellen, die vom SMC zitiert wurden

[I] Youtube-Kanal CNET: Watch Elon Musk's Neuralink presentation. Veröffentlicht am 17.07.2019.

[II] Pubpeer: An integrated brain-machine interface platform with thousands of channels. Pubpeer ist eine Plattform, auf der wissenschaftliche Ergebnisse in der Gemeinschaft diskutiert werden.

Weitere Recherchequellen

Choi J-r et al. (2018): Implantable Neural Probes for Brain-Machine Interfaces – Current Developments and Future Prospects. Experimental Neurobiology; 27 (6): 453-471. DOI: 10.5607/en.2018.27.6.453.