Neuroethicists sind Geteilter Meinung, ob eine Studie, die mit brain-scans und AI zu entschlüsseln vorgestellt Rede stellt eine Bedrohung für die mentale Privatsphäre.
Die kleine Stimme in deinem Kopf kann jetzt decodiert werden, die von einem Gehirn-scanner — zumindest für einige Zeit. Die Forscher entwickelt haben, die erste nicht-invasive Methode zur Bestimmung der Kern von Vorstellungs-Rede, die eine mögliche Kommunikation outlet für Menschen, die nicht sprechen kann. Aber wie weit ist die Technologie, die derzeit nur mäßig genaue — zu erreichen wahre Geist Lesen? Und wie kann die Politik dafür sorgen, dass solche Entwicklungen nicht missbraucht werden?
Die meisten vorhandenen thought-to-speech-Technologien verwenden, Gehirn-Implantaten, die überwachung der Aktivitäten in einer person motorischen Kortex und Vorhersagen, die Worte, die Lippen, versucht sich zu bilden. Um zu verstehen, die tatsächliche Bedeutung, die hinter dem Gedanken, Informatiker Alexander Huth und Jerry Tang an der Universität von Texas in Austin und Ihre Kollegen combined functional magnetic resonance imaging (fMRI), ein nicht-invasives Mittel zur Messung der Aktivität des Gehirns, die mit künstlichen Intelligenz (KI) - algorithmen als große language Modelle (LLMs), die zugrunde tools wie ChatGPT und sind geschult, um die Vorhersage der nächsten Wort in einem text.
In einer Studie, die in Nature Neuroscience veröffentlichten am 1. Mai, erhielten die Forscher 3 Probanden liegen in einem fMRI-scanner aufgezeichnet und die einzelnen Aktivität des Gehirns, während Sie hörte zu 16 Stunden podcasts each1. Durch die Messung des Blutflusses durch die Freiwilligen Gehirne und die Integration dieser Informationen mit den details der Geschichten, die Sie hörten und die LLM-die Fähigkeit, zu verstehen, wie Worte zueinander in Beziehung stehen, entwickelten die Forscher eine codierte Karte, wie jedes individuelle Gehirn reagiert auf verschiedene Wörter und Wortgruppen.
Weiter, erfassten die Forscher die Teilnehmer fMRT-Aktivität, während Sie hörten eine Geschichte, vorstellen, eine Geschichte zu erzählen oder sahen einen film, enthielt keine Dialoge. Mit einer Kombination der Muster, die Sie vorher kodiert für jeden einzelnen und die algorithmen, die bestimmen, wie ein Satz ist wahrscheinlich, konstruiert auf der basis von anderen Wörtern, die versuchten die Forscher zu entschlüsseln, diese neue Aktivität des Gehirns. Das video unten zeigt die Sätze produziert von Gehirn Aufnahmen während einer Studie Teilnehmer sahen einen clip aus dem animierten film Sintel, um ein Mädchen sorgen für einen baby-Drachen.
Hit und miss
Der decoder erzeugt Sätze, bekam der Kern dessen, was die person zu denken war: der Satz 'ich habe meinen Führerschein noch', war zum Beispiel decodiert werden, wie "Sie hat noch nicht einmal begonnen, zu lernen, zu fahren, noch'. Und es machte eine ziemlich genaue job zu beschreiben, was die Leute sehen in den Filmen. Aber viele der Sätze, die er produzierte, waren ungenau.
Die Forscher fanden auch heraus, dass es war leicht zu überlisten-Technologie. Wenn der Teilnehmer dachte an eine andere Geschichte, die Sie während der Wiedergabe eines aufgezeichneten Geschichte, der decoder nicht bestimmen konnte die Worte, die Sie hörten. Die codierte Karte auch unterschieden zwischen Individuen, was bedeutet, dass die Forscher können nicht erstellen Sie einen decoder, der arbeitete an alle. Huth meint, dass es noch schwieriger werden, um die Entwicklung eines universellen decoder als Forscher erstellen Sie detaillierte Karten der einzelnen Gehirne.
Die Bestimmung, wie das Gehirn legt die Bedeutung von Sprache ist enorm schwierig, sagt Francisco Pereira, ein Neurowissenschaftler an der US-amerikanischen National Institute of Mental Health in Bethesda, Maryland. "Es ist beeindruckend, jemanden zu sehen, ziehen Sie es ab."'
"Wake-up call'
Neuroethicists sind Geteilter Meinung, ob die neueste Entwicklung ist eine Bedrohung für die mentale Privatsphäre. "Ich bin kein Aufruf zur Panik, aber die Entwicklung von komplexen, nicht-invasive Technologien wie diese zu sein scheint, näher am Horizont, als wir erwartet haben", sagt bioethiker Gabriel Lázaro-Muñoz an der Harvard Medical School in Boston. "Ich denke, es ist ein Weckruf für politische Entscheidungsträger und die öffentlichkeit."
Aber Adina Roskies, eine Wissenschaft, Philosoph an der Dartmouth Universität in Hanover, New Hampshire, sagt, dass die Technologie ist zu schwierig zu bedienen und zu ungenau — eine Bedrohung in der Gegenwart. Für den Anfang, die fMRT-Scanner sind nicht tragbar, so dass es schwierig zu Scannen, jemandem das Gehirn ohne Ihre Zusammenarbeit. Sie hat auch Zweifel, dass es sich lohnen würde die Zeit oder Kosten für ein Zug-decoder für einen einzelnen für einen anderen Zweck als die Wiederherstellung der Kommunikation Fähigkeiten. "Ich glaube einfach nicht, es ist Zeit zu beginnen, sich Gedanken", sagt Sie. "Es gibt viele andere Möglichkeiten, kann die Regierung sagen, was wir denken."
Greta Tuckute, ein kognitiver Neurowissenschaftler am Massachusetts Institute of Technology in Cambridge, findet es ermutigend, dass der Decodierung-system nicht angewendet werden konnte auf den einzelnen und die Menschen einfach trick es durch das denken an andere Dinge. "Es ist eine schöne demonstration, wie viel die Agentur, die wir tatsächlich haben", sagt Sie.
Gehen Sie mit Vorsicht
Dennoch Roskies, sagt, dass selbst wenn der decoder funktioniert nicht gut, Probleme könnten entstehen, wenn Anwälte oder Gerichte es verwenden, ohne das Verständnis seiner wissenschaftlichen Einschränkungen. Zum Beispiel in der aktuellen Studie, die phrase " ich habe gerade sprang aus [des Autos]' wurde entschlüsselt, wie "ich hatte zu schieben Sie Ihr aus dem Auto". "Die Unterschiede sind stark genug, Sie könnte einen gewaltigen Unterschied machen, in einer Rechtssache," Roskies sagt. "Ich fürchte, Sie wird die Fähigkeit haben, diese Dinge nutzen, wenn Sie nicht sollten."
Tang stimmt. "Der Lügendetektor ist nicht genau, aber hat negative Folgen", sagte er in einer Pressekonferenz. "Nobody' s Gehirn sollte entschlüsselt werden, ohne deren Zusammenarbeit." Er und Huth genannt für Entscheidungsträger proaktiv anzugehen, wie Gedankenlesen Technologien können und nicht legal verwendet werden.
Lázaro-Muñoz sagt, dass politische Maßnahmen könnte der Spiegel eine 2008 US-Gesetz, das verhindert, dass Versicherer und Arbeitgeber aus mit Menschen, die genetischen Informationen in diskriminierender Weise. Auch er macht sich sorgen über die Auswirkungen der decoder für Menschen mit Erkrankungen wie Zwangsstörungen, die erleben können unerwünschte, aufdringliche Gedanken über verletzen Menschen, Sie würden nie handeln auf.
Pereira sagt der Materie, wie genau Decoder werden könnte, ist eine offene Frage, als ob Sie könnte schließlich zu universal, anstatt für eine bestimmte. "Es hängt davon ab, wie einzigartig Sie denken, die Menschen sind", sagt er.
Obwohl die decoder-schließlich werden könnte gut auf die Vorhersage der nächsten Wort in einer Reihe, ist es wahrscheinlich schwer zu interpretieren, Metaphern oder Sarkasmus. Es ist ein großer Schritt, Pereira sagt, zwischen setzen Wörter zusammen und bestimmen, wie das Gehirn kodiert die Beziehungen zwischen den Wörtern.