Volgens een recente studie hebben wetenschappers een taalparser gemaakt die een AI-tool gebruikt die vergelijkbaar is met ChatGPT om spraak om te zetten in tekst. De bevinding is opmerkelijk omdat het de eerste keer is dat continue taal niet-invasief is hersteld van iemands hersenactiviteit met behulp van een functioneel apparaat voor magnetische resonantiebeeldvorming (fMRI). Met behulp van fMRI-hersenpatronen kon de tool de hoofdpunten van verhalen interpreteren die menselijke proefpersonen lazen, bekeken of beluisterden, of zelfs alleen maar in beeld brachten, op een manier die veilig de gedachten van mensen kon lezen. Wetenschappers verwachten dat deze technologie, die nog in de kinderschoenen staat, het op een dag gemakkelijker zal maken voor mensen met neurologische aandoeningen die de spraak belemmeren om gemakkelijk met anderen te chatten.
Gedachten lezen tools kunnen worden gebruikt voor kwaad
Het team achter de decoder waarschuwt dat hulpmiddelen voor het lezen van gedachten mogelijk kunnen worden gebruikt voor slechte daden. Een daarvan kan illegale monitoring door de overheid zijn. Volgens een rapport dat maandag in Nature Neuroscience is gepubliceerd, verklaarden de auteurs dat”hersen-computerinterfaces de mentale privacy moeten respecteren”, zelfs als ze opmerkten dat hun tool een teaminspanning van menselijke proefpersonen nodig heeft om te functioneren.
Jerry Tang, een afgestudeerde student in informatica aan de Univ. uit Texas in Austin die de studie leidde, zei in een persconferentie afgelopen donderdag
“Momenteel wordt taaldecodering gedaan met behulp van geïmplanteerde apparaten die neurochirurgie vereisen, en onze studie is de eerste die continue taal decodeert, wat meer betekent dan volledige woorden of zinnen, van niet-invasieve hersenopnamen, die we verzamelen met behulp van functionele MRI… Het doel van taal-decodering is om opnames te maken van de hersenactiviteit van een gebruiker en de woorden te voorspellen die de gebruiker hoorde of zei of zich voorstelde ,”hij merkte.”Uiteindelijk hopen we dat deze technologie mensen kan helpen die niet meer kunnen spreken door verwondingen zoals beroertes of ziekten zoals ALS.”
Hoe de nieuwe AI-tool werkt
Drie mensen die elk 16 uur luisterden naar verhalen in een fMRI-tool hielpen Tang en anderen bij het maken van hun tool. Om de semantische aspecten van de opgenomen verhalen te verbinden met de hersenactiviteit die in de fMRI-gegevens wordt genoteerd, trainde het team een AI-model dat bekend staat als GPT-1. Het kan dan leren welke woorden en zinnen zijn gekoppeld aan specifieke hersenpatronen.
Image Credit: Niche Pursuits
De deelnemers luisteren vervolgens naar gloednieuwe verhalen die geen deel uitmaakten van de trainingsdataset. Terwijl ze dit deden, lieten ze hun hersenen in beeld brengen met behulp van een fMRI. Hoewel deze interpretaties vaak andere semantische structuren gebruiken dan de originele opnames, was de tool in staat om de audio-verhaallijnen in tekst te vertalen zoals mensen ze hoorden. Met behulp van fMRI-lezers werden de gedachten van de luisteraar bijvoorbeeld vertaald van een band waarop een spreker zei …”Ik heb mijn rijbewijs nog niet”naar”Ze is nog niet eens begonnen met autorijden.”
Gizchina Nieuws van de week
Deze wankele metingen zijn het gevolg van een cruciaal onderscheid tussen de nieuwe tool en gevestigde methoden. De oude standaardmethoden implanteren invasief elektroden in de hersenen. Terwijl het team van Tang zich concentreerde op de bloedstroom door de hersenen, wat wordt vastgelegd in fMRI-machines. De op elektroden gebaseerde tools voorspellen typisch tekst van motorische activiteiten. Dit omvat bewegingen van iemands mond terwijl ze proberen te spreken.
Tool geeft geen exacte woorden
Alexander Huth, een assistent-prof. van neurowetenschappen en informatica aan de UT Austin en senior auteur van de nieuwe studie, zegt in een persbriefing
“Ons systeem werkt op een heel ander niveau … In plaats van te kijken naar dit lage motorische ding, onze systeem werkt echt op het niveau van ideeën, semantiek en betekenis. Dat is waar het om gaat … Dit is de reden waarom ik denk dat wat we naar buiten brengen niet de exacte woorden zijn die iemand hoorde of sprak, het is de kern … Het is hetzelfde idee maar uitgedrukt in andere woorden.”
Met de nieuwe tool van het team kunnen ze de grenzen van geest verleggen: leestechnologie. Dit deed het door te testen of de tool de gedachten van proefpersonen kon vertalen terwijl ze naar stomme films keken. Het deed het proces ook opnieuw omdat de proefpersonen zojuist verhalen in hun hoofd creëerden. In beide gevallen behaalde de decoder behoorlijk goede resultaten. Of ze nu verhalen aan het bedenken waren of naar een film aan het kijken waren, de decoder deed het goed.
Image Credit: Wired
Met betrekking tot de ingebeelde spraak gaf de decoder tijdens het testen met audio-opnamen betere resultaten. Maar het was nog steeds in staat om een paar basisfeiten over onuitgesproken gedachten af te leiden uit de hersenactiviteit. Als casus stelde een proefpersoon zich de uitspraak voor…”ging over een onverharde weg door een tarweveld en over een beek en langs enkele blokhutten”. De decoder produceerde een tekst die luidt…”hij moest over een brug naar de andere kant lopen en een heel groot gebouw in de verte.”
Er zullen zich enorme privacyschendingen voordoen
Al deze taken werden gegeven aan studieleden terwijl ze zich in een fMRI-machine bevonden. Dit is een omvangrijk en vast stuk laboratoriumuitrusting. Hierdoor denken Tang en zijn team dat de decoder nog niet klaar is voor gebruik. Dit betekent dat deze tool voor mensen met spraakproblemen op dit moment niet haalbaar is. Ze zijn echter van mening dat toekomstige versies van het apparaat kunnen worden gewijzigd om met eenvoudigere tools te werken. Hulpmiddelen zoals fNIRS-sensoren die op het hoofd van een patiënt kunnen worden gedragen.
Het team dat de studie deed, waarschuwt dat de decoders morele vragen oproepen over mentale privacy. Ze zinspeelden echter op het potentieel van deze technologie als een nieuwe vorm van dialoog.
Het team van Tang zei in het onderzoek
“Onze privacyanalyse suggereert dat samenwerking tussen proefpersonen momenteel vereist is om zowel en om de decoder toe te passen … Toekomstige ontwikkelingen zouden het echter mogelijk kunnen maken dat decoders deze vereisten omzeilen. Bovendien, zelfs als decodervoorspellingen onnauwkeurig zijn zonder medewerking van het subject, kunnen ze opzettelijk verkeerd worden geïnterpreteerd voor kwaadaardige doeleinden … “Om deze en andere onvoorziene redenen is het van cruciaal belang om het bewustzijn te vergroten van de risico’s van hersendecoderingstechnologie. Er is ook behoefte aan beleid om de mentale privacy van elke persoon te beschermen,”
Bron/VIA:
