Meta (dawniej Facebook) ogłosiła długoterminową inicjatywę badawczą nad sztuczną inteligencją (AI), aby lepiej zrozumieć, w jaki sposób ludzki mózg przetwarza mowę i tekst, oraz budować systemy sztucznej inteligencji, które uczą się jak ludzie.
We współpracy z centrum neuroobrazowania Neurospin (CEA) i Inria, Meta powiedziała, że porównuje, w jaki sposób modele językowe AI i mózg reagują na te same wypowiedziane lub pisemne zdania.
„Wykorzystamy spostrzeżenia z tej pracy, aby pokierować rozwojem sztucznej inteligencji, która przetwarza mowę i tekst tak skutecznie, jak ludzie”, powiedział portal społecznościowy w oświadczeniu.
W ciągu ostatnich dwóch lat Meta stosowała techniki głębokiego uczenia się, aby publiczne zbiory danych neuroobrazowania do analizy, w jaki sposób mózg przetwarza słowa i zdania.
Dzieci uczą się, że „pomarańczowy” może odnosić się zarówno do owocu, jak i koloru z kilku przykładów, ale nowoczesne systemy AI nie są w stanie tego zrobić to tak skutecznie, jak ludzie.
Metabadania h okazało się, że modele językowe, które najbardziej przypominają aktywność mózgu, to te, które najlepiej przewidują następne słowo z kontekstu (jak kiedyś… raz).
„Podczas gdy mózg przewiduje słowa i pomysły z dużym wyprzedzeniem w czasie , większość modeli językowych jest przeszkolona, aby przewidywać tylko następne słowo” – powiedziała firma.
Odblokowanie tej funkcji prognozowania dalekiego zasięgu może pomóc ulepszyć nowoczesne modele językowe AI.
Niedawno Meta ujawniły dowody na dalekosiężne przewidywania w mózgu, zdolność, która wciąż stanowi wyzwanie dla dzisiejszych modeli językowych.
W przypadku wyrażenia „Pewnego razu…” większość dzisiejszych modeli językowych zwykle przewiduje następne słowo, „czasu”, ale nadal mają ograniczoną zdolność przewidywania złożonych pomysłów, fabuł i narracji, tak jak ludzie.
We współpracy z Inria zespół badawczy Meta porównał różne modele językowe z mózgiem odpowiedzi 345 ochotników, którzy słuchali złożonych narracji podczas nagrywania za pomocą fMRI.
„Nasze wyniki wykazały, że sp. Efektywne regiony mózgu najlepiej wyjaśniają modele językowe wzbogacone o odległe słowa w przyszłości” – powiedział zespół.
FacebookTwitterLinkedin
