Бизнес | Четв, 14 Ноем 2024г. 18:57ч. | От втори опит е сменен държавният надзорник в "Нефтохим"
Изследване, което използва скенер на мозъка и изкуствен интелект за декодиране мислите на хората, разделя специалистите по невроетика дали това е заплаха за психическата неприкосновеност на хората.
Малкият глас в главата ви вече може да бъде декодиран от мозъчен скенер - поне през определено време. Изследователи са разработили първия неинвазивен метод за определяне на същността на въображаемата реч, представяйки възможно решение за комуникацията на хора, които не могат да говорят. Но колко близо е технологията, която в момента е само умерено точна, до истинското четене на мисли? И как политиците могат да гарантират, че с подобни разработки не се злоупотребява?
Повечето съществуващи технологии за привеждане на мисъл към говор използват мозъчни импланти, които наблюдават активността в моторния кортекс на човека и предсказват думите, които устните се опитват да формират. За да разберат действителното значение зад тази мисъл, компютърните учени Александър Хът и Джери Танг от Тексаския университет в Остин и техните колеги са комбинирали функционален магнитен резонанс (fMRI), неинвазивно средство за измерване на мозъчната активност, с алгоритми с изкуствен интелект, наречени големи езикови модели (LLM), които са в основата на инструменти като ChatGPT и са обучени да предвиждат следващата дума в част от текста.
В проучване, публикувано в Nature Neuroscience на 1 май, изследователите карат трима доброволци да лежат в fMRI скенер и записват мозъчната им активност, докато слушат 16 часа подкасти. Чрез измерване на притока на кръв през мозъците на доброволците и интегриране на тази информация с подробности за историите, които са слушали и способността на изкуствения интелект да разбере как думите се свързват една с друга, изследователите разработват кодирана карта за това как мозъкът на всеки индивид реагира на различни думи и фрази.
След това изследователите записват дейността на участниците с fMRI, докато слушат история, представят си как разказват история или гледат филм, който не съдържа диалог. Използвайки комбинация от моделите, които преди това са кодирали за всеки индивид, и алгоритми, които определят как едно изречение вероятно ще бъде конструирано въз основа на други думи в него, изследователите се опитват да декодират тази нова мозъчна дейност.
Попадения и пропуски
Декодерът генерира изречения, които разбират същността на това, което човекът мисли: фразата "Все още нямам шофьорска книжка“, например, е декодирана като "Тя дори още не е започнала да се учи да шофира“. Технологията върши доста точна работа и в описването на това, което хората виждат във филмите. Но много от изреченията са били неточни.
Изследователите също така установили, че е лесно да се излъже технологията. Когато участниците мислят за различни неща, докато слушат записана история, декодерът не можеше да определи думите, които чува. Кодираната карта също се различава между отделните индивиди, което означава, че изследователите не могат да създадат един декодер, който да работи за всички. Хът смята, че ще стане още по-трудно да се разработи универсален декодер, тъй като изследователите създават по-подробни карти на мозъците на индивидите.
Определянето как мозъкът създава смисъл от езика е изключително трудно, казва Франсиско Перейра, невролог от Националния институт за психично здраве на САЩ в Бетезда, Мериленд. "Впечатляващо е да видиш някой да го прави.“
Аларма за събуждане
Специалистите по невроетика са разделени по въпроса дали този напредък представлява заплаха за психическата неприкосновеност. "Не призовавам към паника, но развитието на сложни, неинвазивни технологии като тази изглежда е по-близо на хоризонта, отколкото очаквахме“, казва биоетикът Габриел Лазаро-Муньос от Харвардското медицинско училище в Бостън. "Мисля, че това е голям сигнал за събуждане за политиците и обществеността“.
Но Адина Роскис, научен философ от Дартмутския университет в Хановер, Ню Хемпшир, казва, че технологията е твърде трудна за използване и твърде неточна, за да представлява заплаха в момента. На първо място fMRI скенерите не са преносими, което затруднява сканирането на нечий мозък без неговото съдействие. Тя също така се съмнява, че би си струвало времето или разходите да се обучи декодер за индивид за каквато и да е цел, различна от възстановяване на комуникационните способности. "Просто не мисля, че е време да започнем да се тревожим“, казва тя. "Има много други начини, по които правителството може да каже какво мислим".
Грета Тъкут, когнитивен невролог от Масачузетския технологичен институт в Кеймбридж, намира за окуражаващо, че системата за декодиране не може да се приложи върху индивиди и че хората лесно могат да я измамят, като мислят за други неща. "Това е хубава демонстрация на това колко много сме свободни", казва тя.
Продължете с повишено внимание
Въпреки това Роскис казва, че дори декодерът да не работи добре, могат да възникнат проблеми, ако адвокати или съдилища го използват, без да разбират неговите научни ограничения. Например, в настоящото проучване фразата "Току-що изскочих [от колата]“ беше декодирана като "Трябваше да я избутам от колата“. "Разликите са достатъчно големи, за да натежат в съдебно дело“, казва Роскис. "Страхувам се, че ще могат да използват тези неща, когато не трябва.“
Танг се съгласява. "Полиграфът не е точен, но има отрицателни последици“, казва той. "Ничий мозък не трябва да бъде декодиран без неговото съдействие“. Той и Хът призоваха политиците проактивно да обърнат внимание на това как технологиите за четене на мисли могат и не могат да бъдат използвани законно.
Лазаро-Муньос коментира, че политическите действия биха могли да отразяват американски закон от 2008 г., който не позволява на застрахователите и работодателите да използват генетичната информация на хората по дискриминационни начини. Той също така се тревожи за последиците от декодера за хора със състояния като обсесивно-компулсивно разстройство, които могат да изпитат нежелани, натрапчиви мисли за нараняване на хора, които никога не биха предприели.
Перейра казва, че въпросът колко точни могат да станат декодерите е отворен въпрос, както и дали в крайна сметка биха могли да станат универсални, вместо да бъдат специфични за индивида. "Зависи колко уникални мислите, че са хората“, казва той.
Въпреки че декодерът в крайна сметка може да стане добър в предсказването на следващата дума в поредица, може да се затрудни да интерпретира метафори или сарказъм. Има голяма стъпка между сглобяването на думите и определянето как мозъкът кодира връзките между думите, казва Перейра.
mediapool.bg
