Апрель 29th, 2019

Человеческую речь синтезировали прямо из мозга

Когда мы хотим что-то сказать, мозг мгновенно находит в памяти нужные слова и комбинирует их в соответствии с правилами языка – всё это сопровождается массой нейронных сигналов, которые носятся по центрам памяти мозга, речевым центрам и пр.

Человеческую речь синтезировали из мозга

Если попытаться нейронные сигналы озвучить прямо из мозга, сопоставив с ними нужные звуки, которые мог бы произносить робот, это будет очень сложно.



Но можно поступить иначе. Ведь в итоге мозг посылает речевые сигналы на речевой аппарат – то есть к языку, гортани, губам, нижней челюсти. А импульсы, направленные к мышцам, различить в куче нейронных сигналов уже проще. Исследователи из Калифорнийского университета в Сан-Франциско работали с пятью добровольцами, которые лечились от эпилепсии – им в мозг в лечебных целях вводили электроды, чтобы отслеживать эпилептические импульсы. Часто такие больные участвуют в нейробиологических экспериментах на самые разные темы – ведь у них можно подсмотреть, как работает живой человеческий мозг.

Человеческую речь синтезировали из мозга
Электроды, которые вводят в мозг, чтобы считывают нейронную активность.

С этими электродами в речевом центре мозга их просили громко и внятно прочитывать несколько сотен предложений. Запись нейронной активности совмещали с данными о том, как двигаются язык, губы и т. д. во время говорения. Специальный компьютерный алгоритм искал соответствия между нейронной активностью и движениями рта.

Движения рта отправлялись на декодер, который подбирал к ним звуки, произносимые компьютерным голосом. Из звуков составлялись те же самые предложения, которые зачитывали участники эксперимента. И уже эти синтетические предложения прокручивали другим людям, которые должны были сказать, сколько слов они могут из них разобрать.

В статье в Nature говорится, что в синтетических предложениях удавалось разобрать в среднем 70% слов, хотя многое зависело от длины предложения и от других параметров. В целом такой метод считывания речи из мозга гораздо более эффективен, чем когда звуки речи пытаются определить напрямую по активности нейронов, без посредничества голосового аппарата.



Можно предположить, что подобное устройство помогло бы обрести речь парализованным людям, утратившим речь, например, из-за инсульта, который затронул нейроны, контролирующие движения языка и челюсти. Однако пока неясно, как это будет работать с теми, кто как раз не может двигать ртом. Всё-таки алгоритм тренировали на предложениях, которые произносили громко и внятно. С другой стороны, все мы друг друга понимаем, то есть, очевидно, делаем похожие движения губами, челюстью и пр., так что, может быть, можно обучить систему синтеза речи на здоровых людях так, чтобы она работала у больных.

Leave a Reply

  

  

  

You can use these HTML tags

<a href="" title=""> <abbr title=""> <acronym title=""> <b> <blockquote cite=""> <cite> <code> <del datetime=""> <em> <i> <q cite=""> <strike> <strong>