Новое исследование DeepMind о связывании воспоминаний и о том, как это применяется в ИИ

Есть когнитивная причуда, которую люди считают обманчиво элементарными. Например: каждое утро вы видите человека в его 30-х годах, гуляющего по шумному колли. И вот однажды, с той же собакой, с улицы вышла беловолосая дама с поразительным сходством.

Подсознательно мы сразу делаем ряд выводов: мужчина и женщина могут быть из одного домохозяйства. Женщина может быть матерью мужчины или другим близким родственником. Возможно, она берет на себя его роль, потому что он болен или занят. Мы сплетаем запутанную историю этих незнакомцев, извлекая материал из нашей памяти, чтобы сделать ее последовательной.

Эта способность-связывать одно прошлое с другим-не что иное, как чистый гений, и ученые пока не понимают, как мы это делаем. Это не просто академическое любопытство: наша способность интегрировать несколько воспоминаний - это первый когнитивный шаг, который позволяет нам получить новое понимание опыта и обобщить шаблоны этих встреч. Без этого шага мы бы вечно жили в разрозненном мире.

Это когнитивная сверхспособность. И DeepMind хочет, чтобы AI овладел им.

”Хотя есть много областей, где ИИ превосходит, у людей все еще есть преимущество, когда задачи зависят от гибкого использования эпизодической памяти", - сказал Мартин Чедвик, исследователь DeepMind, - память, которая позволяет вам помнить ваши жизненные события или где вы припарковали свой автомобиль.

“Если мы сможем понять механизмы, которые позволяют людям делать это, есть надежда, что мы сможем воспроизвести их в наших системах ИИ, предоставив им гораздо больший потенциал для быстрого решения новых проблем”, - сказал Чедвик.

Его позиция перекликается с приоритетами DeepMind CEO Demis Hassabi в нейробиологии как фундаментального драйвера машинного обучения.

На этой неделе, в сотрудничестве с международной группой нейробиологов из Великобритании и Германии, DeepMind вышли в мир биологических сетей. Используя современную функциональную магнитно-резонансную томографию, которая измеряет приток крови в разные области мозга, команда дразнила нервную цепь, ответственную за увязку воспоминаний у людей.

Затем они дистиллировали алгоритм из биологических данных-первый, но большой шаг к овладению ИИ тем же когнитивным мастерством.

«Это исследование элегантно ... устанавливает стандарты для будущей работы», - сказал д-р Джозиан Гоэнс из Университета Глазго, который не участвовал в исследовании.

Головоломка Памяти

Прежде чем мы перейдем к сути исследования, нам нужно (повторно)познакомиться с гиппокампом, структурой в форме морского конька, похороненной глубоко внутри мозга.

Еще в 1960-х годах пациент по имени Генри Молейсон (более известный как H. M.) взорвал теорию нейробиологии памяти, когда он пошел под нож, чтобы вылечить свою эпилепсию. Хирурги удалили большую часть гиппокампа и прилегающих областей, и Генри начал испытывать амнезию—в частности, тип, который запретил ему делать новые воспоминания. Это был важный ключ к тому, что гиппокамп играет решающую роль в эпизодических воспоминаниях - он быстро записывает события нашей жизни и в конечном итоге переносит эти воспоминания на внешний слой мозга, кору, для длительного хранения.

Последующие анализы медленно показали, что гиппокамп делает гораздо больше в области памяти. Во-первых, это одна из немногих областей в мозге, которые создают новые нейроны, и эти детские нейроны, похоже, помогают держать подобные эпизоды памяти отдельно. Эта способность, называемая "разделение шаблонов", позволяет вам запомнить два посещения вашей любимой кофейной остановки как отдельные воспоминания. Без разделения шаблонов эти эпизоды смешались бы вместе в беспорядке.

Это не все. Тщательно отслеживая различные нейронные цепи в гиппокампе, ученые начали замечать, что он также, казалось, интегрировал воспоминания в опыт полезным способом - способность, которая в корне противоречит ее функции сохранения раздельных воспоминаний.

Большинство из этих исследований были проведены на животных, которые могут иметь электроды, непосредственно имплантированные в различные нейронные цепи для легкого подслушивания. Но животные не могут объяснить, о чем они думают, и двойственность гиппокампальных сил оставалась горячо обсуждаемой теорией.

DeepMind и соавторы пробрались в эту проблему неврологии с помощью мощной новой игрушки: ультрамощной ФМРТ.

«Ф» в ФМРТ означает «функциональный», и это был популярный инструмент для изучения функций мозга на протяжении десятилетий. Машина измеряет поток крови в область мозга, которая свободно коррелирует с тем, как много активности происходит в любой момент. Сложные алгоритмы могут затем воздействовать на активированные области мозга и окрасить их в блестящий псевдотехнический цвет, основанный на их уровне активности. Другими словами, они «загораются».

Но у традиционных фМРТ есть ахиллесова пята: они имеют ужасное разрешение, что означает, что они могут смотреть только на большие куски ткани мозга—гораздо больше, чем отдельные нейронные цепи—за один раз.

В этом исследовании, опубликованном в престижном журнале Neuron, DeepMind воспользовался новыми разработками в аппаратном обеспечении fMRI и использовав алгоритмы, которые позволили им взглянуть на схемы гиппокампа в мельчайших деталях во время задачи Ассоциации памяти.

Команда волонтеров показала группе из 26 человек пары фотографий. Одни из них изображали реалистичное лицо, а другие-сцену (например, шоссе через густые леса после дождя) или объект.

Пары не были уникальными: каждая сцена или объект были сопряжены с двумя лицами. Таким образом, эксперимент установил косвенную связь между наборами двух уникальных граней.

На этапе тестирования команда попросила добровольцев выбрать лица, связанные через объект или сцену, во время сканирования их мозговой активности. Это, по сути, дало команде понимание того, что происходит с гиппокампом, в то время как добровольцы мысленно установили косвенные связи из памяти.

Примечательно, что гиппокамп достигал к многослойным области коры. Вместо того, чтобы обрабатывать всю информацию в доме, гиппокамп использует значительные связи для "циркуляции" различных воспоминаний.

Тренируя сложный классификатор, используя биологические данные, команда выяснила, что связи между гиппокампом и входным или выходным слоем значительно отличаются. Другими словами, казалось, что-то волшебное происходит на всех уровнях, что помогает интегрировать воспоминания.

“Наши данные показали, что когда гиппокамп восстанавливает память, он не просто передает ее остальной части мозга", - сказал автор исследования Дхаршан Кумаран в DeepMind. "Вместо этого он рециркулирует активацию обратно в гиппокамп, вызывая извлечение других связанных воспоминаний.”

От мозга к AI

Исследование может показаться радикальным отходом от других предприятий DeepMind, но это соответствует глубоко укоренившейся вере компании в то, что нейробиология может вдохновлять создание более сложного AI.

"Алгоритм, реализованный с помощью циклического повторения, имеет поразительные параллели с новейшими архитектурами нейронных сетей машинного обучения, которые используют внешнюю память для решения проблем реальной значимости”, - пишут авторы в своем заключении.

Двигаясь вперед, команда заявила, что им нужно выяснить, насколько большой цикл повторения способствует этому типу интеграции информации, которые помогают живым существам адаптироваться к постоянно меняющейся среде.

Источник