Искусственный интеллект на принципе нейросетей смог написать новую часть "Игры престолов"

Привет. Инженер-программист Зак Тутт обучил рекуррентную нейронную сеть (RNN), чтобы предсказывать события незавершенного шестого романа "Игры престолов". В результате, AI смог написать новый роман из этой серии.

«Я большой поклонник« Игры престолов », книг и шоу, - сказал Тутт, который только что закончил курс Udacity по искусственному интеллекту и глубокому обучению. 

Нейронные сети - это класс алгоритмов машинного обучения, смоделированных по принципу человеческого мозга, а рекуррентные нейронные сети - это подкласс, который хорошо работает с последовательностями данных, такими как текст.

С нейронной сетью вы берете набор входных данных, передаете их через сеть и получаете набор выходов. Чтобы обучать эти модели, вам нужно знать, что модель должна идеально давать на выходе, что часто называют целевыми переменными. Нейронная сеть сравнивает данные, которые она выводит с целями, и постоянно обновляет сеть, чтобы лучше достигать поставленной цели.

И Тотт работает с «длинной кратковременной памятью» RNN, ключ к обучению сети и запоминанию сюжетных точек из тысяч слов. Теоретически этот тип памяти должен помешать сети повторять события, которые уже произошли, что позволяет сгенерированной книге быть продолжением сюжета, а не альтернативной версией уже опубликованной работы.

В этом смысле AI пытается написать настоящие сиквелы, хотя время от времени она явно спотыкается. Например, в некоторых случаях он писал о персонажах, которые уже умерли.

Он пытается написать новую книгу. Идеальная модель должна включать в себя все, что произошло в книгах ранее, и не писать о том, что персонажи живы, когда они умерли две книги назад. Реальность, однако, заключается в том, что модель недостаточно хороша для этого. AI стремится создать новый сюжет и учитывать все сделанные им ошибки. Но пока технология подготовки идеального текстового генератора, который может запомнить сложные сюжеты из более миллиона слов, не существует.

После добавления 5 376 страниц первых пяти книг из серии в сеть Тотт выпустил пять созданных сетью глав и опубликовал их на странице GitHub для проекта.

Сеть также создала нового персонажа - Greenbeard.

Книга, конечно, не идеальна, но сеть может самостоятельно изучать основы английского языка и структуру стиля Джорджа Р.Р. Мартина (автора).

Оригинальный роман имеет около 32 000 уникальных слов, что затрудняет обучение сети.

Исследователь говорит, что текст пяти романов на самом деле является относительно небольшим набором данных для обучения RNN. Более идеальным источником будет книга, в 100 раз превышающая этот размер, но с уровнем словарного запаса для детей.

Подробней, фото1, фото2