Искусственный Интеллект. Стоять, бояться!

Лекция началась с определения сроков ожидания образования Сильного Искусственного Интеллекта. Лет через 10. Со ссылкой на команду ДипМайнд из Гугл. Механизм обучения "Альфа Го". Моделирование текстов, сети учатся угадывать следующее слово после распознавания некоторого количества слов. Распознавание картинок с последующим генерированием образов по словам. Мозг как "набор множества разных искусственных интеллектов". Ресурсы об ИИ и обсуждаемые вопросы его взаимодействия с людьми и безопасностью такого общения.
Основной "посыл" сообщения, - бурное развитие технологий ИИ началось в 2011 году с появлением мощных видеопроцессоров, способных программно эмулировать работу нейросетей.
Нейросети научились выигрывать в "Го", а не только в шахматы, распознавать и генерировать картинки по словесному описанию, угадывать пропущенные слова в тексте, решать локальные задачи с помощью обучающих баз данных - "датасетов". Уже сейчас необходимо решать вопросы безопасного взаимодействия человечества и ИИ, вопросы этики, захвата власти ИИ, нарушения им (ИИ) работы инфрастурктуры и т.п.
Зал Библиотеки ("Научка", Дубининская,20) был заполнен, свободных стульев не было. Библиотекарь давала каждому приходящему заполнить договор, для отчета перед начальниками. После лекции был диспут.
Итак, на сегодня ИИ - это набор программно-аппаратных решений на основе нейросетей, которые можно объединить в некую глобальную сеть ("Скайнет"), а можно и не соединять, которым можно давать для обучения подобранные по темам "датасеты", или обучать на взаимодействии с реальным миром (навесив датчиков разного типа на робота и подсоединив его к интернету), но пока с реальностью - дорого, необходима Очень большая мощность.
Почему авторы наделяют ИИ свойствами живого организма, хотя по факту это модель, сложная, решающая локальные задачи лучше человека (те же игры, химанализатор (нюх), распознавание звуков и т.п.), на модели можно проверять различные теории и гипотезы, она возможно станет очень хорошим инструментом моделирования различных процессов сознания (например моделирование развития жизни в отличных от земных условиях существования, например на недавно открытых планетах с водой, моделирования отношений с инопланетным разумом, задавая ИИ разные параметры восприятия и генерируя разные взаимодействия с "реальностью")?
Само наделение ИИ "разумом" и самостоятельностью очень напоминает идею Бога, только вынесенную из субъективного представления, личной, интимной модели, в общую технологическую реальность, и страх перед могуществом ИИ также похоже на страх перед неизвестным, но вездесущим и сверхсознательным Существом. Хотя ИИ в любой форме является только инструментом, сложным, гораздо сложнее ножа и автомата Калашникова, но только инструментом, отображением, отражением наработанных человечеством (биосферой, если угодно) свойств, способностей (отражения не существуют отдельно от отражаемых объектов и воспринимающих их существ). Даже если удастся собрать самочинящиеся и самоорганизующиеся системы, способные самостоятельно добывать электричество для поддержания функционирования, такие системы все равно останутся очень сложными инструментами, с ограниченными возможностями применения (полета к тем самым планетам, ситуацию на которых предварительно смоделировали и "покрутили" для разных условий существования), в том числе и для моделирования контакта (протокола обмена данными) с внеземным разумом. А возможно и построения адаптера (адаптеров) к Универсуму, как огромному накопителю памяти обо всем, произошедшем во Вселенной (доступном нашему актуальному опыту).
Нет, конечно можно и соотечественников, тем более и врагов всяких в пыль порубить таким инструментом, но, возможно будет как в том анекдоте про льва в зоопарке и положенное ему в день количество мяса, - "съесть то он съесть, но кто ж ему дасть", возможно и ограничения лежат в самой структуре модели ИИ, но, время покажет, ждать недолго.
Ну и придется делать его вечным, с невыгорающими микросхемами из нераспадающихся материалов, либо проектировать "природоподобное" (М.Ковальчук) нечто, меняющееся поколениями, как это делает живое вещество, поглощая для своего существования всякую разлагающуюся (и распадающуюся) дрянь, а не чистое электричество.