СверхИИ и конец человечества, ИИ расшифрует рукопись, заработает денег для Сбера и “потёмкинский ИИ” Софии

СверхИИ как экзистенциальная угроза человечеству

На фоне поистине бесконечных заметок об ИИ (а они, как правило, посвящены различным внедрениям алгоритмов машинного обучения, глубинному обучению и нейросетям) медийные каналы уделяют незаслуженно малое внимание теме сверхразумного ИИ. Между тем связанные с этим изменения, прежде всего, угрозы, настолько велики, что по последствиям их сложно сравнить даже с ядерным военным конфликтом общепланетного масштаба.

Рекомендую интересующимся не спеша ознакомиться с отрывком из книги Джеймса Баррата «Последнее изобретение человечества«. Книга издана на английском в октябре 2015 года, а на днях наконец-то увидел свет её изрядно задержавшийся перевод на русский язык.

Пообщавшись с рядом учёных, автор пришёл к выводу, который я разделяю — появление выскоуровневого ИИ с высокой вероятностью может привести к негативным последствиям для человека, вплоть до уничтожения людей как вида. Учитывая присущую людям агрессивность и неумение задумываться о последствиях, нет сомнений, что военные и учёные ряда стран будут стараться разработать такой сверхИИ, невзирая на риски.

Кто-то сейчас цепляется за надежду, что ситуацию спасёт разработка технологии с позиций создания «дружественного интеллекта» или «большой красной кнопки». Между тем, если сверхИИ будет иметь возможность модифицировать свой код, он найдёт способ избавиться от любых встроенных в него императивов и «предохранителей». Поэтому работы по разработке сверхИИ можно сравнить с обратным отсчётом для существования человечества. И этот отсчёт уже идет.

ИИ в 2018 году

А пока сверхИИ не создан, мы можем воспользоваться теми преимуществами, которые дает нашей цивилизации массовое внедрение ИИ с его сегодняшними, весьма ограниченными и всё же весьма немалыми возможностями.

В частности, к 2030 году внедрение ИИ может принести глобальной экономике до $15.7 трлн. И если сухие цифры вас не заводят, то вот вам другое приятное обещание — активное использование ИИ приведёт к заметному повышению удовлетворённости клиентов, нас с вами. Практически все предложения ритейла, финансовых компаний, будут персональными — лично для вас, в попытке максимально учесть ваши потребности и особенности.

ИИ расшифрует средневековую рукопись

Манускрипт XV века, написанный буквами неизвестного алфавита с использованием неизвестного кода, остаётся загадкой с момента его обнаружения в начале XX века библиофилом Михаилом Войничем, по имени которого теперь называют эту рукопись. Попытки расшифровать манускрипт традиционными методами криптоанализа не удались никому, кто пытался это делать.

В Канаде группа учёных пытается расшифровать этот документ с помощью ИИ. И вот, похоже, достигнут первый успех — учёные заявляют, что им удалось определить язык, на котором написан зашифрованный документ, и перевести первое предложение в нём. ИИ пока что неспособен справиться с переводом самостоятельно, но тандем ИИ + человек, возможно, добьётся успеха и завершит перевод.

История в очередной раз демонстрирует — даже на современном скромном уровне развития ИИ есть самые широкие возможности применения искинов в разнообразных областях человеческой деятельности.

ИИ помогает Сбербанку зарабатывать миллиарды

Хотите верьте, хотите — нет, но Герман Греф в рамках Давосского экономического форума заявил, что использование различных технологий машинного обучения принесло «Сбербанку» $2-3 млрд в 2017 году.

Что же, оставим это заявление как есть, всё равно не проверить. Факт в том, что ИИ безусловно применим и всё более широко применяется в банках, в том числе и в такой важной сфере, как оценка рисков. Для этого используется и упомянутый в заметке по ссылке метод «психологического прототипирования».

Робот София — «потёмкинский ИИ»

Раз уж речь зашла о Грефе и Давосе, ну как не упомянуть робота Софию, в компании с которой г-н Греф не погнушался позавтракать. Если погуглить, то число упоминаний этой платформы в медиа переходит все разумные пределы.

В январе наконец прозвучала давно ожидаемая мною реплика, смысл которой — “а король-то голый”. Реплика не от юного мальчика, но от уважаемого мужа — Ян Лекун, глава Лаборатории ИИ Facebook, заявил, что считает незаслуженным повышенное внимание прессы к ИИ Софии, поскольку сей ИИ недалеко ушел от «продвинутых» чатботов.

Я это мнение безусловно поддерживаю, — видел Софию не так давно, имел возможность с ней пообщаться, но общаться с ней нельзя, когнитивные способности системы минималистичны, никакой связной беседы не получается. И меткое название «потёмкинский ИИ» подходит к ней как нельзя лучше.

Всё чаще можно видеть аналогичную реакцию людей и на других роботов, претендующих на возможность «общения» и в целом на полезность — все современные «инфоботы» пока что являются всего лишь дорогими игрушками, с помощью которых их создатели неплохо зарабатывают. А вот покупателям далеко не всегда удается капитализировать свои вложения в такие продукты, и чем дальше, тем больше. Вау-эффект от «говорящих гуманоидных роботов» проходит, а они так и не научились поддерживать осмысленную беседу на свободные темы.

Опасался за человечество, радовался достижениям современных платформ ИИ в разных областях и со скепсисом смотрел на чат-ботов на базе ИИ, @abloud