Как искусственный интеллект работает <на нас | против нас>

Лонгрид о том, как зарабатывают на искусственном интеллекте и технологиях. Это рассказ о людях, которые меняют мир и одновременно попытка докопаться до сути понятий «интеллект», «сознание» и «живое».

Содержание:

1. Введение
2. Силиконовый разум
3. Как заработать на математике
4. Право быть нераспознанным
5. Цена privacy
6. Цифровое послезавтра
7. Рождение интеллекта

Введение

На главной мировой выставке технологических достижений CES 2017 в Лас-Вегасе стало окончательно ясно — «искусственный интеллект» скоро окажется внутри каждого электронного устройства. Компания LG учит свои холодильники понимать человеческую речь, зубная щетка Kolibree подсказывает, как лучше чистить зубы, а умная кровать Sleep Number 360 переворачивает на другой бок, если вдруг вы начинаете храпеть. 

Из больших новостей: Audi совместно с Nvidia обещает уже к 2020 году выпустить на рынок полностью автономный автомобиль с искусственным интеллектом.В октябре прошлого года на открытии кембриджского центра Future of Intelligence, который займется исследованием самых острых вопросов, связанные с AI (artificial intelligence), Стивен Хокинг сказал:

«Искусственный интеллект — это самое лучшее или самое худшее, что когда-либо случилось с человечеством»

«Лучшее» понятно почему — в прошлом году технологии AI (artificial intelligence) стали еще больше похожи на настоящую магию: Google выиграл в го у Ли Седоля, Трамп якобы стал президентом США при помощи психометрии и анализа лайков американцев, «Нейронная оборона» из Яндекса написала целый альбом под стать Егору Летову, и даже японские фермеры начали сортировать огурцы с помощью машинного обучения.

При этом подавляющее большинство обывателей наделяет программы человеческими качествами, например, свободой воли. Каждый второй разговор про AI заканчивается фантазиями о том, что война с машинами неизбежна, Терминатора наверняка уже делают в подземельях китайского министерства обороны, и если не Сара Коннор, то кто? Илон Маск? 

Спустя полвека после появления понятия «искусственный интеллект», это по-прежнему одна из главных взрослых страшилок, которая не имеет никакого смысла.Человечество действительно шагнуло на (и вот-вот перешагнет) порог грандиозных изменений. Однако, чтобы понять логику Хокинга и Маска, когда они говорят об угрозе «искусственного интеллекта», необходимо разобраться с тем, как все устроено и пуститься в главное интеллектуальное приключение 2017 года — к центру человеческого сознания.

Силиконовый разум

Давайте для начала определим основные понятия темы «искусственный интеллект»:

Большие данные (big data)— направление в бизнесе и науке, в котором дополнительная ценность получается за счет поиска скрытых закономерностей в потоке очень разных, еще говорят, неструктурированных данных.

Машинное обучение — одна из технологий для работы с большими данными.

Нейронные сети — одна из технологий машинного обучения. Нейронная сеть — это программа, построенная по тем же принципам, что и человеческий мозг.

Если взять хорошо знакомую всем автомобильную тематику, то «большие данные» можно сравнить с задачей по перевозке людей, «машинное обучение» — с автомобилем, а «нейросеть» — с внедорожником, или другим представителем своего класса: седаном, хэтчбеком и т.д.

Просто код

«Искусственный интеллект» — это, всего лишь, код. У него нет и не может быть места, которое испытывает эмоции или принимает решения. Поэтому когда журналисты пишут о том, что «Казанские ученые вызвали у искусственного интеллекта страх и отвращение» это говорит только о том, что они просто не придумали иного способа объяснить сложные компьютерные модели, кроме как с помощью этой, сомнительной с точки зрения правдивости, метафорой.

Так выглядит часть кода «искусственного интеллекта»

Ровно поэтому еще в 60-х многие ученые перестали употреблять термин «искусственный интеллект» и стали заниматься «когнитивной наукой». Они пытались избежать двусмысленности, которая неизбежно возникает, когда понятия из мира человека переносятся на машину. Но не переносить, оказывается, тоже нельзя, в этом же вся суть — силиконовый мозг создается по образу и подобию мозга человеческого. Тут то и возникает языковая ловушка — смыслы после переноса поменялись, а язык нет. Вот и получается, что «…искусственный интеллект научили чувствовать страх».

В отличие от эмоций, мы совершенно точно преуспели в обучении компьютера математике. Любой алгоритм превосходит нас в обработке чисел — мозг с точки зрения эволюции столкнулся с цифрами совсем недавно, и считаем мы, вообще-то, плохо. Но если математике мы учились всего несколько веков, то распознаванию образов — всю свою историю и делаем это лучше машины.

Как работает машинное обучение

Чтобы у компьютера получилось сказать «на этой фотографии — дерево, а на этой — сковородка» ему сначала нужно показать миллионы деревьев и миллионы сковородок. И не просто показать, а разложить их по полочкам. В процессе обучения программа выработает собственную логику, как отличить одно от другого, и сможет распознать, например, все деревья на новых фотографиях.

Но если в фотографиях была ошибка, то и распознавание получится так себе. На заре разработки компьютерного зрения в Google не могли понять, почему программе не удается распознать гантели? А потом выяснилось, что на учебных фото все гантели держала человеческая рука, поэтому система «думала», что «гантели = черная штука странной формы + часть руки человека» и не хотела распознавать спортивный инвентарь, лежащий на полу.

Как заработать на математике

Если еще пару лет назад подобные задачи распознавания образов занимали умы ученых, то 2016-й стал годом, когда бизнес, наконец, понял: «данные=деньги», с ними нужно работать, потому что это выгодно. Помимо спецподразделений в IT-гигантах вроде Яндекса и Mail.Ru в России есть несколько компаний, зарабатывающих на искусственном интеллекте.

Например, в компании oneFactor работают несколько десятков математиков, программистов и дата-майнеров — людей, который добывают и обрабатывают данные. В Google Brain, для сравнения, заняты более тысячи ученых и специалистов по машинному обучению. Гендиректор Роман Постников учился на кафедре матстатистики МГУ, он занимается нейросетями с начала нулевых. Его основной профиль — работа с геоданными, он сделал несколько успешных проектов в Мегафоне и вот теперь открыл свой бизнес.

               Роман Постников, генеральный директор oneFactor

Сервис Постникова помогает компаниям зарабатывать больше за счет извлечения пользы из неструктурированного потока информации. Например, вы — телеком-оператор, у вас есть миллион пользователей, и вам хочется предсказать, кто из них собирается перебежать к конкуренту. Или вы — банк, у вас есть тысячи заявок на кредит, а вы хотите знать, кому давать можно, а кто, скорее всего, будет задерживать платежи. 

Со слов Романа, 90% российских банков пользуются помощью машин в принятии решений о выдаче кредитов — так они сокращают риски и экономят миллионы на неблагонадежных клиентах.Фраза Ротшильда «Кто владеет информацией — владеет миром» стала теперь еще более актуальной. Если у вас нет данных, вы безнадежно отстали и не можете сделать ничего. Поэтому за пользовательскими «лайками» началась настоящая охота. 

В том самом расследовании о победе Трампа на выборах, если помните, суть заключалась в том, что Cambridge Analytica удалось собрать полную психометрическую базу данных всех жителей США.Большой Брат раньше ассоциировался с уличными камерами наблюдения, но сегодня — это скорее транснациональная корпорация, которая записывает все ваши ходы.

Британская Гардиан недавно написала, что после победы Трампа многие люди задумались о том, как бы уйти в тень, они стали массово удалять эккаунты из соцсетей. Если раньше свои данные пыталась скрывать маргинальная группа людей, то теперь, по крайней мере в США, это тренд. У мессенджера Signal (iOS, Android), который шифрует все сообщения и который рекомендовал Сноуден, внезапно случился звездный час.

Право быть нераспознанным

Один из основателей московского сообщества soundartist.ru Сергей Касич включает wi-fi только по редкой необходимости, камера — закрыта, аккаунт в соцсети — с выдуманным ФИО. Он глубоко убежден в том, что у каждого человека в 21 веке появилось новое право — «быть нераспознанным».

«Я хочу быть хозяином своей судьбы, поэтому верю, что у каждого должно быть обязательное право затеряться и не быть найденным в этом всепоглощающем распознавании, которое сейчас происходит».

Герой Сергея — Стив Мэнн, гениальный канадский инженер, который работал в Массачусетском технологическом вместе с легендарным Минским и знаменитым Курцвейлом. Он придумал носить на голове камеру, которая записывает все, что он видит. Стив не снимает ее уже 35 лет, называет себя киборгом и предлагает людям противостоять Большому Брату, наблюдая за ним в ответ. Движение «сбалансированного наблюдения» (equiveillance) по мнению Мэнна — это способ достичь общества будущего, где значение личной свободы сопоставимо с властью корпораций.

Эволюция Стива Мэнна

Сергей Касич считает, что идеи Мэнна сегодня вывернуты наизнанку — то, что он придумал для борьбы с тотальным наблюдением, Google со своими технологиями «искусственного интеллекта» будет использовать ровно наоборот:

«Он разрабатывал свой девайс, чтобы расширить возможности человека, обезопасить его, но корпорация берет и по сути крадет его технологию, чтобы этот Glass превратить в миллиарды глаз искусственного интеллекта и решать диаметрально противоположную задачу, точнее она может решать диаметрально противоположную задачу»

Сергей Касич, soundartist.ru

Касич не хочет вписываться в этот мир, в том числе, и из-за нежелания поддерживать экономику, в которой компании используют его персональные данные для получения прибыли.

Цена privacy

Директор по инновациям банка «Открытие» Алексей Благирев еще более категоричен. Он говорит, что мы уже давно живем в мире «цифрового рабства»:

«Цифровое рабство означает, что ваши данные вам не принадлежат. Если вы посмотрите правила пользования (Terms of Use) например, Facebook, там везде указано, что Facebook накапливает данные и может использовать их таким образом, что вы об этом можете и не узнать. Такие компании как Google, Yandex, Facebook, Mail.Ru уже накопили внушительный объем информации о своих пользователях, обратив внимание на ценность этой информации раньше остальных»

Алексей Благирев, директор по инновациям банка «Открытие»

Со слов Благирева умение предсказать потребность пользователя — это серьезное конкурентное преимущество. На рынке сейчас невероятно востребованы два навыка:

1. Умение получать данные, совмещать их, обогащать и грамотно обрабатывать
2. Умение создавать модели, которые находят закономерности в данных

Набрать критическое количество данных можно разными путями. Популярные психологические тесты вроде «Узнай, какое ты растение» — это тоже способ получить информацию о пользователе. Другой вариант — датчики и, в целом, направление интернета вещей (Internet of Things). Команда Благирева, например, сейчас работает над необычным проектом — расчет страховой премии по риску пожара в здании на основе информации с датчиков дыма.

Схожий продукт, но на рынке автострахования, несколько компаний запустили еще в 2013-м. Они предложили поставить в машину датчик, который снимает телеметрию и, в том числе, геоданные. Если вы не выезжаете на МКАД, то страховка по КАСКО будет стоить в два раза дешевле обычной. Легко представить, как она может, например, зависеть и от вашего стиля вождения. Вот она цена, которую вы получаете за свои данные.Алексею кажется, что люди должны получать больше, чем имеют сейчас.

«Мы вошли в состояние цифровой экономики, свойства которой мы еще не понимаем. И вот есть фактор внимания, которым все пытаются управлять. Но никто не вознаграждает пользователя. Мы управляем трафиком, какие-то конверсии считаем, но по факту мы отвлекаем внимание человека с одной точки на другую и он должен быть как-то вознагражден за это».

По мнению Благирева, в новой экономике внимания будут востребованы рекомендательные сервисы, в которых искусственный интеллект возьмем на себя работу по анализу профиля человека и выдаче советов на каждый день. Это универсальный помощник, над которым сейчас бьются в самых больших компаниях. 

Недавно основатель Facebook Марк Цукерберг разместил видео с демонстрацией своего виртуального ассистента «Джарвиса» — домашнего помощника. Джарвис Цукерберг пока ничего не предсказывает, это совсем не тот помощник, которого хочет сделать Благирев. В идеале — это коуч, лучший друг и наставник в одном лице.Автопилот, установленный на Тесле, уже сейчас может предсказать аварию в ста метрах впереди от вас и начать сбрасывать скорость заранее. Точно также ваш помощник может знать утром, с кем вам пойти на свидание вечером.

Автопилот Теслы предсказывает аварию

Цифровое послезавтра

И компания Постникова, и проекты Благирева — части новой экономики, которая возникает в том месте, где сотрудника контакт-центра заменяет программа распознавания речи, а маркетолога — платформа по сегментации аудитории.Еще год назад, например, казалось невозможным, что специалистов креативных профессий можно заменить программами. Все думали, что их навык — слишком человеческий, а компьютеру не привьешь чувство прекрасного. Но потом в Facebook придумали нейросеть, основанную на принципе «глубокого обучения», которая смогла нарисовать лица людей. И это все изменило. Роман Постников объясняет, как это работает:

«Представьте, что у вас есть дизайнер, который рисует макет помещения, показывает его вам и говорит «Оцени, пожалуйста, — нравится или нет?», а вы говорите «Нет, не нравится» и указываете, что исправить. Теперь представьте, что на месте вас и дизайнера — две нейронные сети и они друг с другом соревнуются. Чем больше проверок и взаимных улучшений проходит, тем лучше будет итоговый результат».Американская администрация в декабре выпустила доклад, в котором авторы предупреждают: 47% рынка труда — в зоне риска. Это значит, что предстоит глобальный передел: бизнес сэкономит везде, где можно сэкономить, а машины, так уж получилось, дешевле людей.

Прогноз McKinsey: первыми уволят людей, занимающихся предсказуемым физическим трудом

Если вы боитесь за свою работу — подумайте, что уникального делаете именно вы? А другой человек так может? Если ответ — да, то с высокой вероятностью, вас может заменить и машина.

Спасение утопающих

Если смотреть на мир через теорию экономики — он погружается в глобальное неравенство, где одна и та же технология принесет прибыль одним странам, и несчастье другим. По мнению Романа Постникова фабрики в Китае через пару десятилетий будут просто никому не нужны, дешевую рабочую силу на фабрику можно будет просто загрузить, также как видео на youtube:

«Развитие систем искусственного интеллекта будет приводить к тому, что человек физически будет все меньше участвовать в создании товаров, и потребность в перемещении производств товаров и бизнесов в страны с более дешевой рабочей силой начнет сокращаться. Глобализация, конечно, не исчезнет, но экономических поводов для нее будет меньше. Поэтому может так оказаться, что лет через 50 некоторые государства окажутся в положении экономической изоляции, так как у них не будет передовых технологий автоматизации, и получить их быстро они уже не смогут».

Но если спустится на уровень человека, то теперь у каждого есть возможность изменить мир. Так считает Борислав Козловски, бывший научный журналист Lenta.ru, зам.главреда GEO, а теперь стажер Яндекса и специалист по машинному обучению.

Борислав Козловски, научный журналист и стажер Яндекса

Он говорит, что многие разработчики волонтерят на некоммерческих проектах. Причем если раньше сотрудник какого-нибудь банка в свободное время писал код, который помогал врачам в Южной Азии настраивать рентгеновский аппарат, то теперь он пишет нейросеть, которая распознает рентгеновские снимки лучше рентгенолога средней квалификации, и это настоящий прорыв.

Но алгоритм, по мнению Козловски, не сможет полностью заменить людей. Важная особенность того же врача в том, что он берет на себя ответственность. Врач не дает рекомендацию «с вероятностью 96% на снимке изображена опухоль», но ставит диагноз «я как врач заставляю вас впредь считать, что это опухоль».

«Я вижу, приходя на Почту России, что там по-прежнему есть человек, который выдает мне 5 бланков и просит заполнить их одними и теми же буквами — бессмысленной работы у человечества останется много.

— То есть ты не считаешь, что всех бабушек в отделениях можно заменить уже сейчас, стоит Почте России этого захотеть?

1% нештатных ситуаций требует 90% кода. Ни одна нейросеть не скажет, что делать, если отделение Почты России, например, мммм…, атакует бешеный енот. Бабушка имеет хотя бы примерное представление, что в енота надо кинуть табуреткой, но написать обработчик всех событий с енотами — это довольно хлопотно»

И это проблема любой неройсети в 2016 году — она отлично справляется с поставленной задачей, но стоит задаче выйти за свои рамки, как алгоритм разводит руками и начинает выдавать бессмысленный результат. Для всех ученых это одна из важнейших задач на 2017-й год — научить программу обучаться и принимать решение не только на учебных данных, но и на любых других. И находить эти любые данные без спросу.

Рождение интеллекта

Если спросить у Siri, помощника в вашем Iphone, что такое смысл жизни, она ответит по-разному. Можно подумать, что у нее меняется настроение, а можно — что у нее несколько домашних заготовок.

Но давайте подумаем, понимает ли Siri вопрос по-настоящему? Что значит «понимает»? Мы дали машине «глаза» и научили, в буквальном смысле, распознавать, что изображено на картинке. Но что значит глагол «понимать» применительно к машине?В 1980 Джон Серл предложил мысленный эксперимент, на который с тех пор ссылается в своей работе каждый второй исследователь искусственного интеллекта. Этот эксперимент наглядно демонстрирует и недостатки языка, и недостатки мышления.

Китайская комната

Представьте себя в некой изолированной комнате, где все стены исписаны инструкциями, как обращаться с китайскими иероглифами, но нет ни одной подсказки, что иероглифы означают, а вы не знаете китайского.Через специальную щель приходит бумажка, на ней написаны иероглифы, и вас просят ответить. 

Инструкция «Как обращаться с иероглифами» настолько подробная и точная, что у вас не возникает проблем с составлением ответа. Однако, вы по-прежнему не знаете китайского, хотя и отвечаете на нем, следуя правилам.Тот, кто задает вам вопрос на бумажке, никогда не догадается о том, что вы на самом деле не понимаете смысл своего же ответа. Он спросит «Какого цвета стены в в вашей комнате?» и вы ответите так, как предписывает инструкция. Но вы не поймете ни смысл вопроса, ни смысл ответа.

В последней серии популярного сериала Westworld (осторожно, спойлер!) одна из взбунтовавшихся героинь, Мейв, узнает, что ее бунт был запрограммирован заранее. Вместе с ней зритель вдруг понимает, что нет абсолютно никакой возможности узнать — действует она по своей воле или подчиняется чужой. Может ли у искусственного интеллекта появится своя воля? Будет ли он обладать свободой выбора?

Станем ли мы свободнее в будущем, когда отдадим всю рутинную работу машинам?

На вопросы о свободе воли в истории философии было написано десятки трудов. Прямого ответа нет, и он вряд ли возможен в силу субъективного отношения к этому понятию.С Борисом Рябовым, предпринимателем-эрудитом, мы начинаем говорить о бизнесе, но быстро скатываемся в философию, тема, в буквальном смысле, обязывает. Для меня Рябов — вроде оракула, он отлично разбирается в технологиях и бизнесе, этике и философии, к тому же у него всегда есть оригинальные ответы на сложные вопросы.

Борис Рябов, управляющий партнер Bright Capital

Мой вопрос про свободу заставляет Бориса открыть Википедию в поисках определения.

Свобо́да — течение событий таким образом, чтобы воля каждого действующего лица в этих событиях не подверглась насилию со стороны воли других Wikipedia

Но кто такие другие? Это другие люди? А машина может быть этим другим? Есть понятие «субъекта» — мы все ими являемся. Но является ли им алгоритм?

Философия живого

Мыслитель Дуглас Хофштадтер в своей книге «Гедель, Эшер, Бах» (Пулитцеровская премия, 79 год) описал интересный мысленный эксперимент, который, по моему опыту, часто вызывает горячие споры. Это эксперимент, который дает понять, что «живым» может быть не только биологические формы жизни со сложным поведением, как мы привыкли считать.

Представьте себе муравейник. Вы никогда бы не подумали, что он сам по себе является формой жизни. Вам кажется, что ну вот же муравьи, они, на самом деле, живут в нем. Однако, муравейник гораздо более сложен, чем каждый муравей в отдельности и проявляет такие свойства, о которых его жители даже не подозревают.

Представьте себе муравьеда, который засунул свой хобот в муравейник. Вы можете посмотреть на него, как на хищника, который пришел и ест муравьев, а можете — как на доктора, который пришел вылечить муравейник. По Хофштадтеру муравьед с муравейником ведут необычный разговор: муравейник посылает муравьеду сигналы в виде цепочки из муравьев, а муравьед каких-то особей изымает в ответ. Получается что-то вроде муравьиной азбуки Морзе.

Борис Рябов пользуясь метафорой муравейника, размышляет о том, о чем большинство людей и не думало, в тот момент, когда задавало привычный вопрос о безопасности в будущем, где искусственный интеллект живет с нами бок о бок.

«Ответ на твой вопрос «Становимся ли мы более свободными или менее?» связан с тем, признавать ли признаки живого и мыслящего за общностями, включающими в себя и облачные алгоритмы. К чему прикладывать признаки живого, признаки субъектности и признаки мышления?

— а как это связано со свободой?— 

а так, что если я говорю, что муравейника не существует, то я свободен, но если я говорю: «муравейник есть», то в этот же момент я не свободен. Если я говорю: «я не считаю, что facebook — это живое существо», то я от него свободен, ну потому что он же не субъект, как он на меня может влиять? Но если я говорю, да, это — живое, да, оно не похоже на меня, потому что у него нет ножек и ручек, но и у пауков тоже нет ручек и ножек, а он живой и у инфузории тоже нет ножек и ручек, но она же — живая?

Рябов, чьи интересы лежат в области криптовалют и организации сообществ, предлагает подумать о появлении виртуальной организации. Уже сейчас на платформе Etherium можно запустить любую бизнес-структуру, например, копию акционерного общества, но без руководителей, без совета директоров и даже без акционеров. 

Это будет код в чистом виде, однако он будет оперировать деньгами (криптовалютой), производить выплаты или брать у вас взаймы.«Это не корпорация, там нет ни главы, ни акционеров, это не общественное движение, это вообще ни на что не похоже. Но это какая-то штука, сложная и живая.»

Сознание — эмерджентное свойство

C недавних пор свойства, которые появляются в таких сложных системах вроде муравейника, стаи рыб или скворцовых, начали называть эмерджентными, то есть возникающими буквально из ничего. Посмотрите на видео, где стая птиц ведет себя как живой организм.

Эмерджентными называют системы, в которых ее элементы не обладают свойствами макроуровня. Помимо стай птиц и косяков рыб, такими системами можно назвать язык, он изменяется по своим законам, протеиновую цепочку — ее свойства отличаются от свойств ее частей, ураган и т.д.

Среди ученых, пытающихся ответить на вопрос «что же такое сознание?» есть ряд мыслителей (тот же Хофштадтер), которые считают, что сознание — это эмерджентное свойство головного мозга, как биологической системы, которая однажды перешла некий порог сложности в своем развитии под действием законов эволюции.Если принять эту гипотезу, то возможно ли, что в попытках найти искру нового интеллекта мы смотрим не туда? Мы ждем, что телефон вдруг заговорит с нами или сделает что-то, на что он не был запрограммирован, но

могут ли вокруг нас существовать системы, которые уже осознали себя и пытаются выйти с нами на связь?

Может нам всем нужно хорошенько осмотреться? Пентагон, пока я писал статью, пошел ровно по этому пути. В своем пресс-релизе они описывают эксперимент, в котором 100 дронов выпустили в небе над озером China Lake. Дроны совместно принимали решения, летали формациями и даже лечили сами себя. А мозг, тем временем, у них отсутствует, by design.