Красный код для разработки искусственного интеллекта

Если представить идеальную среду для разработки искусственного интеллекта (ИИ), то для этого потребуются: огромная вычислительная мощность, множество ученых и изобретателей, немало денежных вложений, и громадные массивы данных, чтобы обучить машину распознавать и реагировать на образы. Такой средой может считаться Америка, нынешний лидер в этой области. Но с другой стороны это утверждение более справедливо для Китая. Страна стремительно наращивает свои возможности в облачной обработке данных. Китайские ученые превосходят своих американских коллег если не по количеству, то по качеству исследований в области ИИ.

В Китае количество поданных заявок на патенты в сфере ИИ с 2010 по 2014 год было практически втрое больше, чем за предыдущие пять лет. Китайские стартапы привлекают миллиарды венчурного капитала. Прежде всего, в Китае более 700 миллионов пользователей смартфонов, что больше, чем в любой другой стране. Они являются потребителями цифровых услуг, используя голосовые помощники с функцией распознавания речи, покупая вещи со своих телефонов - и образуя при этом огромное количество данных.

Местным компаниям, таким как Alibaba, Baidu и Tencent, это предоставляет возможность разрабатывать лучшие на рынке ИИ системы, от распознавания лиц до виртуального собеседника. Правительство Пекина убеждено в потенциале. 20 июля оно представило стратегию развития, направленной на то, чтобы к 2030 году сделать Китай мировым лидером в сфере ИИ.

Бум ИИ в самом густонаселенном месте в мире многообещающий, где ещё технологии должны развиваться быстрее. Ни одна другая страна не смогла бы создать такой объем данных, например, для возможности обучения машин распознавать характерные схемы редких заболеваний.
Поскольку печатать китайские иероглифы – неудобно, услуги распознавания голоса здесь более популярны, чем на Западе, и, следовательно, должны быстрее совершенствоваться. Уже проводится тестирование систем автоматической регулировки светофоров в ответ на видео с придорожных камер.

По данным Глобального института McKinsey, исследовательского подразделения консалтинговой компании, автоматизация с помощью ИИ может увеличить рост ВВП Китая более чем на процентный пункт в год. Однако планы страны в сфере ИИ вызывают опасения. Одно из них заключается в том, что защита данных негативно скажется на преимуществах китайских открытий.

Закон о кибербезопасности, вступивший в силу в июне, требует, чтобы иностранные компании хранили собранные данные о китайских покупателях в пределах страны; сторонние компании не могут использовать китайские данные для предоставления услуг третьим лицам. Соответственно, нетрудно представить встречные ограничения по отношению к китайским компаниям.
Без сотрудничества и обмена данными, алгоритмы для машин с системой автоматического управления и обеспечения функционирования прочих продуктов, будут не самыми эффективными. Еще одно беспокойство представляют этика и безопасность.

В Америке техно-магнаты Силиконовой долины обязались работать вместе, чтобы гарантировать безопасность разработанных инструментов ИИ. Будут использоваться такие методы как «boxing», при которых интеллектуальные агенты изолированы от своей среды для предотвращения пагубных последствий непредсказуемого поведения.

Все ведущие исследователи ИИ на Западе подписали в 2015 году открытое письмо, призывающее к запрету на создание автономного оружия. Если это вообще произойдет, то китайская позиция об этических границах исследований в сфере ИИ пока неоднозначна.
Китайские компании в сфере ИИ заинтересованы уделить внимание только некоторым из этих проблем. Хотя очевидно, что любой не подчиняющийся командам ИИ станет проблемой для всей планеты, независимо от страны-разработчика. И в их собственных интересах разработать глобальные стандарты безопасности.
Но есть ещё одно опасение, которое заключается в том, что ИИ будут использоваться преимущественно в интересах китайского правительства, а это не так легко разрешимо.

В новой стратегии Китая четко просматривается ценность ИИ для страны. Она предусматривает использование технологии повсюду: от управляемых ракет и до программ, предотвращающих правонарушения. Средства ИИ идеально подходят для поиска закономерностей в огромных объемах данных, которые должны обработать китайские цензоры, чтобы сохранить контроль над гражданами.

Легко представить, как те же данные могли бы ускорить зарождающиеся планы страны по созданию системы «социального кредита», которая начисляет людям баллы за их поведение. После доработки эти алгоритмы станут интересны странам авторитарного режима по всему миру.
Китайские технологические компании не в состоянии помешать правительству в Пекине использовать эти инструменты.

Например, компания Baidu была назначена главной в национальной лаборатории глубокого обучения. Китайские разработки в сфере ИИ будут отражать потребности и желания правительства. Когда дело доходит до сбора данных и шпионажа, западные фирмы и правительства не боятся запачкать руки. Но западные компании хотя бы участвуют в открытом обсуждении этических последствий ИИ, а демократические учреждения накладывают ограничения на разведывательные органы. Ни то, ни другое не относится к Китаю. ИИ – технология, способная изменить жизнь миллиардов людей. Если Китай продолжит двигаться в этом направлении, то правительство, а не граждане, получит большую выгоду.

Спасибо за присутствие, надеюсь вам было интересно.

***

Картинку позаимствовала тут,  оригинал статьи можно прочесть в разделе «Leaders» печатного издания "Economist" под заголовком «Code red».