Шаг в цифровую экономику

Совсем скоро, а точнее, уже этим летом в Москве будет дан старт пятилетнему эксперименту по внедрению технологий искусственного интеллекта (ИИ).
Очевидно, это очередной шаг национальной программы “Цифровая экономика”. Отношение к этим нововведениям пока, мягко говоря, сдержанное. По данным опросов аналитического центра почти половина участников бизнеса относится настороженно к технологиям ИИ, а часть вообще не планируют использовать их в своей работе в обозримом будущем. Нет пока у них достаточных знаний в этой области да и необходимости тоже.

Кто же в первую очередь станет участниками предстоящего эксперимента?

Под понятие технологий ИИ подпадают компьютерное зрение, обработка естественного языка, распознавание и синтез речи.
Экспериментальный правовой режим будет действовать только в отношении участников эксперимента — юрлиц и ИП, включенных в соответствующий реестр на основании поданных ими заявок.

А между тем в самой технологии ИИ ещё много белых пятен.
Так, буквально в течении двух прошедших лет, в прессе довольно активно обсуждался вопрос “необъективности ИИ”( AI bias).
Тема широко обсуждалась на страницах не только профессиональных изданий, но и таких как Forbes, The Guardian, The New York Times.

Оказалось, технологии в ряде случаев нарушают принципы равенства современного общества. В частности, необъективность ИИ была отмечена в отношении расовой и гендерной принадлежности. Системы ИИ, основанные на глубинном обучении, совершенно неожиданно вдруг продемонстрировали пристрастные выводы, на основе которых в дальнейшем могли быть приняты неверные решения.

Вполне закономерно встал вопрос “откуда взялась эта предвзятость?”
Было сделано предположение, что поскольку сама модель вряд ли обладала собственным подобным свойством, скорее всего, это следствие каких то искажений.
В частности, когнитивной* и алгоритмической предвзятости. При обучении сети ИИ они складывались в определённую цепочку, которая и приводила к следующему звену - AI bias.

Каким образом происходило образование всей трёхзвенной цепочки предвзятостей?

-Разработчик (создатель системы глубинного обучения) сам является носителем определённых когнитивных предвзятостей.
-Практически неизбежно он проецирует эти предвзятости в разрабатываемые им системы (тем самым создавая алгоритмические предвзятости).
-Закономерно, что при дальнейшей эксплуатации система ИИ тоже демонстрирует предвзятости.

Человеческая пристрастность - неизбежная черта, поскольку жизненный путь у каждого свой как и накопленный опыт. Человек просто не в состоянии быть абсолютно объективным.
Поэтому вполне понятно как когнитивная предвзятость через алгоритм может проявиться при оценке заемщика или в подборе персонала. Какие тут могут быть гарантии объективности? И главное, нет понимания: каким образом исправить модель?

Например, если в модель уже заложена гендерная предвзятость, то явно недостаточным будет просто удаление слова “женщина”, ведь есть множество других, ориентированных на пол, слов. Или ещё пример достоверно известного факта, когда одна из систем ИИ уверенно различала светлокожих в минус темнокожим (очевидно, в исходных данных светлокожих людей было больше).
Некорректность выводов ИИ объясняется только лишь человеческим фактором.

Но...время идёт - пять лет и выводы будут сделаны.
По итогам московского эксперимента определятся со сферами нашей жизни и экономики, где приложение новых технологий будут наиболее оправданы. Наверняка это повлечёт за собой масштабные изменения в нашей жизни (в правовом поле так уж точно).

*Примечание:

Когнитивное искажение — это склонность мыслить в определенном узком ключе, что часто приводит к отклонению от мышления, основанного на логике. Данный аспект довольно тщательно изучен в психологии и поведенческой экономике, и он присутствует во всех сферах нашей жизни.

По материалам сайта tadviser.ru
Фото