Самая серьезная проблема применения ИИ — это потеря человеком контроля над принятием решений. То есть делегирование контроля над решениями ИИ. Причём этот процесс не будет насильственным, навязанным извне неким Большим Братом. Люди добровольно отдадут контроль, потому что так будет легче, быстрее и надёжнее. Точно так же, как сегодня никто не умножает и не делит в столбик, а пользуются калькуляторами; как никто не запоминает маршрут по карте, предпочитая следовать подсказкам навигатора.
Люди уже доверяют часть решений многим «умным» устройствам — тонометрам, микроскопы, стиральные машины, генераторам, навигационным в самолётах и многим другим.
ИИ — это следующий виток технологического процесса. А сам технологический процесс историчси служил одной цели: избавить человека от тяжёлого и нудного труда. Так индустриальная революция уничтожила кустарное производство. Кстати, она же уничтожила и — и, кстати, сделала рабский труд экономически бессмысленным.
Но есть одна принципиальная разница. Значительная часть решений у человека рождается на уровне эмоций, сформированных древними структурами мозга, а логическое объяснение подстраивается уже после. Эти эмоциональные реакции — биохимические алгоритмы, отточенные миллионами лет эволюции. До сих пор ни одна технология не понимала человека лучше, чем он сам понимает себя.
Однако с приходом ИИ это может кардинально измениться. Получив доступ к мозговым сигналам, ИИ сможет анализировать биохимию эмоций, оптимизировать её и предлагать человеку решения, которые окажутся объективно лучше. Как это произойдёт конкретно, я, естественно, не знаю. Возможно, он поможет выбрать более подходящего партнёра или профессию. И если люди убедятся, что такие рекомендации в среднем обеспечат лучший результат, чем их собственные интуитивные решения или советы родителей и наставников, то выбор в пользу ИИ станет массовым.
И вот здесь возникает риск. Точно так же, как калькуляторы отучили людей считать, а текстовые редакторы — писать без ошибок, делегирование ИИ большинства решений сделает человека крайне уязвимым в случае отказов систем, аварий или — кто знает — возможных зловредных намерений ИИ.
Единственное, что пока удерживает нас от этого будущего, — энергетические ограничения. Каждый новый скачок в развитии ИИ требует огромных объёмов электроэнергии, которые современные мощности обеспечить не могут. Поэтому в ближайшие десять–двадцать лет полный отказ от контроля маловероятен.
Однако уже сегодня ведущие научные центры и крупные корпорации активно работают над управляемой горячей термоядерной реакцией и холодным термоядерным синтезом. По оптимистичным прогнозам, первые реалистичные результаты ожидаются в 2040–2050-х годах. Когда термоядерная энергия обеспечит практически неограниченные ресурсы, человечество получит возможность создать ИИ нового уровня — и именно тогда проблема утраты контроля над собственными решениями встанет во весь рост.
@mgaft1, иногда требуется беспристрастное, без эмоций решение и действие - вот для этого ИИ и полезен. Разумеется, что при полном человеческом контроле.
@padolski1, Хочу надеяться. 😊