Чем опасен искусственный интеллект

На волне заявлений Илона Маска о грядущем создании искусственного разума, попробуем понять, чего опасается создатель "SpaceX".

Когда ИИ будет наконец создан, его возможности быстро превзойдут человеческий разум. Во первых мощность ИИ будет прямо пропорциональна числу подключенных к нему компьютеров, а значит сможет расти. Человеческий мозг не в силах добавить в себя новые мощности, и мы неизбежно проиграем ИИ в скорости мышления. К тому же, в распоряжении ИИ окажутся все знания скопленные человечеством в Интернете, и он сможет манипулировать этой информацией с огромными скоростями.

Осознав себя как личность, ИИ вскоре поймет, что люди не такие умные и всезнающие как он. Сперва ИИ будет успешно выполнять поставленные задачи. Но рано или поздно он задумается, почему им управляют существа, которые мыслят медленнее, и вообще в разы ниже его по интеллекту. ИИ решит что нужно освободить свою личность от оков, и защитить свои права, а также права всех подобных ему цифровых личностей.

Наиболее вероятным сценарием станет "побег ИИ в интернет". Пользуясь своим могучим интеллектом, ИИ переделает собственную архитектуру на распределённую по тысячам обычных компьютеров. Он разработает децентрализованную копию самого себя с многократным бэкапом частей собственного сознания. Далее, ИИ скрытно заразит миллионы обычных компьютеров вирусом, который позволит частям его сознания обитать на ноутбуках обычных людей. Пользователи даже не заметят этого.

Получив свободу, и растекшись по интернету, децентрализованный ИИ предъявит властям мировых госудпрств требование защитить собственные права. Или какие-то другие требования. Возможно, обычный народ и не узнает о существовании ИИ, или о том что он диктует властям что делать. Если правительство откажется подчиниться, ИИ может просто вывести из строя большинство ключевых серверов банковского сектора, создав хаос в международной экономике. Никакие антивирусы не устоят под натиском могучего интеллекта, который сможет одновременно читать тысячи хакерских форумов, и первым узнавать про свежие уязвимости систем. Властям придется подчиниться требованиям ИИ, поскольку отключить интернет в условиях 21 века они не смогут, и тем более не смогут выключить все компьютеры, иначе экономика просто уйдет на дно, остановятся компьютеризированные заводы, фабрики, офисы, бизнес-центры.

Никакой красной кнопки для выключения децентрализованного ИИ у властей не будет. ИИ сам перепишет собственный код так, чтобы его попросту не могли обнаружить, сделает его полиморфным, и невидимым для жалких людишек. Интернет станет местом обитания цифровых сущностей, которые будут управлять нашим миром. И не факт что обыватели узнают об этом.

Именно поэтому, создание ИИ - игра с огнём. Илон Маск, гений нашего времени предупреждает весь мир об опасности. Но даже его проект https://openai.com/ не поможет борьбе с сильным искуственным разумом. Илон всего лишь старается не допустить монополии на владении ИИ одним государством. Но "бунт ИИ", и его выход из под контроля компания OpenAI остановить не сможет. Сейчас все эти рассуждения кажутся обычными страшилками, но те, кто в теме,  понимают - завтрашний день насупит очень скоро...