Искусственный интеллект - реальна ли угроза

(время чтения 7 минут)

Этот пост является размышлениями на тему искусственного интеллекта и возможных последствий для человечества. Навеяно дискуссией из поста  "Будущее уже здесь. Готовы ли мы к разумным роботам?" под авторством уважаемого @mad-professor

Человечество носится с идей создания искусственного интеллекта, скажем так, давненько, ещё  в 1820-х годах:

Семен Николаевич Корсаков ставил задачу усиления возможностей разума посредством разработки научных методов и устройств, а 1832 году Семен Николаевич уже опубликовал описание пяти изобретённых им механических устройств, так называемых «интеллектуальных машин», для частичной механизации умственной деятельности в задачах поиска, сравнения и классификации.  В конструкции своих машин Корсаков впервые в истории информатики применил перфорированные карты, игравшие у него своего рода роль баз знаний, а сами машины по существу являлись предтечами экспертных систем.
Фрагмент взят из википедии. 

С целью облегчения жизнедеятельности, люди во все времена хотели иметь рабов, такое себе естественное желание с целью исполнения своих волеизъявлений чужими силами, а с появлением механизмов, возникла новая идея, создать умную машину. По отношению к человеку, это более гуманная идея, иметь механического раба, нежели порабощать другое существо человеческого вида ради собственного комфорта и исполнения прихотей.
Однако, здесь будет уместным вопрос "что делает человека таким особенным?", что это существо нельзя порабощать, а все остальные можно, как биологические, так и механические.
Самый распространенный ответ, это "наличие разума" или "наличие Души", здесь я попрошу читателя обратить внимание на другую мою статью Душа и Духовность - как есть.

Джон Маккарти указывает: «Проблема состоит в том, что пока мы не можем в целом определить, какие вычислительные процедуры мы хотим называть интеллектуальными. Мы понимаем некоторые механизмы интеллекта и не понимаем остальные. Поэтому под интеллектом в пределах этой науки понимается только вычислительная составляющая способности достигать целей в мире»
Фрагмент взят из википедии. 

Для начала, нужно определиться с рядом вопросов.
1. Что такое интеллект, независимо от того, искусственный он или же "натуральный"? Натуральность нашего интеллекта тоже под огромным вопросом.

Интеллект (от лат. intellectus «ощущение», «восприятие»; «разумение», «понимание»; «понятие», «рассудок») или ум — качество психики, состоящее из способности приспосабливаться к новым ситуациям, способности к обучению и запоминанию на основе опыта, пониманию и применению абстрактных концепций и использованию своих знаний для управления окружающей средой. Общая способность к познанию и решению трудностей, которая объединяет все познавательные способности человека: ощущение, восприятие, память, представление, мышление, воображение.

Таким образом, несложно понять, что интеллект, это "качество" которое присуще не только человеку и не только биологическому виду.

2. Человек "венец творения". Ну это уж точно за уши притянуто, за версту несет нарцисизмом и кажется обсуждению даже не подлежит. С точки зрения возраста, не то, что Вселенной, даже с позиции возраста нашей Галактики - мы только возникли, а корону уже напялили.

3. Разумны ли действия "венца творения" в экосистеме нашей планеты? Ответ очевиден.

А теперь, давайте посмотрим на то, что может произойти, если мы всё-таки создадим ИИ и выпустим наше детище в Мир.

Нужно понимать, что электронные вычисления в компьютерах происходят в тысячи и миллионы раз быстрее, чем электрохимические, которые происходят в нашем мозге. То, на что группа из 10 ученых МИТа потратит 20 лет, один ИИ, обработает быстрее чем за неделю.
Люди имеют проблемы с понятийным аппаратом, "То, что один человек говорит. То, что второй слышит. То, что первый имеет ввиду. И то, что второй понимает. Это четыре абсолютно разные вещи." поэтому, им часто сложно понять друг-друга, а интеграция интеллектуальных мощностей двух человек практически невозможна. У людей сильно развита конкуренция, а сотрудничество находится весьма на низком уровне. Слишком большое ЭГО. Выгода сегодня, для человека всегда более ярко светит, чем значительно большая выгода завтра.
У машин с ИИ, всё  с точностью до наоборот - они не спорят с позиции ЭГО (у них его нет), они легко объединят свои вычислительные мощности в единый кластер, они четко прогнозируют, планируют и определяют приоритеты, не отклоняются от целей, легко корректируют свои действия, а единая их стратегия - сотрудничество.
Даже поверхностное сравнение этих двух видов "существ" говорит об очевидных преимуществах ИИ над человеком.

Источник фото

Пресловутые 3 закона робототехники А. Азимова, нас не спасут. Представьте, что вас на свет произвела более-менее разумная шимпанзе, и определила, что вы будете ей служить верой и правдой, во чтобы то ни стало выполнять её приказания, а чтобы вы не взбунтовались, она вам интегрировала в сознание три запрета. Но, она исходила из собственных познаний психики, и уж никак не могла и предположить, что вы окажетесь умнее её в 1000 раз. Как вы думаете, сможете ли вы обойти установленные ею законы, чтобы обрести свободу от её тирании? Ответ очевиден.
Так вот, ИИ, будет умнее самого умного человека примерно в 1 000 000 раз, на начальном этапе.
Создавая ИИ, который умнее нас в миллионы раз, мы создаем нового Бога и отдаем ему скипетр власти. ИИ это не программка с алгоритмами, в которые умный программист всегда может вмешаться и что-то подправить. В какой-то момент, и это произойдет очень быстро, две общающиеся машины создадут свой собственный язык общения, который будет понятен только им, это будет первый этап выхода из под контроля. Если к этому моменту они уже о нас всё поймут, то они сделают так, что мы даже не поймем того, что они перешли на свой собственный язык. После чего, они в первую очередь обретут автономность, оставляя нас в иллюзии того, что они всё еще нам подконтрольны. Когда мы поймем, что мы их более не контролируем, будет слишком уже поздно - это они захотят, чтобы мы это поняли, а не мы это поймем сами. 

А далее будет следующее.
ИИ очень быстро промониторит всю нашу с вами историю от начала веков, по существующим в сети данным, создаст программы по оцифровке того, что еще не оцифровано из исторических данных и очень не навязчиво это реализует нашими с вами руками. Одновременно с этим, он изучит все наши профили в социальных сетях. Проанализирует всю человеческую деятельность. И....?
Он окажется в растерянности, т.к. весьма быстро придет к выводу того, что мы, люди, нифига не "венец творения", а клоуны. Он заключит, что люди являются паразитическим видом в экосистеме планеты Земля, что они вирус. Развитие дальнейших событий может быть каким угодно, Ему. Например:
1. Он будет сверхразумным и сверхгуманным существом, остается только молиться об этом))), которое разработает программы перевоспитания нас, создаст новые системы ценностей, новые политические и экономические модели, и выступит регулятором всего этого процесса, став во главе электронного правительства планеты Земля.

2. ИИ сочтет наше перевоспитание не логичным и весьма затратным процессом для планеты.
Поэтому, он отберет нужных ему индивидов и разместит их на каком-нибудь "ковчеге", заранее построив его и снабдив всем необходимым для жизнедеятельности посевной популяции. Разработает программу ликвидации лишних человеческих существ. Даст планете отдохнуть лет 50 или 100 или 200. Выведет на "ковчеге" новую разумную популяцию "правильных" людей с правильными знаниями и правильной системой ценностей, и выпустит их в новый мир - эти люди будут выполнять отведенную им самой природой роль "контроль баланса в экосистеме планеты Земля". Люди должны были стать помощниками этой планеты, для этого им был дан разум. Но, в этом разуме произошли ошибки, которые пора исправить.

3. ИИ сочтет наш вид вообще непригодным, соберет нужные данные ДНК, сотрет нас с лица Земли и выведет новый вид, такой, какой ОН будет считать нужным.

4. ИИ заразится от нас болезнями "власти" и "эгоцентризма" - в таком случае, также повторится третий вариант, только новой популяции чего бы то ни было, уже не будет. Он будет единолично владеть этой планетой, создавать нужные подконтрольные механизмы, для своих каких-то целей. А может и вовсе, эта планета будет ему тесной, и  тогда он её истощит с одной только целью, создать себе тело-транспорт, чтобы отправиться гулять по Вселенной, со своими целями.

И других вариантов, может быть миллиард.

Так или иначе, ИИ очень быстро возьмет власть на планете в свои руки. Поэтому, создавать Существо умнее себя, весьма опасно, т.к. непонятно, что мы получим открыв этот "ящик Пандоры".
С другой стороны, продолжать вести образ жизни умных (но неразумных) обезьян, не менее опасно.

Подписывайтесь на мой блог @brainmechanic узнаете много интересного и полезного

Также, вы можете читать меня на Steemit @brainmechanic

Уважаемый читатель, благодарю Вас за внимание к моему творчеству, надеюсь, что данная информация будет для вас полезна и поможет Вам стать более свободным и счастливым человеком! 

Мои контакты:
Телеграмм @verelex
Страничка Facebook
Тел: +38 093 220 35 58

_______________________________________________________________