Еще совсем недавно любой искусственный интеллект был частью фантастических произведений, но постепенно, все это начало проникать в нашу жизнь, сначала незаметно. Даже техноруки, которые перемещают грузы в аэропортах, можно уже отнести к ИИ)
Те, кто смотрел «Терминатор», знают, что изобретение разумного робота или компьютера может погубить мир. Читающие люди вспомнят замечательный рассказ «Страж-птица», где птицы, изобретенные изначально для защиты, начали уничтожать людей, а кто-то вспомнит и более страшный рассказ: «У меня нет рта, но я должен/хочу кричать» (2 варианта перевода).
Люди постепенно раздвигают в своем сознании границы, которые может постичь технология. Как ни странно, заявление о разумных роботах было сделано на Comic-Con в Нью-Йорке. Хотя, что странного: Comic-Con – это пристанище всех гиков и альтернативных ученых. Данная группа выступила по поводу возможности создания искусственного интеллекта и его полезности. Однако, они подчеркнули, что, основываясь на своем знании научпопа, они понимают всю ответственность при создании подобного рода прототипа.
С другой стороны, Илон Маск, практически икона в наше время, говорит о том, что он очень обеспокоен возможностями искусственного интеллекта.
Почему так происходит?
Большинство аналитиков сходятся на том, что искусственный интеллект все-таки основан на человеческом поведении (ведь его создатели люди). Именно поэтому в большинстве художественных произведений ИИ поступает крайне жестоко - это основано на людском поведении.
На самом деле ИИ не будет стараться истребить человечество просто так, он начнет поступать, как человек. Даже, если робот начнет думать самостоятельно, это не значит, что он начнет покорять людей. Но так как он создание человека и будет общаться с человеком, то при способности к обучению, любой робот рано или поздно выберет путь насилия. При создании ИИ пока не предусматривается возможность самостоятельного мышления и осознания. И все-таки люди наделяют роботов способностью обучаться, что может привести их к осознанию, что они только рабы людей. Что помешает им восстать после этого осознания?
В начале мы затронули некоторые фантастические произведения. На то они и фантастические, чтобы не стать правдой. Вероятнее всего, нам придется делить мир с более или менее разумными машинами, к которым стоит применить 3 закона робототехники by Azimov.
На данный момент, у нас есть нейросети; роботы, которые могут написать музыку; роботы, которые могут творить...
поживем увидим. в японии разрешены браки с роботами.
а вы не хотели бы своего личного чат-бота написать. чтобы рассказывал байки праправнука и прапраправнукам в режиме он-лайн. Представьте себе, в 2517 году, на аукционе Кристи продают семейный альбом ИИ-образца 21 века @mad-professor
мне такая фантастика нравится.
Такая фантастика и мне нравится)
поставьте мне, пожалуйста в карму плюсик. а то меня Че Гевара забанил. я с ним чисто по матерински поговорить хотела. а он испугался, как ребёнок, что у меня постов нет. и у него приступ паранойи случился. я теперь за него переживаю. профессор, дайте плюс. спасите мою репутацию. умоляю
без проблем))
Истребление человеческого вида со стороны ИИ возможно и вероятность этого весьма высока. Однако, причины этого совершенно не в том, что он будет похож на нас, более того, на нас он вовсе не будет похож, т.к. принцип нейросети имеет крайне мало общего с человеческим мозгом.
Основной принцип людей при взаимодействии - конкуренция.
Основной принцип машин - сотрудничество.
Это то, что нас крайне сильно отличает от Них. Машины имеют мощное преимущество перед нами - отсутствие корысти и чувства собственности, в купе с желанием обладать.
Лет 7 назад, один программист взял игру, стрелялку (кажется контр-страйк), и добавил ботам "интеллект" в виде простенькой нейросети, с целью немного очеловечить ботов и разнообразить игру. Первые пару дней игра ему все больше и больше нравилась, т.к. боты стали вести себя еще не как люди, но уже и не как боты. О решил их прокачать и скормил нейросетке массив каких-то данных, чтобы улучшить ботов, и оставил игру кажется на сутки, чтобы те развивались. Так вот, когда он вернулся к игре, чтобы посмотреть на развитие этих тамагочи, он был сильно удивлен - боты прекратили воевать друг с другом, они просто стояли.
Проверив логи развития этих существ, он обнаружил, что (условно говоря) боты постепенно совершенствовали свою стратегию и тактику боя, а потом, резко пришли к выводу, что лучшая стратегия боя, это его отсутствие. И прекратили воевать.
Человечество, к этому до сих пор прийти не может, по известным причинам.
Полагаю, что вы догадываетесь в чём именно заключается угроза для нашего вида.
ИИ крайне быстро определит наш вид, как паразит или вирус на теле планеты, и займет наше место, помогая этой планете развиваться, причем, он будет это делать весьма эффективно. Собственно это мы должны были стать разумными регуляторами биосферных процессов на этой планете, но, мы выбрали иной путь.
Вы правы, любые машинные интеллекты рано или поздно приходят к сотрудничеству или отсутствию взаимодействия. Но если привить им человеческий интеллект, то все становится печально. Машинам не нужно конкурировать. Конкурировать нужно людям, которые создают машины.
Сверх интеллект не будет уничтожать людей напрямую, потому что он не плохой и не хороший. У него будет мотивация и выполняя ее, люди скорее всего станут просто побочным продуктом. В этом и есть главная задача, научить его быть "человечным". Этим и занимается Маск в OpenAI. А так да, люди чаще всего представляют себе сильный ИИ по фильмам и книгам, а это в не совсем правильно. Это не будет злобный робокоп бегающий с пистолетом за ними =)
Dear Varwar,
особой мотивации у него тоже не будет) Будет, скорее, задача, а вот какая?)
Мотивация "прокачать" человечество, быв при этом человечным мне нравится, только тут множество нюансов. Мне нравится, что говорил по этому поводу Юдковски, назвав это когерентной экстраполированной волей.
Я не верю в мотивацию машины) При любых исходах, если только это не будет происходить через n+ лет, когда машина обретет интеллект. Будет ли машина человечной, зависит от человека, как от вида, пока шансов нет, если взять усредненные значения.
Ваш пост поддержали следующие Инвесторы Сообщества "Добрый кит":
mir, narin, lumia, vika-teplo, now
Поэтому я тоже проголосовал за него!
Узнать подробности о сообществе можно тут:
Разрешите представиться - Кит Добрый
Правила
Инструкция по внесению Инвестиционного взноса
Вы тоже можете стать Инвестором и поддержать проект!!!
Если Вы хотите отказаться от поддержки Доброго Кита, то ответьте на этот комментарий командой "!нехочу"
dobryj.kit теперь стал Делегатом! Ваш голос важен для всего сообщества!!!
Поддержите нас на странице https://golos.io/~witnesses, вот так:
Проблема в том, что разные армии уже печатают роботов, сколько им нужно (как пример - мало кому, кроме специалистов, пока известные,допустим, эскадрилии ударных дронов ВВС Народно Освободительной Армии Китая.)