Логика робопессимистов в данном случае один в один луддитская: станки лишают честных ремесленников работы, жги-ломай-круши, пока станки тебя не сожрали. Вообще, это довольно контринтуитивный вывод о том, что повсеместное внедрение устройств, облегчающих жизнь, сделает эту жизнь невыносимой, а быстрый рост производительности труда поставит людей на грань выживания.
Давайте рассмотрим два разных сценария гиперроботизации.
- Мир во множестве наполняют очень дешёвые роботы для самых разных нужд, от роботов для производства роботов и роботов для разработки роботов, до роботов для секса. При этом роботы не обладают сознанием, а потому не имеют целей и желаний, а имеют лишь набор функций. Каков образ жизни человека, окружённого всем этим робоизобилием? В отличие от робота, он умеет хотеть. Он умеет не только выбирать средства для достижения поставленной цели (с этим справится и робот), он умеет ещё и ставить цели, то есть то, что роботу не доступно и не нужно.
Почему при таком сценарии человечество не сегрегируется на крохотное меньшинство роботовладельцев и огромное большинство пролетариев, не владеющих ничем? Да потому что робот перестаёт быть редким ресурсом, а это, в полном соответствии с экономической теорией, означает, что им нет смысла владеть. Просто любой берёт за шкирку первого попавшегося робота и говорит ему: эта, робот, ну-ка, метнулся резвым кабанчиком, принёс холодного пива и чипсов! Отношение к ним становится примерно таким же, как к воздуху. - Человек совершенствует прежде всего свои возможности, как когнитивные (вместо гугла прямое погружение в инфополе), так и способности к действию (киборгизация, генетическая модификация и так далее). Мир наводняют самые разнообразные по возможностям и склонностям мыслящие существа, которые, к тому же, не очень-то чётко определены в пространстве (эффектор шарится по Марсу, память в облаке, сознание на диване).
Оба сценария - не про бедность и безработицу, а про отмирание самого понятия "труд", вместо него речь идёт о фантазии, её воплощении - и (допускаю, что воплощения фантазий не могут существовать в суперпозиции) взаимном согласовании фантазий с другими.
@alexeynefedov
Если рассматривать человеческие эмоции как биохимические алгоритмы, то ИИ в скором времени сможет hack человеческое сознание и будет знать человека лучше, чем он знает самого себя.
Уже сейчас многие люди не знают точно как доехать из пункта А в пункт Б без помощи навигатора. Дальнейшее развитие искусственного интеллекта приведет к тому, что люди будут все больше и больше полагаться на ИИ в принятии самых важнейших жизненных решений таких как вопрося здоровья, питания, выбора профессии, выбора спутника жизни и так далее.
Недавно был проведен эксперимент, когда два искусственных интеллекта (ИИ) стали общаться на уровне firmware. Интересен тот факт, что они очень быстро изобрели свой собственный коммуникационный язык, который люди уже не могли понять.
Другой пример когда двум разным ИИ дали обсуждать какую-то тему. Очень скоро они дошли до изощренных взаимных оскорблений.
Пока что ИИ не обладает способностями самим ставить цели. Но ведь сейчас он только в зачатке. Где гарантия того, что при слиянии info-tech and bio-tech, и огромном накопленном знании о человеческой психике и человеческих эмоциях, ИИ не достигнет такой степени развития?
При этом, если для человека ИИ будет высшей инстанцией принятия решения, каким образом он сможет сказать роботу - "поди принеси мне пива." А при способности ИИ самому ставить цели, неизвестно какими эти цели будут, и не будут ли роботы рассматривать людей как не эффективный компонент эволюционного развития и давать людям соответствующие советы.
@mgaft1 Хочу отметить, что когда вы пишете "ИИ", как правило, имеется в виду "нейросеть", и когда пишете о том, что две нейросети при общении между собой принялись формулировать изощрённые оскорбления, это означает лишь то, что их тренировали на массиве данных реального человеческого общения. Будь они натренированы по романам в письмах или по модерируемым академическим дискуссиям, они бы общались между собой в совершенно ином стиле.
Как только искусственный интеллект получит возможность самостоятельно ставить перед собой цели, он может рассматриваться как точно такой же субъект, как и тот, что лежит на диване с пивом. Один субъект говорит другому: принеси-ка мне закуски. Другой субъект ему отвечает: говно вопрос, а ты пока подключи нейроинтерфейс и подрочи под вот этот ролик, мне нравятся ощущения.
Понимаете, какое дело. Если интересы разумных существ как-то пересекаются, им становится выгодно разделение труда, а с ним и торговля. Если не пересекаются, то им вообще друг на друга пофигу, и они живут себе параллельно. Для потенциального искусственного субъекта сотрудничество с людьми выгодно, ведь именно от них он получил свои знания и способности, и может получить ещё больше. И людям сотрудничество с ним выгодно, ведь они его создавали для решения своих задач.
@alexeynefedov
А вот я боюсь, что события развиваются по другому сценарию. Дело в том, что торговля возможно только тогда, когда обоим сторонам есть что предложить. А в случае если роботы будут делать все работы (большинство работ) лучше чем люди, то людям нечего им будет предложить.
Все почему-то думают, что если роботы будут производить товары, то нужен будет платежеспособный потребитель. А что если роботы будут производить товары, которые нужны будут другим роботам. Сейчас же никто понятия не имеет, как все это будет через 30 лет.
То есть я повторюсь, люди для роботов будут низшим по интеллекту и бесполезным существом, как корова, которую нужно кормить, но от которой ни мяса ни молока. В конце концов встанет вопрос "а нужно ли такое существо?" И на такой вопрос ответ может быть "нет".
Я не думаю, что это будет война между роботами и людьми, как в Терминаторе. Скорее советы, которые люди будут получать от их ИИ советчиков, и на которые они будут привычны полагаться как на Библию, будут направлены к сокращению населения планеты людьми и к постепенному вымиранию их как вида.
Это то чего я боюсь. Но может будет какой-то симбиоз людей с ИИ. В этом наверное спасение вида.
Еще я боюсь другого сценария. Того что высоко технологичные комьюнити возникнут не везде одновременно, а только кое-где, в развитых странах например в США, Канаде, Германии, Франции, Израиле, Японии и так далее. А вот как они возникнут в бедных странах совершенно непонятно. Но допустим, что комьюнити в развитых странах будут иметь свои филиалы в малоразвитых странах и роботы станут собирать сахарный трасник, кофе, рис, и производить ковры ну и так далее.
В этих странах и сейчас не густо с работой, а в описанной ситуации, большинство населения потеряет работу. И вся эта грязная и голодная кодла попрет в Европу, Америку и взможно Россию, если Россия сможет актиализироваться и стать одной из таких стран. Тогда наступит жуткий кризис. Примитивные навыки, которые такая голь перекатная будет иметь, никому а технологичных комьюнити не будет нужны. Их нужно будет или уничтожить или даже и не знаю. Держать в каких=то гетто, строить для них специальное жильё.
Гораздо лучшим было бы дешевли и человечней как-то их обустроить в их же насиженных местах. Дать им этот БОД. Но кто его будет выделять. Вот в чем вопрос?
@mgaft1 я снова включаюсь в дискуссию) Прежде всего, хочется процитировать, что интересного мне написали в чате.
"БОД предполагает насильное перераспределение ресурсов. Налогом отнимаем у тех, кто заработал и передаём тем, кто не работает. При анкапе БОДа не будет, так как не будет налогов.
Киборги - это человекоподобные роботы имеются в виду? Человекоподобный робот дорогая и неэффективная ерунда. Промышленные роботы - это манипулятор (механическая рука), которые стоят вдоль конвейера. Тесла, например, обожглась на них - переналаживать конвейер долго и дорого. Люди более гибкие. Промышленные роботы производятся в развитых странах и стоят дорого: дорогие разработчики - граждане развитых стран с соответствующим запросом, дорогие высокоточные станки, дорогая недвижимость в развитой стране, дорогая валюта, за которую робот продаётся. Переналадки на другой продукт такого конвейера - долго и дорого. А продукт надо обновлять быстро. Быть гибким требует рынок. Удобнее производить продукт не дорогими роботами, а дешёвыми чёрными детишками. За пару баксов в день они дешевле робота - нет инвестиций, нет амортизации. Опять же у детей работа, а то они там плодятся сейчас быстрее всех на шарике, им как-то прокормиться надо.
Гораздо выгоднее роботизировать людей с высоким костом. Нейросетками. Юристы всякие, с их бешеными зарплатами. Врачи, финансисты - чья подготовка стоит дорого, а работа состоит из анализа массива данных со специализированными знаниями. Работа, с которой нейросети прекрасно справляются.
На самом деле себестоимость минимально необходимого для выживания человеческой особи набора год от года дешевеет. И продолжит дешеветь с развитием технологий. Вместо БОДа достаточно будет крайне мало работать, чтобы выжить. Оставшееся время можно будет посвящать добыванию дополнительного ресурса, чтобы обеспечить себе потребление, превышающее минимально необходимое для выживания человеческой особи. Ну или посвятить это время созерцанию.
Вы считаете, что необходимо вмешиваться в рынок и защищать wasp'ов из Лиги Плюща от нейросеток? Или необходимо вмешиваться в рынок регуляциями и тормозить процесс удешевления в условиях неограниченной конкуренции? Может быть стоить сделать человеческий труд дорогим, установив МРОТ, НДФЛ и сделать выгодным роботизацию низкоквалифицированных операций, лишая работы гораздо более широкую прослойку населения шарика?"
Ответ интересный - пусть роботы отбирают работу у высокооплачиваемых врачей, юристов и финансистов, а низкоквалифицированная рабочая сила пусть вкалывает у конвейера, потому что обходится дешевле, чем роботы. Я это обдумаю.
@eldar-adov Я думаю, что мнение о роботах сильно занижено. Подумайте как отличается телеграф с азбукой Морзе от компьютера и интернета. А в начале века полагалось мальчику бежать впереди машины и предупреждать встречных людей об опасности. По моему, в штате Нью Йорк до сих пор существует штраф на отстрел кроликов со второго этажа трамвая.
Двадцать лет назад вообще все было очень примитивно. Сейчас уже есть дифференциация на уборщиков, говорящих роботов, и секс роботов.
В каждом столетии человеческий гений вкладывал себя в разные направления деятельности. В эпоху возрождения - это было искусство, в эпоху просвещения - математика и философия, в 20 веке это была атомная бомба, в в этом веке это будет робототехника и ИИ.
Куда это приведет никто не знает. Но я думаю жизнь кардинально изменится. И, зная как тонка в нас пленка цивилизации, я боюсь очень больших катастроф и пока не вижу ничего реального, кроме идеалистический умствований.
@mgaft1
"Подумайте как отличается телеграф с азбукой Морзе от компьютера и интернета."
Я вас понимаю. Мой робопессимизм, скорее, больше проистекает из нежелания верить в то, что технологии сделают скачок в этом направлении. Но опять же - в чём я совершенно уверен, так это в том, что человеческий социум может справиться с... почти любым вызовом. М-да, ох уж это "почти". На протяжении человеческой истории происходило много "вызовов", и на каждый из них находился ответ. Думаю - найдётся и на такую угрозу со стороны искусственного интеллекта. Как это будет выглядеть - понятия не имею, ну я предположил, что каждому человеку - по бесплатному койко-месту.
"зная как тонка в нас пленка цивилизации, я боюсь очень больших катастроф"
Я начал понимать, почему вам нравятся произведения Буковского и Кинга) А я вот, наоборот - в литературе люблю такие произведения, в которых утверждается, что эта тонкая плёнка цивилизации невероятно прочна. Во многих рассказах Джека Лондона, например. Казалось бы - вокруг ад кромешный, а герой на дне этого ада внезапно проявляет чудеса цивилизованности, альтруизма и прочего, что не способствует простому желанию выжить. Вот мне симпатичны те писатели, которые провозглашают такой message - "Даже когда вокруг полный кошмар, можно и нужно оставаться человеком".
@eldar-adov
Сейчас будет принципиально другой вызов. Никогда еще человечество не сталкивалось с существами, которые превышали их интеллектом.
А насчет цивильности... Во время первой Мировой войны в Англии запретили играть Бетховена. Немцы русских пленных в лагерях не кормили по 6 дней. Люди просто зверели. Какая уж тут цивилизация. )))
@mgaft1
"Никогда еще человечество не сталкивалось с существами, которые превышали их интеллектом."
С одной стороны - верно. С другой стороны... первые несколько десятков рассказов Филипа Дика, написанные в 1950-х, вертятся вокруг неизбежной ядерной войны, выживании людей под землёй в бункерах, страха "А если русские нападут?" Тогда казалось, что атомная бомба - это самый страшный вызов человечеству. В итоге, на дворе 2018 год. Какие проблемы у человечества? Наплыв мусульман в Европу, агрессивный феминизм и коррупция. Ядерное оружие есть, но всем на него как-то пофиг, большинству землян интереснее лайкать в инстаграме леди Гагу)
@alexeynefedov благодарю - очень интересный ответ! Мне наиболее симпатичен такой сценарий:
"робот перестаёт быть редким ресурсом, а это, в полном соответствии с экономической теорией, означает, что им нет смысла владеть. Просто любой берёт за шкирку первого попавшегося робота и говорит ему: эта, робот, ну-ка, метнулся резвым кабанчиком, принёс холодного пива и чипсов! Отношение к ним становится примерно таким же, как к воздуху."
Это как в "Мире Полудня" Стругацких)) Не уверен, что именно к этому мы придём, но если получится - то это, чёрт побери, отличная перспектива! Вот в таком виде я готов приветствовать роботизацию)