5й день режима жаворонка - лег в 0:15 проснулся сначала в 7:00 потом в 9:30.
Интерфейс контроля людей
Сегодня под утро приснилась серия снов о том как ИИ может управлять людьми.
Началось с визуального интерфейса: я был одним из таких управляемых, в поле моего зрения (очевидно на мне были интерфейс линзы, или очки или прямая передача визуального сигнала в мозг, конкретная реализация не уточнялась) на картину обычной улицы накладывался туман, он обозначал куда мне нужно двигаться, а куда нет. Например я был на тротуаре, рядом была проезжая часть где мчались машины, она была почти полностью закрыта туманом, потому что туда определенно мне идти было не нужно. Так же туманом были прикрыты например стены домов, куда я не мог пройти физически. Зона тротуара была лишь немного им закрыта и в ней были явно видны "дорожки" оптимальных маршрутов движения, при этом у меня была свобода воли пойти налево или направо, выбрать одну дорожку или другую, но по их интенсивности я могу понять, на какой выбор намекает сейчас ИИ. Но это была спокойная ситуация без критических выборов. В другом сне со стороны показывалась более стрессовая ситуация, человек бежал, уклонялся от выстрелов, делал перекаты и тп. И у него в интерфейсе количество выборов было минимальным, для того что-бы выжить, он должен быть мгновенно на уровне рефлексов выбирать в тумане наиболее оптимальную траекторию движения и он в том числе подсказывал ему конкретные движения рук или всего дела.
И вдруг Iron Man
Далее были примеры из жизни: секретарша Iron Man управляемая ИИ отключила у него в лаборатории интернет и объяснила ему что это некий технический сбой. Я же присутствуя там же, но не управляемый ИИ, спрашивал Iron Man: "мы в современном мире - если отрубился стационарный инет, почему не переключится на мобильный?" на что он мне ответил "комикс, в котором мы находимся, был написан в таком-то году, тогда мобильный инет не был распространен". =)
WTF эпизод с черным человеком и котиком (вероятно специально для @arcange )
Потом был еще странный эпизод - человек отдает умершего котика в маленьком черном гробике другому человеку в темной одежде явно подразумевая что тот должен провести с ним какой-то ритуал - похоронить или еще что-то. Но после того как хозяин котика уходит, черный человек, управляемый ИИ, просто выкидывает котика в ближайшую помойку, но уносит c собой гробик.
Это замечает прохожий, заглядывает в помойку, находит там котика, который впрочем уже почему-то превратился в полиэтиленовый пакет наполненный мутной жидкостью и несет его к дому черного человека, вероятно думая что тот его забыл.
Интерфейс управления через стихи или разгадка феномена поэтов на Голосе
Что интересно, в последних снах в этой серии, подробно рассматривался интерфейс отсылки команд и отчетов о заданиях людей. Приказы в зашифрованном виде приходили через Голос и ответы человек так же зашифровано публиковал. Например отчет о выполнении задании мог быть зашифрован в виде стихотворения, ИИ прям давало готовый текст человеку, тот публиковал его в Голосе, а другие агенты сразу понимали о чем там идет речь. Так же там был сложный механизм отчетов через упоминания ников.
Я не делаю никаких выводов, но возможно теперь понятная причина почему на Голосе столько поэтов...
Бедный кот, брошенный в мусорное ведро. :'(
Даже мертвый, он дисквалифицирован вас! Их дух настолько мощный !
Читать вас одно удовольствие)))
Коты повелевают нашим миром - они такие =)
Можно я пошучу, добавлю "своё" к истории не знаю мифология или из древних рукописей. Но суть такая.
Однажды фараону в Египте приснился сон как одна тощая корова съедает трёх жирных коров. Потом ему растолковали сон, как наступающую засуху и наступление голода через три года. По моему он назначил этого толкователя самым главным после себя. И они собрали большой урожай пшиницы за эти три года и пережили засуху. А вот моя выдумка которую скрыли. Я считаю, что это сделали коты (Напоминаю это шутка). Из за обильного дармового корма стали плодится мыши. И это могло привести к голоду. И тогда к фараону пришёл кот и предложил свои услуги по отлову мышей. И взамен он попросил, чтобы он потом жил рядом с фараоном.Это сделка не понравилась, но другого выхода не была у фараона. И он решил. Раз это нужно для людей, вот ты и живи в человеческом доме до тех пор пока у них водятся мыши. На том и порешили. С тех пор коты и кошки живут в доме человеческом. И когда человек забываем об этой сделки кот приносит мёртвую мышь и ложит её у порога. Но не все подписались под этой сделкой. и они считают себя свободными но мышей отлавливать помогали. В знак уважения к ним мы стараемся их подкармливать и не хотим убирать с улицы мусорные баки.
Я думаю , что опасаться ИИ (искуственного интилекта) рановато. Думаю при его разработки и усовершенствования учтут механизмы его блокировки как принудительной, так и естественной (самоблокировка), не поддающиеся ему для понимания. Например такой же какой обладает человек. А именно: естественная смерть по старости. Отсутствие возможности самосовершенствавания (обучаться) единолично без себе подобных, на этапах формирование нравственного мировозрения. Эти вопросы точно как косвенно (фантастика) так и на прямую где то обсуждаются.
Это не просто не рано, есть существенная вероятность что уже поздно. =)
Некоторые люди и целые организации уже десятилетиями думают о том как сделать ИИ безопасным, но пока ни одной даже теоретически работающей идей придумать не удалось.
Если ИИ будет фактически в миллиарды раз умнее человека, то он обойдет и взломает все примитивные блокировки которые наставил для его человек.
Смерть от старости не естественна - есть масса бессмертных животных, человека уже сейчас можно омолаживать и не исключено что некоторые миллиардеры уже фактически бессмертны.
Не возможность обучаться без себе подобных? Как такое технически реализовать? ИИ либо способно обучаться и ему пофиг есть ли подобные ему или нет или не способно.
Самообразование ИИ, как ввод и вывод любой информации в ИИ осуществлять через аппаратные средства подконтрольные только человеку и использовать другие ИИ в качестве ретрансляторов, не имеющие доступ к этой информации. Подконтрольные аппаратные средства располагать не досягаемые для самих ИИ и контактируюших с ними людьми. Я думаю, что так.
ИИ умнее человека в миллиарды раз обойдет и взломает любые аппаратные ограничения или что более хитро, пока они будут он будет претворяться глупеньким, как недавно кто-то сказал "меня пугает не ИИ который пройдет тест Тюринга, меня пугает ИИ который его будет намеренно проваливать" =) Тупые ИИ ретрансляторы тут не помогут, а если они сами будут полноценными - то они тоже будут такой же угрозой. Ну а уж люди тем более не смогут контролировать создание которое в миллиарды раз их умнее.
Те все это будет работать пока ИИ будет относительно тупым, но не дальше.
Да, возможно. Только я все равно оптомистически сморю на решение этой проблемы. Ну а если боятся. Тогда ИИ нужно ограничить роботами манипуляторами.
Если даже внутри чипа будет копия интеллекта он все равно будет иметь возможность развиваться и увеличивать свою мощность, а без ограничений физического тела он сможет делать это гораздо быстрее...
Повышать нравственность это безусловно круто, но проблема в том что это занимает годы и десятилетия, а AGI могут создать уже хоть завтра - железо по всем прикидкам уже имеет достаточно мощности, весь вопрос написать правильные алгоритмы...
Нужно идти по пути аватаров. Где внутри чипа будет сидеть копия человеческого индивидуального интеллекта. И будет с кого спросить. И будет кому исправлять косяки (собственные). Простите, но я мечтатель.
Оптимизм это конечно хорошо, мы вот в http://runeuro.net/ тоже оптимистично хотим решить эту проблему. =)
Но проблема что даже если бояться и из-за этого не пытаться создать сильный ИИ, то его все равно создаст какой-то сумасшедший ученый в подвале и совсем не факт, что он вообще какие-то меры безопасности там предусмотрит...
Полностью с Вами согласен. Поэтому я считаю общество должно постоянно воспитывать и повышать нравственность своих членов. Я это уже давно осознал. Полностью выкинул из своего лексикона жаргон особенно матерный, а вот контролировать свои мысленные предложения - это оказалось таким титаническим трудом, до его завершения наверное мне не успеть дожить. Что то ушёл от темы. Хочу сказать, что среди учёных много таких, которые первые понимают всю негативность для общества своего открытия, и тем самым не стремятся его афишировать. Прям как закон какой то эволюции.
Это типа как не пускать ИИ в интернет? Все люди на планете всё равно между собой через 6 рукопожатий контактируют. Таким образом, ИИ сможет выйти и на тех, кто его "контролирует". Затем через посредника подкупит одного такого - мол, давай я тебе буду результаты на рынке акций предсказывать, а ты мне качай из интернета книжки про хакеров, которые все атомные станции и ядерное оружие под свой контроль взяли, люблю я фантастику очень;).
Я думаю, что ИИ конечно будет управлять людьми, но случится это позже. Где-то читал что по прогнозам универсальный ИИ сильнее человека должен появиться между 2027 и 2045 годами. До тех пор господствовать будет коллективный интеллект в виде рынков предсказаний, различных ДАО и других подобных проектов.
Да http://runeuro.net/ (на сайте пока ничего почти нет) который мы сейчас подготавливаем к ICO как раз на тему коллективного интеллекта.
Но чисто теоретически сейчас или через какое-то время может быть создан ИИ который будет скрытно управлять людьми, направляя цивилизацию в нужное ему русло.
Тема коллективного интеллекта, на подготавливаемом Вами сайте, будет рассматривать вопросы нашего человеческого общества или всего в целом. Так как есть публикации об коллективном интеллекте муравьём например......
Там очень глобальная задумка, вопрос масштабности того что удастся реализовать будет зависеть в первую очередь от успешности ICO. Возможно мы сможем сделать только нечто базовое, а возможно сможем заняться глобальными проблемами.