Тема недели: ИИ уничтожит человека?

Тему ИИ мы уже рассматривали в сентябре, применительно к образованию. Но если хочется еще, то, пожалуйста. Их есть у меня!

Стремление облегчить жизнь человеку, за счет передачи рутинных рабочих функций роботам привело к тому, что ученые стали создавать машины в помощь людям. И стремились сделать их всё совершеннее и совершеннее.. И еще умнее и умнее.

Они старались и пытались одновременно решить сложную задачу: как сделать робота или ИИ таким, чтобы гарантированно выполнялся первый закон робототехники: робот да не нанесет ущерб своему создателю. Айзек Азимов еще в 1942 году сформулировал его: Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.

Другими словами, человек с самого начала этого тернистого пути боялся, опасался того, что силой своего ума создать НЕЧТО себе на погибель. Что-то такое, что может возомнить о себе и поставить себя выше своего создателя, а по сути займет его место в этом мире.

Или начнет вести с человеком борьбу за жизненное пространство.

История знает множество примеров, когда в мире начинались битвы за что-нибудь. Битвы жестокие, без пощады и прощения, без компромиссов и снисхождения, без уступок, без снисхождения, без милосердия...

Человек не может согласиться с нехваткой чего-либо для себя любимого. Например, когда родные люди начинают битву за наследство... Они становятся злейшими врагами, непримиримыми и бесчувственными. «Обыкновенные люди… в общем, напоминают прежних… квартирный вопрос только испортил их…» — говорил Воланд из романа Михаила Булгакова «Мастер и Маргарита”.

И таких вопросов жизнь подкидывает человеку гигантское множество. Казалось бы, громадное пространство, громадные ресурсы... Совершенствуй технологии, извлекай воду из камней, раздвигай границы возможного...

Нет же! Куда проще вцепившись в горло другому, попытаться вырвать у него заветный кусок!

Эгоизм и гордыня! Духовная слепота и душевная окаменелость! Несовершенство самого человека!

Так можно ли давать человеку всесильного помощника?! Можно ли так вооружать человека, являющегося несовершенным в самой своей сути? Не способного отделить благо от зла? Готового творить насилие, сеять смерть и разрушение ради собственного блага, в том виде, в каком он себе его представляет?!

Мне кажется, что создание ИИ следует остановить, притормозить!

Нужно дождаться, когда изменится сам человек. Когда не будет опасности того, что появится Доктор Зло, который, используя возможности ИИ, устроит на Земле ад!

Поэтому я думаю, что ИИ уничтожит человека! Собственно, может не в прямом смысле бросится и задушит, а человек, создавая такие машины вольно или невольно перешагнет грань дозволенного и создаст себе на погибель монстра. Во всяком случае такая опасность, с моей точки зрения существует. Именно поэтому я бы относился ко всем опытам с ИИ с двойной осторожностью.

Единственная сфера, где думающие машины с ИИ необходимы это медицина, где они могут делать операции, управлять искусственными органами, помогающие полноценно жить людям с ограниченными возможностями, сфера услуг, где у ИИ ограниченные функции и он просто не заточен под боевые возможности.

Я так примерно представляю себе ИИ: лишь как калькулятор повышенной мощности, как помощника с весьма ограниченным функционалом, что-то вроде робота-пылесоса, но не больше.

Да к тому же, если всё за тебя будет делать робот с ИИ, то что тебе то останется, Человек? Будешь как Вовка в тридевятом царстве спрашивать: Вы чего, и конфеты за меня есть будете?…

Пост подготовлен в рамках Темы недели от @slon21veka. Условия конкурса здесь.