Как связана благотворительность и Искусственный Интеллект.(ЭТО должен знать каждый)

 Я очень редко занимаюсь благотворительностью. По причине того, что я не доверяю эффективности благотворительных организаций. По моему мнению, они тратят полученные средства крайне не эффективно. Да и к тому же очень туманный механизм контроля за ними. Об адресной помощи, без участия фонда, я вообще молчу. Во-первых процентов 90% из них это откровенный лохотрон, а разбираться в вопросе требует достаточно много времени.

 Однако в последнее время я понял, что ситуация частично изменилась.Существуют научные исследования, которые выявляют самые эффективные некоммерческие организации.Кто заинтересуется, советую почитать об эффективном альтруизме.

 Давая деньги именно им, вы можете быть уверенными, что ваши деньги будут приносить реальную пользу.

 Объясню почему

 Нехитрый анализ говорит, что самая эффективная область, где действия будут иметь максимальный эффект — это предотвращение экзистенциальных катастроф.

 Экзистенцианальная катастрофа — это те события, которые могут привести либо к гибели всего человечества, или даже тому, что хуже смерти.

 В этой теме нужно разбираться долго, но я обещал, что буду писать максимально коротко (no water).

 Вообщем существует 2 типа “концов света” Естественные, и на которые повлиял человек. К естественным относятся супервулканы, астероиды, активность на солнце, путешевствующие черные дыры, гибели сверхновых…могу перечислять бесконечно)). Шансы на них, конечно, в ближайшее время крайне-крайне-крайне малы.

 Но человек склонен недооценивать малые вероятности событий, которые с ним никогда не происходили ранее. В основном поэтому и нужно колонизировать Марс, для того чтобы “Не хранить все яйца в одной корзине” (Е.Mask). В смысле сделать резервную копию человечества на другой жесткий диск (Марс)

 И соответственно — вызванные человеком. Такие как ядерная война, неизлечимые вирусы (почитайте о резистентности к антибиотикам) и т. д.

Самый главный из них – создание полноценного, всемогущего искусственного интеллекта (AGI). Как говорил, опять же, Илон Маск — “человечество вызывает джина”.

 Так считаю не только я, но и многие авторитетные ученые. Просто это происходит за закрытыми дверями. Среднестатистический человек, пока не готов это понять и что бы в этом хорошо разбираться и относиться серьезно.

Фото

 Ладно, на это тему можно писать бесконечно, но статья не совсем туда идет))

 Это все не значит, что будет какой-то робот маньяк, как все представляют в начале. Это будет просто эффективный выполнитель задач,не обремененный моралью человека. Все крупные компании, считая Google, Facebook, да и практически все гиганты тратят огромные бюджеты (десятки млрд.) на разработку ИИ. Не удивительно, ведь это экономически выгодно. А на разработки, по контролю безопасного ИИ, вливаются всего-то миллионы. Я нашел три таких компании.

 Одно из таких мест находится в Англии в Оксфорде> Ник Бостром. В США, которым руководит Элизер Юдковски (у него есть просто идеальная книга по рационализму,ссылка внизу).И организация OpenAI >Илон Маск и Сэм Альтман.

 Объясню, почему именно они. Есть такой принцип - уменьшение отдачи с увеличением кол-ва вложений.

 Т.е., если вы вложите деньги в фонд борьбы с раком,то ваш вклад будет практически равен нулю. Во всем мире в это вкладывают сотни млрд.если не триллионы дол.

 А главный принцип эффективного альтруизма – вкладывать туда, где ваши деньги тратят эффективно и их мало.

 Вскоре большее кол-во людей поймет, что безопасность ИИ — это самое главное что может быть. Они начнут жертвовать в нее, но ведь "ДЖИН" к тому времени, уже может вырваться.

Видео

 EXPECTO PATRONUM!

 @varwar

книга Советую почитать для рационалистов
Если я вас сильно не загрузил, ВОТ минутка юмора про Голос
Фото