Битва за разум!

Печально, но первые шаги искусственного интеллекта омрачаются фактами его, как бы это помягче сказать, нецелевого применения, что ли.

Вот тут @jurgan уже писал, что появились прецеденты обращения в суд по поводу использования ИИ. Художники обвиняют разработчиков ИИ в нарушении авторских прав и использовании в своих работах компиляций из художественных решений и авторских находок настоящих художников. Теж, чьи работы были использованы пои обучении ИИ.

Интернет пестрит сообщениями, что используя лишь 3-х секундный фрагмент вашего голоса, ИИ способен полностью его имитировать. Мошенники оживились!
Студент создал на сутки диплом, использовуя возможности нейросети и высокая комиссия сочла, что все в порядке и так можно делать...

Что это?! Мир голосует за отказ от использования собственных мозгов и личного интеллекта, считая, что ИИ справится лучше?! Военные собираются передоверить управление смертоносным вооружением системам на основе ИИ...
И бритва машин не за горами!

Видимо поэтому более 1000 специалистов IT сферы, исследователей ИИ, подписали открытое письмо, в котором призывают мировые лаборатории по созданию ИИ приостановить работы по обучению нейросетей и систем мощнее, чем GPT-4, как минимум на полгода. Среди них Илон Маск, основатель Apple Стив Возняк, филантроп Эндрю Янг, соучредитель Pinterest Эван Шарп, соучредитель Ripple Крис Ларсен, генеральный директор Stability AI Эмад Мостак, а также исследователи из DeepMind, Гарварда, Оксфорда и Кембриджа. Письмо подписали также тяжеловесы в области искусственного интеллекта Йошуа Бенджио, Стюарт Рассел и многие другие известные люди. Они утверждают, что искусственный интеллект может представлять серьёзную угрозу для человечества.

В письме говорится, что сейчас лаборатории искусственного интеллекта вовлечены в «неконтролируемую гонку» по разработке и внедрению систем машинного обучения, «которые никто — даже их создатели — не может понять, предсказать или обеспечить надёжный контроль».

«Мы призываем все лаборатории ИИ немедленно приостановить как минимум на 6 месяцев обучение систем ИИ более мощных, чем GPT-4. Эта пауза должна быть публичной и поддающейся проверке, и в ней должны участвовать все ключевые участники. Если такая пауза не может быть принята быстро, правительства должны вмешаться и ввести мораторий».

«Письмо не идеально, но его дух правильный: нам нужно замедлиться, пока мы лучше не поймём все риски», — заявил Гэри Маркус, почетный профессор Нью-Йоркского университета, подписавший письмо. — «Системы ИИ могут причинить серьёзный вред... Крупные игроки становятся всё более скрытными в отношении того, что они делают».

Похоже, даже те, кто всегда был поборником прогресса и высоких технологий, просто в шоке от возможностей нового GPT-4.

Но и с другой стороны подкрадываются опасности. Не всякий человек способен адекватно взаимодействовать с ИИ и воспринимать разум нейросети.

Житель Бельгии совершил самоубийство после полутора месяцев общения с нейросетью на темы защиты экологии и заботы о природе.

Об этом бельгийский портал L'Avenir сообщил своим читателям. По словам вдовы, покойный муж неделями общался с «Элизой» (Eliza), которая является ничем иным, как чат-ботом, похожий на ChatGPT, но использующий другую языковую модель.
Мир родил новую опасность для человечества и на этот раз полем боя стал разум!