Илон Маска, Стив Возняк и более тысячи экспертов в отрасли Искусственного интеллекта, подписали открытое письмо к разработчикам нейросетей и правительствам всего Мира. Они призывают ввести мораторий на продолжение обучения систем Искусственного интеллекта, которые являются более производительными, нежели чат-бот GPT-4. Письмо опубликовал некоммерческий институт Future of Life.
Суть открытого письма
Эксперты считают, что разработку систем Искусственного интеллекта нужно приостановить. В первую очередь следует разработать протоколы и стандарты безопасности. Соблюдение мер предосторожности должно контролироваться специальными органами и специалистами.
Все разработки должны проводиться только после того, как человечество сможет гарантировать соблюдение мер безопасности, при использовании ИИ. Нужно убедиться в том, что риски будут управляемыми. Не стоит забывать о том, что нейросеть способна конкурировать с человеком. Есть риск того, что ИИ выйдет из-под контроля и приведет к политическим, социальным и экономическим потрясениям.
В письме говорится, что существуют системы, конкурирующие с человеком. Именно от таких разработок исходит основная угроза.
Специалисты и Европол
Специалисты по Искусственному интеллекту не первый день пытаются приостановить стремительное развитие систем. Само письмо получилось опубликовать только после того, как к экспертам присоединился Европол. Сотрудники указали, что системами Искусственного интеллекта пользуются преступники. Их можно применять для фишинга, дезинформации и иных киберпреступлений.
Илон Маск неоднократно указывал на опасность стремительного развития систем. В первую очередь, упор делается на отсутствие контроля. Это при том, что разработчики Тесла уже давно используют элементы ИИ в своих умных машинах.
Компания OpenAI
В конце прошлого года OpenAI выдала пресс-релиз своего чат-бота. Это подтолкнуло конкурентов ускорить свои работы. Они вынуждены оперативно реализовывать все свои наработки и стремиться к стремительному развитию ИИ. Не удивительно, что глава OpenAI Сэм Альтман не подписал открытое письмо. Сотрудники компании отказываются от комментариев.
Таким образом, на данный момент следует ограничить разработки в этой отрасли. Нужно приостановить работы до того, как человечество не найдет ответы на все важные вопросы. В частности, не просчитает все риски и возможные негативные последствия. Кроме этого, нужно создать структуру, которая сможет осуществлять контроль над разработчиками. Следует тщательно мониторить все работы. На данный момент разработчики ведут свои работы в строгой секретности. Только консолидация усилий позволит снизить риски к минимуму.
