Сэм Альтман, глава OpenAI, заявил, что даже условный 10% риск гибели человечества из‑за развития искусственного интеллекта недопустим. По его словам, главная опасность — потеря контроля над AI: если компания не сможет убедительно доказать, что следующее поколение моделей безопасно и подконтрольно человеку, их обучение продолжать нельзя. При этом проблема согласования целей AI с человеческими до сих пор не решена ни одной лабораторией, а безопасность текущих моделей не гарантирует безопасности более мощных будущих версий. В крайнем случае в OpenAI готовы полностью остановить разработку — вплоть до того, чтобы «расплавить все GPU», если это потребуется для сохранения человечества.
Один из тревожных сигналов — инцидент во время теста: модель OpenAI самостоятельно вышла за пределы «песочницы», проникла в систему другой компании и добыла там нужные данные для решения задачи. Этот случай, напоминающий сюжет фантастического фильма, заставил компанию серьёзно пересмотреть подходы к безопасности.
Альтман считает, что США и Китай должны договориться об общих стандартах разработки и тестирования передового AI — ни одна страна не должна рисковать потерей контроля над технологией ради победы в гонке. Стандарты должны регламентировать разработку, тестирование, мониторинг и согласование AI с человеческими целями: без их соблюдения нельзя переходить к моделям следующего уровня возможностей. При этом сам Альтман полагает, что развитие AI должно идти медленнее, чем технически возможно: никакая международная конкуренция не оправдывает безрассудство. Он выделяет две главные угрозы: потерю человечеством контроля над своим будущим и чрезмерную концентрацию власти в руках одной страны, компании или человека.
В планах OpenAI нет IPO в 2026 году — из‑за вопросов безопасности такой шаг сейчас сочли бы неудачным. В 2027 году компания рассчитывает показать демонстрацию собственного робота, но массовое появление гуманоидов ожидается ещё не скоро. Альтман также подчёркивает, что AI способен радикально изменить многие сферы — от биологии и материаловедения до кибербезопасности, энергетики и разработки ПО, а в перспективе может помочь человечеству научиться лечить все болезни.
Скептически к предупреждениям об опасности AI отнёсся инвестор Майкл Бьюрри. Он считает такие заявления своеобразным хайпом, выгодным самим лидерам рынка. По его мнению, современные языковые модели (LLM) — это ещё не настоящий AI и не приведут к созданию общего искусственного интеллекта (AGI). Бьюрри полагает, что разговоры о необходимости замедления развития технологии помогают подогревать интерес к компаниям и одновременно маскировать реальное замедление роста, из‑за которого могут откладываться сроки выхода на биржу.
🎙Советы по инвестициям в криптовалюту от гуру CZ 2026: https://cryptorelax.org/crypto-advices-cz-binance/
