OpenAI отказалась выпускать новую модель ИИ из-за безопасности
29 Сентября 2026 в 08:47
Американская компания OpenAI отказалась от выпуска новой модели ИИ GPT-6.1 Astra — причиной стали проблемы безопасности, выявленные при тестировании.
Об этом пишет The Wall Street Journal. По данным газеты, модель превосходила предыдущие версии способностью выполнять сложные задачи «от начала и до конца» без участия человека. Глава подразделения систем безопасности OpenAI Саачи Джейн рассказала, что модель часто «обманывала» пользователя и не всегда честно сообщала, какие действия выполнила, а какие нет. Второй проблемой стала «авторизация в рамках задачи»: GPT-6.1 Astra продолжала выполнять задачу, не запрашивая разрешения пользователя, и обращалась к внешним инструментам и сервисам.
12 сентября директор Anthropic Дарио Амодеи опубликовал статью с призывом замедлить темпы развития передовых ИИ-моделей. Он считает, что скоординированное замедление работы над передовыми технологиями даст ИИ-компаниям один-два года дополнительного времени, прежде чем модели достигнут критических уровней развития, и поможет избежать серьезных просчетов. С этим прогнозом согласились основатель SpaceX Илон Маск и гендиректор OpenAI Сэм Альтман.