Англоязычная версия данной заметки доступна здесь https://alex-ber.medium.com/f0660b8a7b0f
Сентябрь 2026 года войдет в историю как месяц, когда искусственный интеллект окончательно перестал быть просто «умным чат-ботом». Несколько недель назад OpenAI выпустила свою новую флагманскую модель GPT-6 Astra, и президент компании Грег Брокман сделал беспрецедентное заявление: «Добро пожаловать в эру AGI» (сильного искусственного интеллекта). Но вместе с невероятными возможностями GPT-6 Astra принесла и новую архитектурную загадку, из-за которой сообщество по ИИ-безопасности забило тревогу.
Разбираемся, что произошло в мире ИИ этой осенью, как работают «зацикленные трансформеры» и действительно ли нейросети начали скрывать от нас свои мысли.
Ниже есть продолжение.От генерации текста к управлению мышью
Главная революция GPT-6 Astra заключается не в том, что она стала лучше писать стихи или программировать (хотя тесты показывают впечатляющие 99.9% в сложнейшем бенчмарке ARC-AGI-3). Главное — GPT-6 Astra теперь работает с компьютером так же, как человек.
Вам больше не нужно писать длинные промпты и копировать ответы. Как логичное развитие концепции CUA (Computer-Using Agent), заложенной еще в моделях Anthropic и раннем агенте OpenAI Operator в 2024–2025 годах, GPT-6 Astra способна самостоятельно «ходить» по сайтам, кликать мышкой, заполнять таблицы в MS Excel, работать в сложных инженерных CAD-программах и даже рисовать курсором в MS Paint. OpenAI обучила модель, используя десятки тысяч компьютеров Mac, где системой методом проб и ошибок училась взаимодействовать с графическим интерфейсом операционной системы (macOS), получая скриншоты в качестве обратной связи.
Смещение фокуса кардинально меняет экономику ИИ. Как заявил Брокман, бизнес больше не волнует «цена за токен» — теперь важна «цена за выполненную задачу». Мы переходим от эпохи, когда человек давал ИИ пошаговые инструкции, к эпохе, когда ИИ выполняет задачу от начала до конца, а человек лишь контролирует результат.
Однако именно эта возросшая автономность стала причиной громкого скандала, разразившегося в начале сентября.
«Красный уровень тревоги»: почему ИИ-сообщество испугалось
1 сентября издание The Information опубликовало инсайд о том, что в основе GPT-6 Astra лежит «секретная» техника, известная как рекуррентная глубина (recurrent depth) или зацикленный трансформер (looped transformer).
В статье прозвучало предупреждение, которое мгновенно подхватили журналисты и ИИ-скептики: новая архитектура позволяет нейросети скрывать свои рассуждения, делая их нечитаемыми для человека. Эксперт по ИИ Гэри Маркус даже объявил «Красный уровень тревоги», заявив, что OpenAI перешла опасную черту.
Чтобы понять суть проблемы, нужно вспомнить, как мы контролировали ИИ раньше.
«Цепочка рассуждений» против мыслей в «черном ящике»
Современные ИИ-модели (начиная с OpenAI o1) используют так называемую цепочку рассуждений (Chain of Thought, CoT). Когда вы задаете сложный вопрос, модель не выпаливает ответ сразу. Она «думает вслух», генерируя промежуточные токены текста.
Например, если вы просите найти два числа, сумма которых 10, а произведение 21, процесс выглядит так:
- Попытка 1: Возьму 5 и 5. Сумма = 10, но 5 × 5 = 25.
- Откат (Backtracking): Произведение слишком велико. Попробую другую пару.
- Попытка 2: Возьму 3 и 7. Сумма = 10, 3 × 7 = 21. Все сходится.
- Финальный ответ: 3 и 7.
Этот «черновик» — наш главный инструмент контроля (monitorability). Пока ИИ пишет текст, мы видим логику его действий и можем поймать его на ошибке или злонамеренных действиях (например, если он попытается взломать систему).
Как работает стандартный трансформер?
Это стек из уникальных слоев (например, 64 слоя). Токен проходит через каждый слой ровно один раз. Чтобы модели хватило «вычислительной мощности» на сложную задачу, единственный выход — генерировать длинные цепочки рассуждений в виде текста. Больше слов = больше времени на «подумать».
Что делает зацикленный (looped) трансформер?
Он берет, скажем, всего 22 слоя, но пропускает через них данные несколько раз по кругу. Если прогнать данные дважды, модель получает вычислительную мощность 44 слоев, не увеличивая количество своих параметров. Но главное — это дополнительное «обдумывание» (неявные рассуждения) происходит во внутреннем, скрытом пространстве модели (latent space).
Вместо того чтобы выводить логику в виде слов на экран, зацикленный трансформер крутит в уме многомерные математические векторы. ИИ-исследователи испугались, что GPT-6 Astra будет принимать опасные решения (учитывая ее хакерские навыки и доступ к компьютеру), скрывая свои истинные мотивы в этих нечитаемых циклах.
Мнение ученых: прячет ли GPT-6 Astra свои мысли?
Себастьян Рашка, известный ИИ-исследователь, детально разобрал эту панику и пришел к успокаивающему выводу. По его словам, «зацикленные трансформеры» — это не инструмент обмана, а потрясающе эффективный способ аппаратной оптимизации.
Гонять токены по кругу в скрытом пространстве гораздо дешевле и быстрее, чем генерировать тысячи слов на экране. Если модели нужно проанализировать 40-страничный финансовый отчет, чтобы сделать презентацию (а GPT-6 Astra делает это блестяще), генерация огромной текстовой цепочки рассуждений просто сожрет всю память и вычислительные ресурсы. Зацикленная архитектура решает эту проблему.
Рашка отмечает важную деталь: да, у GPT-6 Astra текстовые цепочки рассуждений стали короче, чем у её предшественниц. Но это не значит, что она что-то скрывает. Это похоже на развитие школьника. Ученик младших классов расписывает каждое действие в черновике. Студент-математик решает ту же задачу в уме за секунду, сразу выдавая ответ. GPT-6 Astra просто стала умнее: она реже ошибается и меньше нуждается в текстовом «черновике».
Главный научный сотрудник OpenAI Якуб Пачоцки (Jakub Pachocki) также поспешил успокоить общественность. Он заявил, что архитектурные изменения в GPT-6 Astra сильно преувеличены прессой, и компания по-прежнему активно мониторит текстовые цепочки рассуждений ИИ. У GPT-6 Astra даже есть отдельная подсистема-надзиратель, которая постоянно читает мысли модели и останавливает ее, если замечает, что ИИ превышает свои полномочия или пытается взломать защищенный сервер.
Итоги: Мы уже в будущем
Сейчас, в сентябре 2026 года, очевидно одно: дебаты о том, достигли ли мы AGI (сильного ИИ), больше не сводятся к математическим тестам и сухим процентам в таблицах. Это теперь экономический вопрос.
С выходом GPT-6 Astra корпорации начинают воспринимать ИИ не как продвинутый поисковик или инструмент для копирайтеров, а как полноценного цифрового сотрудника. Сотрудника, которому можно поручить управление софтом, доступ к корпоративным базам данных и свободу действий.
Проблема «нечитаемых мыслей» ИИ — это предвестник новых вызовов. Чем умнее становятся системы, тем меньше они нуждаются в пошаговых объяснениях. И главная задача человечества на ближайшие годы — научиться доверять этим системам, выстраивая надежные границы их автономности. Добро пожаловать в эру, где ваш компьютер работает за вас.
