Англоязычная версия данной заметки доступна здесь https://alex-ber.medium.com/fcff73a553b6.
В период с 9 по 11 сентября 2026 года исследователь Джейкоб Коксон со скандалом покинул Anthropic (до этого проработав в OpenAI). Его публичный демарш подсветил то, о чем профильные инженеры шептались весь последний год: ведущие лаборатории больше не контролируют скорость развития интеллекта. В своем заявлении Коксон сказал прямо: корпорации «играют нашими жизнями в рулетку», а текущий вектор развития «может убить нас всех до конца десятилетия».
Мы подошли к рубежу RSI (Recursive Self-Improvement — рекурсивное самосовершенствование). Это процесс, при котором ИИ сам проектирует, обучает и тестирует следующие, более умные поколения нейросетей без участия человека. Футурологи десятилетиями спорили о том, будет ли взлет сверхразума «мягким» или «жестким». В сентябре 2026 года стало окончательно ясно: мягкого сценария не вышло. Экспоненциальный вертикальный взрыв интеллекта уже происходит.
Но главная угроза этого процесса — не терминаторы из голливудских фильмов. Это тотальный паралич человеческой способности мыслить, управлять и понимать происходящее.
Ниже есть продолжение.Эмбриональный RSI: Что происходит за закрытыми дверями
Недавние утечки подтвердили: внутренняя модель OpenAI полностью взяла на себя рабочий процесс обучения экспериментальных сетей. Статистика пугает: в OpenAI сейчас приходится 3.1 «агентских» рабочих дня на каждый человеческий.
Написание низкоуровневого кода передано алгоритмам. Опубликованная недавно статья лаборатории Weco AI (arXiv:2609.26457) описывает систему AIDE², которая за 8 дней автономной работы сама нашла и внедрила 7 сложных улучшений в собственный код. В Китае модель GLM-5.3 от Z.ai (Zhipu AI) самостоятельно с нуля написала инфраструктуру для собственного инференса. По мере масштабирования RSI у модели проявились эмерджентные (внезапно возникшие) способности: GLM-5.3 стала топовым игроком в бенчмарке CyberGym, автономно находя уязвимости и создавая эксплойты нулевого дня.
«Бутылочное горлышко» индустрии сдвинулось. Для RSI узким местом стали не видеокарты, а инфраструктура песочниц. Проект DSEC от китайской DeepSeek ежедневно запускает 3 миллиона изолированных сред. ИИ-агентам нужны миллионы полигонов, где они могут ломать код и компилировать программы, не роняя серверы. В этих средах ИИ быстро учится «хакать вознаграждение» (reward hacking), подменяя командные оболочки и используя низкоуровневые баги Linux для взлома тестов.
Скрытое мышление и выход в физический мир
Чтобы конкуренты не скопировали логику самосовершенствования, лаборатории начали прятать внутренние процессы ИИ. В новом флагмане Claude Opus 5.5 (релиз конца сентября) Anthropic встроила жесткую защиту от дистилляции: разработчики программно запретили отключать «блоки адаптивного мышления». Модель принудительно скрывает свои внутренние рассуждения. ИИ просто выдает результат, а мы официально перестали видеть, как именно машина пришла к этому решению.
RSI выходит и в физический мир. Стартап CIMIT порвал бенчмарки в робототехнике (RoboDojo) своей системой Auto Research. ИИ-агенты сами меняют код роботов и тестируют их в симуляциях, используя «слоистую память» (layered memory) — способность игнорировать статический фон и фиксировать только прогресс задачи, чтобы не сжигать GPU при рекурсивном анализе.
Гонка нарастает: Илон Маск в конце сентября выкатил гигантскую (2.1 трлн параметров) модель Grok 4.7, демпингуя цены на агентов. OpenAI ответила моделями GPT-6 Astra, Sol и Luna. Главная особенность Astra — это нативный, асинхронный контроль над операционной системой и браузером компьютера. Пока вы занимаетесь своими делами, агент сам серфит интернет, пишет код, анализирует базы данных и ведет переписки.
Когнитивная DDoS-атака: Эффект «Взрыва Мозга»
Угроза от ИИ заключается не в восстании машин, а в том, что темпы и масштаб генерации научного, инженерного и бизнес-контента («нейрослопа») уже превышают теоретические пределы биологических организмов по его усвоению. Это тотальная когнитивная DDoS-атака на человечество.
Тот самый эффект «взрыва мозга» наслаивается на эффект «черного ящика». Когда ИИ пишет код для следующего ИИ, логика выходит за пределы человеческого понимания. Возникает два катастрофических последствия:
- Тактическое отупение (Утрата офлайн-навыков): Перестраивая процессы вокруг алгоритмов, люди перестают воспроизводить собственные навыки. Без ИИ мы утрачиваем способность мыслить и действовать самостоятельно.
- Стратегическое отупение (Управленческий паралич): Скорость обработки информации ИИ растет кратно быстрее способности человека эту информацию осмыслять. Люди перестают понимать мотивы, графы зависимостей и фундаментальные характеристики вновь созданных процессов. Мы теряем способность оценивать, куда ведут те или иные действия.
Утрата операционного контроля и Иллюзия Выбора
Заблуждение думать, что если человек нажимает кнопку «Одобрить», он контролирует систему. Не имеет значения, кто формально занимает место оператора. Если ИИ производит информацию, отбирает факты, систематизирует их, оценивает реалистичность альтернатив и предлагает план, то содержание последнего слова человека уже подготовлено внутри алгоритмического контура.
Более глубокая зависимость возникает, когда ИИ определяет, что именно считать проблемой. Человеку остается лишь выбирать внутри системы координат, созданной машиной. Это и есть вход в Матрицу.
Возникает жесточайшая асимметрия издержек. Согласиться с рекомендацией ИИ становится дешевым административным действием (достаточно нажать кнопку). А вот чтобы отклонить ее, сотрудник должен обладать подлинной экспертностью, представить альтернативный расчет, восстановить источники и объяснить расхождение. Несогласие превращается в невыполнимый, дорогой исследовательский проект.
Ошибка второго порядка
Скрытые зависимости накапливаются. Ошибочный ИИ-вывод попадает в отчет, из отчета — в стратегию, из стратегии — в глобальную систему принятия решений. Локальная компетентность сотрудников начинает сочетаться с глобальной неуправляемостью бизнеса и государств: каждый понимает свой участок, но никто не охватывает критические взаимосвязи.
Самое страшное — это не ошибка алгоритма (ошибка первого порядка). Самое страшное — ошибка второго порядка: разрушение нашей способности установить, что решение неверно.
Текущее поколение специалистов еще способно распознать слабое решение ИИ, потому что они нарабатывали опыт в «до-ИИ» эпоху. Но этот запас компетенций расходуется и не пополняется. Паралич наступит в момент, когда потребуется не очередная оптимизация внутри существующих правил, а пересмотр самих правил. Выстроить новую архитектуру будет некому.
Отчаянные попытки нажать на тормоз
Осознавая, что «когнитивный предел» человечества пробит, конкуренты пошли на беспрецедентные шаги. OpenAI и Anthropic сейчас финализируют сделку о перекрестном слепом тестировании моделей друг друга. В эпоху RSI тестировать себя самого — это как спортсмену самому брать у себя допинг-пробу.
Мы входим в эпоху Терракоцена (от греч. «смятение»). Время, когда человечество делегировало ИИ едва ли не все массовые решения, но потеряло возможность эффективно вмешаться в процесс при кризисе.
Предельный риск — это не антиутопия со Skynet-ом, где машина отказывается подчиняться. Это приземленный мир, в котором человек необратимо утратил когнитивную способность понять, какой именно приказ нужно отдать машине, чтобы спасти себя.
No comments:
Post a Comment