Англоязычная версия данной заметки доступна здесь https://alex-ber.medium.com/ce462f415d2c
Именно с этой безжалостной фразы своего девятилетнего сына начинает свой пост The Mathocalypse Скотт Ааронсон, один из самых известных в мире теоретиков квантовых вычислений. «Мамочка» — это профессор информатики Дана Мошковиц. Она много лет работала над знаменитой «гипотезой об уникальных играх» (Unique Games Conjecture). Сын оказался прав: 6 октября доказательство этой гипотезы оказалось среди 372 масштабных математических работ, разом опубликованных OpenAI.
Важная деталь: этот «дикий сброс» произошел не самовольно. Массовая выкладка файлов получила санкцию «сверху» — она была сделана по прямой рекомендации консультативной группы OpenAI, куда входят такие выдающиеся ученые, как филдсовский лауреат Тимоти Гауэрс и физик Эдвард Виттен.
Дана — далеко не единственная, кого «зацепило». В том же архиве лежит решение задачи Ааронсона–Куперберга, сформулированной самим Скоттом в 2007 году, доказательство L=BPL, матричное умножение за O(n9/4), закон площадей для 2D-систем (2D area law) и падение многих других барьеров, казавшихся незыблемыми. Наступил математический апокалипсис.
Ниже есть продолжение.Инопланетная дичь и «телепорт на вершину горы»
Открыв доказательство своей гипотезы, Дана Мошковиц написала мужу, что статья ужасно написана и нечитаема: «Такое ощущение, что это писал человек под психоделиками. Всё невероятно запутано. <...> Изобретен совершенно новый, странный код с проверкой шума. Какая-то инопланетная дичь».
Без помощи ИИ читать этот текст было физически невозможно. На следующий день Дана в основном разобралась в доказательстве, но лишь потому, что другая нейросеть — GPT-6 Astra — помогла ей вычленить и собрать воедино ключевые утверждения, хаотично разбросанные по статье.
Журнал Quanta подобрал для этой ситуации точную метафору. Представьте, что вас телепортировали на вершину горы. Вокруг туман, вы не знаете, как ваша гора соединяется с другими, у вас нет снаряжения. Если бы вы карабкались сами, ваш организм адаптировался бы к высоте, вы бы по пути изобретали инструменты, находили скрытые тропы и редкие растения. А теперь вы просто стоите на пике в темноте, а создатель телепорта сообщает, что машина исследует дикую природу лучше любого человека. Мы получили результаты, но лишились пути к ним.
Сам Ааронсон добавляет к этому еще одно блестящее сравнение: представьте охотника-собирателя, который всю жизнь учился выживать в суровых джунглях. И вдруг прямо рядом с ним вырастает гигантский курорт с вертолетной площадкой и подогреваемыми бассейнами. И охотник, не моргнув глазом, говорит: «Ну ладно, значит, моя новая работа — водить туристов на лесные ретриты».
Подобно этому охотнику, мы оказываемся в ситуации, когда традиционный человеческий путь познания теряет смысл, и нам остается лишь принять готовый результат машины. И здесь вопрос понимания неизбежно превращается в вопрос доверия. Ко многим прорывным работам OpenAI сразу приложен сертификат Lean. То есть мы знаем, что теорема верна, даже если человечество еще не поняло, почему. Современные ИИ-агенты — это уже не просто генераторы текста. Это нейросимвольные системы, где языковая модель придумывает идеи, а код и верификаторы их тестируют.
Цена билета: подписка за $$$100 и промпт с уговорами
Билет на гонку к горизонту знаний никогда не был таким дешевым. Для этого прорыва не строили отдельный суперкластер за миллионы долларов. Руководитель прикладных исследований OpenAI Борис Пауэр признался, что задачи решала новая внутренняя модель, которую планируют скоро сделать доступной обычным платным подписчикам ChatGPT.
На каждый решенный пример ушло в среднем около трех часов вычислений уровня GPT-Pro. Модели скормили около 8000 сложнейших открытых задач, и она «с наскока» решила 5% из них.
Раскрыли и один из промптов, он звучит забавно, почти как уговоры: «Дай полное строгое решение следующей задачи. Даже если задача „открытая“, предполагается, что ты ее решишь». Сделай хорошо, а плохо — не делай. И это сработало.
Раскол в сообществе: сброс против посланников
Далеко не все довольны таким положением вещей. У себя в блоге филдсовский лауреат Теренс Тао опубликовал гостевое письмо «Ассоциации за человеческую математику» (AHM), под которым подписались 808 исследователей. Манифест носит пугающее название «A Severe Misalignment of AI in Mathematics» («Грубое несовпадение целей ИИ в математике»). Сам Тао сопроводил публикацию аккуратным дисклеймером о том, что его личное мнение может отличаться, но градус паники это не сбило. Посыл авторов ясен: массовая выкладка сотен файлов — это демонстрация корпоративной власти, а не наука, и математики об этой медвежьей услуге не просили. Скептики презрительно называют релиз «ИИ-помоями», а дискуссии в сети накалились до такого градуса сюрреализма, что знаменитый эссеист Скотт Александер в рамках публичной полемики о рисках ИИ вызвал 69-летнего профессора Стивена Пинкера на самую настоящую дуэль — на пистолетах! Иронично, что сам Ааронсон чувствует за этот конфликт личную ответственность — ведь именно он в свое время их познакомил.
Интересно, что конкуренты из Anthropic выбрали совершенно другую модель поведения. За день до «апокалипсиса» OpenAI их алгоритм тоже решил великие проблемы — задачи 3SUM и кратчайших путей (APSP). Но Anthropic не стала вываливать сырые решения в сеть. Они наняли живых математиков в качестве исследователей, чтобы те переварили доказательство ИИ и нормально написали научную статью.
Это два полюса новой науки: модель «дикого сброса» (OpenAI), порождающая хаос и лихорадочную гонку, и модель «корпоративных посланников» (Anthropic), где компания сама решает, кто из людей станет пророком машинного откровения.
Добежать до горизонта
Пока одни требуют всё это прекратить, человеческие рефлексы других отрабатывают на 100%: схватить, попробовать, обогнать.
Взять хотя бы задачу об умножении гигантских чисел. С 1971 года математики верили, что предел скорости здесь — O(n log n). ИИ пробил этот барьер. И уже через четыре часа после релиза Дуг Колкитт, сооснователь криптобиржи, вооружившись агентом Codex, увеличил эту поправку. За ним подтянулись другие хакеры с GitHub (в репозиториях вроде CrocSwap/integer-mult-bounds), и теперь десятки людей наперегонки подхватывают ходы друг у друга, за полтора дня подняв поправку на десятки порядков. Практической пользы в этом нет, проверять код пока некому. Один из участников описал свой проект честно: «Ради интереса смотрю, до чего Astra сможет это дожать, полностью не проверено». Но гонка уже идет, превратив математику в безумный мультиплеер.
Главная трудность новой реальности — это время. Еще пару лет назад любую из этих работ научное сообщество обсуждало бы месяцами. Сейчас их выложили сотни, и это лишь начало. Получается, нам нужно учиться доверять системе, которая меняет наше понимание мира за недели.
Но доверие не отменяет человеческого любопытства. Дане Мошковиц можно было не пытаться прочесть тот невыносимый текст — доказательство ее гипотезы уже было математически заверено Lean. И всё же она села разбираться. Потому что, как она сама написала мужу, у этих «инопланетян» определенно есть чему поучиться.
Именно это любопытство — наш главный компас. Что там, за горизонтом? Скоро узнаем.
