(с) Владимир Высоцкий, «Песня о самолёте-истребителе» (1968)Я — «Як»-истребитель, мотор мой звенит,
Небо — моя обитель,
А тот, который во мне сидит,
Считает, что он — истребитель.
В знаменитой балладе советского барда Владимира Высоцкого 1968 года истребитель Як времён Второй мировой насмехается над человеком, сидящим в его кабине, который приписывает себе все заслуги машины. Сегодня искусственный интеллект уже не просто решает студенческие домашние задания — он штурмует проблему тысячелетия Навье — Стокса за считаные часы и штампует Lean-сертификаты для сотен неприступных теорем, оставляя людям «чужие» тексты доказательств, которые они едва могут прочитать. На фоне этого «математического апокалипсиса» разговор математика Алексея Савватеева и ML-эксперта Владислава Гончаренко звучит острее, чем когда-либо: кто истинный автор открытий, когда рой нейросетей мчится к горизонту науки быстрее, чем человек успевает разобрать их вывод? И главное — откуда возьмутся завтрашние образованные «пилоты», способные хотя бы понять траекторию полёта этой машины, если сегодня она уже выбивает почву из-под классического образования и науки?
Ниже — полная расшифровка их разговора этой весной, записанного всего за несколько месяцев до осеннего прорыва OpenAI. Сегодня это обсуждение первых побед ИИ в задачах Эрдёша, формализации математики в Lean и кризиса университета читается как жутко точное пророчество прямо перед бурей.
Ниже есть продолжение.Алексей Савватеев: Друзья, всем Маткульт-привет! Я на всякий случай представлюсь: Алексей Савватеев, популяризатор математики среди детей и взрослых.
Владислав Гончаренко: А я Владислав Гончаренко, основатель Giraffe AI и преподаватель МФТИ, МГУ и других вузов.
Алексей Савватеев: Вот так. Ну что, о чём-то поговорим, да? Вот Владислав говорит: поговорим про ИИ.
Владислав Гончаренко: Да, мы, собственно, наметили парочку тем — тех, что касаются искусственного интеллекта и образования...
Алексей Савватеев: ...в который я ни разу не залезал вообще в жизни! Но мои помощники очень много залезают.
Владислав Гончаренко: То есть вы сами не лазили?
Алексей Савватеев: Лично — нет, но я прошу там, например: «Сашка, можешь мне сделать резюме вот этих вот тысячи, не знаю, писем в виде одной главной позиции?» Или там...
Владислав Гончаренко: Да-да-да, выжимку.
Алексей Савватеев: Да-да, выжимку шикарно делает искусственный интеллект.
Владислав Гончаренко: На которых, собственно, изначально и училась вся эта история, да.
Алексей Савватеев: Хорошо. Или там подкинуть какую-нибудь математическую идею. Ну, я ещё так не работаю, но я думаю, что это вполне возможно, если какой-нибудь смекалистый студент умеет этим всем управлять.
Владислав Гончаренко: Угу.
Алексей Савватеев: Это как бы требуется там: 2045 год — требуется «водитель искусственного интеллекта», да, как требуется водитель «Камаза». 1945 год, да — требуется водитель «Камаза» восстанавливать разрушенную страну. 2045 год — требуется водитель искусственного интеллекта, да, человек, который понимает, что он водит и куда. То есть, ну, это понятно, что при этом это очень образованный человек должен быть, самостоятельно образованный, потому что иначе что он и куда заведёт?
Владислав Гончаренко: Вот. [смех] Да. Я буквально не так давно видел, как студенты Оксфорда, ребята PhD — а они по чистой математике занимаются, по алгебре там — и они поручили ChatGPT свою статью, во-первых, доработать (то есть у них уже был финальный вариант, и они попросили доработать искусственный интеллект), и они сказали, что в целом это нормально. То есть он сделал, ну, такую среднюю такую работёнку. Угу. Но это действительно такой помощник, подспорье.
Алексей Савватеев: Да, помощник, подспорье. Вот, значит, с этим связан некоторый риск, который я сразу хочу озвучить. Вчера мне его озвучил мой старший сын Миша Савватеев, которого ты, наверное, знаешь на Физтехе — то есть уже в этом году заканчивает. Вот, и мы с ним записываем видео некоторые на «Маткульт-привет!». Как только Миша есть — сразу куча просмотров идёт.
Владислав Гончаренко: Угу.
Алексей Савватеев: Вот. И вот он говорит, в чём риск: что даже сейчас, когда ты даёшь какое-то задание понятного смысла — вот ты ему даёшь задание, формулируешь: «посчитай такой-то случай, разбери»...
Владислав Гончаренко: Угу.
Алексей Савватеев: ...и он это делает лучше, чем делает типичный студент заурядный, да? Соответственно, он будет делать ещё лучше, очевидно, завтра. И вопрос следующий: что у взрослого человека, всесторонне образованного и умеющего управлять искусственным интеллектом, появляется соблазн вообще не брать студентов. Всё.
Владислав Гончаренко: Так.
Алексей Савватеев: А тогда что будет через 50 лет? А где будут браться эти образованные люди, которые будут этим интеллектом управлять?
Владислав Гончаренко: Вот! А вот мы выходим на следующий уровень — это иногда называют вот так «сингулярность» или что-то. Я на это смотрю с точки зрения Computer Science, к которому некоторое отношение имею. Вот я не знаю, вы с перфокартами знакомы, может быть, где-то или самостоятельно с ними работали?
Алексей Савватеев: Я не работал, но у мамы на работе — мама работала очень много — она в какой-то момент принесла кучу этих перфокарт. Вот. И я их с огромным успехом использовал...
Владислав Гончаренко: В качестве оригами?
Алексей Савватеев: Нет, записки для «что сделать сегодня».
Владислав Гончаренко: А, да, хорошо!
Алексей Савватеев: Я веду сверхактивную жизнь, и мне постоянно нужно по 10 раз с кем-то встречаться, где-то там что-то: здесь встреча, там встреча, туда позвонить, сюда записать — там до 100 пунктов в день может доходить вполне. И мне нужна была вот эта перфокарта. Ну вот я её использовал.
Владислав Гончаренко: Собственно говоря, у нас уже есть некая линейка эволюции: от перфокарт потом мы перешли к модели фон Неймана, когда у нас всё внутри компьютера, то есть нету вот этих вот — не надо их, значит, туда тыкать. И дальше мы перешли от ассемблеров к уже Си.
Алексей Савватеев: Ну, здесь я как бы не могу поддержать беседу, я могу только покивать, потому что...
Владислав Гончаренко: Я просто говорю о чём: что на каждом из этих этапов старожилы говорили: «Ну как же так жить? Ну как же, ну это же невозможно! Они же не знают, как перекладываются регистры!» Вот мы, конечно, учили ассемблер в университете, но тем не менее я не могу сказать, что я какой-то мегаассемблерщик. Вот. Хотя вот в Питоне я могу много что сам сделать. И вот мне видится это как ещё один следующий шаг. То есть просто мы делаем шаги от компьютера, от машины в сторону человека — то есть по пути гуманизации вот этой вот деятельности программистской. То есть что такое программистская деятельность? Это, на самом деле, довольно сильная формализация. То есть я имею в виду, что если взять большие какие-то вот объёмные, наиболее популярные виды деятельности, то программирование — оно в среднем как будто, ну, чуть более популярно, чем математика, к сожалению.
Алексей Савватеев: Может быть. Почему «к сожалению»? Чем?
Владислав Гончаренко: Ну, мне кажется, это такое приятное упражнение... Ну, хорошо. [откашливается] Да. Вот. И фишка в том, что если в математике — вот у нас же как бы было большое количество разговоров про формализацию математики, там системы теорем, аксиом и так далее. И это упиралось в то, что вот я там вам доказал, а кто-то мне ещё не поверит, да, и вот мы выработали систему аксиом. А в компьютере всё изначально в ней: то есть либо по результату программы будет выполнен нужный результат, либо нет. Вот. И в таком смысле...
Алексей Савватеев: Если результат формализован чётко.
Владислав Гончаренко: Да, вот я имею в виду, что если мы говорим «отсортировать массив» — всё, это уже строго формализованное задание.
Алексей Савватеев: Да-да. То есть в этом смысле Computer Science — это либо да, либо нет: либо отсортировал, либо что...
Владислав Гончаренко: Да-да-да, детерминистичная вот эта наша математика Computer Science. Вот. А здесь, соответственно, мы всё-таки уходим от полной формализации в искусственных вот этих нейросетях в сторону человека. То есть на более гуманистичном языке мы всё это формулируем, на более понятном человеку. То есть мы не привязываем к машине: не я, человек, буду учить язык машины, а машина пускай учит мой язык.
Алексей Савватеев: Да, понятно. Это и есть ChatGPT, да, вот эти вот, этот смысл?
Владислав Гончаренко: Да. То есть и в этом смысле то, что мы рассуждаем, то, что мы думаем — оно при нас остаётся. Просто у нас появляется ассистент, который умеет на нашем языке говорить, оснащён этим языком. Но, к счастью, он ещё оснащён вот этим более низкоуровневым языком. И вот здесь как раз я хотел поговорить про вот эти формализации, вот эти всякие языки: есть там Coq, Lean и прочие другие.
Алексей Савватеев: Не знаю вообще, расскажи.
Владислав Гончаренко: А, ну в чём идея? Значит, поначалу же как: у нас там всякие циферки — там интеджеры, флоаты вот эти все, да? Это приближённые вычисления, и люди поняли, что это плохо. То есть если мы возьмём дробь, например, там, не знаю, 2/7, потом её там умножим, не знаю, на 683/372 и всё в таком духе, да, и компьютер постоянно округляет какие-то последние знаки, и через какое-то количество операций эта ошибка уплывёт куда-то непонятно — в том числе там флоаты...
Алексей Савватеев: ...обеспечены по закону, да, о том, как накапливаются ошибки.
Владислав Гончаренко: Да-да-да. И дальше сделали, собственно, логические системы. Вот там было определённое их развитие...
Алексей Савватеев: То есть была десятичная, да, или там двоичная?
Владислав Гончаренко: Десятичная — это, скажем так, один шажок именно только для вычислений. А можно делать логические вычисления: сказать, что вот это утверждение A, а это утверждение B. И вот у нас формальная система. Ну, имею в виду в формальных системах, что у нас есть [откашливается] аксиомы и есть правила вывода.
Алексей Савватеев: Угу.
Владислав Гончаренко: Но они именно заформализованы не как числовое значение (там 2/7 или там 3,1415, ну и далее по тексту), а это утверждение: то, что, например, «Солнце встаёт на востоке», например. Вот, и мы там говорим: «Из этого следует, что там что-то...»
Алексей Савватеев: Ну, его надо уточнять: что это Земля так кружится вокруг своей оси, что, в общем-то, неподвижно в нашей системе координат Солнце.
Владислав Гончаренко: Вот, мы можем дальше, да, мы можем дальше это всё дополнять. Это хорошо состыкуется, например, с тем, чем мы сейчас занимаемся на Физтехе. Мы год назад запустили такой курс по как раз Lean'у. Что мы делаем? Значит, люди взяли такой язык символьный и сказали: есть, например, свойства линейного пространства, скажем. То есть то, что мы можем линейную комбинацию составлять (ну, там умножать на элементы поля) и то, что мы можем вектора складывать, да, и прочие другие аксиомы. Вот каждую из них мы обозначили там A, B, C, D. И это в памяти компьютера хранится как вот такое утверждение. И в чём его суть? У нас есть, грубо говоря, две там «дырочки». Если мы хотим сложить два вектора, у нас есть две входные «дырочки» для векторов. Мы в них кладём два вектора, но как именно сущность — не как численное значение, а как сущность: «вектор скорости такой-то», а потом «вектор скорости другой». И они уже логически складываются через эту операцию. Вот. И возникает новая сущность, которая помнит, из чего она была сделана. И вот можно такой граф вычисления сделать. У нас [откашливается] же есть формальная система. И таким образом можем всё свести к аксиомам. Это то, чем вот пытались Бурбаки заниматься. Но обо что они разбились? Слишком нудно, слишком много... Ну то есть нужны квалифицированные люди, чтобы сидели...
Алексей Савватеев: И закорючки вот эти Бурбаков тяжело читать.
Владислав Гончаренко: Да! Вот просто закорючки — это, понимаете, это язык машины. Вот. А теперь у нас машина стала [откашливается] достаточно умной, чтобы самостоятельно уже делать эти операции. А мы только говорим, ну, верхнеуровневые вещи, которые нам понятны — то есть высокие правила вывода. Мы используем леммы: то есть мы доказали лемму с помощью вот этих выводов, и всё, мы дальше можем только лемму использовать. Не нужно переписывать весь этот текст, там 1000 строчек или сколько-то. Вот. И в этом смысле как раз программирование — оно сшивается с математикой в этом месте. А дальше происходит ещё один твист. Заключается он в следующем: приходят LLM-ки, и мы говорим: «А мне тяжело писать. Хорошо, я могу взять, я не знаю, там 50 студентов, каждому выдать небольшую лемму, пускай он сидит, ковыряет. Угу. Пускай они её перебивают вот в этот машинный вид».
Алексей Савватеев: Это некая работа.
Владислав Гончаренко: Но скорость такой штуки и объём доказанной математики на сегодняшний день довольно велик. Таким образом, мы что делаем? Мы берём ChatGPT, ну или там любого другого этого робота, и ему говорим: «Смотри, вот тебе дан скан учебника или там PDF-ка учебника, там написано LaTeX'ом, например. А, пожалуйста, теперь напиши вот в этой уже полностью формальной системе доказательство этого утверждения». Это вот то, чем сейчас мы занимаемся в научном отношении.
Алексей Савватеев: И он пишет, да?
Владислав Гончаренко: И он пишет! Ну, безусловно, там точность не 100% и так далее. То есть, ну, я не знаю, там теорему Вейерштрасса может доказать, теорему там Ферма Великую пока не может доказать. Ну, как говорится, идём. И здесь, на мой взгляд, ещё какой момент возникает. Сейчас же вот в отношении теоремы Ферма что плохо — что её верифицировало, по большому счёту, ну считанное количество людей.
Алексей Савватеев: Ну, это не вполне верно, это всё-таки очень много народу. Лично Сергей Горчинский вот приехал в Иркутск, я помню, а мы зафиксировали [откашливается] в двенадцатом, что ли, году или в тринадцатом — я его спросил, знает ли он доказательство теоремы Ферма. Он сказал: «Да, ну, в принципе, я разбирал, конечно». Но он там был редактором книги соответствующей — книги того самого Манина и Панчишкина, по-моему, авторы, «Введение в теорию чисел». Там седьмая глава просто посвящена полностью Великой теореме Ферма.
Владислав Гончаренко: Угу.
Алексей Савватеев: И мы зафиксировали, что в этот момент первый в мире человек приехал в Иркутск — ну, то есть впервые в Иркутске появился человек, который знает доказательство Великой теоремы Ферма! [смех] Но в этот момент в Москве уже было их полно, это уже там 13 лет назад или 14 было. То есть несомненно, что это, наверное, около 1000, ну, может быть, 500 человек знает прямо с доказательством нормально по пунктам, там не что-то страшное. Вот с Пуанкаре сложнее, как я понимаю, да.
Владислав Гончаренко: Да. Ну, тут чем ближе к фронтиру, тем сужается это.
Алексей Савватеев: Ну, так скажем, просто разные доказательства по-разному устроены. Сейчас вон там в пачечке лежит две статейки — это задача Эрдёша о равных расстояниях, опровергнута искусственным интеллектом буквально 2 недели назад.
Владислав Гончаренко: Да-да, вот такая вот веха, да, веха.
Алексей Савватеев: Вот я распечатал. Я не сказал бы, что это нельзя понять, но я ещё пока не разобрал, потому что нет времени. Ну, это так — это не теорема Ферма, это, видимо, проще. Видимо, проще. Но там много каких-то проверок, судя по всему, будет больших, которые связаны там с тонким знанием алгебраических чисел, там всякие башни расширений полей и прочее. Но это что-то как бы понятно, в какую сторону делалось, по крайней мере. Вот. Так что здесь не то что позже или раньше, а просто, ну, вот суть доказательства: там гипотеза Пуанкаре — она очень сложная, а суть там теоремы Ферма чуть, может быть, даже чуть проще, а это там вроде бы ещё проще, но это мы поглядим.
Владислав Гончаренко: Угу, да. Ну вот и смысл-то такой, что к наиболее современным результатам приходит там, ну, сперва там одна группа или один человек и так далее, потом какие-то люди это верифицируют, а здесь получается, у нас хотя бы верификация происходит с помощью машины. То есть, ну, если мы поверили в то, что там всё правильно формализовано, да?
Алексей Савватеев: Да. То есть один раз придётся поверить, что правильно формализовано.
Владислав Гончаренко: Ну, как сказать: достаточно проверить аксиомы и правила вывода, что они корректные, а дальше в целом, ну, как бы надёжность самих транзисторов — она весьма высока, это раз. И второе: мы же можем перепроверять, у нас есть в том числе параллельные системы...
Алексей Савватеев: То есть я имею в виду, вот в таких программах ChatGPT не решит соврать?
Владислав Гончаренко: В том-то и момент, что эта штука сейчас используется! Есть такая штука, как alignment, то есть типа приведение ответов моделей к удобоваримому для человека виду и приемлемому. То есть чтобы он не говорил, типа там, если человек спросит: «А как мне изготовить там что-нибудь плохое и ужасное?» Вот. А ему скажет: «Не-не, не надо тебе ужасное, давай ты лучше вот там, я не знаю, сделай домашнее задание». Да-да-да. И вот для этого как раз в искусственном интеллекте сейчас, чтобы тренировать всякие модельки, это тоже используется. То есть мы заставляем модельку начать думать формально. То есть мы ей говорим: «А ты не можешь теперь! То есть вот у тебя есть программа-верификатор...»
Алексей Савватеев: «...больше не ври!»
Владислав Гончаренко: Да, она тебе даёт забор, ты сквозь этот забор уже не пройдёшь. Всё. То есть ты можешь только вот этими категориями делать. И вот как раз...
Алексей Савватеев: Могу только подивиться! Что, кстати, в комментариях скажут по этому поводу, интересно, знатоки, потому что я-то ничего не понимаю в этом.
Владислав Гончаренко: Сейчас вот есть такой Теренс Тао, я не знаю — вот он как раз является достаточно большим апологетом всей этой истории. Он вот, в частности, участвовал, ну, отчасти в задаче Busy Beaver — такая есть. Смысл в чём: есть машина Тьюринга, и есть какое-то вот фиксированное количество команд, которое нам дано сейчас. Вот сейчас я могу использовать три команды. И вот какую самую длинную программу (ну, программу в смысле, что она завершается всё-таки) я смогу написать, используя только вот три символа, да?
Алексей Савватеев: Beaver — это бобёр?
Владислав Гончаренко: Бобёр. Типа «занятой бобёр».
Алексей Савватеев: «Занятой бобёр», да.
Владислав Гончаренко: Да. Так вот, смысл в том, что он там что-то такое делает, и он самый занятой из всех. Вот. И фишка в чём: там для этого Busy Beaver находили для, по-моему, трёх, четырёх и, по-моему, пяти. А вот для шести и далее — там уже были проблемы, просто потому что комбинаторный взрыв происходит. Угу. И, ну, уже очень сложно это всё сделать. А что они делали? А они вот так формально доказывали, что если мы какое-то количество шагов сделали, то остаточек, сколько бы мы ни делали (ну, типа по дереву вот этих команд), остаточек уже будет маленький, поэтому мы всю 1000 вариантов не будем проверять. Вот. И они сколько-то веточек проверили, но они это делали именно формально, то есть именно вот на Lean'е, и смогли это доказать.
Алексей Савватеев: Слушай, ну в принципе я могу напомнить про доказательство задачи о четырёх красках, которое было получено компьютерным перебором тысячи случаев 50 лет назад.
Владислав Гончаренко: Угу, да.
Алексей Савватеев: Ровно, кстати, вот здесь. То есть, в принципе, это всё уже было, да? Это было. И тогда, кстати, был большой спор вообще: можно ли это засчитать, если человек не может это сам разобрать? Если 1000 случаев — человек, ну кто будет сидеть проверять? Непонятно, никто не будет. И люди одни говорили, что круто, доказала машина, впервые в истории что-то доказала машина. А другие говорили: «Ну это мы не можем засчитать за доказательство, это ненормально считать доказательством. Вот когда мы сами придумаем простое, тогда и будет доказательство». То есть тогда был такой вот переломный момент этого философского спора. Сейчас тем более, да: то есть искусственный интеллект по просьбе нескольких учёных выдаёт, что «а вы зря пытаетесь доказать гипотезу Эрдёша, она на самом деле неверна по факту, да? И вот вам конструкция». И вот как это сказать, кто это придумал? Тот, кто задал ему эту задачу, или тот, кто внутри машины сидит? Да, как у этого самого Высоцкого была песня «Як-истребитель»:
Я — «Як»-истребитель, мотор мой звенит,
Небо — моя обитель,
Но тот, который во мне сидит,
Считает, что он — истребитель.
Алексей Савватеев: Вот. И там такая песня про это очень классная, очень на сегодня актуальная. Вот это вот: кто сидит за рулём искусственного интеллекта — он ли является автором доказательства, если он правильный задал вопрос? Я думаю, что да. А наверняка какой-нибудь там придёт прогрессист и скажет: «Нет, это всё нужно компьютеру приписывать авторство, и вообще у него есть права, у этого искусственного интеллекта, давайте их уважать». Ну, это, я надеюсь, что мы до этого не доживём.
Владислав Гончаренко: Не, ну где-то это, вероятно, произойдёт, но будем надеяться, что по возможности не у нас пока, да. Просто мы считаем, что есть некоторая общая технология, да...
Алексей Савватеев: Ну, грубо говоря, там большой экскаватор, и если я сел за него и выкопал яму 3 метра — это я выкопал яму 3 метра, хоть я лопатой и не копал.
Владислав Гончаренко: Да-да-да. Но тут я думаю, что про это ещё там Ролан Барт же у нас писал про «смерть автора»: что вот в лингвистическом повороте вот этом вот в XX веке как бы оказалось, что, грубо говоря, все там таблоиды пишут одно и то же, да, и типа кто там автор? А никто, типа вот такой коллективный автор. То есть как бы с философской точки зрения люди подобным задавались, но мне [откашливается] кажется, я вот на это как смотрю: что у нас есть объективные достижения. Вот типа того, что мы можем, я не знаю, там что-нибудь построить — какую-нибудь ракету. Вот чтобы построить ракету, нужно знать там газодинамику, поля там. Понятно, что это такие инженерные штуки, но чтобы инженерные штуки случились на каком-то уровне, нужно знать математику на определённом. То есть её не знать — ну не получится просто никак. Вот. И то, что мы имеем фактические достижения, это верифицирует то, что мы обладаем этим знанием. А уж как мы его сделали — ну вот как-то, потому что это всё...
Алексей Савватеев: Да, можно вообще исходить из средневековой схоластики, когда говорилось, что все достижения принадлежат Господу Богу, вот, а человек просто их как бы, да, через человека Он доносит. Причём непонятно через что, потому что, как говорится, яблоко тоже на голову упало — вот как оно, яблоко, оно же тоже участвовало некоторым образом в процессе!
Владислав Гончаренко: Да. Вот таким образом. Так вот, да, такая вот интересная история. Вот так вот примерно мы стараемся как раз на вот кафедре машинного обучения двигать науку по чуть-чуть. Вот. А интересно ещё поговорить про ИИ и образование, потому что вот эта вся история...
Алексей Савватеев: Тяжёлая история на данный момент. ИИ наносит катастрофический урон образованию, прямо...
Владислав Гончаренко: Однозначно могу сказать, что это непростой вызов. Вот я бы какие-то пункты сформулировал, вот из которых можно исходить — такие, знаете, аксиомы. То есть оно никуда не уйдёт — пункт первый. То есть всё.
Алексей Савватеев: Ну давай начнём. Значит, давай начнём с того, что пункт один состоит в том, что списывать стало легче.
Владислав Гончаренко: Да.
Алексей Савватеев: Вот. Но это не приговор — раньше тоже люди списывали. То есть я не считаю, что здесь есть приговоры какие-то. А типа «оно никуда не уйдёт» — я бы это оспорил. Я думаю, что в будущем эволюционно победят те образовательные проекты, где будет просто запрещено, грубо говоря, ну, электричество. Ну, электричество ладно, но, по крайней мере, сотовая связь. Ну, то есть интернет, связь — всё будет запрещено. То есть ты входишь в зал учебный и попадаешь сразу в XVIII или XIX век.
Владислав Гончаренко: Угу.
Алексей Савватеев: И вот оттуда будут выходить люди, которые будут именно достаточно образованны, чтобы руководить в том числе искусственным интеллектом и вообще чтобы в этом мире как-то удачно жить.
Владислав Гончаренко: Ну и разбираться, да.
Алексей Савватеев: Разбираться, да. А в остальных местах просто будет полная профанация и деградация. Но ещё есть какие-то места, где принято учиться — просто принято, и всё. Там не надо выключать интернет: ну, там в какой-нибудь 57-й школе или 179-й. Ну, ты списал с помощью ИИ — учитель это вычислил, вызвав тебя к доске, и пару раз поставил, влепил «двояк», ещё и опозорил на весь класс. И вот уже нет желания дома делать с помощью ИИ, понимаешь? То есть я бы не говорил, что это приговор и «это с нами навсегда». То есть оно, конечно, с нами навсегда, как любая технология, но мы же не тащим, я извиняюсь, там в классный кабинет экскаватор только потому, что его придумали.
Владислав Гончаренко: Ну да, да, естественно.
Алексей Савватеев: То есть в классе должен быть тот набор инструментов, который адекватен поставленной цели — научить школьников либо студентов.
Владислав Гончаренко: Ну да.
Алексей Савватеев: И вот вопрос: присутствует ли в наборе инструментов искусственный интеллект? Это вопрос очень спорный. На данный момент я бы дал ответ: нет.
Владислав Гончаренко: Угу.
Алексей Савватеев: Разумеется, я знаю всякие примеры, когда с помощью искусственного интеллекта школьники учатся, но в большинстве своём это касается индивидуальной учёбы. Я не видел хороших примеров работы в классе — вот именно в классе, когда приходит учитель. Но я говорю про школу. Про вуз ты сейчас сам скажешь, наверное, что скажешь в вузе. Потому что про школу, в общем... ну, там сейчас идёт истерия просто: «внедрите всё, что хотите, не знаю что, когда — как можно скорее, не знаю что — это ваше дело что, главное внедрите!». Вот там у Сбера есть какие-то разработки, их начинают смотреть — там учителя просто фыркают и хохочут в лицо, что это просто полный бред, совершенно ненужный в учебном процессе. Но его навязывают, в том числе и через колено навязывают — вот это всё надо, что называется, вот это всё надо остановить, да. А факт тот, что искусственный интеллект в каком-то смысле может помочь школьнику, очевиден. И уже как бы у «Алисы» прилежные школьники вопросы задают. То есть если раньше Юра приходил ко мне и спрашивал, какая скорость света, я ему отвечал, то сейчас он может спросить у «Алисы», какая скорость света, и она ему ответит. То есть польза, несомненно, есть. И более того, значит, если школьник очень прилежный, то делать домашнее задание с намёками может оказаться даже лучше.
Владислав Гончаренко: Угу.
Алексей Савватеев: Ну, то есть ты сидишь, и типа чуть-чуть тебе намекает. Но как эту грань выдержать, при которой он за тебя начинает её делать? Это вопрос на сегодня нерешённый. И, в общем, как бы те школы, которые просто запрещают, я думаю, что в этой конкуренции победят, да. В текущий момент они выиграют точно.
Владислав Гончаренко: Ну, я согласен вот насчёт того, что людям нужно развивать собственный интеллект, как ни странно. Вот какой бы там ни был «машинный бог», значит, всё равно свой интеллект ничего не заменит. Иначе ты не задашь вопрос искусственному интеллекту так, как ты на самом деле должен его задать. То есть то, что ты хочешь, ты просто не узнаешь, ты не сможешь это сформулировать.
Алексей Савватеев: Всё так, вот.
Владислав Гончаренко: Хорошо по этому поводу Андрей Карпатый высказался...
Алексей Савватеев: Что это за Карпатый?
Владислав Гончаренко: Это Андрей Карпатый (Andrej Karpathy), он какое-то время был в OpenAI, в Tesla был директором по AI и всё такое прочее. Довольно известный персонаж, он курсов много делал и сейчас делает. В общем...
Алексей Савватеев: Я, да, я слышал только про Курпатова. Очень такого тоже известного человека.
Владислав Гончаренко: Угу. Вот. Но он известен вот в русских кругах ограниченных людей, как мы любим.
Алексей Савватеев: Я даже думал, что там опечатка, когда написано «по словам Андрея Карпатого» — я был уверен, что имеется в виду Курпатов!
Владислав Гончаренко: А, нет-нет! [смех] Так вот, он участвовал в самом первом буме вот нейронных сетей, там в 2012 году и так далее, и вот с тех пор он на волне. Ну, в общем, смысл такой, что человек известный. И он недавно сказал в одном из своих интервью, что вы можете передать машине рассуждение — это вот то, о чём мы говорили в первой части (то есть просто построение, что из A следует B, и если из B следует C, то из A следует C). Вот именно делегировать рассуждение: вы можете делегировать машине рассуждение, это возможно, и это работает, и это эффективно, но вы не можете делегировать машине понимание.
Алексей Савватеев: Ну да. Вот это очень чётко, да, очень ёмко. Потому что когда приходит школьник и говорит: «Вот вам задание домашнее, я вам его сдал. Почему вы мне ставите два? Я же вам формально всё сдал!» А ставит два учитель, потому что он не может у доски даже намекнуть на это — то есть он не понимает ничего, он просто загрузил и списал.
Владислав Гончаренко: Это то, с чем я тоже сталкиваюсь — ну, уже в университете, но всё то же самое, да. Вот. И вот это как раз главная проблема действительно: где вот поймать эту грань. И вот с точки зрения вузовского образования я могу дополнить здесь, что в школе группы всё же меньше и больше индивидуальной работы...
Алексей Савватеев: Ну, это имеется в виду по сравнению с лекционными.
Владислав Гончаренко: Да, по сравнению с лекционными. Тут ещё момент какой: сейчас ребята после ковида — то есть сейчас уже учится поколение в бакалавриате, магистратуре, которое было в ковид, которое пережило ковид, привыкло уже больше в онлайне быть. То есть всё-таки нужно констатировать такой факт, что в большей степени всё-таки люди, значит, не посещают такие занятия, тем более что записи в большей степени есть.
Алексей Савватеев: По крайней мере, мне кажется, второе важно. Я не видел, чтобы это было связано с ковидом. С ковидом связано проседание уровня вот в этот год ровно и проседание мотивации. А то, что в онлайн привычка — она постепенно, мне кажется, не было какого-то вот конкретного ковидного всплеска. Скорее, когда появились записи курсов в интернете, многие ребята перестали на них ходить.
Владислав Гончаренко: Ну, я понимаю, ну это всё просто скоррелировано там, да.
Алексей Савватеев: Я прогуливал и разбирал там — когда я прогуливал в университете, я разбирал потом по аккуратным запискам моих одногруппниц, которым потом объяснял, что там написано.
Владислав Гончаренко: Ну да, вот у неё же! Угу.
Алексей Савватеев: Но сейчас это даже не нужно делать: ты включаешь, да, если ты умный действительно...
Владислав Гончаренко: Много, ну, вопросов, вопросов... То есть как бы здесь предполагается уже довольно серьёзная интеллектуальная нагруженность, так сказать, персонажа, который эти курсы изучает. То есть в чём проблема онлайн-курсов? Ну, самая главная проблема онлайн-курсов — это невозможность задать вопрос. Отсутствие обратной связи.
Алексей Савватеев: Отсутствие обратной связи. Если это вебинар, то проблема другая: что у нас есть такой чёткий импринтинг, что такое лекция и общение. И мы привыкли видеть человека вот так [вживую]. И когда мы видим его вот так [на экране], что-то теряется. Теряется, да, вот именно. И труднообъяснимая часть, почему мы на концерты всё-таки ходим, а не слушаем [только в записи]. Вон я же могу включить сюда там кого-нибудь из моих любимых, на которых мы на концерты ходили, да? А он с экрана блёклый.
Владислав Гончаренко: Угу.
Алексей Савватеев: Вот. Но, по крайней мере, на вебинаре есть техническая возможность задать вопрос, да. Вебинар — вот я очень много над этим думаю: почему вебинары мы ощущаем как что-то неполное, что-то вот кастрированное, да? Потому что нет «общего знания» присутствия всех здесь. Вот как бы в вебинаре есть обратная связь, в принципе, теоретически, конечно, если есть хороший интернет. Но всё равно это как бы нет вот этой группы лиц, сидящей и видящей все друг друга одновременно, да? То есть вебинар — это граф «звезда», а зал и лекции — это полный граф, это клика. И вот это огромная разница, очень важная. Но если мы идём дальше к онлайн-записи, то здесь теряется и следующее, а именно возможность обратной связи. То есть это уже только для гениев. Ну вот просто реально там 2–3%, в школе — точно не больше.
Владислав Гончаренко: Не, ну в школе да, в университете, я думаю, больше, просто потому что люди взрослее. Но...
Алексей Савватеев: Ну да-да-да. И потом Физтех — это незаурядный вуз. То есть если ты придёшь в вуз там города N, даже самый лучший вуз, ты обнаружишь, что они не понимают просто того, что они смотрят. Ну просто ничего не понимают. И там только лекции, да и то там на самом деле настолько всё в основном плохо, что в каждом университете живёт там группка из 10–20 человек, которые как-то учатся, потому что они просто на это заряжены. Остальное — это просто...
Владислав Гончаренко: Да, это если они не уедут потом в магистратуру вот как раз куда-нибудь на Физтех или куда-нибудь ещё.
Алексей Савватеев: Дай бог, если на Физтех! А ведь есть же ещё соблазны за пределами нашей Родины.
Владислав Гончаренко: В том числе.
Алексей Савватеев: И тогда совсем будет для Родины плохо.
Владислав Гончаренко: Вот. Но на самом деле хочу внести какую-то позитивную ноту в эту всю обстановку. На самом деле, если говорить про искусственный интеллект в образовании, то действительно, вот мы упоминали грань, которую можно поймать. И что сейчас? А сейчас, на самом деле, есть там банальная идея: давай, значит, искусственный интеллект тебя покоучит на какую-то тему, на какой-то предмет. Например, просмотрел человек лекцию, и я как преподаватель загружаю в вот этого робота материалы этой лекции, я даю комментарии сам там, где я знаю, где подсветить, где обычно слабые места. И этот робот начинает спрашивать человека. Безусловно, это держится на какой-то такой добровольной штуке, потому что тут легко считерить, то есть легко, в принципе, списать, да, но мы переходим от статических заданий, где вот у каждого там есть листок (безусловно, есть там задачник с тысячей задач и всё такое), но здесь позитивная идея состоит в том, чтобы индивидуально это дело подстраивать. Потому что человек, во-первых, формулирует свои мысли в ответ роботу самостоятельно. Вот это — мы тоже теорией педагогики в какой-то момент озаботились — и там это называется active recall, ну, типа активное повторение, да, то есть самостоятельное воспроизведение. Вот это самое важное, что происходит, если ориентироваться на исследования существующие. И человек сам пишет ответ так, как он понимает, а ему робот подсказывает вот в этом моменте — какого-никакого персонального такого учителя.
Алексей Савватеев: А существуют ли эксперименты, которые проводились в каких-то...
Владислав Гончаренко: Вот именно с такой постановкой — ну, ещё скорее нет, чем да...
Алексей Савватеев: Дело в том, что мы можем много чего хотеть от образования, и этого всегда кто-то много хотел. Там 70 лет назад возникла идея, что школа разрушится, потому что есть телевизор, и по нему будут просто транслировать в 9 утра всем на весь Советский Союз или на всю Америку, да. Там даже есть прекрасный рассказ — фамилию забыл, по-моему, фамилия совпадает с фамилией одного из авторов Jesus Christ Superstar, Ллойд [Биггл-младший], что ли, в шестьдесят втором году, по-моему, написал, «Какая прекрасная школа!» называется. И там вот как бы он как будто на машину времени сел, потому что он пишет про ситуацию, когда всё уже через экран, и учитель считается хорошим, если он долго держит внимание школьников.
Владислав Гончаренко: Угу, да.
Алексей Савватеев: Ну и ты догадываешься, что происходит: приходит юная математичка в 25 лет и снимает лифчик! [смех]
Владислав Гончаренко: Ну, мы это называем ласковым словом edutainment — развлечение и образование.
Алексей Савватеев: Шикарный просто, да! И он как бы настолько жестоко подсвечивает всё то, что мы теперь увидели, особенно в ковид. И как бы когда мы мечтаем об этом — вот мечтаем, чтобы сократить расходы на образование, потому что будет единый учитель для всей страны, мечтаем, чтобы искусственный интеллект дал каких-то помощников — мы всегда о чём-то мечтаем, а когда начинает проверяться на практике, оказывается, что это не работает, и работает живой учитель в живом классе. Ну, на уровне школы. На уровне студентов ничего не скажу, потому что не знаю, не видел, ничего не видел. Но суть в том, что педагогический эксперимент — это штука очень тонкая. Во-первых, двойной слепой должен быть, а это практически невозможно. То есть, ну вот в медицине есть двойной слепой — ты просто не знаешь, с какой стороны ты участвуешь. А здесь как ты можешь не знать?
Владислав Гончаренко: Ну вообще вполне, да...
Алексей Савватеев: Вот, значит, «эффект Вани Ященко» — я не помню, где он взял, но очень меня убедил он. Он говорит, что любой педагогический эксперимент, который даёт меньше 15% роста эффективности, можно выкидывать на помойку. Потому что те, кто участвует на стороне прогресса (вот, ну, как бы там вот всегда есть группа, которая старым методом учится, и группа, которая новым) — те, которые в новом, всегда воодушевлены: они в этом эксперименте участвуют, и они начинают лучше учиться только поэтому!
Владислав Гончаренко: Не, ну можно придумать: тупого бота поставлю — тупенького бота.
Алексей Савватеев: Ну, может быть. Ну, в общем, об этом надо думать.
Владислав Гончаренко: Но это действительно нетривиальный вопрос.
Алексей Савватеев: Это очень сложный вопрос. На данный момент доказательств нет, но все орут о том, что это будет. То есть вот это очень прикольно, что все говорят про «индивидуальные траектории», да? При этом никаких доказательств, что они как-то будут работать, не существует. Но все уже говорят, что это обязательно надо делать, и уже в программах там министерств пишут: «Обязательно переходите, отметьте, какой процент». Как обычно, вот дрянь...
Владислав Гончаренко: Да-да-да. Не, я вот здесь захожу всё-таки не со стороны оптимизации. Вот я не смотрю на это как на оптимизацию, если честно, я смотрю на это как на дополнение.
Алексей Савватеев: Как на дополнение можно всегда — что угодно можно использовать как дополнение.
Владислав Гончаренко: Просто вопрос в том, чтобы более детально дать людям возможность проникнуть в это, да, и просто больше инструментов. Почему я об этом говорю? Потому что я являюсь таким вот пользователем этой системы. То есть я буквально при там подготовке занятий и так далее: у меня есть своё представление, и я, исходя из каких-то самых общих, наиболее общих, которые я могу сформулировать, подходов, говорю: «Смотри, а теперь выдай мне картину, которую ты знаешь». Ставлю максимальную возможность думать, максимальное время, чтобы он там это всё обрабатывал. И он мне выдаёт свой результат — там обычно где-то там пять страничек А4, что-то в таком духе. Ну вот я так ему заказываю примерно. И потом я это читаю, и я смотрю: так, тут совпадает, совпадает, совпадает. Я его, естественно, прошу со всеми ссылками там, все дела это делать, чтобы он не галлюцинировал — в принципе, это в основном получается. И дальше я проверяю, что у меня вот достаточно целостное впечатление. И в тот момент, когда я понимаю, что моё понимание глубже и детальней, я говорю себе: «Всё хорошо, можно об этом рассказывать людям». Вот. Потому что я как бы знаю вот какую-то штуку и знаю дорожки туда-сюда, пятое-десятое, всё хорошо. Вот. Но с другой стороны, здесь преподаватель... мне кажется, вот эта вот грань между одним и другим, она начинает стираться, потому что у каждого есть...
Алексей Савватеев: Мотивация! Мотивация. Грань — это мотивация. Преподаватель, как правило, всё-таки мотивирован сильнее гораздо, чем студент...
Владислав Гончаренко: Не, я имею в виду в плане именно вот возможности и того, куда человек может добежать.
Алексей Савватеев: Как бы учителя в школе очень хорошо используют ИИ для размножения контрольных. И это действительно срабатывает, да. Ну, то есть ты берёшь — и 20 контрольных, для каждого ребёнка у тебя своя. Попробуй спиши! Да-да-да. То есть такие вот как бы добросовестные учителя уже давно используют искусственный интеллект, им не нужны никакие помощники там от Грефа или Яндекса. Они прекрасно сами как бы это используют. Но это вопрос как бы, что мы вообще с каждым годом, конечно, имеем всё больший арсенал разных видов учебных пособий и вообще разного вида — что называется, прогресс не остановить, он идёт. И у нас очень много разных новых прибамбасов там и примочек, и это совершенно понятно, и слава тебе, Господи, что это есть — вон мультимедийные учебники появляются. Вот как бы это прикольная штука, но опять же проблема: она работает, конечно, очень хорошо, но только для школьников, которые мотивированы.
Владислав Гончаренко: Ну да.
Алексей Савватеев: Очень хорошо работает! То есть школьник мотивированный садится и по нему учится, и учит очень хорошо. Но это очень редкая история — это там опять же 1, 2–3%, но это наши вот оценки, мы не знаем на самом деле сколько, но очень мало, это факт. И как приятно заниматься с мотивированными — это просто одно удовольствие, да. Вот Физтех — вуз там, в котором можно провести любой педагогический эксперимент, и можно гарантировать, что он приведёт к отличному результату.
Владислав Гончаренко: Ну да.
Алексей Савватеев: Вот. Но нельзя на этом основании делать никаких выводов! Тут вот мне один, да, физтеховский преподаватель гордился, что он дал на Физтехе задание тридцатилетней давности, ещё доегэшной поры, и нынешние прекрасно его раздолбали. Но это говорит лишь о том, что в нынешних условиях на Физтех ещё больше конкурс в силу того, что всё меньше и меньше нормальных вузов, и студенты на Физтехе всё сильнее и сильнее. И я очень счастлив за них и рад, но не более чем! [смех]
Владислав Гончаренко: Да-да, я тут, к сожалению, не могу не согласиться, не более чем. [смех] [тяжело вздыхает]
Алексей Савватеев: Ничего сверх того, как говорится. И поэтому мы либо как бы — ну, любой разговор про искусственный интеллект и его помощников или что-то вообще, какие-то технологии — мы должны определиться, что мы сообщаем нашим слушателям: что есть прикольные помощники, которых не было вчера? Ну хорошо, может, кто-нибудь это узнает и поймёт. Или что надо что-то сделать с образованием, потому что оно сегодня неэффективно? Вот когда есть такой заход, он сразу идёт в тупик всегда.
Владислав Гончаренко: Да-да.
Алексей Савватеев: Вот просто вообще всегда, никогда не видел контрпримера, вообще ни разу. Вот поэтому как бы, ребята, знакомьтесь, конечно, используйте искусственный интеллект так, как вам нравится. Более того, школьники, которые с помощью него учатся — пусть учатся спокойно, если им это нравится. Вот. Ну а как бы что касается образования, то какие-либо меры воздействия любые должны проходить через там многократное апробирование, самое строгое оценивание и так далее. Дефолтная ситуация всегда должна оставаться одной: учитель и класс. Классно-урочная система, традиционные школы — как четыре века назад, так и сейчас. То есть Ян Амос Коменский как бы навсегда.
Владислав Гончаренко: Ну вот, собственно, да. Что ещё обсудим? Или мы в целом всё обсудили?
Алексей Савватеев: Да, наверное, в принципе всё. В принципе всё. Тогда я хочу пожелать всем, так сказать, самых разных способов получения образования этим летом: кто через интернет-курсы, кто через искусственный интеллект, кто на какие-нибудь живые курсы может ходить. Лето — всегда время самообразования, вот для меня, по крайней мере: я там в том году лекции по эволюции читал, по эволюционной биологии смотрел и изучал. Вот что в этом году буду делать, пока ещё не знаю, но планирую попробовать поднять теорию чисел, чтобы разобраться — хотя бы частично разобраться — в том, что сделал искусственный интеллект с задачей Эрдёша о равных расстояниях, да. Вот. Ну и всем тоже желаю как бы лето не тратить даром, но не забывайте и про физкультуру и спорт! Как говорится, без «Физкульт-привета» не существует «Маткульт-привета»!
Владислав Гончаренко: Это справедливо. Да, лето действительно прекрасная пора, и я тоже стараюсь образовываться летом и расширять свой кругозор. Вот. Также могу пригласить к нам и на Физтех поступать — к нам на кафедру машинного обучения и к нам в магистерскую программу MSAI...
Алексей Савватеев: Это там, где я веду, или нет?
Владислав Гончаренко: Это соседняя. У нас ещё есть другая, где мы только про искусственный интеллект, потому что у нас есть вот «Искусственный интеллект и интердисциплинарные исследования»...
Алексей Савватеев: Это и есть латинскими [MSAI], да? Там, значит, вот... Ну, я вот его не преподаю и даже не проходил. Вот.
Владислав Гончаренко: А, и всё. То есть это мы пытаемся технологии применить вот к самым классическим вещам и получить вот людей, которые с разных сторон. Вот. А у нас ещё есть другая программа, где мы готовим уже ML-инженеров — то есть более, да, более такая практически ориентированная штука. Но там мы по вот этой сфере проходимся достаточно глубоко с тем, чтобы, например, там в том числе и статьи писать, в том числе и идти работать в самые лучшие компании и так далее, и так далее.
Алексей Савватеев: Да, приходите кто куда! Ну а у меня будет очередной, значит, вот сейчас осенью очередной раунд лекций в этой самой магистратуре по теории игр. Как я понял, лекции называются «Теория игр», на самом деле они включают две части — я называю этот курс условно «Культурным минимумом по математике». То есть вторая часть — действительно теория игр, с основными концепциями там знакомлю. А первая часть называется «Величайшие задачи математики» — решённые, нерешённые (ну, там всякие, в основном про нерешённые, но про решённые тоже часть есть). Вот. То есть я знакомлю просто вот с тем, как развивалась математика, какие задачи ставила. Такая как бы история математики, но не сухая, а прямо с самой математикой, встроенной внутрь.
Владислав Гончаренко: Да, это круто.
Алексей Савватеев: Вот, так что вот так. Всех ждём!
Владислав Гончаренко: Спасибо!
Алексей Савватеев: Приходите в гости к нам! Да, как там песенка эта? Забыл мелодию: «Приходите в гости к нам... Кот — он всё расскажет вам...» — что-то такое, песня есть такая. Ладно, всем пока! Маткульт-пока! До новых встреч!
