Школьников с Русланом Макаровым: Диалоги о будущем

Ниже есть транскрипция текста.
Ниже есть продолжение.

Руслан: Добрый день, дорогие друзья! Мы снова с вами в «Диалогах о будущем», и вместе с Андреем Юрьевичем Школьниковым мы сегодня затронем такую непростую тему, как принципы цифровизации сегодняшнего времени, цифровизации всего мирового сообщества и того, что происходит с человечеством. Андрей Юрьевич, здравствуй!

Андрей Школьников: День добрый!

Руслан: Смотри, с моей точки зрения, в последнее время образовалось две проблемы, и ты их объединяешь одним тезисом, мне это нравится. Первая проблема чисто техническая: заявления власть предержащих и разного рода людей, которые говорят о том, что они всё понимают в гигантском развитии искусственного интеллекта в Российской Федерации, не соответствуют технологической реальности. То есть на сегодняшний день у нас на ближайшее время систем машинного обучения собственного российского (в рамках пресловутого технологического суверенитета) не предвидится. У нас просто нет ЦОДов (центров обработки данных) для этой истории.
А второе — это то, что в понимании нейросетей возникает ментальная потерянность, которая выражается в том же самом «цифровом фашизме». Люди просто не понимают, что словосочетание «искусственный интеллект» — это просто инструмент, это просто машинное обучение, а не самоцель. Давай об этом поговорим, у публики есть запрос услышать наше с тобой мнение.

Андрей Школьников: Первое, с чего мы должны начать разговор, — это с понимания, что есть цели сами по себе, а есть промежуточные. Всё, что у нас сейчас есть — это нейросети, а не искусственный интеллект. Давай называть это точно в терминах. Интеллект — это на несколько порядков более сложная система. Это не на один порядок, не в 10 раз, это совершенно иная техническая база.
Это всё равно что пытаться на условном языке программирования BASIC создавать сложные системы с полной уверенностью, что раз ты понимаешь функционал, то всё можешь сделать. А потом выясняется, что ничего подобного. Каждому инструменту — своё. Если ты с маленькой детской лопаткой для песочницы планируешь вырыть Панамский канал, то это нереально.

Далее. В 2024 году был подписан замечательный указ Владимира Путина о научно-техническом, устойчивом, опережающем развитии. Мы должны всегда, когда говорим о технологиях, исходить из устойчивости и опережения будущего. Появляется понятный порядок: фундаментальная наука, прикладная наука, инженерные задачи, техническая продукция, производство, конечное потребление. Но сейчас мы говорим только о последнем, игнорируя всё остальное. Мы говорим о технологиях, которые являются лишь «хвостом» пятого технологического уклада.

Руслан: Согласен.

Андрей Школьников: Нейросети — это даже не уклад «5++». «5++» — это были бы технологии виртуальных вселенных, которые очень серьезно меняли бы жизнь, но от которых, слава богу, мы отказались, поскольку надо переходить в следующий уклад. Следующий уклад — это диалектическое отрицание всех предыдущих укладов. Точно так же, как постиндустриальная экономика на микроэлектронике стала диалектическим отрицанием индустриального производства. Если сравнить агропромышленный комплекс в XIX веке и то, что есть сейчас — это две большие разницы. Урожайность выросла кратно. Когда едете по России, посмотрите, сколько заросших полей, а потом посмотрите на сборы зерновых в сравнении с советским периодом. Кратного увеличения урожайности хватает для того, чтобы сажать меньше, просто потому, что нет необходимости в таких площадях.

Руслан: Но даже этот аспект относится к процессам цифровизации. Потому что один из главных вопросов сегодня — это учёт и качество земельного мониторинга через системы дронов, нейросетевое моделирование и аналитика состояния земли.

Андрей Школьников: Да, цифровизация — это инфраструктура будущего. Так же, как электрификация когда-то была инфраструктурой. Так же, как железные дороги. Цифра выступает как инфраструктура для того, что будет технологичным флагманом впереди (а это аддитивные технологии, роботизация, биотех, ядерные технологии). Цифра перестает быть авангардом развития и становится обязательной базой, без которой ничего не построишь. Поэтому, когда нам говорят: «нам нужны вычислительные мощности», нужно спрашивать: «Ребята, для чего конкретно? Что вы собираетесь делать?». По-хорошему, весь процесс должен быть планово описан.
Когда у нас начинают рассуждать, что «квантовые компьютеры будут в каждом доме», у меня волосы дыбом встают! Я говорю: вы сдурели? Вы что с ними дома делать будете? Квантовый компьютер — это как гиперзвуковое оружие: замечательная, нужная технология, но она промежуточная и стратегическая, она не входит в жизнь каждого. Квантовые компьютеры будут шикарны, когда мы начнем заниматься биотехом, обсчитывать биосистемы, клетки, ткани — вот там они будут идеальны.

Руслан: Да, и Big Data совсем другого порядка. И ещё мало того, сам блокчейн и крипта оказались уязвимы под квантовые вычисления.

Андрей Школьников: Ну конечно, там же лежат открытые системы шифрования, в основе которых разделение числа на простые множители.

Руслан: Андрей, то, что ты только что сказал, умножается ещё и на то, что обычный пользователь получает какую-то искаженную информацию. Ему кажется, что планета летит в какой-то бешеный «искусственный интеллект». Плюс, люди находятся в медиа-поле, где продукты от OpenAI, DeepSeek генерируют тексты, картинки и видео, и обыватели думают, что в этом и есть суть ИИ. Но ведь глобальная разработка нейросетей (уровня вычислений Anthropic или Palantir) — это параметрически другие измерения. Это как сравнивать космос и жизнь насекомых!

Андрей Школьников: Абсолютно. Вычислительных мощностей наших смартфонов хватило бы, чтобы обслуживать полет до границ Солнечной системы. Но мы занимаемся хренью — тратим эти мощности на котиков, игрушки. Мы отказались от прорывных вещей ради примитивного удовольствия в сегодняшнем дне.

Нейросети удобны лишь как ограниченный помощник-секретарь, которому можно поставить простую задачу, а потом ты обязан за ним всё проверить. Как только ты даешь сложную задачу — там ступор и генерация полного бреда.

Руслан: Добавлю: когда мы говорим, что нам нужны боевые нейросети для оборонных решений, у нас на это «нет мощностей». Зато 62% мирового интернет-трафика — это просмотр порно! Вот тебе и ответ. Мы хотим одного, а из-за собственного потребительского отношения получаем другое.

Андрей Школьников: Да. Раньше как было? Появляется технология — мы отправляем ее на стратегические/военные цели, закрываем секретом, и она постепенно, в обкатанном виде, проникает в мир. А сейчас мы сразу всё вываливаем в открытый мир и поганим технологию.

Представь, если бы нейросети 10 лет жили в секретности, для стратегических целей, и обучались только на чистом, верифицированном людьми материале (с запретом лезть во всякую мусорную Википедию). Они работали бы прекрасно! Процент бреда был бы минимальным.

А сейчас это выплеснулось в мир. Нейросети генерят тексты для кого попало, тексты попадают в сеть, происходит «самоопыление» и самообучение ИИ на собственном же сгенерированном мусоре. Начинается вырождение системы из-за отсутствия притока «свежей крови». Любой селекционер скажет: 4-5 поколений близкородственного скрещивания — и порода вырождается. Посмотрите, что творится с некоторыми породами собак.

Руслан: Ты прав. Если не подходить к этому профессионально, то сеть, обучаясь на собственных галлюцинациях, приходит к деградации.

Андрей Школьников: Мы с тобой начали с понятия «цифровой концлагерь». Так вот, давай скажем спасибо идиотам, которые ввели нейросети в коммерческий оборот слишком рано! Они, по сути, уничтожили этот инструмент контроля. Они влили в обучающие базы данных такое количество мусора и «галлюциногенов», что сейчас использовать ИИ для тотального управления реально невозможно.

Эту базу уже не очистить! Вся информация человечества замусорена ИИ-генерацией. Попытка добиться быстрой коммерциализации убила главный инструмент будущего «цифрового концлагеря». Большое спасибо, товарищи жадные буржуины! Вы угробили микроскоп, начав забивать им гвозди. Сломали точнейший станок. Молодцы!

Руслан: Резюмируя: друзья, нельзя формировать мнение о цифровизации из того хайпа, что льется с экранов. Это очень сложный процесс. Когда кто-то кричит о прорывах искусственного интеллекта в ближайшие год-два — не верьте. И относитесь спокойно к тому, что вам вещают медиаманипуляторы. Спасибо тебе, Андрей, но нельзя относиться к технологиям, как к сказке про Иванушку и щуку, где всё решается по волшебству.

Андрей Школьников: Руслан, про Емелю.

Руслан: А, да, Емелю! Иванушка был дурачок, а Емеля с щукой.

Андрей Школьников: Да. И самое важное: тупое коммерческое использование убило идеальный инструмент контроля. Как было у Левши: «Не чистите ружья кирпичом!». А корпорации свои ружья кирпичом почистили. Очистили всю оружейную смазку — ружье теперь блестит, но стрелять перестало. Зато девочкам-блогершам радость — картинки генерировать.

Руслан: Спасибо за глубокое мнение, Андрей Юрьевич. Это действительно общецивилизационные проблемы. Всего доброго, друзья!

Андрей Школьников: Всего доброго!