BRAIn Lab на ICML 2026: статьи, воркшопы и новые научные контакты
Команда BRAIn Lab побывала в Сеуле на ICML 2026, одной из крупнейших международных конференций в области машинного обучения. В этом году мероприятие собрало тысячи исследователей, инженеров и специалистов со всего мира.
Для лаборатории конференция стала важным событием: четыре статьи команды были приняты в основной трек ICML, ещё несколько работ были представлены на тематических воркшопах.
Четыре статьи в основном треке
В основную программу конференции вошли работы:
From Optimization to Generalization under Heavy-Tailed Data: The Role of Gradient Clipping;
Softsign: Smooth Sign in Your Optimizer For Better Parameter Heterogeneity Handling;
Gradient-Free Approaches is a Key to an Efficient Interaction with Markovian Stochasticity.
Две из принятых статей были написаны совместно с коллегами из Yandex Research.
Кроме того, команда участвовала в двух воркшопах.
На Workshop on Connecting Low-rank Representations in AI была представлена работа:
Tensorion: A Tensor-Aware Generalization of the Muon Optimizer (совместно с ВШЭ).
На Workshop on Weight-Space Symmetries команда представила работы:
Hierarchical Mixture-of-Experts with Two-Stage Optimization;
Rethinking the Role of Tensor Decompositions in Post-Training LLM Compression;
Analyzing Stream Collapse in Hyper-Connections: From Diagnosis to Mitigation.
Конференция становится масштабнее
Сеньор-ресерчер BRAIn Lab Глеб Молодцов приехал на ICML с тремя воркшопами. Одним из главных впечатлений для него стал масштаб конференции:
«После ICLR особенно чувствуется, что конференция стала ещё масштабнее: людей заметно больше — видимо, не все успели добраться до Рио в прошлый раз».
Особенно полезными оказались специализированные воркшопы, на которых можно было встретить исследователей, работающих над близкими задачами:
«Отдельно отмечу воркшопы по механистической интерпретируемости, эффективности и симметриям весов в LLM — максимальная плотность полезных контактов на квадратный метр».
Программа конференции была настолько насыщенной, что времени на знакомство с городом почти не оставалось:
«Из минусов: плотный график и короткие постерные сессии почти не оставили времени на Сеул».
Тем не менее из-за шанхайского тайфуна у команды неожиданно появилось несколько дополнительных часов:
«Хотя шанхайский тайфун неожиданно подарил нам дополнительные полдня в городе — успели немного погулять по Хондэ и Итэвону, но хотелось бы больше».
Новые знакомства и продолжение научных обсуждений
Исследователь BRAIn Lab и Sber AI Lab Андрей Веприков отметил, что поездка получилась одновременно интересной и очень насыщенной:
«Поездка в Сеул на ICML мне понравилась, хотя, конечно, после таких поездок нужен отпуск: сначала ходишь по постерам, общаешься с людьми, потом идёшь куда-то гулять, и так каждый день. Но мне все равно понравилось».
Одним из важных результатов конференции стали новые научные контакты:
«Познакомился с достаточно большим числом людей, с одним zero-order китайским студентом из Michigan State University — уже договорились созвониться с ним и его профессором».
Продолжительное обсуждение состоялось и с исследователями из University of Milan:
«Также по одной статье с ребятами из University of Milan долго обсуждал идеи семплинга траекторий в RL, показал им MLMC-батчинг — договорились списаться далее».
По схожей тематике команда познакомилась и со студенткой профессора Марка Шмидта.
Собственный постер Андрей представлял вместе с Дмитрием Феоктистовым. Постерная сессия прошла активно и вызвала заметный интерес у участников конференции:
«Свой постер мы с Димой Феоктистовым, как мне кажется, рассказали очень хорошо, постоянно говорили с кем-то, многие его сфоткали».
Поездка стала дополнительной мотивацией продолжать работу над исследованиями международного уровня:
«В общем, поездка точно запомнится, будем стараться работать над статьями, чтобы и дальше ездить на A* конференции!»
Независимо полученный отрицательный результат
Наиль Баширов приехал на ICML, чтобы представить работу на воркшопе Weight Space Symmetries и познакомиться с исследованиями основного трека по интерпретируемости, эффективности и различным типам оптимизации.
На конференции оказалось много работ, непосредственно связанных с исследовательскими интересами команды:
«Было очень много тематически релевантных работ, общался с большим количеством ресерчеров».
Одним из самых запоминающихся эпизодов стала встреча с исследователем, который независимо получил практически такой же результат по тензорным разложениям:
«Нашёл на постерной сессии человека, который буквально получил такой же как у нас negative result про тензорные разложения».
Участники обсудили потенциальные области практического применения этого подхода:
«Обсудили, какие прикладные приложения можно использовать, сошлись на том, что Signal Processing и только, остальные ветки DL пока сильно отстают по применимости».
Наиль также отметил высокий уровень специализированных дискуссий:
«Было очень много людей, которые разбираются в, казалось бы, довольно узких темах».
Особенно продуктивным форматом стали воркшопы:
«Особенно на воркшопах получилось выстроить крайне конструктивный диалог по многим точкам соприкосновения».
Как и у других участников команды, большая часть поездки была посвящена работе:
«Почти ничего не успели посмотреть в Сеуле — всё время было потрачено на работу и поиск новых идей на постерных сессиях».
Тем не менее команда успела посетить несколько знаковых мест:
«Посмотрели по базе: дворец, улица Хондэ, сад гробниц, набережную».
Инсайты ICML на митапе ШАД
После возвращения из Сеула сотрудники BRAIn Lab Дмитрий Феоктистов и Егор Петров выступят на митапе ШАД и поделятся основными инсайтами прошедшей конференции.
Они расскажут о заметных исследованиях, актуальных направлениях машинного обучения и результатах, которые команда представила на ICML 2026.
