Источник: YouTube Live: Data Halloween Almaty 2026 (aNqqpqmLGZE)
Организатор: Владислав Заболотский & Data Community Almaty
Площадка: inDrive Hub, Алматы, Казахстан
Общая продолжительность: 06:05:41 (Полная трансляция без купюр)
Программа мероприятия
00:00:00–00:15:00: Открытие Data Halloween Almaty 2026 — Владислав Заболотский00:15:00–01:20:00: Секция 1: Анатолий Карпов (CEO karpov.courses) — Fireside Chat: Стартапы, M&A с Просвещением, аналитика данных01:20:00–01:54:00: Секция 2: Алексей Драль (Основатель BigData Team, ex-Amazon, ШАД) — Хэллоуинские кошмары запуска Data/AI бизнеса01:54:00–02:23:00: Секция 3: Егор (Data Platform Lead) — Переход на Unity Catalog, Data Governance и платформенные ужасы02:23:00–03:10:00: Большой обеденный перерыв / Нетворкинг03:10:00–03:47:00: Секция 4: Дарья Воронкина (AI Шипучка, ex-Unicell) — Слоп как переобучение: построение Go-To-Market движка на LLM03:47:00–04:32:00: Секция 5: Мелс (inDrive) — Кошмары легаси-систем и построение масштабируемых пайплайнов данных04:32:00–05:27:00: Секция 6: Сергей и Георгий (EY / Ernst & Young) — Проклятые сценарии в корпоративном ML и аудит моделей05:27:00–06:04:00: Секция 7: Андрей Шадриков (DataFest Almaty, Verigram) — Призраки на картинках: дипфейки, биометрия и Computer Vision06:04:00–06:10:00: Закрытие Data Halloween Almaty 2026 и награждение
Открытие Data Halloween Almaty 2026 — Владислав Заболотский (00:00:00)
[00:03:25] [музыка] Вот >> Вот микрофон сейчас должно быть слышно на трансляции. Да, вот вопрос на трансляции должно быть И, ну вот, я продолжаю говорить, и мы слышим. Ты слышишь сейчас музыку, которая там играла? Я музыку сейчас отключил с, ну, типа, слышно мою речь. Всё хорошо.
[00:05:04] Значит, можно было музыку наза включить. Там по сравнению с музыкой долго как бы надо громче или тише сделать микрофоны. Вот микрофон погромче или музыку потише. Вот. А, хорошо, микрофоны мы можем Но сейчас я она вообще, по идее, не должна играть. Вот как бы у меня
[00:05:26] подозрение, что у меня А она скорее всего миксуется здесь, должна, видимо, миксоваться здесь. И, видимо, мне нужно А вот, кажется, мне вот этот вот выход. Сейчас я проверю. Там музыка закончилась. Следующая музыка должна пойти играть. Ну вот. потому что музыки нет. Вот. вот сейчас музыка идёт,
[00:06:08] и мне, соответственно, надо понять, не откуда плейбэк идёт на музыка играет, микрофон слышно. Отлично. Сейчас мы настроим это, по идее, громкостью ещё. Вот так вот должно быть. Тише музыка. Дада. Да, сейчас дойдёт. Есть. Нет. Хорошо. Ждём пару секунд. Можем пока на стриме показать расписание,
[00:06:57] чтобы тоже все знали, что нас ждёт в ближайшее время. И скоро на сцене у нас будет, на самом деле, всё, э, продолжаться, но с утра как-то не очень много людей дошло до зала. Берём. Вот. Вот я хотел узнать, я не дошёл до Егора
[00:14:04] Что? Всем всем привет. Добро пожаловать 2026 в Алматы. Сегодня мы в гостях у друзей ДДRI, за что им спасибо большое, что они выделили в эту площадку, подготовили в том числе и кейтеринг, который будет чуть позднее. Я, наверное, попрошу Андрея ещё раз показать расписание.
[00:14:32] Э, значит, сегодня нас ждёт мм довольно насыщенный день, много докладов. одна Q& сессия. А значит, получается, сейчас мы попробуем провести Q& сессию, дальше будут доклады от спикеров из Big Team, Инрайва, Эн и
Секция 1: Анатолий Карпов (CEO karpov.courses) — Fireside Chat: Стартапы, M&A с Просвещением, аналитика данных (00:15:00)
[00:15:02] Бериграм. Да, меня, кстати, зовут Влад. Я синий инженер в одном крупном банке. Если будут какие-то вопросы, можете спокойно подходить, поговорим, пообщаемся. Буду рад знакомством. Вот. А давайте, я думаю, потихоньку будем переходить. Сегодня у нас дорогой спикер, который внезапно присоединился в наш нашу программу.
[00:15:28] Удалось, так скажем, уговорить, не уговорить, так скажем, пригласить Анатолия Карпова. Давайте поаплодируем. Толя, я думаю, проходи сюда. А, да, и давайте начнём. А, я думаю, сначала скажи какие-нибуд приветственные слова. Да. >> Да, друзья, всем привет. Очень рад быть здесь. Если что, меня не уговаривали. Я
[00:15:58] с радостью согласился с первого раза. Я уже не первый раз в Алмааты. Очень люблю этот город. И здесь так получилось, что как раз-таки совпал мой визит с нашим сегодняшним мероприятием. Меня зовут Анатолий Карпов. Я давно знаком с нашими коллегами по сообществу. Я всю свою
[00:16:15] профессиональную карьеру занимался аналитикой данных. работал в степе, работал ВКонтакте, руководил ВКонтакте командой аналитики подразделений бизнеса и рекламы и параллельно занимался своими проектами образовательными, самый большой из которых – это компания Carp of Forces. В этом году мы успешно заключили сделку по продаже контрольной части компании
[00:16:39] группе компаний просвещения в России. Поэтому, э, могу, мне кажется, отчасти рассказать ещё и про то, как вообще выглядит предпринимательский путь, что, а, наиболее сложного, интересного есть в ситуации, когда ты свой стартап доводишь до определённого уровня, когда уже большие стратегии тобой интересуются, и получается сделать так называемый MN. В
[00:17:02] общем, большое спасибо, что пригласили. Буду рад сегодня поотвечать на интересные вопросы. А если есть какие-то темы на обсуждение, как бы задавать не только вопрос, скорее даже некоторый тезис. А ещё меня попросили, аа разыграть что-нибудь для лучших вопросов. Я сделаю маленький анонс. Я люблю читать, и самое разумное, что я
[00:17:24] решил – это просто взять две книжки, которые у меня сейчас с собой, и, э, разыграть их среди нашего сегодняшнего митапа. Поэтому сегодня самые хорошие вопросы будут у нас вознаграждены ценными подарками. Это книжка, которая совсем недавно вышла Андрея Дороничева. Я думаю, вы могли видеть его интервью на
[00:17:41] Ютубе. Очень популярный предприниматель, э, известный. А, вот он написал книгу про свой путь. Тоже очень классная история. Он руководил мобильным подразделением Ютуба, сейчас занимается своим стартапом в области искусственного интеллекта. Поэтому, э, так как действительно, ээ, мероприятие сегодня было спланировано относительно оперативно, эти книжки я дочитать сам не
[00:18:05] успел, поэтому большая просьба, те, кто их получит, сумморизировать этот текст, расскажите мне, чем всё закончилось. Вот такие дела. М. Да, Толя, спасибо. А я думаю, начну с такого вопроса. А уже, да, перейду на сцену. Расскажи, что ты будешь сегодня рассказывать на метапе у Хиксда.
[00:18:43] сделаем такое это коллегам, чтобы, я думаю, некоторые присоединяться и на Хикс. Вот. Ну, можешь втором подсветить. Как вообще получилось сколборировать с ребятами? Вот, да, расскажи немного про это. >> Да, сегодня у меня ещё один этап, на котором я буду рассказывать про а-тесты. Большую часть своей профессиональной
[00:19:07] карьеры я специализировался именно на вопросах, связанных со статистикой и с прикладным анализом данных. И в атестах, и вообще в целом математической статистике есть такая довольно интересная особенность, что с одной стороны это довольно а-э, ну, как сказать, это просто подраздел математики, который не то чтобы терпит
[00:19:25] какие-то недосказанности, есть очень огромная теоретическая база, которая лежит под каждым из статистических методов, когда какой тест применять, какие у них есть там требования. Вот. Однако на практике всё сильно сложнее, и в статистике очень часто используется подход, который позволяет проверять, какие критерии работают лучше всего при
[00:19:44] помощ симуляции. Вот. И есть целое огромное семейство методов, начиная от самых таких базовых вещей типа Монтекарла, заканчивая уже более интересными подходами, когда мы литрали симулируем поведение реального человека при помощи агента и запускаем а-тесты, когда у нас вместо обычных людей живых уже агенты ходят по сайту и
[00:20:04] предпринимают какие-то действия в разных его вариациях. Вот поэтому сегодня как раз-таки расскажу про то, как симуляция позволяет отвечать и на разные вопросы втестах и валидировать наше решение от того, какой критерий выбрать, до того, как правильно ли работает наша система спитования и как иногда это доходит даже
[00:20:24] до того, когда мы уже в симуляции переходим от симуляции условной распределения критериев в симуляции конкретных поведенческих паттернов, которые агенты могут уже делать за нас. Это такой же киберплан, который наступил. Вот когда мы используем э искусственный интеллект для того, чтобы проводить исследования на продук. Это
[00:20:42] очень прикольная тема. >> Да, я призываю, если у вас есть вопрос, э, поднимайте руку. Привет. Да, Я думаю, следующий вопрос э от меня про будет про в целом, какие вообще планы у Carp of Course? можешь там поделиться роудмапом, не роудмапом, что в двадцать седьмом году
[00:21:07] есть уже какие-то мысли. >> Да, это интересный вопрос. Мы в процессе, так сказать, стратегического планирования на двадцать седьмой год. А, конечно же, я думаю, в текущих реалиях тяжело пройти мимо искусственного интеллекта. Вот поэтому мы будем расширять, очевидно, продуктовую линейку курсамиi. В принципе, сейчас мы это уже
[00:21:25] активно делаем. Причём в такой инженерной сфере, несколько там, условно, грубо говоря, как писать промты и пользоваться там нейросетями для личной эффективности, сколько мы всегда были такой школы с инженерным уклоном, как встраивать искусственный интеллект в какие-то реальные процессы работы пациентиста, аналитика, датыинженерные аспекты. Вот. Ну и, конечно, будем
[00:21:46] стараться усилять тоже наши разные направления и корпоративного обучения. Кстати, у нас довольно много клиентов из Казахстана, что меня тоже не может не радовать. Мы сотрудничаем здесь и с банками и с крупными компаниями. И последнее время мы усиливаем наши направления, связанные с вузами. А когда
[00:22:01] мы запускаем совместные магистратуры, совместные ПКО уже с крупными игроками в сфере высшего образования, есть несколько проектов, которые позволят нам выйти уже и из пределы Российской Федерации в СНГ сфере. Так что тоже, как говорится, следите. >> Прикольно. Аэ следующий вопрос. Я придумываю на ходу. Вообще расскажи с
[00:22:25] приходом AI насколько поменя поменялось образование, куда оно вообще двигается. Сейчас вот есть на рынке получается проблемы с женами. Э как вы это видите? Можешь вот рассказать про это? >> Да, это интересная тема. Эо действительно меняется, причём меняется очень сильно, Самое основное, что происходит,
[00:22:54] конечно же, доступ информации превращается в суть новую историю. Я помню, когда только-только вот мы ещё с тобой начинали, были такие популярные, например, сайты, как Stack Overflow. Вот когда у тебя возникал какой-то вопрос, ты литрали шёл на форум, писал этот вопрос, и другие программисты, другие
[00:23:11] разработчики со всего мира вот там писали тебе ответы, ты их там валидировал, проверял, а сейчас мы видим это открытые данные, что там стак тоже фактически у них там падают симметрики, люди больше не пользуются интернетом, грубо говоря, для того, чтобы выяснить как что-то на какой вопрос найти ответ.
[00:23:28] А лмки становятся таким новой новой точкой входа. А это интересно, потому целый ряд проблем, которые возникают, пока даже не совсем понятно, как решать. В образовании, особенно в высшем образовании, например, стало понятно, что все эссес, все проверочные работы, все задачи, которые требуют какого-то студентами, сейчас практически там в 90%
[00:23:54] случаев делегируется илмкам. Это очень тоже такой сложный кейс. Даже не все универы ещё окончательно вырвали какую-то позицию. Ээ как-то бороться с этим или наоборот полностью разрешать ээ когда у тебя там дипломы или курсовые работы, выпускные работы, написанные просто полностью искусственным интеллектом. Поэтому сдвиги
[00:24:15] действительно идут такие довольно серьёзные, э, которые в том числе оказывают влияние на профессию. Мне кажется, окончательно произошла такого своего рода инфляция. даже не инфляция, как сказать, такое обновление грейдол. Наверное, то, что мы видим сейчас и по западному рынку, и по российскому рынку. Недавно,
[00:24:35] кстати, вышел отчёт антропика, как они нанимают сами к себе. У них количество джиновских позиций сократилось, по-моему, в несколько раз, что тоже как бы говорит о том, что один из самых одна из самых явных тенденций, которую мы видим, что вот такие рутинные задачи, которые раньше разбирали джуны в
[00:24:54] компаниях, корпорациях, их, конечно, сейчас лэмки забирают очень успешно. Этот прогресс прямо видно буквально там год к году. разница колоссальная, как современные хорошие модели пишут код, как они пишут ускорить запросы, как они там делают какую-то базовую аналитику, условно действительно можно сказать, что там условно вот это там ноутбук, если
[00:25:16] ему загрузить датасет и сказать там сделай базовую аналитику, он её уже делает, ну, на уровне такого мидle аналитика. Вот если э если не не лучше. Вот. А, поэтому, наверное, основной принцип сейчас сводится к тому, что, э, рынок как бы так такой в переходной
[00:25:32] позиции, когда стартовая позиция становится медловской. Немножко такая в каком-то смысле парадоксальная задача для начинающих специалистов. И раньше это было не так просто найти первую работу, потому что к джунам уже были довольно высокие требования, а сейчас требования к джинам как бы стали ещё выше. И это такой вызов, который сейчас,
[00:25:51] да, пронизывает рынок труда и в Штатах, и в Европе, и в СНГ. А поэтому это очень любопытный поинт. Как с этим окончательно рынок будет бороться, пока не до конца понятно. Но одно очевидно, сейчас действительно на стартовых позициях уже ожидается от человека, что он такой
[00:26:12] Jн плюс, если не midл. Вот. Так что в этом смысле, да, просто базовой теоретической подготовки не хватает. Даже с начинающих специалистов сейчас уже в найме спрашивают такой очень хороший ээ бэкграунд практический. Но хорошая новость, с теми же самыми лэмками получить какой-то плюс-минус практический опыт становится сильно
[00:26:33] проще. Э сейчас действительно не так сложно уже самостоятельно там при помощи тех же самых нейронок развернуть у себя такую небольшую продакшн среду. нановоте, поднять какие-то базы данных, поднять какие-нибудь инструменты аналитические эмльные и написать какие-то уже первые пайплайны рабочие. Вот в этом смысле действительно то, что
[00:26:53] мы видим, конечно же, использование ЛМА в качестве такого тютера, в качестве такого -э наставника, который может тебя провести там через суперсложные темы для начинающих, это действительно очень круто работает. А я думаю, это такой следующий вызов, который образование очень сильно пошатнёт. Э, что классический вообще формат там лекций,
[00:27:15] вебинаров, каких-то курсов, он будет уходить окончательно прошлое, и мы будем двигаться к такому адаптивному, интерактивному обучению. Тема была очень давно на слуху. Я когда начинал свою карьеру в образовании, 15 лет назад, когда я в степике работал, уже тогда вот все говорили будущее за
[00:27:32] adдаплеarн. Но тогда не было инструмента, который мог это сделать. Вот. И всё равно всё сводилось к обычным курсам. Сейчас как будто бы, да, когда контент уже литрали может там генериться на Литу, мы входим в эту новую новую >> Да, вот появились первые вопросы.
[00:27:51] Поднимите ещё раз руки. Да, всем ещё раз здравствуйте. А, меня зовут Алихан. Я вот недавно устроился джином аналитики данных. >> Расскажите, как прошло. [смех] Ну, было четыре да подбора, а в компании Змбран. Вот. А ну я согласен с вашим поинтом, что сейчас, э, от джунов
[00:28:19] довольно-таки, а, ну, достаточно нормальные требования, что уже должна быть какая-то база, какой-то практический опыт, что можно заменить проектами, вот с нейронками. Вот. Э большое спасибо, что приехали, нашли время. А у меня вопрос. Э в целом в будущем, одно, наверное, из моих целей –
[00:28:40] это погрузиться больше в датаинженерию или дата science. И у меня такой неспецифичный вопрос вообще в целом, какие типичные ошибки делали аналитики или делают аналитики сейчас, когда хотят сделать такой переход больше режиме данных или же дата science? Это >> очень классный вопрос. Спасибо. На самом
[00:29:01] деле мне он крайне импонирует, потому что я скорее даже в каком-то смысле себя ассоциирую ближе с инженером данных, чем с аналитиком. Во многом это связано с тоже с культурой таких стартапов. Даже когда я в ВК приходил, это скорее была такая классическая история, как бы
[00:29:18] корпорация, как стартап, где аналитики писали код, сами работали там с бэкэндом и так далее. Поэтому этот переход очень понятен. Э сказал, наверное, как бы ошибки. Я бы сказал, да, где есть такие бутылочные горлышки. Вот, конечно же, уровень кода, как одно дело, есть такая
[00:29:37] шутка, что чем отличается код аналитика от кода разработчика, что типа код аналитика должен сработать только один раз. Вот и нормально как-то выгрузили и о’кей. А когда мы работаем с датаинженерными пайплайнами, даже на уровне сQэля становится видно, насколько более глубокое понимание должно быть инженерное. Я думаю, там вы уже
[00:29:57] прекрасно разобрались там, да, с темами там, как писать ускользапросы, но там опять-таки также ли хорошо вы понимаете, как устроены индексы в базах данных, как как мы строим какие-то эти пайплайны, когда мы планируем шардирование, репликацию, как мы работаем с разными типами данных в базах данных. Поэтому
[00:30:15] ответ, наверное, базовый. Просто надо очень сильно прокачивать такую классическую инженерку. Она, кстати, никуда не уходит. В этом смысле искусственный интеллект сейчас очень хорошо справляется с задачами, когда мы ему там дали классическую задачу с очень понятным входом и выходом, типа вот тебе там ЦСвшка,
[00:30:35] сделай там эксплораторный анализ, верни вот такие-то графики, всё супер. Но понятное дело, что когда мы говорим про какие-то крупные компании, где нужно строить какие-то там ДВХ системы либо разрабатывать то, что сейчас происходит, ээ ДВХ уже плюс-минус везде разработали, а там сейчас мы, то есть следу строим
[00:30:52] следующий слой, AI слой, там текст семантический слой, текст SQL слой. Ну как бы это нереально представить, что мы просто напишем типа: “Привет, флот, построй нам ДВХ”. Ну как бы так оно не работает. Датаинженеры, мне кажется, очень долгое время ещё будут супервостребованные профессии. Вот,
[00:31:08] поэтому здесь скорее как бы не типичная ошибка, а скорее, ну, главная идея. Я бы просто первым делом бы брал себе на заметку типа курс именно просто по разработке. Ну, там курс – это уже в кавычках, это может быть курс, это может быть лекции, это может быть та же самая
[00:31:22] лмка, но по сути нужно быть готовым к тому, что работать с инфрой, работать с кодом нужно на уровне бэкэнд разработчиков. Тогда это прямо открывает очень прикольные карьерные перспективы. Я сам, когда в ВК начинал, я тогда устроился аналитиком. В итоге как бы перешёл на работу там, когда приходилось
[00:31:38] самому писать и бэкэнд код на ПКП и строить хранилище. Это очень прикольная тема, и мне она всегда очень нравилась. Такая вот архитектурная задача, как там упаковать, ээ, значит, классические ДВХ схемы, хотя есть там один слой, второй слой, между ними какие-то связи. Это реально как такое LEGO для взрослых.
[00:31:55] Очень классная тема. Вот поэтому, да. Ну и второе, конечно же, сейчас уже нужно точно быть готовым к тому, что классические датаинженерные задачи, они постепенно уходят в стол в том смысле, что плюс-минус понятно, как их решать. Сейчас уже это не какой-то rocket scienceс, типа как там правильно в ходу
[00:32:11] дупе распределить нагрузку между базами. Появляется как бы следующий уровень, как правильно хранить данные, которые нужны для сервисов и айны. то, что вот сейчас векторное хранилища данных, работа с текстами, там тоже очень много интересного происходит. И в целом, как бы, туда тоже нужно взять, посмотреть.
[00:32:31] Вот как-то так. Но как бы каких-то супер инсайтов здесь нет. Надо просто быть готовым к тому, что датаинженерка – это в прямом смысле слова скорее там на 90% разработка. Вот. И надо прямо очень хорошо эту штуку прокачивать. >> А, здравствуйте. А, инженер вклад.
[00:32:52] А у меня два небольших вопроса. Первый такой более абстрактный с отвитием я и агентов. У нас становится намного больше данных. Они не все качественные. И когда ты пытаешься породить ка-то аналитику, у тебя часто не домейн знаний, экспертизы и как проводить нормальную качественную аналитику, когда у тебя каждый день
[00:33:13] появляются новые метрики, новые какие-то ивент и тому подобное. И, ну, хочет этого выводить и не утонуть в топе очень большого количества информации, которые желают новые коллеги такое и агент. И второй небольшой вопрос, аэ, когда мы делаем какую-то аналитику, мы даём какой-то вывод коллегам. И часто я
[00:33:33] теперь не хочу делать что-то подробным, потому что я боюсь, что а те агенты или коллеги могут как-то неправильно его интерпретировать, потому что сейчас все могутнуть лод и дать это вывод. И я пытаюсь давать минимальное количество информации, которое прямо совсем нельзя неправильно запитировать. При этом бы
[00:33:50] это как-то это делать другую сторону того, как мы дальше раньше. А, ну спасибо. Я начну, наверное, со второго вопроса. Здесь скорее как бы это даже не вопрос, некоторый тезис, с которым я полностью согласен. То есть краткость таланта. Вот сейчас действительно классический пример такой найрослоповой
[00:34:08] аналитики, когда выводы – это такие четырёхстраничные тексты, там расписанные ээ этим классическим стилем антропиковским. Это действительно есть такая идея, что проблема агентов в том, что они, да, если если просто базово скормить им какой-нибудь там набор данных и сказать им: “Найди инсайты”, там его можно просто он может писать,
[00:34:27] вот это сколько пока не надоест, как говорится. Поэтому это очень хорошая идея концентрировать выводы очень кратко, максимально с опорой на те вопросы, которые были заданы. Здесь, мне кажется, не добавить, не убавить. Вот, э, с этим я полностью согласен. А первый вопрос, э, он у меня, к сожалению, на
[00:34:47] него ответа нет. Это такая вечная история, когда как в мультике ты едешь на поезде и рельсы выстраиваешь перед собой, выспеваешь еле-еле. в крупных компаниях, крупных проектах действительно ээ развитие датаслоя, метрик, продукта идёт очень быстро. Э какого-то суперлайфхака, как за всем этим поспевать, наверное, нет. Очень
[00:35:11] сильно, конечно же, помогает очень классное, то, что сейчас вот тоже вводят. Ээ ну это просто отдельный аналитический слой, который отвечает за качество данных, за модель данных, за структуру данных. М, даже не во всех крупных компаниях это этому иногда часто уделяется хорошее внимание большое. К
[00:35:30] вопросу отдатоинженера, кстати, они в этом играют довольно важную роль. Аэ, я часто прихожу иногда в компании в качестве такого консультанта, когда мы решаем как раз какие-то задачи. И, наверное, первое, с чего я начинаю – это действительно всегда, если у вас просто понятная такая вот эта паутина данных,
[00:35:48] датамш некоторый, да, когда который описывает очень хорошо связи между источниками, который описывает механизмы этих связей, который описывает, а, события и их структуру, их логику. Здесь опять-таки шортката никакого нет, только очень хороший слой качества данных с хорошей документацией позволяет во всём этом не запутаться.
[00:36:10] Это вечная история. Почему я говорю как рейльсы перед собой, потому что этот слой всегда запаздывает. Э все классические как бы подходы к построению там корпоративных хранилищ, они чаще всего упираются в то, что мы сначала строим какие-то базовые витрины, уже начинается бизнес, начинается аналитика,
[00:36:27] начинаются запросы, начинаются дашборды, и только потом до этого всего доходит такой как бы модерн подход, когда мы всё это дело уже пронизываем какой-то хорошей документацией, хорошими связями. Вот вот это паутины данные, как сказать, да. Вот поэтому здесь просто насколько возможно этот гэп сузить, настолько
[00:36:47] качественнее аналитика и будет. Вот. Но что из хорошего, действительно сейчас вот этот вот то, что принято называть Modern dat датастк, есть уже довольно большое количество классных разработанных пайплайнов, инструментов, которые полностью отвечают именно не за хранение данных, а за хранение вот этого метаслоя, описание
[00:37:06] событий, описание структур, описание связи между таблицами. Это вот такой тоже действительно очень классный этап работы с данными, который нельзя нельзя, который пренебрегать, иначе всё, что мы получим- это вот то, что называется такая дата помойка, где вроде бы какие-то данные лежат, дашборды строятся, таблички есть, но просто такой
[00:37:28] хаос, который отчасти иногда даже делают хуже, чем лучше. Микрофон, девушки. А, ну >> да, добрый день всем. Меня зовут Эльбек. Анатолий, спасибо большое за сессию. Мне очень понравилось рассуждение на тему входного порога в сферу IT. Я бы хотел немного её развить и вот подискутировать
[00:37:53] на эту тему. А я относительно недавно вернулся на рынок, э, начал собеседоваться, но уже на старшей позиции и начал замечать тенденцию, то, что, а, вот как классический бэкн-разработчик, допустим, меня уже в соло не не ждут и не ищут. А полагается, что я там помимо бэкэнда ещё где-то в
[00:38:13] эмйле, где-то в лмках и какого-то вот такого гибридного, условно сотрудника они рассматривают. попытки вернуться на рынок. Я, допустим, достаю своего стару коллегу, начинаю его обстреливать вопросами по эмэльки. А, говорю: “Большое спасибо, обращайся ко мне, вот, если тебе понадобится помощь”. И вот он мне такую интересную тему, аэ,
[00:38:35] поднял, то, что, скорее всего, он действительно придёт ко мне с этим с вопросами по бэкэнду, ээ потому что он заметил, что по метрикам самописного кода а сильно преобладают э агентные вот эти вот вайб-коды условные, там до 95%. И возникает вопрос, действительно ли нужен
[00:38:55] так тогда такой большой большой штат из а различных специалистов? А если в принципе достаточно будет одного фонагибридного, который будет покрывать все низкурвневые потребности чисто ходом. Вот мне бы было бы интересно услышать, может, ваше рассуждение, что вы думаете по этому поводу. Спасибо. >> Спасибо. Да, это прямо очень классный
[00:39:18] вопрос. Во-первых, я бы, наверное, чуть-чуть бы снизил бы градус ээ вот этого ожидания, что AI завтра всех заменит. Я часто тоже вижу сейчас недавно последняя новость была, что Microsoft, по-моему, сокращает чуть ли не 20.000 человек, как раз-таки в силу того, что они там больше вкладываются в
[00:39:35] аразработку. Сейчас это стало тоже таким некоторым удобным форматом сказать, что там мы в компаниях сокращаем, потому что вкладываемся в AI. Вот это тоже своего рода иногда такой как сказать, просто более удобный, аэ, публичный повод объяснить определённые лейоффы, которые в компаниях происходят. А с одной
[00:39:56] стороны, а с другой стороны, то, что узкая специализация в эпоху искусственного интеллекта будет отходить, я думаю, с этим уже спорить просто невозможно. Сейчас, мне кажется, вот ещё если года два назад я помню были эти суперактивные дискуссии, а можно ли писать код при помощи агентов, а насколько это вообще
[00:40:16] реалистично, а как это всё проверять, а как это всё валидировать. Сейчас как будто бы дискуссии уже закончились. То, что я смотрю там всякие интервью, которые дают ребята из той же самой там Кремневой долины, да, там Изнтропика, того же самого Open AI, опять-таки, может они, конечно, преувеличивают,
[00:40:30] чтобы цену набивать своим продуктом, но я думаю, даже если они преувеличивают, то там процент кода, который сейчас автогенерируется в компаниях, он уже огромный. Я в справедливости ради сам тоже, я не помню, когда я последний раз код писал вот как в старые добрые времена руками. А базово, если говорить
[00:40:47] про ДС и про аналитическую сферу, основной сдвиг, который мы видим сейчас, а это то, что то, что называется такая продуктовая разработка. Э дсеры, аналитики всё глубже и глубже становятся ближе к продукт оунерам. Вот то, что я вижу прокэнд историю, мне кажется, опять-таки, да, доминирует
[00:41:11] некоторый такой фулстек подход. Поэтому здесь, скорее, я могу только согласиться, если мы как бы максимизируем свою карьерную цель на ближайшее будущее, наверное, это очень правильный подход ээ позиционировать себя условно не как человек какой-то там узкоспециализированной направности, а а скорее как некоторый такой фулстак. Вот.
[00:41:31] Э, сейчас, особенно, конечно же, да, в эпоху тех же самых агентов, это очень выгодная история. Э, в Мэле, по крайней мере, это уже стопроцентно. Так, есть вот ещё очень супер узко специализированные истории, там вот какая-нибудь NLP разработчик, ээ, который занимается исключительно или там
[00:41:50] CV-разработчик. Но то, что я вижу по рынку, всё больше и больше сейчас возникает термин, который называется э инженер. Ну вот, добро пожаловать в новый мир. То есть раньше были условно там бэкндеры, фронтендеры, дсеры, аналитики. Сейчас постепенно и раньше было очень много споров, там, можно ли
[00:42:08] использовать термин дата sentenтист. Вот сейчас как будто это уже действительно постепенно не актуально. Появляется просто новый термин AIразработчик, человек, который отвечает за интеграцию AI решения в бизнес. И в этой интеграции там и мелька, и аналитика, и эээнд, всё вместе. Поэтому здесь можно, как
[00:42:25] говорится, только, ну, сопротивляться этому уже бесполезно. Э, скорее всего, действительно, люди, которые там будут настаивать, что код нужно писать только руками, они останутся в очень узко специализированных направлениях, э, в большей массе своей. По крайней мере, я говорю за Data Science. Я думаю, что 99%
[00:42:50] кода точно будет генериться агентами. >> Да, спасибо большое. Всем привет. Привет, Толя. Меня зовут Воронкина Даря. Если что, вы со мной увидитесь после обеда. А что Толя, кстати, был человеком, благодаря которому я зашла в Data Science ещё во времена вот это вот основу математической статистики на с,
[00:43:09] >> когда ещё не было вот этого всего. Да. Дадада. Да. А потом, когда Толя принимала у меня магистрскую работу в ТМОВНха, я такая: “О, боже мой, это человек, который”. В общем, да, это такие лирические оступления и восторги. А вот, а у меня есть, я абсолютно
[00:43:24] согласна про сло, про огромное количество материалов. Опять же, мы об этом поговорим ещё про правила данных, но у меня есть мысленный эксперимент, который я хочу предложить. Представим, что у нас есть стартапы. Действительно, у нас дата аналитик, дата инженер, инженер по большей части часто сейчас
[00:43:42] начинает больше углубляться в продуктовую разработку, в том числе. И у нас есть стартапы, которые очень активно выстреливают, поднимают инвестиции, начинают зарабатывать и так далее, и так далее. Но как вы смотрите на такую профессию, которая называется не AI инженер, а AI, который приходит по сути за
[00:44:02] вайпкодерами, когда у нас есть, например, продакты или ещё какие-то ребята, и просто пытается начинать разобрать, что здесь происходило. Потому что, если честно, с точки зрения работы и с точки зрения пула задач, одно дело с нуля всё разработать, другое дело посмотреть вот эти миллионы строчек
[00:44:18] кода, пытаться понять, что здесь происходит, аа и, безусловно, понять, что происходит, в том числе, с данными, с данными, со слоем данными, с метауровнем, описанием и так далее. Вот что ты думаешь про профессию data cleaner, AI cleaner? Я ещё не придумала точного описания, но мне
[00:44:34] кажется потенциально это очень хорошая сфера, потому что рано или поздно, как я вижу, в том числе там в консалтинговой сфере, стартапы приходят к тому, что им нужно как бы вот это всё разгрести, потому что ничего не работает, микросервисы падают и так далее, и так
[00:44:52] далее. Вот такой у меня вопрос. >> Спасибо. Вопрос очень классный. Мне кажется, здесь точно есть как бы некоторая такая развилка. А сейчас есть такая непопулярная точка зрения в эпоху как бы вот этого суперхайпа вокруг искусственного интеллекта, что, ну, сейчас, если уж точно не будет не А
[00:45:08] Winter, ещё одна, но определённый как бы уровень эффективности моделе вот вышел плюс-минус на плато. Следующий прорыв будет уже какой-то там колоссальный. Вот часто говорят, что там все тексты, которые можно было использовать, мы уже использовали. Сейчас уже модельки, всё, как бы, если дело будет двигаться так,
[00:45:24] то я думаю стопроцентно. Я сам тоже читал интересные статейки по этому поводу, что, например, полностью в компаниях сломался концепт кодарев. Раньше кодрев как выглядел? Это была максимально понятная история с очень стандартизированным подходом, что у тебя тратится довольно много времени на написание кода, а потом есть
[00:45:42] какой-то хранитель знаний, какой-то там главный сайнтист, который или главный там синьор, который твой код читает, ревьют, проверяет. Сейчас, когда нейрослоп код, да, пишет там огромными массивами, там просто ему вообще уже неважно. Это краткость – это не нейро код, вот то кодрев вообще непонятно, что
[00:46:02] с этим делать теперь. Там любой джун может нагерить кода за один день там на десятки тысяч строк. Как это разбирать, непонятно. Предлагается как бы задача, знаете, так Мюнхаудин сам себя вытаскивает из болота, что раз у нас одни нейросетки пишут, пусть другие неросетки проверяют. Но как бы
[00:46:21] причина следственная связь понятно, где рушится, что как бы если мы не доверяем коду, который пишут нейросетки, то как бы другие нейросетки использовать для проверки дело такое. А поэтому я скорее, да, согласен, согласен как бы с тем, что дата клинеer только звучит как-то, надо
[00:46:39] придумать что-то более эпичное. Вот такой AI аудитор. Вот вот то, что AI аудиторы нужны – это стопроцентная история. Потому что в крупных компаниях как бы есть понимание, что полностью отдавать на out на на output AI какие-то prodдаction вещи, ну ещё ещё рано. И всё
[00:47:04] равно это надо как-то валидировать. Поэтому да, да, здесь я могу только согласиться. А, но вторая развилка, в которую, может быть, я, наверное, даже чуть больше верю, что, возможно, совсем скоро вот и следующий прорыв произойдёт, и ээнд- код, и вообще написание кода окончательно превратится
[00:47:26] в чёрный ящик, который вот как калькулятор. Но мы же не валидируем калькулятор. просто уверены в том, что это уже настолько детерминирована правильная система, что если мы написали переумножение трёхзначных чисел, вот, ну хоть ты но не будет там ошибок на каком-то уровне работы с данными
[00:47:41] сейчас, конечно же, лэмки не калькуляторы. И как раз-таки главная идея заключается в том, что основная проблема – это в том, что они недетерминированные. Вот ты один раз ЦСвэшку закинул в mноутбук, один вывод получился, второй раз другой вывод, ну как с этим жить-то? Но
[00:47:58] и это большая проблема и в разработке. в аналитике, если мы полностью хотим сделать аналитиков сейчас. Поэтому, да, две развилки. Если вот эта проблема такого недетерминированного аутпута останется, то AI аудиторы, я думаю, точно это профессия, которая скоро появится. Как помните, раньше были такие налоговые аудиторы, которые приходили в
[00:48:19] компании крупные, вот, и проверяли, как всё работает. Появится такой же парень в пиджаке, который будет приходить, говорит: “Ну, давайте, показывайте мне ваши 80.000 строк кода, который вы завчера успели написать. Сейчас будем разбираться, что там. Поэтому, да, это классный поинт. Спасибо. >> Нерова. [смех]
[00:48:41] А, всем привет. >> В общем, у меня такой такие небольшие наблюдения и такой вопрос. Я в целом думаю, что, наверное, в перспективе искусственный интеллект всё равно будет развиваться. И я вот уже не надеюсь, что я буду умнее, [смех] чем искусственный интеллект. >> Ну да, с каждым днём всё с этим всё хуже
[00:49:04] и хуже. Есть такода. Ну то есть типа я не сомневаюсь, что ну это просто возможно плюс какой-то к тому, что я могу воспользоваться его интеллектом, чтобы что-то сделать. А сейчас есть такой момент, что в компаниях в целом, как мне кажется, мм, есть правило, что
[00:49:21] вы должны использовать искусственный интеллект для работы. Теперь всегда, кто не будет использовать искусственный интеллект, [смех] тот не будет работать. Вот это первый момент. Второй момент, э-э, требование, чтобы мы все делали какой-то продукт с помощью искусственного интеллекта. Соответственно, получается ситуация, что люди, которые, ну, ранее вообще в целом
[00:49:45] там не могли каких-то двух таких моментов связать для создания какого-то продукта сейчас, а приходят и, ну, приносят что-то, что, возможно, не очень классно сделано, но внешне оно же работает. И, соответственно, таких кейсов становится очень много в перспективе с учётом того, что, ну, мы все используем искусственный
[00:50:06] интеллект в работе. Как мы тогда в дальнейшем определяем, какой сотрудник может что-то сделать, придумать нормально, а не просто тупо что-то нагенерить и, ну, типа, оно работает. То есть как мы будем в перспективе определять критерии того, кто действительно, ну, классный синьор, а кто просто вот
[00:50:28] в в них в это просто потому что искусственный интеллект использует. >> Это на самом деле очень крутой вопрос. Я не знаю на него ответа. Я с этого начинал. Вот когда первый вопрос мы обсуждали, что в образовании меняется. Я же вот, как пояснилось только, что я же
[00:50:40] работающий в образовании. Э вот приходят выпускные работы, я вижу, что обе работы написаны искусственным интеллектом. Вот как мне понять, кто из студентов лучше справился с усвоением интеллекта, который год они изучали? Потому что оба диплома, там 40 страниц. Ну прямо ты читаешь, ну как бы, ну это 100% понятно,
[00:50:56] что это такой классический такой чистый слог. Особенно важно вот что и так далее. А то же самое с наймом. Я очень много нанимаю инженеров, и компаниям помогаю нанимать, но вот тестовые задания окончательно сломались. Я уже не знаю, что в тестовых давать. То есть как
[00:51:11] бы, ну ты ты даёшь како раньше, когда я работал, не было ещё, условно там ээ всего этого дела. Очень часто в э позициях можно было увидеть такое к аналитикам писа умение писать сложные сколь запросы. Реально люди делились на тех, кто умеет писать сложные сколь
[00:51:28] запросы, на тех, кто не умеет. Сейчас все умеют писать сложные сколь запросы. Сейчас уже непонятно, кто из них будет лучше работать на реальной работе. Аэ, это очень крутой вопрос. Я, если честно, до конца не знаю на него ответа, потому что сейчас мы стопроцентно наблюдаем
[00:51:42] ситуацию, когда инструменты настолько сильно убежали вперёд от систем оценивания, что все старые системы оценивания, они перестали работать. Это стопроцентно. Сейчас уже непонятно, типа, где проходит грань между медлом и синьором с точки зрения написания кода. И первый, и второй пишет его в антропик. Антропик уже реально пишет код сильно
[00:52:00] лучше базово, чем все вместе с синьоры вместе взятые. Ну, в определённых пределах, разумеется. Типа, что с этим делать, не совсем понятно. Поэтому первое, скорее всего, мы в скором времени, очевидно, перейдём на какую-то новую систему градаций скилов в IT. Вот этот джун midл сеньор – это очевидно
[00:52:20] штука, которая перестаёт работать, потому что теперь у каждого у них есть вот этот вот там рой агентов, которые в принципе все работают как синьоры. Тогда непонятно, в чём как бы твоя синьорность заключалась. Это, кстати, тоже очень важный поинт. Все говорят, что, э, всё,
[00:52:34] вам всем конец, жуны, искусственный интеллект за вами пришёл. Ну, я, кстати, не с этим не всегда согласен. Э, сколько я себя помню, в каждой компании были синьоры, которые синьоры только потому, что они здесь всё знают. Это такой спокойный чувак на чили, который просто
[00:52:47] работает уже 7 лет, потому что вот он понимает все эти таблицы, он знает всю эту LEGOC кода и и все такие к нему как бы вот на поклон приходят, потому что реально вот раньше вот реально надо было 7 лет проработать здесь, чтобы этот
[00:52:59] багаж заданий получить. Сейчас приходит тот же самый там дерзкий джун, который просто загружает всю эту там структуру проекта себе в агента и плюс-минус тоже начинает понимать, что происходит, как бы. Э, поэтому синьорам тоже как бы расслабляться-то не нужно. Теперь как бы вам в спину ду дышат ребята, у которых
[00:53:17] есть ээ э такое же преимущество, только умноженное на 100, которое было раньше у вас. Это, наверное, тот вопрос, на который я не смогу ответить. Я в целом ряде направлений сейчас испытываю полную фрустрацию, потому что я потерял систему оценки с точки зрения ээ образования.
[00:53:35] Раньше была классическая история. Всё образование, особенно западное, строилось на том, что есть эссе. Тесты для базовой проверки, эссе для творческой. Ну, тесты, понятное дело, вы, наверное, читали, да, что все эти современные модельки решают самые сложные тесты на 100 и 100. Ну, а пишут
[00:53:53] плюс-минус чуть выше среднего. У всех четыре с плюсом. Что с этим делать, я не знаю. Вот. То есть, ээ, ну, какая-то единственная надежда на то, что сейчас же совсем недавно вышла вот новая статья, что на Всемирном этом экономическом форуме опрашивали работодателей, какие навыки будут самыми
[00:54:14] ценными в 2030 году. И типа из технических навыков только один попал в топ. Это как раз-таки AI и bigata. А оставшиеся пять – это была какая-то там типа любопытство, аналитическое мышление, целеустремлённость, лидерские качества. То есть сейчас как бы такой расцвет софтскилов происходит заново,
[00:54:33] когда люди с очень хорошо просто базовым каким-то набором ээ таких аналитических скилов могут конкурировать теперь с техническими специалистами наравне. Но это всё пока на, как черновички. Это очень крутой вопрос, потому что, да, ээ, инструменты сейчас очень сильно обогнали все существующие системы оценивания. Вот. Ну, а то, что
[00:55:00] сейчас и эти самые сабесы люди проходят с очками, в которых им пишут ответы, я думаю, тоже, как говорится, всем известно. Спасибо. Очень классный >> Анатолий, приветствую. Меня зовут Арутюн, работаю ли инженером. Мой вопрос, возможно, чуть-чуть пересекается с предыдущим. А как вы адаптируетесь KI в рамках э вашего, ну,
[00:55:24] проекта CarP of Curses? Э, не считаете ли вы, что AI в целом может влиять на глубокое понимание, э, начинающих специалистов? Или, может быть, в целом AI может выступать как конкурент втех индустрии, что люди как бы могут выбирать в пользу, ну, именно обучение больше как ээ и инструменты, нежели там
[00:55:51] идти в какие-то курсы. >> Спасибо. Это тоже очень классный вопрос. А для себя я базово сформулировал, что вот условно, да, к классическомутеху 100% пришёл конец. То есть если дальше продолжать бизнес в Этехе, то это должна быть уже абсолютно другая бизнес-модель. А то, что работало раньше там вот 15
[00:56:13] лет, больше не работает. Какой раньше был основной тезис, что типа, ну помните, раньше тоже это часто можно было встретить такое позиционирование. Зачем покупать курсы? Всё можно найти в интернете. И как бы, ну, в принципе, да, на самом деле, но как бы основной такой
[00:56:27] поинт, э, был в том, что у нас есть как бы практика, у нас есть какой-то roудmap, у нас есть очень крутые специалисты, которые как бы расскажут тебе это гораздо эффективнее, чем ты сам это будешь обучать, чем сам ты будешь обучаться. Сейчас, ну, я по себе сужу,
[00:56:46] что когда мне нужно какой-то новый навык освоить, у меня, если честно, я я не помню, когда последний раз в жизни у меня была идея, что я типа пойду в куда-то, кроме кроме AI. Я даже не знаю, куда. То есть, ну, обычно, да, если ты что-то не знаешь, такое типа
[00:57:02] о’кей, ну, типа, hello, GPT, надо чему-то научиться. А, и это очень прикольная тема, потому что стопроцентно рынок и теха будет меняться. Все суперогромные гиганты иха сейчас, ээ, их очень сильно штормит э взять какой-нибудь там огромные школы, которые раньше английским английским ээ обучали, да, людей. Тоже считалось, что типа, ну,
[00:57:27] вот как бы, да, ты можешь там на Ютубе что-то посмотреть, но заменить вот этот персональный тач с преподавателем вообще невозможно. Сейчас там вот из из недавнего тоже я там периодически посматриваю какие-то бешеные инвестиции поднимают в долине и стартапы, которые делают как раз таких тютеров английского
[00:57:44] языка. Ну ещё год назад это выглядело совсем криво. Может, помните эти рекламные ролики, когда типа там hello, я твой персональный помощник, я тебя научу английскому. Ну а сейчас последние голосовые модельки, они же там имитируют все виды акцентов. Они там говорят с таким абсолютно актёрским уже как бы
[00:58:05] Да. Да. Поэтому здесь короткий ответ стопроцентно. Вообще весь мировой рынок оттеха ему остало вот в текущем виде, я думаю, ещё года два-три поживут все эти И придётся это переизобретать. Это с одной стороны немножко печально. Вот как ЭТЭ был таким очень прикольным быстрорастущим рынком последние годы,
[00:58:26] особенно а с э развитием IT системы. очень много единорогов появлялось в международных компаний теховских. Вот с приходом AI, да, да, полностью правила поменялись. Ээ теперь вот все классические модели Теха, они, я думаю, окончательно исчезнут со всем обозримым будущим. И если мы хотим как бы дальше продолжать делать от тех,
[00:58:52] он будет каким-то совсем другим. С другой стороны, это прикольно, потому что когда ты предприниматель, это всегда, как говорится, тебе нравятся какие-то весёлые задачки, так сказать, со звёздочкой. Вот. Э, но это стопроцентный факт, что этех не менялся последние лет 15 точно. Вот сколько вот
[00:59:11] я помните, как курсера появилась. Вот это вот классический от тех. Есть теория, которая даётся условно там видосиками. Есть практика, которую мы там пишем код. и и никаких особо новых-то тенденций не было. Там появлялись какие-то идеи там с микрорнингом, но но концепция оставалась предыдущей. С последними моделями
[00:59:30] языковыми и их уровнем. Ээ основным конкурентом курсеры стал просто чат GPT. И это очень прикольный тезис. Вот как с ним будет. Сейчас ты заходишь в чат GPT, говоришь: “Сделай мне там roadmap по изучению питона, подготовь мне задачик с текстом, с объяснениями. 15 секунд,
[00:59:52] пожалуйста, у тебя как бы готовы”. Человек не пойдёт больше на курсеру, он просто будет сразу работать с персональным агентом у себя там, даже чуть ли не в бесплатной версии, как бы. Вот это очень интересный поинт. То есть Litли как бы целый сегмент, огромный
[01:00:05] сегмент рынка этеховский, ээ он как бы, да, доживает свои последние дни. Дальше надо изобретать, как э как конкурировать теперь раньше и тех, вот раньше у меня вот карповкус, мы наши вот мы всегда шутили, что наш конкурент это там условно Яндекс-практику, то есть какой-то этих побольше, да, или там наши
[01:00:24] конкурент – это университеты, а сейчас наш конкурент стал вообще не тех, а наш конкурент стал это по сути, да, вот новые AI продукты. Поэтому готового ответа, к сожалению, как в этой новой гонке побеждать, у меня ещё нет. Вот. Но мы работаем над этим,
[01:00:39] >> да. Толя, спасибо большое. Э, на этом мы потихоньку будем заканчивать, потому что два вопроса. >> Ещё два вопроса. >> Хорошо. И кто ещё? Так, вот вы задавали >> да? Вы задавали вам уже всё-та. >> Давайте вот молодому человеку. Анатолий, добрый день. А меня зовут
[01:00:57] Вадим. А сейчас такой замечаю такую тенденцию, что большие компании начинают тестировать гипотезы не через там продукта, аналитика, разработчика. Есть один продукт, которому дают там того же клода, он начинает кодить, дальше делать какой-то MVP и проверять гипотезу. Как вы думаете, как скоро мы придём к тому,
[01:01:19] что в целом все команды начнут быть такими вот маленькими? То есть есть один продукт, есть AI, и в целом на этом разработка, она такая вот, наверное, закрывающая, там процентов 80. >> Спасибо. Да, это классный вопрос. Я, если честно, смотрю на этот процесс с
[01:01:34] очень большим оптимизмом. Я часто вижу очень много критики там у себя в ленте, в Линкедне, что вот эти вайп-кодеры, опять что-то навайбкодели, какой ужас, а где у вас CCD? А где у вас там фронтендеры настоящие? Мне очень близка идея такого солэнтепнёрства. Я думаю,
[01:01:50] что мы сейчас входим в эпоху, когда действительно начнут появляться уже не просто какие-то предприниматели, а целые единороги, компании, которые реально сделаны одним фаундером, одним человеком. А я смотрю на это с очень большим оптимизмом. Мм, внутри компаний это тоже очень понятный флоу. Э, сейчас вот то, что нас уже
[01:02:13] упоминали, всех заставляют пользоваться AI. Первое поколение всегда будет, как говорится, первый блинкомом. Вот. Но в перспективе, я думаю, 100%, то, о чём мы сегодня обсуждали, появится какая-то новая роль, типа AI owур просто продукта, который будет в состоянии дирижировать вот этой вот корпоративной уже разработанные системы агентов,
[01:02:35] которые могут быстро положить дизайн, быстренько сделать прототип, быстренько подключить билинг, всё это запустить. А причём за корпорации я не переживаю, они с этим точно справятся. А что меня особенно дравит, что теперь как доступ к этому всему получили условно там и солонтёры, потому что как раньше
[01:02:50] выглядел любой вообще там пичк ээ стартапа любому фонду, что мне нужны инвестиции там в полмиллиона долларов какой-то сидунд, чтобы заплатить команде разработки дизайнеров, продуктов, битубишников, salзов. То есть по сути как бы вся твоя творческая идея упиралась в то, что тебе нужно нанять очень много людей, чтобы они помогли
[01:03:10] тебе её сделать. А это дорого. И да, там вот вечная история, что как бы ээ там типа стартапы – это вот только единственный путь поднимать какие-то инвестиции. Аэ то, что сейчас мы входим вот в такую эпоху солонтёров, мне кажется, это очень крутая тема. Меня
[01:03:29] прямо она вот очень так дравит. Вот тоже я здесь я здесь никакого, если честно, негатива к этому не испытываю. Наоборот, всем всегда поощряю, да, там типа вайпокодьте, делайте какие-то свои лендинги, делайте свои продукты. Это это очень круто. Ой, слушайте, здесь я боюсь [смех]
[01:03:49] давать точные прогнозы, но, знаете, как это часто принято говорить, быстрее, чем мы думаем. Вот. Потому что, ээ, есть же это классический парадокс, что мы очень сильно переоцениваем как бы совсем близлежайшие последствия. То есть это не случится завтра, но это его не случится и через 15 лет. Это будет сильно раньше,
[01:04:09] чем нам кажется. Всё, друзья мои, последний вопрос и будем на этом заключать. Вот можно вот этому молодому чело Давайте. Ладно, два вопроса. Вот вы и вы там вот как раз-таки. Давайте, да. >> А я начну. >> Всем всем привет. Меня зовут Валерий. Я
[01:04:21] дата инженер там же, где и Влад. В общем, ну вот сегодня уже много было вот тезисов по поводу того, что в эпоху развития агентов, а, количество генерируемого кода просто огромное и количество ручного написания кода сводится к минимуму. Вот, Анатолий, скажи, вот как человек, который начинал
[01:04:38] тогда, когда всего этого не было, который вот водил кот руками, ты не чувствуешь какую-то грусть или ностальгию, потому что теперь происходит в некотором роде отчуждение труда, что, ну, человек по большей части не является вот непосредственно автором, ну, или вот непосредственно творцом каких-то вот,
[01:04:58] ну, не знаю, произведений в виде каких-то вот, ну, в общем, какого-то, ну, мне кажется, ты понял, да, о чём идёт речь? Да, да. >> И потому что вот для определённой части людей, которые приходят в разработку, как мне кажется, что вот одним из плюсов
[01:05:12] профессии является то, чтобы быть непосредственно, ну, ощущать какое-то владение тем, что ты непосредственно >> Да, это очень интересный вопрос. Я одни из самых ярких воспоминаний моей жизни. Не подумайте, что у меня жизнь такая несчастная, но это действительно так. Вот я я реально помню эти моменты, они у
[01:05:31] меня примерно наравне с со всеми моими самыми другими счастливыми воспоминаниями. Как я там сижу в 3 часа ночи в офисе в ВК, ковыряю какую-то там задачку, она у меня не получается. Вот я пишу этот код, как-то проверяю его, дебажу, наконец у меня вот это вот
[01:05:45] выходит, там всё загружается такой: “О, типа, какой круто, какой какой класс”. Да. И реально ты там свои скрипты воспринимаешь как вот такую, как как реально люди пишут книги, художники рисуют картина, разработчик пишет, программирует код. А, но я отношусь к этому крайне философски. Мне кажется,
[01:06:05] как я уже сказал, переходное поколение, да, будет страдать, да, там будет гово наше время мы там сами руками код писали, не то, что сейчас. Просто появляется следующий уровень абстракции. Ээ, раньше ты отвечал за условно кусок кода, сейчас ты отвечаешь за целый продукт, где условно у тебя, ну да, код
[01:06:26] полностью делегировался. Поэтому скорее на это там условно с таким некоторым оптимизмом. А хотя, ну да, да, определённый, знаете, определённая тихая грусть у меня, конечно, в душе в душе остаётся, потому что это интересно, как буквально на на рамках одного карьерного пути, но у меня
[01:06:46] я у меня тоже не то, чтобы как бы такая уж там ээ это не так давно было, то есть я в ВК работал, ну там 2015 год 10 лет назад, условно, грубо говоря, да, вот забавно вспомнить, что вообще не было ни агентов, ни чата GPT, ничего. был
[01:07:01] Overflow, документация, вот, и IDE, которая подсказывала тебе там подсказочки, знаете, первое зарождение, зарождение генеративного искусственного интеллекта. Поэтому, короче, мне кажется, что хорошая новость заключается в том, что вот это ощущение причастности останется просто как бы на некотором таком чуть большем масштабе вот причастности именно к продукту, который
[01:07:23] мы делаем. Хотя тезис ваш понятен, с ним соглашусь. И последний вопрос. И будем как раз-таки тайминг у нас завершается. >> Давайте попробуем. Так, раз, раз, слышно. А, собственно, меня зовут Артём. Я AI project-менеджер в компании TwinPit, такой крупнейший сервер знакомства СНГ. А такой вопрос. В целом,
[01:07:40] большинство компаний в случае -трансформации идёт примерно к следующему: раздать всем какие-то подписки, откуда-то взять модели и назвать это Aадоoptionном. Типа пришли все в Native. Но, например, по своему опыту своих команд, там, консалтинга других компаний, там, самостоятельных стартапов, а, все используют даже условный клодкод совершенно по-разному.
[01:07:58] Есть огромный скилышью. Есть, например, большая разница между мной, когда у меня структурированы мои скилы. Под каждый конкретный сетап есть набор из кучи компонентов, которые правильно отрабаты, как мне надо. И если, например, с я сравнивал, как на одном и том же проекте я работаю и сеньорный фулстк разработчик
[01:08:12] с пятнадцатилетним опытом, я могу решить его задачи буквально за 2 часа. Он решает это примерно полторы недели. Приэтому качество моего кода намного выше. И я выдаю там 15-20.000 строк кода примерно в час. Аа, соответственно, к чему весь вопрос и к чему всё это веду?
[01:08:26] А есть большая разница между настроенным сетапом эагента под конкретный проект, конкретный домен и человеком, который просто пользуется условным клодкодом, кодексом, любым харнесом. И во многих организациях сейчас стаёт фундаментальная проблема. Всем раздали подписки, всем раздали ишку, но разница между людьми просто-напросто колоссальна. И по сути, вместо того,
[01:08:44] чтобы, например, Teamle производил код review, он должен писать скилы для кодрев, хуки для кодрев, должен правильно накидывать dynamic workflow. Как организациям сейчас на ваш взгляд вообще руководить вот этой всей песочницей, задавать конкретные стандарты, сетапы, распростих по командам, следить за тем, чтобы команды соблюдали их, потому что сейчас есть
[01:09:02] огромнейший соблазн человеку на персональном компьютере накатить себе свой собственный скилл. Этот скилл швыряет определённую телеметрию туда, куда не надо. 40% скилов, 65% MCP имеют СВE внутри себя. >> Спасибо. Да, это, наверное, тоже очень крутой вопрос. А, точнее даже, ну, не вопрос, скорее, а тезис. Вот. чтобы тоже
[01:09:22] мы все немножко не расслаблялись. Я уже сказал сегодня такую немножко немножко неаккуратную фразу, может быть, уронил, что теперь условно там у каждого есть код-код, теперь все плюс-минус там одинаково пишут код. Это действительно не так. Действительно, мы замечательно видим ситуацию, что, знаете, так говорится, умные стали ещё умнее, глупые
[01:09:38] стали, к сожалению, ещё глупее. Вот даже если выдать им подписку, а это ну короткий ответ. Нам нужны такие люди, как вы. Вот. Вот вы сегодня сказали, что вы AI, AI менеджер, да, получается, AI project, да, вот это вот это вообще новый тип профессии появляется. Люди,
[01:09:56] которые отвечают за внедрение как раз-таки а-инструментов, это стопроцентно. Так что сделать а-трансформацию компании, если просто всем выдать подписку, не получится. Вот это очень сложная история. Мы как раз-таки вчера, кстати, вот обсуждали тоже, как это в банках, например, реализовано. Ну, как бы особенно, когда
[01:10:13] это данные нужно анонимизировать, особенно когда данные очень чувствительные. Короткий ответ. Реально выстраивается целая экосистема эинструментов, заранее подтюненных, заранее настроенных. И появляется вообще новая профессия. Да, появляется новая профессия, потому что это суперважно. Это суперважно. A и навыки 100% сейчас разделяются на две части. Есть искусственный интеллект
[01:10:40] для личной эффективности. Тут код реально скачал клодкод и говоришь ему чат GPT там типа подскажи мне как начать следить за питанием и ходить правильно в спортзал. Плюс-минус там будут очень крутые ответы и всё о’кей. Когда мы говорим про prod продакшн какие-то задачи, ну, конечно, просто пойти и
[01:11:00] спросить чат GPT – это будет, ну, какая-то набор общеусреднённых ответов, которые для реальной сферы довольно плохо применимы. И сейчас как бы основная основной тезис, что решает контекст. Ээ раньше все вот говорили, что решает промты, была такая целая даже профессия промтненьринг, которая очень быстро, кстати, пропала с радаров. Э
[01:11:22] сейчас решает контекст, насколько мы нашу модель дообучили, встроили в бизнес-процессы нашего нашей компании. И это тоже очень интересный поинт, что для того, чтобы действительно конкурировать с такими же людьми сейчас вот там в карьерной своей профессии, у которых у всех теперь есть клод-код, надо понимать, что AI навыки – это не
[01:11:44] просто скачать подписку, это действительно интегрировать ээ этот инструмент внутри компании. И поэтому это даже не то, чтобы вопрос, на который я отвечаю, просто скорее как бы соглашаясь с этим тезисом, что просто раздать всем подписку – это, ну, путь относительно в никуда. Все просто будут
[01:11:59] жечь токены. обогатятся компании, которые продают подписки. А чтобы Aинструменты действительно стали э приносить пользу компании, вот Little появляется новая профессия, люди, которые интегрируют AI ээ в продукт- это очень сложный, интересный блок. В отчасти очень инженерный. Э там масса вопросов и с безопасностью, и со
[01:12:23] скилами, и с харнесами. В общем, я думаю, всё это вы, как говорится, уже слышали. Но ещё раз это проговорить, это, мне кажется, суперважно, что мы на этом даже ноки заканчиваем, что, а, очевидно появляется как бы новый горизонт. Ээ возможно, поначалу кажется, что условно люди, которые теперь очень
[01:12:43] часто вот такой тезис, что теперь люди там условно, которые работают C, они справляются с задачами круче, чем люди, которые без AI. Ну, всё этот эту сферу мы уже прошли. Теперь все ваши конкуренты на рынке, условно, они тоже теперь сями. Все теперь джуны аналитики
[01:12:58] тоже сями работают. Теперь как бы следующий поит, чтобы вы C AI работали эффективнее, чем другие люди CI. Не другие люди без AI, с ними всё понятно уже. Вот конкуренция просто вышла на новый уровень, все плюс-минус снова оказались в равных позициях и снова начинают выигрывать те, кто
[01:13:16] справляется с задачей лучше. И короткий ответ, да, вот то, что ты упомянул просинты, что стопроцентно, чтобы встраивать AI в решение реальных там огромный, огромный бэкграунд инженерный требуется, правильная интеграция, правильные скилы, правильные контексты до обучения, фантюнинг-модели, в общем, огромное, огромное количество вещей, которые, по сути, порождают
[01:13:39] сейчас целую новую профессию. Вот эти вот AI прожекты, AI интеграторы, AI автоматизация, инженеры по автоматизации. тоже смотрю на это с очень большой большим оптимизмом. Спасибо. Это очень классный тезис. >> Да, Толя, спасибо. Теперь время выбрать лучшие вопросы. Лучшие два вопроса и раздать книжки.
[01:13:58] >> Да. А мне очень понравился вопрос про AI, как сказать, AI клинера, AI, [смех] AI, AI аудитора. Вот это это вот целый целый как бы пласт сегодняшнего разговора в том, что как бы а – это всё круто. Но надо следить, поэтому тебе я
[01:14:18] позволю вторую книжку вручить. Вот. А я повторюсь, я я приехал сюда с двумя книжками. Это я их не специально покупал, которые я читал. Я их не дочитал, поэтому прямо прямо ТЗ прислать мне самари, чем всё закончилось, как говорится. Вот. Да, книжка прикольная. Меня она
[01:14:38] зацепила. Она про то, как планировать свои какие-то базовые цели. И там основной тезис, что типа надо их максимально сжимать. Всё, мы живём в эпоху сумаризации. Ставить цели на год, на квартал, это уже проехали. Надо вообще вводить недельные спринты в свою жизнь. И год – это теперь 12 недель, как
[01:14:56] говорится, ускоряемся. А вторая книжка у меня, которую тоже я ээ с очень большой неожиданностью обнаружил в списке какого-то супертопового теперь контента, по крайней мере в России, я зашёл в Читай город, и там на стенде там самые продающиеся книги, там стоял типа Умберто Эко, там Агата Кристи и вот
[01:15:14] Андрей Дороничев. То есть Андрей, ну, ну, типа, это очень круто. Ээ, я думаю, вы знаете эту историю. Он руководил мобильным офисом, э, в >> В Гугле, да. строил приложение, а, и стал таким очень популярным тоже парнем на Ютубе. Ээ, рассказывает про то, как
[01:15:33] вообще у него всё это получилось. Как бы некоторая такая тезис. Я бы хотел эту книжку вручить вопросу про датаинженерную историю. Вот пожелать успехов в карьере. Потому что, мне кажется, это вот как раз-таки тоже очень классная связка современных скилов, ээ, остаются за человеком с современной как
[01:15:56] бы AI AI технологией с подручной. Вот как-то так. >> Отлично. Я ещё предлагаю сделать одно общее фото. Давайте здесь соберёмся, сделаем общую фотку. Приходите все сюда, пожалуйста, и отпустим Толю. на доклад на Хиксфилд. можно сесть, да? Как удобно. >> Ужас. Расточка. Кто сзади? Давайте,
[01:17:43] >> чтобы вас видно было. >> Это же была, >> да? Спасибо, Толя. >> Так, аккуратнее, аккуратне >> спасибо, на самом деле и Хиксфилду за то, что предоставили такую возможность пригласить Толю. >> Без них бы это не получилось. Спасибо большое, ребят. А мы потихоньку будем двигаться дальше.
[01:18:59] Мы немного выпились в тайминге. Опаздываем на 6 минут. Пока, э, все находят свои прежние места, а готовится следующий спикер. Следующий спикер – это тоже очень известная личность на СНГ пространстве. А раньше этот спикер работал в такой бигтехкомпании, как Amazon, по-моему, в Дублине, да, ты работал.
[01:19:31] Э, кроме этого, про кого я вообще говорил? Это вот Лёша Драль, следующий спикер. А также Лёша у нас работал в Яндексе, в Рамблере. Э, какое-то время даже в Сберево успел закончил школу анализа данных Яндекса, а сейчас уже какое-то продолжительное время. Он продолжает тезю. И в целом они
[01:19:57] [фыркает] очень близки с Толей Карповым.
🧭 Строите карьеру или бизнес в сфере Data & AI в Центральной Азии?
Впервые запускается TengriMap — интерактивная карта технологической и образовательной экосистемы Казахстана и региона. Находите единомышленников, курсы, стартапы и менторов: app.tengrimap.com
Секция 2: Алексей Драль (Основатель BigData Team, ex-Amazon, ШАД) — Хэллоуинские кошмары запуска Data/AI бизнеса (01:20:00)
[01:20:00] Делают это тех, по сути говоря. Если Толя больше специализируется на какой-то аналитике данных и так далее, а Лёша больше как будто бы с работы с большими данными, с датаинженерией. Всё, пока. Спасибо, Толя. И да, я передаю слово тебе, Лёш. Давай, >> Всё, спасибо за приглашение. Всем
[01:20:27] А приятно, когда разогревает Анатолий. Все уже пришли. Не нужно кого-либо уговаривать прийти. Мы сегодня поговорим про то, что если вы всё-таки соберётесь пойти в мир предпринимательства, э то вот в сфере вот этого дата-анализа, что вас предстоит, а, что вам предстоит пройти на этом пути? Вот не с целью отговорить,
[01:20:51] но с целью подготовить, что путь может быть тернист. Но если вы верите в то, что вам это действительно нравится, то я рекомендую это попробовать и заранее подстраховаться по тем моментам, на которые наступают многие и предприниматели, предприниматели, и аналитики, и программисты, которые хотят открыть свой бизнес. Погнали. А тема у
[01:21:11] нас Хэллоуин, поэтому мы подготовили бестирий, а, различных монстров, с которыми вам предстоит встретиться на этом пути. Сейчас только найдём, куда кликать. Да, я буду рассказывать про мм эволюцию того, как э построить то, что хочется. И дальше, что вам нужно научиться делать, например, если вы
[01:21:40] захотите построить какой-то свой продукт. А как, э, представили, мы занимаемся образованием. Занимаемся образованием довольно давно. А первую свою лекцию на базе государственных вузов в МФТ я прочитал в 2011 году. И в 2017 году мы при партнёрстве с КУСРА запустили курсы на английском языке,
[01:22:00] посвящённые Big Dataта, запустили их на международный рынок, и этот курс за 5 лет прошли более чем 100.000 человек. Соответственно, а сейчас эти курсы пока не доступны для курсера, поскольку есть определённые вопросы с гражданством а людей, которые запускали эти курсы на платформе. Поэтому мы перезапускаем эти курсы уже
[01:22:22] на своей образовательной платформе. Кому будет интересно, можно будет, э, посмотреть, подписаться на страницу, а, чтобы потом пройти эти обучания, когда мы перезапустим их в этом месяце. Первое, а, монстр, с которым вам предстоит встретиться – это укус предпринимателя. На самом деле, многие думают, что предпринимательство – это
[01:22:46] классная жизнь, свобода заниматься теми вещами, которыми вы хотели бы заниматься. На самом деле это свобода заниматься болями бизнеса 24×7. Вот вам рассказывают, что у вас будет возможности, слава, а, деньги. И важно понять, что часто этот монстр работает совместно с ещё одним монстром, который
[01:23:07] называется выгорание. То есть, если вы сидите на работе и думаете, что вам всё надоело, вы делаете не те задачи, которые хотелось бы делать, то обратите внимание, что это не обязательно именно ваши желания. А самый критичный случай, который был на самом деле у меня, что в какой-то
[01:23:25] момент, когда вы делаете задачи и вы находитесь в таком состоянии, что вас увозят на неотложки в больницу. Здесь важно различать, это выгорание, которое происходит из-за работы, на которой вы работаете, или это выгорание от того, что вы видите какую-то потребность, которую хотите закрыть с точки зрения
[01:23:45] своих целей, своего бизнеса, э своих проектов, своих мечтаний. Вот и работа становится ограничением, что у вас недостаточно времени на реализацию вашей мечты. Вот поэтому выгораю выгораю рознь. Но важно понимать, что бессонные ночи вам в любом случае обеспечены. Вот нужно быть к этому готовым. С точки
[01:24:07] зрения реальных цифр, а я подготовил ряд цифр по рынку США. А цифры с точки зрения там Казахстана, СНГ, там Сербии, любой другой страны, они будут отличаться. Но ключево – это процентное Как вы думаете, сколько компаний выживают спустя год, спустя два, спустя три? Соответственно, цифры
[01:24:32] по странам плюс-минус одинаковые, но ожидать, что ваша компания проживёт хотя бы 10 лет, это понимание того, что вы верите в свою мечту, если запускаете этот бизнес. А и вы находитесь в когорте ещё 100 других людей, которые тоже являются профессионалами в своей сфере области деятельности. Они тоже верят в
[01:24:52] свою мечту, они тоже умеют заниматься аналитикой, заниматься разработкой, и только четверо из вас на протяжении десятилетнего периода действительно смогут выдержать ээ изменение реалий, изменения рынка, изменения подстройки то, что нужно этому рынку и то, что вы можете ему предложить. С точки зрения заработка тоже нужно
[01:25:14] понимать, что а заработок предпринят того, что он нестабильный. А если мы говорим, что на рынке США средняя зарплата там любого наёмного сотрудника в среднем в годовом эквиваленте исчисляется 60.000 долларов в год, то среди предпринимателей э получается 90% аэ находится в диапазоне от 35 до
[01:25:40] 100.000 долларов. И только 10% зарабатывают больше, чем 100.000 долларов в год. Э, большая часть из них зарабатывают, э, меньше, чем люди, которые работают в найме. И головника у них может быть сильно больше. То есть важно понимать, что вы действительно горите этим делом. И, э, следующий
[01:25:58] важный момент, что вы понимаете, что вы, скорее всего, прогорите, а вы, скорее всего, будете зарабатывать меньше. И если выстраиваете команду людей, которых хотите нарять, то с точки зрения устойчивости этого бизнеса вы можете предложить вашим сотрудникам зарплату на уровне микробизнеса, которая на 20-30-40% ниже, чем предлагает рынок.
[01:26:23] Соответственно, у вас должны быть настолько горящие глаза, настолько хороший укус вот этого заражения предпринимателя, чтобы убедить э в этом пьяном угаре других людей, что вы делаете что-то, во что они тоже готовы поверить и пожертвовать своим временем в реализацию там мечты, которая может быть вашей общей.
[01:26:46] Как вы думаете, какой шанс среди предпринимателей здесь по рынку США? А сколько из них зарабатывает от миллиона долларов в год 0,1%. Ну, здесь, видимо, да, аналитики сразу пессимизируют. На самом деле побольше, а не 10%, конечно, всего 2%. Вот. Но тоже нужно понимать, а у вас
[01:27:12] там, допустим, вы закончили классный университет, и вы понимаете, что, а, вас таких классных, допустим, 100 человек, и у всех горящие глаза, у всех знания, навыки, там, возможно, уже опыт. И из ваших вот 100 человек, в которого в каждого можно поверить, а только два человека там смогут
[01:27:33] зарабатывать, ну, если у них цели именно по заработку там от миллиона долларов в год. И только 10 и только четыре человека в период 10 лет не прогорят. Вот поэтому, если надумаете, то обязательно понимайте, что все вот эти розовые мечты о свободе, э, там как
[01:27:51] минимум первые 2 года, они точно недостижимы, поскольку вы должны понять, как действует бизнес, и найти ту нишу, в которой вы будете работать, которая нужна этому рынку. А потом поднимут НДС, да? То есть это уже следующие монстры. Я не всех выписал, но это точно один достойный
[01:28:16] Соответственно, противоядие, а либо э вы понимаете, что вы никогда не смотрите на других людей и не думаете: “Да, я точно сделал бы лучше”. А либо вы всё-таки соглашаетесь с тем, что вы хотите сделать что-то лучше. А но тогда, чтобы снять вот эти розовые очки, что важно
[01:28:33] сделать? Первое, а, пропишите чёткий бизнес-план. Когда вы будете писать бизнес-план, а, я, когда работал в Amazon, любой проект, который вы хотите сделать, который вы хотите реализовать, он должен, а, пройти определённые этапы revw. И этот документ должен быть короткий, но включать всё необходимое. Соответственно, мы использовали такую
[01:28:51] фразу six pager, то есть документ, который не должен занимать больше, чем шесть страниц А4 и не мелким шрифтом. Вот, соответственно, вы должны донести ключевую идею, а, его реализацию, описание рынка, календарный план, как вы будете его реализовывать, чтобы изложить всё необходимое, ключевые аспекты, структурировать свой мозг и свои посылы,
[01:29:11] свои идеи. После этого а вы должны будете ещё больше прокачаться по финансовой грамотности. Насколько я понимаю, здесь 90% децентистов разного уровня и от джуниоров, и синьоров. А, соответственно, с данными вы работать умеете. умеете прекрасно. Но с точки зрения финансовой грамотности, когда вы презентуете проект, вам нужно
[01:29:32] будет подумать с точки зрения защиты этого проекта на уровне инвестора, например. Вот докажите ему, что деньги, которые он понесёт в банк, например, на какой-то депозит или вкладывать в акции, вот допустим, максимально безопасные какие-нибудьки международные, опять же зависит от его гражданства, но это другая история. Соответственно, вы
[01:29:51] должны сказать, что тот риск, который он вкладывает в вас, в вашу идею, в ваши деньги, он будет оправдан по сравнению с теми процентами, которые он мог получить гарантированно и безопасно. Вот, соответственно, ваши риски будут сильно выше. Поэтому вы должны показать, как вы эти деньги отобьёте и в какой период.
[01:30:08] Соответственно, все вот эти метрики, а, IRR и прочие финансовая конструкция. Кому интересно будет, рекомендую классный ресурс, называется Инвестопедия. Там очень много классных терми терминов из мира финансовых инвестиций, а доступны, понятные, описаны или простым текстом, или небольшими роликами до минуты. Вот. И третий, а, самый важный момент,
[01:30:31] соответственно, апробация вашей идеи на реальном рынке. В каком плане? Вы находите какого-нибудь, эээ, самого близкого вам человека, друга или знакомого, и убеждаете его, что он должен вложить свои кровно нажатые деньги, которые он копил, например, на отпуск, а, или недвижимость на то, чтобы вложить свои деньги в вашу идею.
[01:30:54] Соответственно, кто занимается стартапами, знают эту модель 3F. А кто да? А, friends, family and fools, соответственно, друзья, семья и дураки. Вот, соответственно, это ваша первая аудитория, с помощью которой вы можете поднять свои первые деньги для инвестиции в реализацию вашего проекта. Что важно, да, соответственно, вот этот
[01:31:19] кейс, тоже мой кейс, у вас есть розовые очки на тему того, как прекрасен ваш бизнес, ваши идеи, что все захотят его купить. Приходите просто в банк, говорите: “Я хочу взять кредит”. И понимаете, сколько вам реально дадут и под какие проценты? Соответственно, а как мы запускали этот
[01:31:41] бизнес? Ээ мы пришли на курсру и сказали, что мы хотим запустить обучение на английском языке по бикдате. Нас три человека. А, соответственно, вот мы начали я, Эмили и Паша Месяцев. А у нас было 9 месяцев на разработку всего и вся видеороликов. А с точки зрения того, там
[01:32:02] что такое онлайнообразование, а для тех, кто никогда не записывал курсы в формате МОК, кажется, что что такое преподавание. Я прихожу, читаю лекцию, умею делать слайды, что там сделать, там онлайн-ролик. А с точки зрения онлайнообразования записи моего курсов, это также как вопрос: умеете ли вы писать ручкой? Вот
[01:32:21] там спросить преподавателя. Да, конечно, умею. Но потом вам приносят перьевую ручку, а вы такие: “Я перьевой никогда не пробовал”. Вот. Понятно? этому нужно будет научиться. И с точки зрения разработки онлайн-курсов, как сказал Андрей Карпатий, это 300% э инвестиций за 30% benefits. Соответственно, с точки
[01:32:40] зрения разработки вот этого онлайн-курса у вас будет, э, 1 минута видеоконтента, по крайней мере, это раньше. Сейчас, понятное дело, развиваются технологии, яишко, очень много можно автоматизировать, но в 2017 году а у нас даже не было возможности в Гугле сделать аннотацию презентации. То есть нужно
[01:32:57] было продумывать процессы внутри команды, чтобы можно было черновик преподавателя через дизайнеров прогнать финальную версию презентации. Соответственно, уходит 1-5 человек и часов работы на 1 минуту финального видеоконтента. Это с учётом монтажа, выкладки на платформу, Вот. А с точки зрения, почему 135 здесь 1 час в среднем – это если вы делаете
[01:33:21] курсы на русском языке, а если добавляются английские языки, вы не являетесь нейтив спикером, соответственно, а возможно вы не так классно разговариваете на английском языке и там предлагаете шутки прибавутки, как на русском. А нужно всё это вычитать, прочитать, добавить какие-то дополнительные кейсы страновые. Вот на на это, соответственно, можно
[01:33:40] умножать вот эти все трудызатраты в пять раз. Соответственно, если посчитать, сколько здесь нужно там 250 видеороликов по 10 минут, то выяснится, что из команды в три человека оказывается, что нужно команду 30 плюс человек, которые будут работать по 16 часов в неделю на протяжении всех этих 9 месяцев без
[01:34:00] праздников, без выходных, без отпусков, чтобы уложиться в сроки в дополнение к фултайм работе. А бонусом. Поскольку это обучение на курс эра, то стоимость обучения денег, которые мы могли вложить в инфраструктуру, означало, что мы не можем использовать кластеры типа Elastic Musce, то есть б кластера в облаках и
[01:34:26] там любая бигдата в облаках. Нам нужно сделать это в сотню раз дешевле, чем предлагают облачные провайдеры. Вот. Соответственно, это означает, что нам нужно было придумать своё программное обеспечение, его написать и опять же уложиться в эти сроки. А реалистично? А, соответственно, многие говорили, что
[01:34:42] нет, поэтому нам пришлось полететь в курсерах headquarters и защищать этот проект, что у нас действительно есть этот бэкграунд. Поэтому вот эти ачивки по вашей карьере, по вашей профессии, что вы работали в каком-то бигтеке, СНГ, международном, они действительно помогают открывать какие-то двери и доказывать, что у вас есть эта
[01:34:59] экспертиза. Поэтому прежде, если вы захотите пойти в предпринимательство, возможно, может быть полезно получить определённые вот такие ачивки, которые позволят вам открывать определённые двери. В конечном счёте, да, вы видите там, а, порядка двадцати, а, представителей команды, которые разработкой, э, методической работой, менеджментом, а, и непосредственно
[01:35:20] запуском, написанием видеороликов по направлению Big Dataта. Это первый уровень. Соответственно, вы это сделали. А дальше для того, чтобы это реализовать, а у вас там инвестиции вместо трицати человек есть всего деньги на трёх человек на этот период, соответственно, вам нужно что-то делать. А в рамках запуска этой мечты, если она
[01:35:46] у вас есть, некоторые рекомендации, которые могут вам помочь. А, соответственно, а если вы работаете большой командой, а, специалистов, это может быть соинвесторы, сооснователи, а, в случае запуска какого-либо интеллектуального труда это может называться royaltти. То есть человек передаёт свою интеллектуальную собственность вам и за это за продажи
[01:36:09] лицензии и доступа к этому продукту будет получать процент с прибыли с продаж. Вот, соответственно, это позволило аэ воплотить эту мечту в но не сделать это этот инструмент именно финансово обеспеченным. Вот второе, да, соответственно, вот благодаря вот этому челленджу у нас появилась собственная инфраструктура своих дуп кластера, своё
[01:36:30] окружение, которое мы интегрировали по протоколу LTI для LMS платформ. Соответственно, если кто там из северообразования, тоже можно поговорить, в чём есть ограничение этого интерфейса передачи данных, как можно интегрироваться, как можно развивать свои собственные образовательные платформы, если вам это А по пути вы будете встречать довольно
[01:36:51] много мелких ээ монстров, которые, несмотря на то, что они мелкие, всё равно доставляют ряд бед. А мы встретились с копеечным демоном от налоговой, а когда нам просто блокируют все счета просто потому, что у налоговой не сошлись налоги по оценке по нашей компании, сколько налогов мы заплатили
[01:37:14] или не доплатили. Разошлись на 1 копку. В конечном счёте выяснилось, что это они использовали для финансов флот арифметику, соответственно, немножко в инженерию. Видел, слышал вопросы про инженеринг. А когда вы разрабатываете продукты и если вы работаете со стороны обеспечения а людей, воплощаете их мечты как
[01:37:36] предпринимателей, то обязательно, да, думайте, что ваше программное обеспечение, оно живёт в мире не разработки, в которых количество вещественных чисел ограничено и всё работает с округлением. И у нас есть разная точность в районе нуля и больших чисел. Поэтому ответ может быть разный в зависимости от того, в каком порядке вы
[01:37:52] проводите вычисление. или в целом использовать правильные инструменты типа деimal. Аа для того, чтобы работать, а, с финансовой арифметикой, в какой-то момент, да, вы попадаете на монстров более высокого уровня, а я называл их хранителями платформ, которые обещают вам баснословные заработки, а, имеют крутую аудиторию, дистрибьюцию,
[01:38:20] ну, надо дать должное, они всё это построили, это стоит денег. Вот. Но ожидать того, что на этом вы хорошо заработаете, э, не стоит. То есть, например, э кто-то недавно в Инстаграме делился, что вот я там у меня миллионы подписчиков, я могу заработать целые
[01:38:38] 1.000 долларов в месяц от Гугла. Вот львиную долю вашего дохода будут забирать вот эти платформы, если вы работаете на эти платформы. Вот. Но у вас есть выбор. Вы хотите сделать крутой продукт или заработать. И это тоже, на самом деле, выбор, что вы хотите
[01:38:53] сделать. На тот момент мы хотели сказать: “Давайте мы сделаем самый крутой курс по Big Date, который можно сделать в этом мире, и мы будем горды это сделать”. Вот поэтому, а, в этом плане, э, вот этот пятилетний проект, на который записалось более 100.000 человек, он только за пятилетний период
[01:39:09] вышел в ноль. Но мы получили то, что мы хотели. Мы получили определённое признание, получили оценки о том, что это лучший образовательный проект за периметром сферы профессионального образования с точки зрения государственных вузов. Большая часть детасаентистов, даже дейтат инженеров, они начинали карьерный трек именно с наших курсов.
[01:39:34] И благодаря вот этому сарафаному радио, то есть можно назвать это маркетинг, мы как раз там поработали с с крупным бизнесом во всех его проекциях. телекомы, банки, различный-комерс, даже сельхозко, образование обучения, с которым мы работали в России, в Германии, в Китае, в Казахстан специально приезжали, делали
[01:39:59] выездное обучение как раз вот в рамках партнёрства с Яндексом и фондом Есенова. С чем ещё аэ приходилось встретиться? А когда мы запустили вот этот, как мы считали, классный образовательный продукт, на него тоже посягнули классные айтишники, которые взламывали в наши сервисы, чтобы чтобы майнить крипту. Вот
[01:40:25] поэтому, а там чем дольше мы жили, тем больше инфраструктурной обвязкой мы обрастали, соответственно, а вокруг нашего контра в какой-то момент появились фаерволы, администраторы, которые умеют это всё грамотно Но со временем хранители вот этих платформ, они эволюционируют в монстров этих платформ. В какой-то момент вас
[01:40:48] могут по одной кнопке отключить. Собственно, так произошло с нами мм с курсерой и с Гуглом, когда нам отключили и ряд сервисов, которыми мы пользовались, и Гугла, и Курсера. Соответственно, э-э здесь, если у вас есть критически важный проект, инфраструктура, то важно понимать, как вы под эту от этого подстрахуетесь. А от
[01:41:09] этого подстраховаться не всегда возможно. На это у нас ушло несколько лет, но в текущий период мы разработали уже собственную образовательную платформу, в которой есть свой выделенный видеохостинг, в которой есть там своя ЛМЭСКА, авторизация, формы сбора обратной связи, блок платформа, а сервисные штуки типа OG, Openraph для
[01:41:29] того, чтобы предоставлять картинки и мини-спиты при шаринге этих ссылок. Ну, интеграция во весь мониторик, интеграция в наш вот этот внутренний грейдер, который имеет возможность запускать ваше решение на реальном распределённом кластере и делать это дешевле в 100 раз, чем если бы вы сами арендовали облачные
[01:41:46] ресурсы. Вот. Коротко пробежаться. А про текорда, кто слышал, кто не слышал, поднимите, пожалуйста, руки, кто слышал. Супер. А кто-то слышал, но кто-то не слышал. На всякий случай, ребята, обратите внимание. Каждый год, а-э, государство запускает программу по финансированию, софинансированию вашего обучения. У вас есть возможность
[01:42:06] получить 400.000 тенге на обучение по направлению в IT. А, 80 IT школ Казахстана. А, в ней участвуют. Выбираете любые курсы Data Engening, Data Science, AI Engнер, всё, что захотите, э, знайте, не пропустите. А после того, как мы поборолись с международными платформами, а поскольку
[01:42:26] у нас есть рынок и российский, то у нас был распределён челлендж и с чтобы у нас слушатели не могли обучиться наших серверах, которые доступны были, допустим, в Германии. Соответственно, у нас появля появились различные прокси IDP платформы и вся вот эта машинерия с точки зрения геораспределённости, то
[01:42:43] есть highability, высокая доступность не означает геодоступность. Это ещё отдельные сервера в наличии всех вот этих радостей. Сейчас, к чему мы приходим, у нас есть много различных монстров, которые каждый день находят новую уязвимости, ээ программного обеспечения, которым мы пользуемся. Соответственно, теперь э мы разрабатываем собственных и лекарей,
[01:43:05] которые эти уязвимости тоже автоматически пытаются в гонке опередить и залатать. Соответственно, а здесь появляется вот это всё, весь выход во внешний мир, вся вот эта яишка и всё вот это ради чего? Ради того, что просто мы хотели сделать образовательный курс. Вот поэтому путь может быть
[01:43:30] тернист. А с точки зрения современных тезисов, которые хочется донести, а про Иишку, я слышал классные вопросы. Анатолию, здесь классный эксперимент, который мне довелось сделать, повторить эксперимент, который делал Open AI. Эцев разрабатывать крупный продукт, полностью согласовая заранее, что вы не пишете ни одной строчки кода, как все ваши
[01:43:52] процессы, всё ваше мышление вынести на стандарты разработки. Очень классный эксперимент, очень классные тезисы. Соответственно, можете почитать и в статье Open Open AI, если будете разрабатывать. Ну и, конечно же, тоже приглашаю к нам, а-а, послушать. Мы тоже проводим образовательные курсы. Вместо резюме, чем бы вы не занимались, работа
[01:44:12] в найме, наука, предпринимательство. Ключевое, что вам будет больно. Это нормально, но важно, чтобы вам вот это больно, оно нравилось. Если вы ищете этот Кигай, то ищите его на пересечении того, что вы любите, того, что у вас получаете и за что люди, а, готовы
[01:44:28] заплатить деньги, чтобы вы могли совместить приятное с этой жизнью. Коротко, да, ээ, там меня представили немножко тизеров. А, мехмат красный диплом. Топ-50 элучших направлений обучения по математике в мире по рейтингу Worldк. Работал больше, чем в 10 IT-компаниях. А самое топовое, наверное, будет Amazon. И то, что мы
[01:44:55] сейчас строим – это обучение по направлению Big Data Machine Learningaring. AI. Презентацию можно будет скачать по ссылке. Вот ключевое. Любите то, что вы делаете. Я надеюсь, этих монстров, которые вы будете побеждать, они, конечно, будут всегда разные. интересные, но не заставят, не отговорят вас заниматься
[01:45:13] своим любимым делом. >> Лёша, спасибо большое за такой интересный доклад. Есть ли вопросы? Поднимите, пожалуйста, руки. Так, я вот вижу вопрос. >> Так, держите руку. Какого вопроса? Передайте, пожалуйста. >> Здравствуйте, меня зовут Донат. Спасибо за презентацию. У меня вопрос по Эттеку. А вы российская компания, и у вас,
[01:45:46] конечно, больше трудностей с тем, какой стек на рынке актуальный. А как вы вообще как у вас идёт процесс, когда вы решаете, какой стек заменить в программе обучения, какой добавить, когда нарастает вот эта вот критическая масса, когда вы понимаете, что, э, какой-то стек нужно было ещё вчера добавить.
[01:46:08] А, спасибо за классный вопрос. А здесь небольшая ремарка, что мы не российская компания, мы, то есть, у нас есть представительство в России, у нас есть представительство в Казахстане, но, к сожалению, с корнями из России, то есть определённое гражданство, которое доставляет определённые ограничения. А
[01:46:25] мы, в отличие от курсера, который заявляет, что образование для всех, всё-таки стараемся делать образование для всех, независимо от того, где вы проживаете. Поэтому, да, мы стараемся делать контур доступным. Поэтому появляются вот эти геосервера и проксирование всей идутра радости в России, в Казахстане и на Международку.
[01:46:42] С точки зрения того, какие технологии используют, э, там, что актуально, что не актуально, а мы пользуемся тем, что у нас классное менторское сообщество, менторское сообщество, сообщество преподавателей. Соответственно, последние полгода были довольно тяжёлые, напряжённые, поскольку было много взломов, защит, выход на международку, разработка своей собственной платформы.
[01:47:02] Но раньше мы встречались каждую неделю, сейчас встречаемся реже, там раз в месяц, может быть, раз в несколько месяцев. Э в этом сообществе находятся руководители департаментов IT, крупного телекома, банка, бизнеса, людей, которые проживают в разных странах и смотрят на IT-сферу с разных сторон. И,
[01:47:22] соответственно, мы обсуждаем, что у них произошло интересно, во что они верят. Например, а если мы говорим, допустим, про Россию, у нас есть классный парень, который отвечает за развитие всей инфраструктуры в МТС. И у них есть классный технологический радар, где есть 10 архитекторов, айтишников с крупным
[01:47:41] опытом, которые смотрят этот рынок, руководят командами, развивают продукты, и они в рамках этого технологического радара вообще смотрят, что появилось в этой сфере. Но с точки зрения технологий, они говорят: “Вот, вот, допустим, вышел определённый отчёт, появились такие стартапы по определённый технологии, мы хотим их попробовать”.
[01:47:58] Тот же самый Сбербанк делает много международных исследований. Ребята, а Data scientist по маркетингу Сбербанка, например, они как раз смотрят вот в международном рынке есть тренд на определённую технологию, определённый средств. Соответственно, мы вот эти вещи имеем возможность обсуждать и, э, на основе этого принимать решение, что вот
[01:48:16] эти технологии имеют смысл добавить в образовательный процесс. Раз. Два. А-а, я говорю, что мы занимаемся образованием, но мы занимаемся всем по чуть-чуть. Ээ, для чего? Для того, чтобы, поскольку технологии меняются довольно быстро, а средний период полураспада IT-технологий он где-то около 2 лет. То есть вы изучаете
[01:48:34] какой-то стек и через 2 года очень вероятно а его заменит какой-то другой стек. Соответственно, а важно получать практические навыки по работе с этими технологиями. Поэтому иногда мы делаем консалтинг, а, часто для какого-то крупного бизнеса, поскольку у нас довольно сильная команда. И, соответственно, в рамках реализации
[01:48:55] этого консалтинга мы получаем необходимые знания и навыки по тому, как оно работает под капотом, а не только заявлено на бумаге. Вот. И, соответственно, вот в рамках вот этого круговорота у нас есть возможность а получать и разрабатывать новый образовательный модуль. Вот, соответственно, если вот мы начинали в
[01:49:11] семнадцатом году, у нас был курс по Бегдате, аэ, и это было, допустим, там 10 учебных модулей по разным направлениям, то сейчас у нас порядка птисяти учебных модулей по машинному обучению, по бигдатии, по ишке, по промышленной разработке на Python, в целом по аналитике. Спасибо за вопрос. Здесь ещё вопрос был.
[01:49:30] >> А, да. А я хотел спросить, а вот мне как платформенному инженеру очень интересно, а как у вас менеджете вынопс, используете ли вы облака и какие? И есть ли у вас автоматическое развёрты развёртывание учебной инфры внутри вашей настоящей инфры? А сейчас отвечу. Если не до конца
[01:49:51] ответил, дайте знать или поговорим после. Аа для нас облака – это дорогая история, поэтому мы используем различные ВПски или дедикей сервера, которые можно в каких-нибудь датацентрах. Вот. И мы разворачиваем всё самостоятельно. Дальше на ваш выбор там кто чем пользуется, там Docker Compose, Kuber, Terform, Ansible,
[01:50:14] солярка. То есть мы ещё разрабатывались, когда писалими и на солярке, поэтому у нас там стек написан на этом. Но сейчас как бы сришка – это не проблема. Она умеет это быстро там подтягивать и развивать. То есть у нас на солярке и полностью весь стек на виртуальных
[01:50:33] >> Да. Алексей, добрый день. Ещё раз представлюсь. Вадим аналитик Project Freedomхолдинг. А мне, наверное, больше такой вопрос, больше про бизнес, больше не про техническую историю, а тоже был опыт запуском поэтому понимаю ваши сети боли там по прохождению налоговых, всех этих проверок и прочего.
[01:50:57] А вопрос такой вот, что по вашему мнению, наверное, сейчас вот стоит вообще первичнее вот человек, у которого есть какой-то продукт, есть какое-то желание, там разработка, и он хочет хочет его коммерциализировать, то есть бизнес бизнес сделать с нуля, допустим, да? Либо, э, второе, это когда человек, который садится,
[01:51:21] анализирует, узнаёт, что есть куча проблем, с которыми придётся столкнуться, и решает его бизнес не Вот. То есть, что по вашему мнению первичнее и, наверное, как сказать, а куда стоит обратить Я бы не сказал, что там один подход более реалистичный, чем другой. То есть,
[01:51:44] да, предприниматели разные, и тот продукт, который вы будете делать, он отражением вашего я. Поэтому, на самом деле, если вы хотите вырастить бизнес, то вы должны очень много работать именно над собой, увидев ваши ограничения. То есть, допустим, если вы видите, что вы слишком долго стопоритесь, прочитав все
[01:52:00] вот эти риски, как сильный аналитик, то, возможно, да, вам нужно научиться принимать определённый риск и там нестабильность этого окружения этого мира. А быть полностью оптимистом, да, тоже можно быстро прогореть. Идеальная конструкция, конечно, всегда иметь какого-то себе вот партнёра, а не обязательно он должен быть членом
[01:52:20] команды, работает на фултайм, но с другим мышлением. И, соответственно, на стыке вот ваших двух направлений мышления вы как раз будете получать тот продукт, который сможет выжить. >> А ещё один буквально вопрос быстрый. А вот сейчас, оглядываясь на то, что вы прошли, вернулись бы вы прошлые и ещё
[01:52:35] раз, ещё раз этот путь прошли бы или >> Однозначно да, но я каждый раз, когда об этом думаю, я боюсь, хватило ли у меня здоровья вот это всё повторить. >> Да, давайте буквально последний вопрос. Уже выбиваемся из таймингов. Всем привет. Меня зовут Влад. Я
[01:52:56] основатель двух стартапов. У меня вопрос хранение данных. Все мы знаем то, что всё жёстче и жёстче начинает развиваться в этом направлении насчёт хранения данных пользователей. Все мы знаем то, что вышел закон в Казахстане. Я, насколько знаю, в России тоже есть. А и, ну, по миру, я так понимаю,
[01:53:18] законодательство тоже развиваются. И вопрос в том, что как вы храните сейчас данные пользователей? А у вас есть э сервера в России, где вы храните? У вас есть сервера в Казахстане или вы пока сейчас пока не не торопитесь с этим >> А, спасибо, да, за хороший вопрос. А
[01:53:36] здесь как бы первый вопрос. Нас снимают и и транслируют, да? Вот. То есть все всегда есть нюансы. Тот же самый Яндекс скажет там, что является персональными, что не является персональными, да. Но если вы хотите функционировать, вам нужно для России иметь сервера в России.
[01:53:52] То есть вот у нас вот эта геолокация, соответственно, для возможности того, чтобы мы удовлетворяли этому законодательству. Сервера в России, сервера в Казахстане, сервера там
🧭 Запускаете собственный IT / Data стартап в регионе?
На TengriMap вы можете нанести свой проект на карту, найти первых клиентов, партнеров и инвесторов в Центральной Азии.
👉 Добавить проект на карту: app.tengrimap.com
Секция 3: Егор (Data Platform Lead) — Переход на Unity Catalog, Data Governance и платформенные ужасы (01:54:00)
[01:54:00] образовательные в Германии, например. Да, особенно если вы просто хотели заниматься образованием. Вот. Да, ваша модель должна это выдерживать. Так, да, Лёша, спасибо большое. А мы бежим потихоньку дальше. У нас Ага. У нас следующий спикер, на самом деле, из компании Drive, которые нас благополучно сегодня приютили.
[01:54:36] Егор, прошу тебя на сцену выйти уже. Аэ, >> На самом деле, Егор очень круто сегодня заменеджерил много штук. Он нам помог с разными организационными вещами. Всё здесь, благодаря ему здесь, на самом деле, организовано, в том числе. Егор, тебе большое спасибо. А, >> пожалуйста, спасибо, что пришли к нам в
[01:55:02] гости. Очень рады. >> Да. И давайте перейдём. Егор расскажет про то, как они строят Ops платформы на на облачном э хранилище данных Датабриксы, в том числе. Да, Егор, тебе >> Спасибо. Сейчас. А можно мне кликер? проверим. О, работает. Как? Отлично. Спасибо. А спасибо огромное, что пришли
[01:55:33] меня послушать. Сегодня я хотел рассказать, как мы с командой, а переезжали с нашего частично open source решения на CFlow и не то не просто переезжали, но и как это увеличивали, расширяли наши решения на manджed каких-то солюшенах типа абрикса сеймера и почему мы остановились имен гибридном
[01:55:55] решении. Почему не чисто сесткеры, не чисто датабс. Надеюсь, вам будет интересно. Давайте начнём. Всё, да, >> всё. Так, немного о себе для тех, кто не знает, наверное, много кто не знает. Меня зовут Егор. Я уже 5 лет, наверное, в МЛ. Это старый слайд. Работаю OBS
[01:56:22] Drive. До этого я ещё работал в третьем мнении в России. Компания занимается компьютервиженом на медицинских данных. И, в принципе, учился я на биоинформатика. [фыркает] Вот такая вот у меня история жизни. А хотелось бы ещё представить свою команду, без которой бы не получилось бы
[01:56:42] перенести эту платформу и создать в целом. Это мой тех леонид. А нашпс инженер Александр, собственно, я Ренат, инженер и Клара тоже наш софтвернженер. А коротенько план. А сначала проговорю в принципе проб и как мы ушли с него на CFOW, потом про S Maker, у нас там inference и потом, в
[01:57:10] принципе, про bigquery коннекшены, которые мы выстраивали с датаприксом и нашим гугловским облаком, где у нас данные хранятся. А, да, и в целом забыл сказать, чем наша команда, собственно, занимается. Наша команда называется DS платформа, но мы скоро хотим переименовываться в DSMLI платформу. А мы занимаемся инфрой, платформингом для
[01:57:32] наших аналитиков, датасаентистов, мелнженеров. В общем, чтобы им было проще жить, а чтобы им было удобно деплоиться в прот данные с данными работать, а в общем, чтобы мы всё было под рукой. А так теперь немного о том, собственно, от того, от чего мы, собственно, ушли.
[01:57:57] Я уже делал на эту тему небольшой доклад примерно года два назад, наверное, уже, да, про то, как я мигрировал куфлоу с одного проекта в облаке на другой. То есть совершенно банальная миграция, но которая заняла месяцы. А потому что, как cloud агностик решения не такой уж и
[01:58:16] агностик, когда ты хочешь его действительно перенести. А, и в тот момент мы задумались, а, и наши ряды поредели, нас было всего два человека. А как же нам менеджерить дальше всю эту огромную платформу в четыре руки? А и то, над чем мы задумались, это в целом,
[01:58:36] соответственно, маленькая команда. У нас уходило очень много времени на меншего старого купфлоow кластера, а, и пайплайнов, которые в нём были. А также GPU пулы, они менеджились довольно просто, у них не было никакого слайсинга. А тоже жрал у нас очень много биллинга. А и не было у нас вкуплоу, не
[01:58:59] было у нас какого-то датаслоя, который менеджеролся отдельно либо датаинженерами, либо самимитасаентистами. И это было не совсем удобно и медленно. И по итогу в целом схема выглядит как-то вот так. А, то есть в CFlow у нас были наши пайплайны, ноутбуки, эксперименты, а, и коннектор к нашему BQU хранилищу.
[01:59:25] Он был исключительно такой костомный, а, немножко костыльный. Также у нас был был MFLow собственный open sourceный вариант. А, и как выяснилось, большой минус openсоourсного варианта именно в том, что, а, там нету кастомной какой-то нормальной авторизации. И поэтому под каждую команду был заведён отдельный
[01:59:44] instance MLFOW со своей кастомной авторизацией через прокси. Вот. А и переехали мы, значит, на уже managed MLflow, а сюнити каталогами. То есть у нас уже всё подключено напрямую. То есть для датасатиста с его точки зрения Unнити каталог выглядит как родной в датабриксе. На самом деле он
[02:00:06] к BQU. А, и в принципе такая абстракция очень помогает людям работать. А также у нас есть asset бандлы, которые позволяют нам всё это менеджерить через гиit и аккуратно деплоить через монарепа, который мы оверсием и никому ничего не даём там ломать. А, да, и получилось так, что Coupflow он
[02:00:31] скорее стал больше, наверное, под множеством нашей новой платформы. А потому что а в Купфло много чего не было, много чего приходилось делать руками. А но теперь а у нас есть и мониторинги, а и у нас есть, значит, все вот эти образы IDE, которые сам DataБК
[02:00:53] предоставляет. И надо тоже менеджить нам иерархию образов. В общем, казалось бы, вообще круто у нас, э, что нам осталось доделать? Всё, всё есть. А, но как оказалось, много чего, много чего пришлось делать. А, и пайплайны пришлось переносить, они, конечно, шовно не переносятся. И и
[02:01:16] таблички, и то, как они, собственно, там через qu создаются, потому что оказалось, что тот SQL, который в Bquery, он сильно отличается от того СQэля, который хочет dataбрик для своим и приходилось, а таблицы переносить и создавать новые для фичера инженеринга, которого у нас тоже
[02:01:40] не было онлайновского. Так, а дальше, а, но самое большое, наверное, один из самых больших моментов, с которым мы столкнулись – это Disaster Recovery. Вот DR – это Disaster Recovery. А, то есть, э, когда мы общались с Dataбриксом, они нам сказали, что DATA Des Recovery, он есть
[02:02:04] исключительно в каких-то определённых регионах. А хотелось бы, чтобы у нас как бы все регионы были секюрными, если что вдруг поломается, да? А и не было какого-то вот решения, которое бы было способно удовлетворить нас прямо с порога managed. Поэтому нам пришлось делать свои дипклоны и свои джабы а для
[02:02:26] разных типов ресурсов, которые есть нам. А чтобы удовлетворить наши запросы по безопасности и recovery. Так, теперь поговорим немного, да, вот как раз-таки из коробки у нас всё было не очень, а приходилось ещё и пайплайны конвертировать, а, но свой дипклон а приходилось делать. Это
[02:02:57] была довольно кропотливая работа, но всё-таки мы справились. А, спасибо мы коллеге Ренату. А, да. Так, теперь немного про наш кастомный слой между сеймером и датабриксом. А, собственно, как вы знаете, датабрик и – это разные платформы наверняка. То есть они себя позиционируют обе как
[02:03:18] полноценный endtoend maned платформы для дата scienceса, разработки и инференса моделей в том числе. Аа даб нас почти полностью устраивал как пространство для экспериментов, а каких-то артефактов, возможно, связанных с с ДС-разработкой и аналитикой, но он нас не устраивал как infence платформа. А в частности, из-за того, что в
[02:03:47] Датабриксе аа он довольно ограниченный по функционалу и настройкам. И какие-то фичи, опять же, они, как и большинства крупных рендеров, они доступны только в определённых регионах. А, и скорости не ожидают лучшего, если ты деплоишься не в том регионе, в котором хотелось бы. А вот а и ой и между ними мы решили
[02:04:12] сделать свою собственную связку, которую мы называем inflowc, но по сути это кастомная SDK, обёртка под Saker, а которая отвечает в том числе и за клиентскую часть, если, например, бизнес-сервис хочет к нему ходить. И со стороны разработчика это тоже обёртка для него, чтобы он мог удобно завернуть
[02:04:32] свою модель правильно и не сделать никаких ошибок. А, да, вот есть объё, есть Framework и есть также конфигидра, которые сделаны для DS разработчиков, аналитиков, чтобы им просто было удобно поменять в одном Ял конфиге, например, если они хотят деплоиться сразу в 10 регионов, можно
[02:04:54] просто 10 регионов указать и ничего с этим больше не делать. Аа и мы, как говорится, если какие-то проблемы, это будет уже на нашей стороне, и мы поможем ему задеплоиться. Вот. И вся эта история, она работает сейчас через наш единый монорепа. То есть, если датасатист, он хочет свою
[02:05:15] модель запушить в prodдакш, он сначала тренирует на датабриксе, а получает, значит, артефакт SML Flow, а даёт ссылку в гидроконфиге на артефакт SML Flow, а делает PR и через релизную систему открывается, значит, CCD, которая сначала тестирует э нашээ модель, и потом, если всё о’кей, он
[02:05:41] деплоит её. в сток регионов, сколько нужно, с таким компьютером и с таким скейлом, который был запрошен. Вот. А выглядит примерно как-то так. А ничего сложного с точки зрения Десера быть не должно быть. И хочу отметить ещё, да, что есть клиентская часть, потому что наши сервисы, они не открыты
[02:06:01] для мира, скажем так. Они открыты для бизнес-сервисов, которые их дёргают. Поэтому клиенты у нас бизнес-сервисы, а не пользователи. А, да, и хотелось бы поговорить ещё про Disaster Recovery, потому что датацентры, они ломаются не только в России, они ломаются ещё по всему миру периодически,
[02:06:25] и нужны запасные регионы. А и что нам очень сильно помогло- это как раз-таки наш подход разработки инфра А я много жаловался на инфра каккод 2 года назад. А чисто потому, что инфракот, он хорош для облачной инфраструктуры и для менедж-провайдеров, да, но Open Source решения, они часто не
[02:06:49] облачные, итероформ для них он работает очень криво и state часто едет. Но в данном случае это очень сильно помогло. А чисто чтобы передеплоить наше решение в регион ближайший, нам пришлось просто поменять одну строчку в нашем конфиге, а нажать gitpol. Pш. И у нас, короче, запустилась наша
[02:07:12] машинерия и быстренько раскатилась в соседнем регионе. Вот так. А, да. И при этом, конечно же, поскольку мы владельцы нашей платформы, мы за всё отвечаем, мы заставляем наших датасаентистов тегать все модели, а так, чтобы было понятно, кто за какойpint отвечает. Это тоже часть нашей системы и
[02:07:36] проверяется через наш C. А, и в том числе это помогает нам строить наши дэшборды и наши метрики. А, и датасаентисты тоже видят эти все дашборды и могут вовремя среагировать, даже, может быть, раньше нас, если какое-то несчастье случится вдруг с их сервисами. Аэ, по итогу,
[02:08:02] а что у нас было? У нас был, что нам нужно было? Нам нужно был тонкий контроль над масштабированием, нам нужно была своя приватность с сервисами и какой-то, возможно, какие-то какой-то нетворк, а, поверх-то наших эндпоинтов. И сейчке всё это из коробки имеет. Просто он даёт очень большую свободу в
[02:08:25] настройке этих сервисов. А, и поэтому нам пришлось сделать такую абстракцию упрощённую, чтобы от санентистом можно было работать и чтобы мы могли, если что, на своей стороне чинить и быть за это ответственными. А-а, да, в принципе, вот такие выводы. Теперь поговорим про BigQuery хранилища.
[02:08:54] А это, наверное, самая сложная часть, по крайней мере, для меня была, потому что я не датаинженер. Для меня очень много нового было, когда я работал с этим. А, но если кратко, в Датабрексе с точки зрения абстракции всё очень просто. А, есть некая сущность
[02:09:13] House Federation. А что надо про неё знать, это то, что это, по сути, некая слущность, которая умеет договариваться с другими облаками и просить доверия и получать это доверие. То есть не нужно а каких-то серьёзных дополнительных аккаунтов заводить. Можно просто переиспользовать старые, и у тебя
[02:09:31] появятся автоматически все твои таблички с Bкquery в датабриксе, что очень удобно. А единственная проблема большая, что эти все таблички, они исключительно на рид по большей части, то есть на чтение исключительно. Чтобы получить это всё нарай, то есть на на запись, а приходилось прибегать к каким-то
[02:09:53] бетарешениям, которые обрексе или костовным каким-то, а костыльным историям, что в целом норм, они работают безотказно, но как будто бы не совсем А, и также очень важно было включать материализацию на стороне BQUY. А А потому что а если не включать материализацию, то билинг будет идти два
[02:10:20] раза. То есть ты платишь за выкачку данных с Bкquй один раз со стороны Bigquery Гугла, ты платишь их второй раз, э, чтобы закачивать их на data датабс. Если ты включишь материализацию, ты будешь платить исключительно со стороны Гугла. И DataБК умеет просто так читать за бесплатно. И, короче, билинг в
[02:10:40] два раза меньше. Вот так. да, это как раз вот эта история, с которой мы столкнулись, когда мы два раза подряд читали эти таблицы. Аа мы были в курсе, а, и мы включили материализацию кое-где, но оказалось, что где-то мы не досмотрели. Например, когда две таблицы
[02:11:04] с нашего Bigquery, они каким-то аналитикам решили заджойниться, материализация не включилась, а и мы получали двойной билинг. А что, конечно, ужасно, но мы это быстро поймали. Ну как быстро мы поймали это, когда увидели на счёт, потому что тогда ещё на пробной версии платформы у нас не
[02:11:26] было нормального мониторинга, но, как говорится, уроки выучены, теперь у нас будет настроен мониторинг, точнее, он уже настроен. И таких историй не повторится, казалось бы, но мы столкнулись с ещё одним, ээ, с ещё одной проблемой. Мы решили, что наши датасаентисты и аналитики, они очень
[02:11:48] классные и разумные люди, и в де среде они не будут нам жрать всю квоту просто А, и мы были не совсем правы, потому что получилось так, что клод он сходил в наш а, и каждый раз, вместо того, чтобы один раз выкачать датасет, он с годовой
[02:12:12] годовые данные, то есть целый год данных, он выкачивал целый год данных несколько раз. Каждый раз, когда датасаентист, он делал запрос: “Вот, пожалуйста, сделай мне анализ”. А, и мы всё-таки поймали, выяснили, в чём проблема, а, и решили, что так делать не стоит и что мы будем дробить квоты
[02:12:33] всё-таки для для всряд. А, и помимо того, что мы будем дробить квот, у нас будет мониторинг таких всплесков и инцидентов, связанных с э, всплесками в активности на стороне И помимо этого, поскольку до этого не было лейблов, мы думали, где в среде все адекватные люди, но мы нам пришлось,
[02:13:01] короче, на каждую джабу, которая происходит от брексе, вешать лейблы, и это форсится всеми нашими правилами и нашими сиями, и бандлами. Поэтому, э, и в тероформе у нас всё зафиксировано и ограничиваются у нас все эти наши квоты и билинги. Так что теперь никуда никто
[02:13:17] не уйдёт просто так. И весь билинг нам не сожрёт. Аа далее то, что мы договорились ещё насчёт дата инженеринга и дата А помимо того, что мы следим за тем, кто какие данные куда гоняет и в каком объёме, а хотелось бы понимать, зачем а
[02:13:39] и кто это делает. И для этого есть специальная история, а связанная с Датаконтракт – это такой простой файлик, где по сути написано, кто отвечает за эти данные, насколько эти данные могут быть свежими, когда ты к ним обратишься. А и всякая прочая информация, которая нам помогает
[02:13:59] выстраивать, а, значит, pager duty, алертинг, а, и быстро чинить, если вдруг что-то случится. А датаконтракт работает примерно следующим образом. Ничего сложного. Я считаю, что это очень удобно, вместо того, чтобы писать на тему того, например, а кто куда, э, кому какие данные отдал и зачем. Можно просто
[02:14:27] написать один раз это в файле, и все команды, датаинженеры, платформенные, датасаентисты, они будут знать, а, о чём, зачем и куда это вообще было сделано, если что, к этому подключиться, что самое важное. А, и с нашей стороны мы не очень строго, но всё же проверяем
[02:14:44] эти контракты и проверяем ещё в продакшене. То есть, если человек, человек не может задеплоить артефакты DataБК без того, чтобы у него был data contract prodution. Вот. То есть любые онлайн infence таблички, они всегда имеют назначение. Да. И по итогу мы хотели, чтобы у нас
[02:15:09] просто было хранилище, которое датасаентисты сами могут просто протыкать, изучить, а, и пользоваться спокойно, а мы займёмся какими-то интересными вещами, я не знаю, типа. По итогу нам пришлось договариваться с нашим датаинжениринговым отделом, пришлось настраивать правильно это всё, ставить аллертинг, вотты, чтобы никто ничего не ломал, потому что биллинг
[02:15:31] всё-таки это деньги настоящие, а не А, да, значит, мы думали, значит, managed можно не следить, если этого нет в коде. то это риск. А если затраты относятся к а то получается, что а мы можем потом это всё аккуратно на аудит отдать и то, что платформа должна
[02:16:07] держаться на договоре между командами, но, как оказалось, не только между командами, значит, нашей платформенной, а командой аналитиков и датасаентистов, но ещё командой датаинженеров. Всё. Спасибо. >> Спасибо, Егор. >> Это ссылка на мой личный сайт. А он находится в моей домашней лабе. Надеюсь, вы его не обрушите. Спасибо.
[02:16:31] >> Давайте с додосими перейдём по QR-коду А, вижу вопрос. Э, да, представьтесь, пожалуйста. >> Ээ, всем саламу алейкум. Меня зовут Алишер. Я магистр первый курс и работал как бэкэндер полтора года. И вот как раз хочу вот перейти в Ops. Спасибо вам, Егор, за такой доклад. И можете,
[02:16:51] пожалуйста, вот сказать, а что требуется от джуниру, как перейти. И вот у меня вот еже вот пол полтора года. Я могу соврать и как-то вот зайти как или это лучше так не делают? Что что следует сделать? Какие подпроекты? Спасибо вам >> А я могу поделиться своей историей, как
[02:17:07] я пришёл в профессию. По сути, когда я начинал работать им лапсом, это было года три-четыре назад. Тогда, особенно тогда вот, особенно 3-4 года назад, рынок вообще не понимал, кто такой, но какие-то компании очень сильно хотели. Я работал тогда вот МЛинженером, сштата сантистом. И периодически ко мне сами
[02:17:27] чара приходили, потому что видели, что я вроде я вроде этот сантист и немножко с бэкэндом работал. Они такие типа: “Не хочешь ты попробовать вот лопсом?” Я говорю: “Ну давайте”. Я приходил на собеседование, и такие мне говорили: “Мы тебя будем спрашивать вообще всё подряд,
[02:17:40] типа и ДС мы тебя спросим, и Бэкэнд мы тебя спросим, и, значит, девопсорскую часть там страмом, там каким-нибудь с облаками, там, с кубернете, мы тоже тебя спросим, посмотрим вообще, что ты умеешь”. Вот примерно такой был вайб. А, и по итогу, поскольку я был, у меня были
[02:17:58] хорошие какой-то дйсерский бэкграунд, я что-то умел, у меня взяли на мою первую работу, а, и там, по сути, я даже не трогал особо кубернетис, это было исключить do compos решение, как ни странно. Аа, и тогда даже особо и демопсом не надо было быть. Э,
[02:18:15] достаточно было понимать L process, а, ML Cycle. А сейчас же то, как рынок поменялся с точки зрения псов, а сейчас отлнженеров уже хотят, чтобы они были молопсами в целом, чтобы они умели с облаками и сами решения разворачивать прямо end to end. Не то, что там DEVOPS умеет, не знаю,
[02:18:38] ГПУ нарезать там в облаки, правильно или что-нибудь ещё. Поэтому в целом я придерживаюсь такого же мнения, как и большинства, что вот Devops Operations профессии пойти, там, MLOPS, ещё какие-то Data OPS, а в них нельзя зайти как джунир. Ты можешь ли из них перейти
[02:18:56] только уже из существующей какой-то профессии, если ты на рынке работаешь, например, лнженером или датасатистом, а просто так сразу на Лопs очень сложно. Я не представляю, как, если честно. >> Всем привет. Меня зовут Артём, Ли я инженер в стартапах Stella IIM 2. Спасибо ещё раз за доклад. У меня скорее
[02:19:24] такой обобщённый вопрос. А как вы думаете, ML LM OPS – это естественное продолжение ML OS или это отдельное направление? И в целом, как вы, а, адаптируете классический MLOPS под современный Generat AI? Вот. А, >> отлично, хороший вопрос, спасибо большое. А-а, в плане того, как я вижу
[02:19:50] будущее профессии и связан ли MLBS, LLMS, конечно, MLBS он связан с LMOPS, хотелось бы. А-э, да, потому что, в принципе, цикл разработки L-моделей и, ну, классических каких-то, а-а, и LM-моделей, он, конечно, во многом похож, где-то отличается в плане того, как это всё потом инфреенсится,
[02:20:12] квантируется, и обучение больших языковых моделей, оно требует больших ресурсов, чем в какой-то стандартной мелкой модельке. А, но а всё-таки LLM mobs это отдельное направление сейчас. А, и мне какпсу а наверное тоже нужно подтянуть какие-то свои знания, чтобы перейти мос. Вот. А насчёт того, куда всё движется, а моё
[02:20:45] мнение такое, что всё движется в платформе на инженеринг. Сейчас как же модно. Раньше называлось это просто там deops, сейчас. Сейчас все девосы, малопсы называют себя платформенными инженерами. и если посмотреть на рынок, чисто по неймингу, платформенны инженеры больше получают, чем devobs mls. Вот такие
[02:21:08] такие дела. А и что делает платформенный инженер? платформен инженер, он делает так, чтобы люди, которые не умеют WPS, они могли сами депло и сами, значит, продом заниматься без того, чтобы обращаться напрямую к, ну, тем, кто эту платформу разрабатывает. DevOps он всё-таки человек, которому ты передаёшь,
[02:21:29] наверное, что-то, и он из этого уже как бы сервис делает или вот помогает, значит, сервис дотянуть руками. А идея платформенного инженера именно в том, чтобы была платформа, я занимаюсь платформой, и вы делаете всё через неё, ко мне типа не хотите. Вот примерно такая вот идея, если грубо.
[02:21:48] >> А ещё вопрос, э, Алексей снова Big Team. А, Егор, спасибо за доклад. Мне кажется, вот агентская разработка – это как teнеage секс. Все об этом говорят, но каждый делает это по-своему. А вот интересно, как у вас, то есть где вы нашли, где это решение
[02:22:04] работает, где вы разрешаете? Прямо много агентской разработки внутри, где не разрешаете, где завелось, где есть риски? Это ещё один отличный вопрос. Спасибо большое. Насчёт агентской разработки я знаю, а я всё, короче, хожу к менеджерам, хожу к хайрапам, говорю, когда мы будем заниматься, значит,
[02:22:24] агентскими кластерами, когда мы будем заниматься снбоксингами, когда мы будем, значит, деплоить агентов от scale. А, и пока что ситуация такая, что на данный мы делали демо, мы делали пилот, а, такой истории, но не мы лично, в принципе, в компании такое было. И возможно скоро мы придём к какому-то
[02:22:48] решению агентской платформе. А что касательно, разрешаем ли мы использовать агентов внутри драйвера для разработки, да, разрешаем. А, но эти агенты, они исключительно под
🧭 Проектируете современные платформы данных и Data Governance?
Присоединяйтесь к TengriMap — первой карте инженерных сообществ, хабов и сильных технических команд Центральной Азии: app.tengrimap.com
Большой обеденный перерыв / Нетворкинг (02:23:00)
[02:23:01] учётками клода, а исключительно под отдельных разработчиков. Есть централизованные какие-то репозитории по обмену данными, но какого-то агентского платформинга пока, к сожалению, нет, но планируется в будущем очень скоро. >> Егор, спасибо. На этом первую часть нашего метапаху мы потихоньку закончим. Следующее у нас ждёт кейтеринг и кофе-брейк. Сделаем
[02:23:38] немножко передышку, чтобы продолжить в через буквально 50 минут. 49 уже получается. То есть увидимся совсем скоро. дада, сейчас, сорри. >> пожалуйста, есть. Я сдел. Я слышал, вы запускаете играем. Так, у нас заканчивается перерыв. И,
🧭 Интересуетесь прикладным применением LLM и AI-агентов?
TengriMap — первая публикация единого реестра инновационных AI-разработок и стартапов региона. Превращайте идеи и arXiv-исследования в реальные продукты: app.tengrimap.com
Секция 4: Дарья Воронкина (AI Шипучка, ex-Unicell) — Слоп как переобучение: построение Go-To-Market движка на LLM (03:10:00)
[03:10:02] по идее, по факту у нас через 3 минуты уже следующий доклад. Я так понимаю, что через 3 минуты мы сидеть здесь не будем все, но я очень как бы намекаю о том, что можно будет продолжить после метапа. К сожалению, это просто через несколько
[03:10:34] >> сорри, это не специально. >> Я случайно поднёс микрофон к включенный микрофон просто к стойке, поэтому это такой фидбек получился. Вот, пожалуйста, пожалуйста, рассаживайтесь. Нас стало поменьше. Хотя, как будто не так, чтобы супер >> Те, кто решил не уходить на конференцию Хиксфилда, пожалуйста, присаживайтесь.
[03:11:01] Мы всех ждём. Мы со всеми здесь пообщаемся. У нас тут гендерный всплеск. Среди всех этих прекрасных мужчин есть одна я. Я буду рассказывать презентацию. Вот какой-то такой мини-стендап. Давайте, давайте, давайте, давайте, давайте. Цигель. А, да. Всем привет. Всем привет. Всем привет. Ну, во-первых, давайте похлопаем
[03:11:27] мне, пожалуйста. Да, спасибо большое. Да, всем привет. Всем привет. Зал опустел. Мне дали кликер, как он делается вперёдназад. Супер. А, вроде бы всё работает. Подходят ещё люди, мы подождём. Давайте знакомиться. А меня зовут Воронкина А я SEO компании Воронка. Тут как бы Тиньков должен позавидоваться, потому
[03:11:54] что я Дарья Воронкина. Занимаюсь я данными, типа воронками данных, всякими иногда маркетинговыми штуками, как бы. Вот. Что ещё? Я экс даталиIT компании Onescell, которая занималась, занимается разработкой, а, искусственного интеллекта для патоморфологии. У меня было в штате около тридцати врачей. разметчиков, команда датааналитиков, датаинженеров. Чем я
[03:12:22] занимаюсь сейчас? Ну, знаете, я профессионально безработный, но вроде как в нашей компании. Мы делаем разные разработки, консалтинг, много всего интересного. Преподаю в университете ИТМО на программе Hub. Как раз-таки сбор, разметку данных для машинного обучения. Что ещё? Сейчас я вспомню, как ещё себя хвалить. А у Карповых, кто кто
[03:12:44] кто знает Толю Карпова, похлопайте. Вот сегодня он был. Да, да, у карповых [откашливается] тоже этим летом читала курс. Я вообще веду блог AI Шипучка в Телеграме. Сайтик можно посмотреть и Шипучка. Вообще почему AI шипучка? Потому что, знаете, как бы, а обычно идеи, которые рождаются в моей голове,
[03:13:03] они начинают шипеть. И вот я тут обнаружила, что у меня есть конфеты Поэтому, если вы будете задавать хорошие вопросы, я обязательно поделюсь с вами конфетками шипучки. Книжки как толи у меня нету, но всё же. В общем, я решила, так, знаете, немножко разбавить обстановку серьёзности. У нас будет
[03:13:24] такой мини-стндап, презентация с меми. А графики какие-то тоже будут, но я постараюсь, чтобы у вас как-то настроение поднялось, потому что я понимаю, вы поели, хочется теперь поспать, как бы ещё там Хиксфилд, я ещё конкурирую по времени с, а, прекрасным человеком, вот бабушкиным. Ну, спасибо,
[03:13:44] что остались. Вот. А что я хочу сегодня Знаете, эта презентация родилась, на самом деле, как идея, название я скинула раньше, но как идея вообще осмысления, что я буду рассказывать, родилась неделя назад. Я буду рассказывать про то, что такое, что слоп – это переобучение. Вам
[03:14:01] может показаться, что это как бы достаточно резкое заявление вообще с какой стати у нас появляется и вообще слоп. Причём тут вот и буду рассказывать, как мы строили go to maretжок. На самом деле эта презентация – это такая большая рефлексия контракта, который у меня закончился буквально на прошлой
[03:14:20] неделе. Мы для одной компании разрабатывали вот этот go to marкеet движок. Давайте для аудитории датасаciтистов, кто не особо понимает, возможно, что такое go to marкеet движок, значит, когда мы что-то сделали, мы придумали гениальный продукт, нам недостаточно просто прийти и сказать на: “Смотри, красиво”. Нам надо это как-то
[03:14:40] продать, то есть выйти на рынок. И у Go to Market движка есть две части: outbound часть и inbound часть. Outbound часть – это часть, связанная с поиском людей, нужных клиентов, общение с ними и так далее, и так далее. И есть у нас ещё inboу часть. Inbound часть –
[03:14:57] это часть, где мы, а, даём возможность читателю узнать про нас. Что это значит? Давайте на примере Линкидина. А мы нашли какого-то человека, который, по сути, является нашей целевой аудиторией. А, и мы заходим и связываемся с ним, пытаемся с ним общаться. Он заходит сначала на
[03:15:14] нашу страницу и вообще читает, о чём мы пишем. Если он видит что-то релевантное для себя, такой: “Ага, я это видел, я это знаю”, то ему интереснее с нами связаться и, в принципе, пообщаться. И по сути задача Go Market движка, которая, которую мы разрабатывали,
[03:15:31] была в том, чтобы на inboу части, на внутренней части материала, в принципе, привлекать клиентов и конвертировать их в звонок с нашим бездевом. Примерно история как-то такая. Ну и, конечно же, это всё было на AI. Куда сейчас без AI? Ну, то есть у нас очень много AI, AI,
[03:15:49] AI, AI. AI у нас достаточно много. Мы делаем AI продукты. У нас тут много кто переквалифицировался в AI инженеров, у нас есть машинное обучение и так далее. Но, [откашливается] в принципе, мы тоже делали AI движок. Конечно же, у нас всё генерировалось. Но я не просто так
[03:16:05] сказала, что это процесс рефлексии, потому что пока я его разрабатывала и мы с командой разрабатывали его, давайте так, появилось очень много инсайтов, которые, возможно, для вас покажутся очевидными, но на самом деле в моей голове, когда они собрались, мне показалось это достаточно интересным. А,
[03:16:25] итак, у нас с Яй научились все. Вообще, с чего мы с вами начинали? Давайте вспомним вот эти прекрасные времена. Сегодня Толя, в том числе, упоминал про такую прекрасную профессию, как промт инженеринг. Мы все так или иначе начинали с вот такого диалогового окна, где мы кду или кодексу пишем вообще, а
[03:16:41] что нам нужно, какая нам нужна задача, что нам нужно вручную передавать сведения, которые нужны для работы и так далее, и так далее, и так далее. И сегодня тоже уже упоминали, что у нас магическим образом в какой-то момент появилась волшебная штука, которая называется контекст инжениринг и
[03:16:55] harnessниринг. Ну, то есть глобально, если мы говорим про то, как сейчас мы работаем с большими языковыми моделями, мы работаем с контекстом, мы работаем с харнесом, ну, то есть промт, что сделать, ну, то есть подготовить материалы и так далее, и так далее. На чём основывается вход? Контекст, как он
[03:17:12] обычно устроен. Ну, то есть как бы на практике у нас есть какая-то папочка, чаще всего эта папочка синхронизирована с Гитхабом. Там есть Clot MD, Agents MD, а, какие-то индексы памяти. Ну вот это вот, помните? Толя, кто в начале был сегодня рассказывал про то, что у нас
[03:17:27] есть какая-то метаинформация про данные. Ну то есть по сути у нас хранится метаинформация про данные, которая отправляется в контекст большой языковой модели, и мы можем с этим работать. Ну и мы дальше пришли к харнесу. Ну то есть это в целом всё у нас. Это у нас и
[03:17:43] контекст, и промт, и память, и хуки. Сюда же у нас идёт, ну на самом деле вообще всё абсолютно. Итого, мы пришли к тому, что вот у нас такой харнес инжиниринг, и нам кажется здорово, как же круто. Мы пришли к тому, что мы сейчас накопим огромное количество
[03:17:59] контекста, отправим это всё в большую языковую модель и вообще всё будет супер. Но тут возникает проблема. У нас происходит это, да, моя любимая художница Шкя, да, тут, если что подписано, что это адаптация э для доклада Шк. Вот у неё там другое было написано. Но в общем у нас гигантский
[03:18:21] контекст. Примерно так. Я пришла на один звонок со своими коллегами и сказала: “Ребята, контекст гигантский”. Они такие: “Ну и что? Это же наоборот здорово”. Ну и что? Что у тебя там 150.000 файлов, а скилы в скилах, на скилах. Вообще мы всё знаем про компанию
[03:18:40] и так далее, и так далее. Вообще всё супер. Но вот не задача. Как только у нас начинает быть очень много контекста, прямо вот он гигантский контекст, происходит ситуация, что статья, ну, то есть, в принципе, действия, которые мы хотим выполнить, они неожиданным образом перестают выполняться качественно. Ну,
[03:19:00] то есть, казалось бы, мы отправили весь необходимый контекст, у нас самая сильная модель. Настолько сильная, что как бы, извините меня, ни у кого таких сильных моделей нет. Мы вообще сжигаем токены несчастно, знаете, вот эту вот метрикубрнг токены. Ну, то есть некоторых, э, в компании интегрируют,
[03:19:17] что нужно как можно больше токенов сжечь. Но оказывается, что на этом этапе возникает проблема. Вопрос какая? Здесь у меня есть вот такой ещё один мой любимый мем. Как вы поняли, я сегодня будет много мемов, что на самом деле большая языковая модель – это
[03:19:35] стастический попугай. Ну, что значит стахастический попугай? у нас есть какая-то вероятность, ну, и как попугай, она у нас что-то повторяет. А мы сначала встречаемся с тем, что это просто стахастический попугай, какие-то общие ответы и так далее. Потом вот на этом этапе мы пытаемся как раз-таки сделать
[03:19:52] много маркдаун файлов аа разных, где будем писать правила. У нас получается достаточно хороший ответ. Мы такие: “Здорово, надо ещё больше”. И потом приходим к тому, что качество падает. И мы такие: “Блин, оказывается, всё-таки ЛМ – это стахастический попугай”. Но почему вообще так? Давайте опять же
[03:20:11] такое небольшое повторение. Вспомним про то, что вообще большая языковая модель – это вероятностная модель. А что мы здесь имеем? Мы здесь имеем вероятностную формулу того, что вероятность следующего токена, это у нас условная вероятность от контекста и весов, которые мы имеем. А, ну, то есть, по сути, в зависимости
[03:20:32] от того, какой у вас контекст, такой и будет ответ. А отсюда идёт следующая история. Сейчас вот следите за пальцами А, есть такое исследование, а я тут презентацию потом можете посмотреть, тут есть ссылочки кликнуть и так далее. что на самом деле, если у нас растёт
[03:20:51] количество токенов, то внимание нужной нам, ну, как бы внимание нужного факта, оно очень сильно размывается. Ну, то есть, в принципе, мы можем про одно и то же говорить в разных файлах, в разных файлах памяти, в принципе, в базе данных. У нас ещё marкдаdуфайл, ну,
[03:21:09] короче, очень много у нас всего, и нам кажется, что большая языковая модель с этим разберётся. Но на самом деле это не так. И тут кто-то может сказать: “Ну, вообще-то, чтобы большая языковая модель работала хорошо, надо не всё в неё отправлять, а как бы сначала делать
[03:21:23] выборку, а потом отправлять”. Про это мы с вами тоже сегодня поговорим. Что мы по сути имеем, когда у нас вот такое размытие внимания происходит над фактами? Аа у нас теряются, в принципе, какие-то факты, у нас появляются шумы и противоречия, у нас достаточно большая
[03:21:43] работа памяти совершается. То есть, чтобы найти нужную информацию большой языковой модели, тратится больше времени в этом как бы семантическом поиске, который она проверяет. Ну и, в принципе, сжатие на выходе потом меняет вход, и получается не очень хороший ответ. Что ещё хочется здесь сказать? Вообще, как
[03:22:00] бы это такое, знаете, первая часть вводная, чтобы мы понимали вообще на одном, [откашливается] на одной точке, про что мы говорим вообще. Большие языковые модели, как они обучались у нас. Reinformance learning, human feedback. Ну, то есть, а мы по сути смотрим, какой ответ нравится
[03:22:18] человеку, который проверяет ответ большой языковой модели. И здесь мы, по сути, у нас как бы люди сравнивают ответ А и Б. У нас обучается большая языковая модель, даются награды и так далее, и так далее. И тут, когда я готовила эту презентацию, я такая: “Ну да, ну да, всё
[03:22:34] логично”. И тут такой, знаете, как учёный, я такая: “Эврика, так это же dataтацентрик AI. Но кто не знает про dataтацентрик AI, у нас есть model AI, когда мы меняем архитектуру, гиперпараметры и так далее. Я вот, короче, очень люблю датацентрик AI и периодически у меня такой, как у
[03:22:50] нейронной сети, иногда бывает очень много шумов, и я возвращаюсь так или иначе к датацентрик AI. И я такая подумала: “А что, если это дата-центрик AI?” Но, безусловно, у нас здесь нет обучения, потому что, когда мы говорим с вами про датацентры AI, мы говорим с
[03:23:05] вами про процесс обучения, там active learning, разметка и так далее, и так далее, переобучение модели. Но что если это датацентрик AI на инференсе? Я начала копаться. Вот тут вот тоже есть статейка в презентации, потом можете посмотреть. И оказывается официально, например, тот же самый Anтропик называет
[03:23:24] это inference Data Development, если вы не знали это слово. новое слово, можно как бы говорить, что вы умеете делать. Я умею делать inference data development. Что значит я умею делать inference data development? По сути, вы правильно оформляете вход в большую языковую модель, строите пайплайн таким образом,
[03:23:46] чтобы у вас не всё шло в контекст, а шло только то, что нужно. Ну, то есть фиксированно отправляем нужную информацию. Мы с вами сейчас на примере про посмотрим, как это, а, проверяется. Ну и что ещё у нас включено в Inference Data Development? А у нас появляются
[03:24:04] нужные факты для ответа. Ну и, в принципе, мы сравниваем выход. И если он нас устраивает, то мы каким-то образом модифицируем наши Markдаdown файл, с которыми мы работаем на входе. И, ну, для меня это что-то такое датацентрик, знаете, мы типа взяли данные, мы прогнали через модель, потом мы получили
[03:24:23] ответ, а мы поняли, что хотим что-то поменять, поменяли Markдаdфайл. Итого у нас получился как бы нужный нам Что дальше? Давайте поговорим про слов. Я уже как бы сказала, что мы сегодня будем говорить про сло. А вот это вот, знаете, как бы Иисус креветка, я
[03:24:44] клубника, ты клубника, почему у нас появился банан? И вот эта вся история. Ну [откашливается] что есть слов? Вообще слов – это какой-то правдоподобный контент. Он может быть вот прямо совсем какой-то отвратительный, который мы не хотим смотреть, а может быть, знаете, такой понятный, логичный, структурный,
[03:25:05] но вы читаете этот текст, вы перечитываете его ещё раз, и вы понимаете, что вы не поняли ничего. И в этот момент вы сидите, чаще всего я такой: “Это я дурак или лыжи не едут, но как бы или тут есть какой-то слоп”. А всё это рождается как раз-таки из-за
[03:25:21] того, что что мы видим в принципе с точки зрения видов слопа. У нас, соответственно, есть какая-то шаблонная форма, то есть мало конкретики во входе, общие какие-то продолжения. Опять же вспоминаем, тут не просто так в самом начале была история про вероятности, мы вспоминаем, что мы, а, проверяем
[03:25:40] вероятность следующего токена. А у нас появляются какие-то выдуманные факты, пересказы, кальки мимо задачи что-то идёт. Ну, то есть по сути у нас получается какая-то фигня, если честно. Но какая здесь опять же появляется проблема? Многие читали, ну, как бы многие, кто строит систему себе, вот
[03:26:00] этот вот Харнс, персональную операционную систему, Company Operation System, а знают правила Карпатова про то, что мы основываемся, как бы вот эта вот самообучающаяся система, мы постоянно добавляем новый Marкdдауфайл, история, память и так далее, и так далее. Но если у вас генерится слоп, то
[03:26:20] у вас получается слоп, который идёт в эту самообучающуюся систему, и у вас получается слоп на входе. Если у вас получается слоп на входе, ошибка растёт, и у вы просто плодите слоп. Но вам может казаться, что это не так. Вообще всё выглядит очень логично. Давайте ещё раз
[03:26:36] вернёмся. Вот как раз-таки весь этот рассказ был для того, чтобы плавненько прийти к вот этому графику. Вспоминаем тезисы, про которые вы можете покопаться поглубже. Про датацентрик и на инференсе. Вспоминаем про вероятности. Ну и то есть с точки зрения вероятности, что у нас может быть с
[03:26:55] моделью? У нас может быть мало контекста, и мы получаем общие ответы без фактов. Почему? Потому что у нас reinformoed learning, human feedback. Потому что мы основываемся, как бы э все ответы людей, что мы и можем иметь как бы нормальное распределение. вот этот наш бугорчик, что у нас всё хорошо,
[03:27:13] всё работает супер, рабочий стол, мы с этим можем работать, но из зелёной зоны очень легко скатиться как раз-таки в часть правую, где у нас слишком много контекста, сигнал тонет в шуме, правила и факты мешают друг другу. А о чём я сейчас и расскажу. Давайте вернёмся к
[03:27:34] истории. То есть у нас была такая первая часть, где я коротенько рассказала, что мы имеем как бы на входе, с чем мы будем работать, какая у нас теоретическая часть. А возвращаемся к go marкет движку. Какая у нас была задача для сделать такую штуку, которая генерирует
[03:27:54] у нас посты и материалы. Казалось бы, генерировать посты и тексты для социальных сетей научились абсолютно все, и всё очень легко. Но вот не задача. Мы хотим имитировать не просто задачу, как бы напиши нам какую-то статью. Мы, по сути, хотим сделать журналистский редакционный отдел. Как мы
[03:28:17] это делаем? Давайте, в принципе, просто вспомним, как это обычно работает как бы в редакторской структуре. У нас есть, ну, то есть обычный день журналиста, редактора, того, кто ведёт соцсети, происходят какие-то события на рынке, то есть какие-то статьи, события и так далее, и так далее. Что-то происходит в
[03:28:36] компании, что-то происходит с читателями и с подписчиками, которые с нами реагируют или, возможно, ответили комментариям на наши материалы, что тоже потенциально для нас интересно. То есть у нас есть какой-то вход, что обычно делает, а журналист или редактор эсэмэмщик, боже упаси, вот он обычно всё
[03:28:58] это читает и пытается найти максимально полезную информацию. Вот, по сути, в нашем движке с точки зрения архитектуры у нас чёрные Это был парсинг информации с интернета, а зелёный блок, отдельный блок – это поиск инсайтов. Что есть поиск инсайтов? Мы должны понять для нашей компании, для целевой
[03:29:23] аудитории и для сегмента, с которым мы хотим пообщаться через наш inboу контент, какие вообще полезные находки. То есть, если что-то произошло на рынке и мы хотим работать, например, ну, то есть так, как это был финтех, с семейными фондами, мы должны эту информацию не просто взять и сказать:
[03:29:43] “Вот новость, смотри”. Мы должны её так красивенько обернуть, чтобы, соответственно, человеку было интересно про это послушать. Соответственно, вот как раз-таки зелёный блок, который мы видим, поиск инсайтов. Здесь у нас подключаются большие языковые модели. То есть опять же мы строим структуру, мы строим движок,
[03:30:01] обычный парсинг, дальше зелёный блок, мы строим как бы большую языковую модель, интегрируем и работаем хорошо со входом. Сейчас я покажу следующим слайдом. И дальше у нас идёт история. У нас есть принятый курс, ну, то есть курс аккаунта. Вот конкретно этот человек, какой у него Ton of Voice, опять же,
[03:30:21] тоже какая-то вероятностная история. Markдафайл, скорее всего. Какая у него позиция относительно компании? Какое у него мнение, какая у него история, что он говорил и так далее, и так далее. И мы пытаемся понять, вот для инсайтов, которые мы нашли, что лучше всего подходит и о чём лучше
[03:30:39] всего сказать сегодня. Дальше у нас формируются кластеры. Ну то есть мы Вы спросите меня, зачем так сложно, чтобы просто написать пост? Но на самом деле нам показалось, ну, как бы на мм метриках мы очень хорошо пришли от просто сгенерированных постов именно к людям, которые нас интересуют, чтобы они
[03:30:58] с нами созванивались. А мы формируем кластер. То есть это условно такое направление, где мы хотим понять, почему именно этот сегмент, именно этот клиент прочитает этот контекст. То есть мы предполагаем, как преподнести ему информацию. Условно, на улице идёт дождь, но если что-то идёт не так, мы
[03:31:16] такие: “Эй, ребята, ты же там интроверт, у тебя меланхольное настроение. Смотри, на улице идёт дождь. А если хочешь узнать, как идёт дождь, а как часто идёт дождь, скачивай наше приложение”. Ну то есть примерно что-то такое. Ну то есть информацию можно преподнести по-разному. Вот как раз-таки кластеры отвечали за
[03:31:34] то, чтобы эту информацию максимально полезно преподнести для целевой аудитории. Ну и понятно уже, да, дальше идут у нас темы. черновики, проверки и так далее, и так далее. Дальше проверялось это всё человеком редакционный, ну, и формировался календарь публикации. И вот я хочу сейчас разобрать часть, а, которая
[03:31:55] связана именно с инсайтами. Ну, то есть, что мы имеем, напомню, мы имеем условную вероятность относительно контекста, который мы отправляем в модель. Мы можем здесь, я пару комментариев скажу, мы можем здесь строить какую-то company operation system, где у нас будут лежать все необходимые clды MD, Agent MD file.
[03:32:15] Но в данном случае мы работаем с азапросом. Что у нас отправляется в азапрос? Отправляется только нужный материал. Мы отправляем туда информацию, для кого, ну, то есть дистрибьюторы, какие у нас какая у нас новость и какое у нас задание дня. О чём мы вообще хотим
[03:32:32] сказать? А по сути мы можем говорить, а это так и есть, что большая языковая модель – это вероятностная функция. И все необходимые данные, которые мы отправляем в эту вероятностную функцию, аа если их менять, мы будем получать разные результаты. Тут, кстати, про детерминированность, а лирическое
[03:32:53] отступление. Если кто хочет почитать, как большие языковые модели можно сделать детерми чуть более детерминированными, у Thinking Machines от двадцать пятого года есть очень хорошая статья, которая как раз-таки говорит про этот детерминизм и с чем он связан. Итого, как мы собираем вот этот промт и вообще весь этот контекст? У нас
[03:33:13] есть различные правила, то есть что получить, что вернуть и так далее. У нас есть данные, которые отправляются из базы. Обратите внимание, если мы строим хорошую систему, опять же, мы не отправляем SEO в большую языковую модель. Мы делаем вот на этом этапе SQL запрос в базу данных. И на базе этого
[03:33:33] SQL запроса на полученных данных, то есть не чтобы большая языковая модель искала, ну, то есть мы выбираем нужный нам кусочек, мы отправляем уже дальше. Ну и у нас есть Markдаун файлы, это какие-то факты о компании, позиция авторы, манеры речи и так далее, и так
[03:33:45] далее. А потом получает собранный текст. А, пум-пум-пум. Ну да, апи получает собранный текст, и мы получаем какой-то результат, получаем соответствующие посты из всего этого. А вот пример. Ну, то есть у нас есть вот такой вход. Это из логов у нас разобрать события для конкретного дистрибьютора. У
[03:34:08] нас есть какой-то факт, у нас есть какое-то задание, ограничения и так далее, и так далее. И мы как бы говорим, что какая-то категория, я здесь, если что, для анонимизации убрала, какая именно категория, вышла на конкретную программу. Почему это для нас интересно, то есть какой тезис мы дальше будем
[03:34:25] раскрывать, а какие у нас границы, то есть о чём конкретно мы будем говорить и так далее. То есть качественный вход, качественный выход. Тоже за этим следим. А, но проблема в том, что на самом деле, пока мы всё это разрабатывали, вот этот весь огромный год маркет движок, а для
[03:34:45] нас это отчасти, ну, то есть для нас очевидно было, что мы можем как бы менять данные, которые идут на вход, в вероятностную функцию, но не очевидно было, что иногда большой текст, который мы будем отправлять, приведёт нас к хорошему результату. Аа, и вот здесь, э,
[03:35:04] есть тоже классная штука, которая показывает, что не только большой материал, но и неоднозначные правила, которые в том числе чаще всего сгенерированы большими языковыми моделями, могут привести к не очень качественному контексту. Что у нас получилось? По сути, у нас были противоречивые несовме, ну, как бы ещё с
[03:35:24] точки зрения кода и с точки зрения marркдаун-файлов. А я перед тем, как сделать эту презентацию, посмотрела на системные файлы, как мы их оптимизировали, что мы там сделали. И на самом деле я увидела, что как у нас выглядел размер запроса. Ну, то есть где-то примерно месяц назад мы поменяли
[03:35:45] запрос и сократили его очень сильно с 151.000 строчек кода там до п символов символов а символов до п9 символов. Вот, а-а, мы поняли, что не нужно отправлять полную историю, полные тексты и всю необходимую информацию. Нам достаточно отправлять какие-то короткие тезисы, ссылки на посты, ссылки на материалы, на
[03:36:11] индексы и так далее, и так далее. Если разбираться с этим, с математической точки зрения, то оказывается, возвращаемся в самое начало, мы работаем с вероятностью внимания, которая у нас идёт на выход. И если мы уменьшаем, но делаем более качественный промт, запрос, передачу материалов и так далее, и так
[03:36:32] далее, то мы и получаем более качественный выход. Вот. А я буду завершаться постепенно, чтобы у нас ещё осталось время на вопросы. Аа что я хочу вам сказать? Что я рекомендую забрать в свою систему? А, опять же, возможно, это прозвучит очевидно, но проверяйте, пожалуйста, ваши правила. Если вы
[03:36:55] работаете просто со своей персональной операционной системой или строите Company Operation System какую-то агентскую, проверяйте, насколько качественно у вас оформлены агентские файлы, действительно ли там написана нужная информация, нету ли там противоречивой информации. То есть противоречивой информации. Почему я в том числе упоминала датацентрик? А потому что, знаете, когда я работала с
[03:37:15] врачами, у нас была частая история. Вы даёте одинаковые изображения и говорите: “Отметьте опухоль”. И у тебя три человека отмечают абсолютно разные вещи. И у тебя есть возможность либо усреднить это всё, либо упереться на экспертное мнение, либо вообще заново всё пересматривать. Ну, то есть по сути,
[03:37:34] насколько качественный у вас датасет. Я вам предлагаю такую перспективу, на которую вы можете посмотреть. Посмотрите на ваши системные файлы, с которыми работаете, системные промты, а на ваш харнес с точки зрения датасета. Что это датасет, который отправляется у вас на Infence, чтобы получить качественный
[03:37:51] материал. Ну и проверьте, всё ли у вас о’кей, достаточно ли у вас материалов. Ну и важный момент, а go to market примеры, генерация текста – это была часть как простой пример. Но всё это точно также работает и если мы строим какие-то company operation system
[03:38:09] агентские системы и в поиске документов, и с кодовыми агентами у нас работает, и с поддержкой, если вы вдруг у вас отдел поддержки, который должен правильно отвечать на какие-то вопросы. В общем, всё это работает очень просто и примерно везде одинаково. Проверяйте ваш вход, решение, получайте обратную связь. Ну и
[03:38:31] возвращаемся в цикл модифицируем результат, который у вас получается. Всем большое спасибо. Напомню, меня зовут Воронкина Даря. Меня можно так найти в Линкедине. Можно подписаться на мой Telegram-канал, на сайтик, на бложик. Вот я, кстати, в своём три статьи написала, вроде как пока писала эту лекцию, что, да, как про
[03:38:51] датацентрик, вот эту всю штуку. Почему я так думаю? Вот как-то так. Ээ, я абсолютно фри для общения. Можете писать мне в личку, в чатик, в канал, да, куда угодно. В общем, всем большое спасибо. Даша, у тебя прямо столько энергии, я прямо завидую. [смех]
[03:39:11] Ещё хочу вот отметить очень круто, что есть ээ нумерация свайдов. Это вот сигнал для меня, что когда мне можно уже включаться, когда мне уже вот, ээ, как хасту, э, и выполнять свою работу. >> Это я для тебя делал. >> Спасибо большое. >> да, какие у нас есть вопросы? Да, вот
[03:39:31] вижу руку. >> Лес рук. Вопросики, вопросики. >> Даш, привет. >> Я Иван, тоже много работаю с Ишкой. Вопрос первый. А пробовали ли вы подсовывать какие-то книги по журналистике, да, какие-нибудь там супергайды, и стало ли от этого лучше >> Это первый вопрос. >> И второй вопрос по поводу современных
[03:39:55] вотн моделей. Я так слышал, что если ДВ применить, то иногда тоже количество токенов сокращается, но это скорее в программировании. Это может быть не совсем к вам. >> Угу. Угу. Спасибо. >> А сколько у меня есть время на ответ на >> Там ещё три вопроса. Можно чуть-чуть
[03:40:12] побольше? В общем, а, очень классный вопрос, спасибо большое. А по поводу книг, книги для журналистики мы не, а, закидывали, но я человек, который очень общается с другими людьми. Как видите, энергии у меня много. Вот я, в принципе, экстраверт. А, поэтому как-то раз ко мне
[03:40:28] приехал мой друг Денис Смирнов. А, и мы с ним сидели у костра, общались и так далее, и так далее. А, и он такой, я ему рассказываю, что я сделала, и он такой: “А я когда-то работал в редакции и вообще посмотри в сторону того”. как
[03:40:42] работают журналы. И я не брала, ну, то есть для того, чтобы это делать, сюда не нужно отправлять контекст соответственно всех этих книг. Здесь достаточно самому прочитать эти книги и выработать какие-то правила или отправить эти книги в большую языковую модель и выработать эти правила. Но я
[03:40:59] решила не использовать книги для про журналистику. Я решила, что если вот есть такие журналы, как бы лучше посмотреть на журналы. А-а, и в этот момент я погрузилась в андерграунд журналов девяностых-двухты000чных годов. Есть такой замечательный журнал Птюч. Я не знаю, вы слышали или нет, но вот я
[03:41:22] его узнала. Ну, я как бы зумер, я о нём узнала впервые. Очень мне понравился, просто очень здорово. Да, мы действительно взяли и некоторые правила оттуда по редакции я как минимум забрала в свой личный блог. Ну, то есть в том числе с точки зрения вёрстки, каких-то
[03:41:37] материалов. А, и так далее. По поводу джева. В нашем Go Market движке использовался Джев. А, важный комментарий. А это очень верхнеуровневая модель, как работает движок. Потому что помимо того, что нам нужно на каждом этапе генерировать, ну, типа вот здесь генерируется, здесь генерируется, генерируется, генерируется,
[03:41:56] генерируется, нам это нужно всё как-то оценивать. Мы берём отдельную сессию, отправляем оценку, ну, отдельную, чтобы у нас не перегружался контекст контекст и нам не говорили: “Да, это хороший случай”. Вот. Я использовала здесь джеламки для начала. Потом как раз-таки в процессе вышел Джеф, и я такая: “Так,
[03:42:14] это же классификационная модель. А если мы отправим для того, чтобы оценивать инсайты, кластеры, темы, сами посты, материал в Джеф, потому что он на основе текстов будет находить необходимые токены”. Ну, то есть по правилам, которые я ему отправляю. То есть он не просто как регулярные выражения, потому
[03:42:33] что я пробовала ещё просто функцию регулярными выражениями оценивать текст. Он не просто как регулярные выражения оценивает текст, а он пытается понять смысл. И она очень дешёвая, она классификационная, она быстрая. И поэтому вот между этапами, где нужно было оценивать материал и от чего-то отказываться, а что-то принимать, мы
[03:42:51] использовали Джеф. Вот так вот так. Так, я видела, у Лёши был вопрос. И ещё тут был вопрос. у кого-то там у молодого человека. >> Раз-раз. Ага. Большое спасибо за классный и понятный доклад. А вопрос больше в технологии. А, например, как обучаются модели? То есть мы понимаем,
[03:43:13] что у нас модели есть сначала есть притренинг дорогой, там миллионы долларов, сейчас возможно. Потом есть supervised fight tтюниing, который предоставляет возможность модельке общаться не как гопник, а как человек. И, соответственно, следующая модель, которую вот ты показала HF, например, что, да, обучаются решать какую-то
[03:43:33] задачу, будь то программирование, будь то математика, будь то контент. Сейчас появился хороший тренд на >> reinforcement learning with verifiable rewards. То есть это модели как раз, которые предоставляет возможность не генерировать текст, который любят люди и им нравится, а генерировать текст, который решает посторонную задачу. То
[03:43:53] есть почему у нас хороший прорыв по математике и программирования? Поскольку задача можно проверить, она решена либо не решена, доказать. >> А есть ли такие подходы, модели, по которым можно тренироваться, что текст он правильный без мнения человека или это всегда будет человеческое мнение и
[03:44:09] нельзя что-то придумать, что можно будет рельку обучать вот прямо автоматически сильно без человека? >> Я про модели тебе здесь не отвечу. Ну то есть именно про архитектуру модели я тебе здесь не отвечу. Я тебе, наверное, больше отвечу с точки зрения дата пайплайна в нашем случае или, в
[03:44:23] принципе, с точки зрения системы разработки бэкэндовой части. А в нашем случае такое было, то есть мы по сути прогоняли несколько раз а разные модели и получали фидбэк, устраивает ли финальный результат или нет. Ну, то есть вот на этом этапе, вот на этом этапе подписи людей, а-а, в
[03:44:45] среднем среди пяти людей, от которых нужно было публиковать материалы, а это C-leevel компании, от которых были публикации, соответственно, мы прогоняли где-то 5-7 этапов валидации материала. И после этого мы уже просто получали нужные правила для того, чтобы запускать это автоматически. И это работало просто
[03:45:06] на автоматическом режиме. Ответила ли я на твой вопрос или ты что-то про что-то другое? Ну, то есть на самом деле в этом движке, ну, и в принципе, когда мы делаем какую-то разработку, если что-то можно проверить детерминированно, если что-то можно проверить не моделью, мы
[03:45:21] стараемся просто написать какую-то Ну, и вот как-то так. А вот другие какие-то модели, я не знаю, если честно. >> Ну, здесь получается приёмку контента без человека сделать нельзя. Вот полностью детерминированным инструментом по базе >> можешь. Я не до конца поняла. Сори. Детерминированным инструментом, да. Вот
[03:45:41] давай про детерминированный инструмент. Немножко не понимаю про детерминированность инструментов. >> Ну то есть ключевой, да, момент, что вот здесь, допустим, есть ребята C level, они говорят, что мне нравится, не >> да. Да, >> это человеческое мнение, >> Это не то, что написано вот в книжке.
[03:45:56] Вот есть такое правило: мы ему которые можно просто легко заливать и проверять автоматом на большом массиве. >> Я думаю, давай обсудим, с тобой я поняла, про что ты говоришь. Конкретно в данном случае мы это не использовали, но вот условно детерминировано правила по книжкам нет, потому что тут ещё очень
[03:46:13] сильно события внутри компании. То есть очень много вероятностных переменно события в компании, поднятые раунды, не раунды и так далее, и так далее. Ну, то есть в том числе а темпераменты настроения человека буквально. Ну то есть, но в целом, если делать это максимально обобщённо, то я думаю, да,
[03:46:32] это можно попробовать сделать более детерминированно, чем получать обратный фидбэк. Вопрос только в том, какая цена ошибки? Если это публикация силевела, цена ошибки достаточно высокая. Вот. Всё. Да, всем большое спасибо. Ещё раз на всякий случай покажу финальный Да, Даша. Даша, спасибо. А мы переходим
🧭 Решаете задачи масштабирования данных и миграции легаси-систем?
TengriMap объединяет сильнейших Data-инженеров и архитекторов Казахстана, Узбекистана и Кыргызстана. Находите профильные митапы и сообщества: app.tengrimap.com
Секция 5: Мелс (inDrive) — Кошмары легаси-систем и построение масштабируемых пайплайнов данных (03:47:00)
[03:47:01] к следующему докладу. Поговорим про то, как вообще внедрять в LSDLC AI в большой крупный банк в Казахстане. Я, думаю, не буду томить наших зрителей, перейдём сразу к докладу. Мелс, тебе >> Да. Всем привет. Нормально, да, слышно. О, супер, спасибо. А, да, я хочу
[03:47:27] рассказать о первом опыте нашей компании. Для понимания написано банк центр кредит, но в реалии мы большая айтишка в 1.000 человек. Вот, которая генерит каждый день тысячи строк кода. Э, эта айтишка создаёт банковские продукты. IT-компания классическая IT-компания в своём понимании. Там нету Вот она именно создаёт, это конвейер,
[03:47:54] который цикл за циклом постоянно производит продукты. Вот сейчас чуть больше деталей дам. Так, сюда. А у меня не работает. Работает. Супер. Давайте немножко расскажу о себе для понимания, кто я, что я, чем занимаюсь. Э, более 15 лет я работаю и в банках, и
[03:48:15] в телекомах. Ну вот как-то так получилось. Вот. и создаю продукты все 15 лет эти продукты для клиента. Вот есть активные практики по технологическому лидерству и цифровой А я им занимаюсь последние 2 с по года активно. Вот начал ещё в Телекоме. Но больший фокус у меня именно на
[03:48:43] entтерпрайз использование, потому что главная задача – это переход, скажем так, дижитализация компании именно вот на новые рельсы AI стратегии. А что ещё хотел сюда добавить? Э здесь этого нету. В выступлении будет два фреймворка MIT. Это я последний год учусь в MIT на направлении AI, искусственный интеллект
[03:49:11] в именно в энтепрайсе как таковом, как внедрять, какие фреймворки. Поэтому оба фреймворка, они не публичные, они те, которые я взял с обучения, с практики, которые есть. Вот. И будет один весёлый мемчик про Барамира. Вот. И я потом буду на него делать референс. Поехали.
[03:49:32] А так план план небольшой, вот, но слайдов 25. От идеи к масштабу. Как я сказал, мы организация большая, айтишная, там только айтишники по большей части, там нет менеджеров, и мы конвейеры. А в классическом понимании MIT фреймворка, чтобы стать digital Masters, а мы все в целом туда
[03:50:01] стремимся, весь рынок стремится. Вот нужно определиться, кто ты есть для начала, как компания. Есть два типа компаний. Ну, есть третий тип, но я в ней не работал никогда. Это начинающие компании. Первый тип – это модники, второй – консерваторы и третье- Digital Masters, куда мы все пытаемся
[03:50:20] стремиться. Мне удалось поработать в обоих типах, и в модниках, и в консервативных компаниях. Сейчас, а, подход к диджитализации, он может происходить в два этапа. Первое, если у тебя есть много команд, ты можешь скормить команде какую-то задачу, сказать: “Слушайте, вот вам просто инструмент, а-э, используйте, как
[03:50:45] хотите, для того, чтобы ускорить разработку”. Это подход работает в очень в модниках, да, в компаниях, где Почему модники, да? Давайте я сначала объясню. Это digдиit компании, которые начинают практиковать новые модные digдиit решения, но они не становятся фундаментальными решениями в этих компаниях. Вот что-то новое вышло,
[03:51:09] подключили, пощупали, круто, классно написали, пошли дальше. Вот в нашем случае конвейеров много, поэтому эта история не совсем подходит. Мы чуть больше консер консерваторы сейчас, поэтому мы пошли в универсальное решение в формировании универсального конвейера. Сейчас я расскажу, что это, о чём речь, когда говорю про конвейер. А в
[03:51:34] итоге основная задача Digital Masters – decision making. Sorry, я это decision making уровне данных. То есть когда нам доступны данные, мы можем принимать более точные решения. Вот, э, этим же подходом мы и руководствовались, и пытаемся руководствоваться. А, идём Чтобы стать digital Masters, в какой-то
[03:52:04] момент, это было где-то полгода назад, мы подумали: “Ну, достаточно написать 33 flow”. Мы их по-разному называем: Солюшены, мы их иногда называем агенты, вот иногда решения какие-то. В общем, суть в том, что есть в чём пример, а что мы начали внедрение и диджитализацию просто с тридцатитрёх
[03:52:30] агентов, которые встраиваются в наш конвейер, в конвейер разработки, классической разработки. Классическая разработка, вот здесь она, кстати, показана. Есть идея, есть, э, аналитика, требования, есть developлопмент, сам процесс, тестирование. Дальше есть операции с продуктивом некоторые, где и девопсы есть, и есть активности саппорта. Вот, по нашему мнению, первые
[03:52:53] 33 flow помогут нам, должны помочь нам стать более эффективными. Это важно. Вот, э, для понимания моя презентация построена именно с на вот этих двадцати одних flлоow, которые мы уже сделали. 10 мы уже пустили в промышленную эксплуатацию. промышленной эксплуатации – это 23 продуктовые команды, которые сейчас
[03:53:18] пытаются пользоваться этими агентами. 11 тестируется, ограничено, но тестируется. И 12 пока в разработке. Цель до конца года 33 запустить. Вот поэтому всё, что я буду показывать дальше, сформировано только на этих двадцатиной на двадцати одних агентах, которые мы запустили. Хорошо. Идём дальше. Теперь о
[03:53:45] А первое, как работает конвейер? А в конвейере у вас есть последовательность определённая, которая должна быть исполнена. Вот. Начинаем. Мы, как большая организация, имеем определённый тип стандартов. Ну, так слышно, да? ТЗ, а, техзадания, шаблоны документации и так далее. наши стандарты не подошли под те
[03:54:15] стандарты, которые должны были быть для в искусственный интеллект как таковой, да, для того, чтобы агент работал правильно, они просто не подошли. Вот потребовалось их просто пересматривать. И первое, вот я там обозначил, важно, что важно, именно они должны были быть пригодны для машинного использования,
[03:54:36] потому что технические требования, бизнес-трелебования обычно человек пишет для человека. Вот. Но здесь формат поменялся, а мы были не готовы. Были не готовы к тому, что потребуются новые стандарты, а новый формат стандартов. А вы представляете, да, там когда у вас 22 команды каждый день создают [фыркает] что-то новое, вот
[03:54:58] эти стандарты являются защитой от хаоса. Вот и мы пришли к первой проблеме. У нас не было структурированных форматов. Следующий элемент – это Legacy. Да, мы там компания IT, но мы отделились от банка какое-то время назад, но банк 38 лет живёт. Вы представьте, какое
[03:55:22] количество legси там лежит в коде. Это Legacy решения Legacy продукты. Кто принял какие решения когда-то, на как на каком основании, мы не знаем. Но конвейер должен про это помнить. он должен как-то это учитывать, а у нас нет информации о legси, кроме кода. Ну, то
[03:55:43] есть классика, да, никто не пишет документацию, нетров и так далее. История реализации решений, тоже никто не пишет историю, её просто нету. Э, связи между артефактами мы просто не привыкли, у нас одна ТЗшка, мы работали только с ТЗшкой всегда. Вот. И оценка актуальности источников. Как вы
[03:56:04] знаете, классика жанра при любом релизе, ой, а у нас тут оказывается не так должно быть. И ты очень быстро делаешь правки, и никто не помнит, кто их сделал. Актуально это или нет? К чему мы пришли? Первое, э, стандарты. Все наши стандарты должны быть AI ready
[03:56:22] стандарты. Стандарты по генерации документации, стандарты по формату. Э, среди нас есть прямо Супер. Кто-нибудь когда-нибудь ТЗ видел нефункциональные требования? А каждый их пишет, да? О, супер. Всё, я вижу процентов 30. Так и происходит. Enggering memory это тот слой, которого нету, но он нужен. То есть мы должны
[03:56:50] понимать причины, на основе которых были приняты тели либо иные решения, да? и помнить про Legacy. Версионирование знаний, контроль качества данных и повторное использование контекста. Сейчас мы придём контекст. Вот Дарья правильно сказала про контекст. Она когда рассказывала это, я прямо почувствовал, что это про меня.
[03:57:12] Вот, э, это была первая наша проблема и ошибка. То есть мы были не готовы с точки зрения данных, с точки зрения формата и вот этого дата-слоя, который нам поможет принимать правильное решение. Идём дальше. А второе, это очень интересный момент. Помните, до этого был слайд, где я показал там
[03:57:35] девелопмент, тестинг. Мы тоже так думали: “А что, давайте агентов просто погруппируем и будем запускать, потому что у нас есть разные центры компетенции. Есть, э, центр, связанный с компетенцией тестирования, аналитики, с девелопментом. У них у каждого есть свой стандарт, но не сработало. Почему не сработало? Потому
[03:58:00] что нужен сквозной инженерный результат в первую очередь. Вот ты не просто генеришь э какую-то задачу, ты генеришь сценарии. И а вот здесь вот основной важный, наверное, элемент. Мы приоритизировали по по эффективности, да, или по тому, как бы какой выхлоп был бы в первую
[03:58:27] очередь, но в реалии оказалось не так. А один агент связан с другим. Вот. И для того, чтобы выполнить определённую работу, у тебя есть кроссзадача. Например, для того, чтобы сделать, аэ, рев требований, тебе нужно знать user story. Ты не можешь это сделать раньше. Вот. И вот здесь была одна из
[03:58:50] основных ошибок. То есть не существовало end to end процесса. Агенты были неправильно группированы изначально. Про end to end process. Вот здесь тоже очень важный момент. Конвейер Начиная от user story, у вас есть генерация user story, постановка задачи, acceptance критерии, дальше компоненты и зависимости APIя. И вот это всё, оно по
[03:59:17] сути должно быть связано контекстом. А если ты выбираешь какой-то какую-то end toend историю, она всегда должна быть связана контекстом. И вот здесь мы очень сильно серьёзно ошиблись, потому что, э, сейчас расскажу, почему. Потому что контекст мы изначально не начали учитывать. Контекст должен быть
[03:59:38] передан, начиная отрстари до самого финального момента, э, где проходят финальные тесты. То есть с чего мы начинали, какая задача стояла перед, э, командой разработки, да? Вот и этой это была второй ошибкой. То есть не было to end процессов, были просто отдельные Тут мы поняли, что просто невозможно
[04:00:05] взять и внедрить я и агентов. Нужно подходить к этому иначе. Я чуть буду дальше возвращаться к этому мемчику. Ошибка номер три. Самая смешная ошибка. Значит, мы все очень эффективные менеджеры. Вот думаем, блин, а вот если бы разработчик белайн-кода генерил за пару минут, вот бы тогда классно было
[04:00:32] бы. Мы сейчас всё бы сделали. Да, мы так думали, думали, что даже тестировщик сейчас быстро сценарий накидает и всё будет круто. Нет, так не работает. Почему? Потому что, э, то, что мы использовали, тот фреймворк, который мы использовали по приоретизации, нас обманул. Чем обманул? Не работает здесь
[04:00:50] эффективность. работает связка. То есть, если ты не учитываешь зависимости, ты не можешь генерить бейзлайнкода без архитектуры и требований. Невозможно прийти и сказать: “Блин, сейчас мы будем быстро код писать или basзлай кода будет рождаться”. Не будет, потому что ты ещё не сделал агентов, которые там, не знаю,
[04:01:11] бизнес-правила тебе acceptance критерии генерят. Ты просто сгенеришь какой-то код, но этот код не будет связан с той постановкой задачи, которая стоит спереди. ранее тебя. Вот и эта обманка действительно с нами сыграла злую шутку. Есть два типа агентов, которые мы разработали. Первый – это генератор. Это
[04:01:33] генерация контента, генерация бизнес-требований, генерация сценариев. Второй тип – это контроль. Это гейты, которые проверяют, что либо человек, либо, а, либо агент правильно отработал. Агент, проверяющий агент. Это была третья ошибка. А четвёртая ошибка, я до этого говорил про end to end процессы. А, например,
[04:01:59] генерация тестирования, да, генерация тестовых сценариев, она идёт от user старей до момента тестирования. Есть генерация бейзлайн-кода, но не было человека в итоге, который бы отвечал за весь процесс полностью. Как конвейер работал от, ну, проработал от старта, от user 3. Мы хотим человеку принести
[04:02:21] какую-то пользу, заканчивая финалом, да? А принесли ли мы человеку пользу? Кто за это отвечает? Потому что в итоге получилось, что за бизнес-трелебования отвечает за системные требования Солution, архитектор и системный аналитик. За реализацию девелопер за тестирование от QA. А кто отвечает за то, что поставленная задача
[04:02:48] на входе была правильно реализована на выходе? Нет такого человека. А, а, а, вот это следующий момент. Я сейчас к нему вернусь. Там мы сейчас будет ответ. А, идём дальше. Кто-то должен был проверять связанность, трассируемость и сквозное качество как А вот тут следующий интересный
[04:03:13] элемент, к которому я пришёл случайно, пока копал эту презентацию, хотел вам про него рассказать. А в моём понимании конвейер, что SD, сам процесс SDLC – это последовательный процесс. Ну вот как когда машину собираешь, там двери прикрутил, да, условно, сначала нужно краской покрыть, вот лаком, потом
[04:03:35] прикрутить салон, двери и так далее, да, перепроверить, не работает. Почему не работает? Ещё есть второй хороший пример, который мне очень нравится. Это к Xiaomi, по-моему, я в новостях видел. Собрали завод, который полностью роботизирован и собирает мобильные устройства, смартфоны. А для меня в начале проекта, именно проекта, это
[04:04:01] выглядело именно так. Я думал: “О, блин, прикольно, мы будем, как люди, которые там на заводе Volkswagen иногда прикручивают какую-то панельку, всё остальное делает робот”. Я ошибся, и объясню, почему. Потому что в нашем конвейере есть лупинг, это циклы А вот здесь вот всё спроектировано и всё
[04:04:23] должно подойти точно. Проектировщики уже сделали эту работу. Наш конвейер другой. Наш конвейер – это конвейер, в котором ты в какой-то момент, в середине разработки понимаешь, что ты что-то забыл или тебе что-то не нравится и тебе нужно вернуться, вернуться на этапы назад, чтобы пройти ещё раз этот этап.
[04:04:43] То есть зациклиться. Вот. И я потом задался вопросом: “Блин, а где ещё такая же история есть в промышленности? Мы на кого-то похожи. Это точно не не сбор машин”. Нашёл верфи. Корабли корабли строят в момент проектирования и продолжают проектировать в момент постройки. Это очень интересно. Но по
[04:05:05] сути мы больше похожи на верф. В чём отличие и в чём сложность? называется Engниing to Order. Это инженерия на заказ, кастомная инженерия. По сути, так оно и есть. А мы не тот конвейер, который производит один и тот же продукт цикл за циклом. Мы конвейер, который,
[04:05:25] а, создаёт и проектирует продукт на во время разработки. То есть проектирование является частью конвейера и создания продукта. Это кастомная штука. Это очень интересный кейс. И этим он, э-э, отличается от классического конвейера. Вот возвращаясь к теме, тогда как улучшить этот процесс из DLC? Нужно
[04:05:50] версионирование, версионирование решений, понимание момент, когда ты ушёл обратно в цикл возврата. Ты должен контролить количество циклов возврата для понимания, что ты там, ну, не потерял контекст, что ты выбрал правильные данные. Вот следующее. и должен понимать, какая польза была от возврата. То есть, если вам не Пример
[04:06:14] простой, вы попросили: “Пожалуйста, сгенерь мне вот эту версию технического задания”. Он сгенерил, вам она не понравилась, сказали ему: “Мы постоянно каждый день с GPT общаемся, он там какую-нибудь ерунду делает”. Мы говорим: “Блин, переделай, не пойдёт”. Вот эта история про это, э, есть несколько
[04:06:30] циклов, где он должен забыть то, что он сделал до этого, потому что это вам не подходит. Вот эта история с версионированием и циклами, она именно про вот такой подход. Вот поэтому, а, сама система должна ещё учитывать возможность возвратов. Ну и этим конвейер Идём дальше. А ответ про продукт оунера.
[04:06:58] Вот говорили, что это должен делать продуктоур. Изначально мы эту задачу оформили так с большим позитивом. Сейчас мы сделаем несколько классных агентов, вот станем digital компанией, будет круто. Вот. Но оформили как проект, а у проекта есть проект-менеджер, но нет продукт оунера. В итоге потом это
[04:07:19] вылилось в то, что это скорее всё-таки продукт, потому что а внутренние пользователи дают обратную связь. Мм, требуется постоянное развитие, эксплуатация, обновление моделей, контроль качества и безопасность. Вот это из того, как мы м поменяли своё видение того, к чему с чего начинали. Что показали пилоты? А
[04:07:47] топ-три проблемы, нерелевантные замечания, низкая точность пропускает важные проблемы. Опять это всё вопрос контекста. То есть то, те проблемы, о которых я говорил чуть раньше, вот они все здесь были собраны с обратной связи от тех ребят, которые проводили пилоты. Но есть и хорошая часть, э, первичный
[04:08:10] анализ требований, категоризация замечаний, самремр и так далее. Есть вещи, которые с которыми агент уже хорошо справляется, но есть большой лак, связанный с данными. Эти данные, они, как я ранее говорил, неформализованные. Либо их не хватает, их нужно перепроектировать. А проблемы качества, не только проблемы модели. А
[04:08:35] здесь несколько гипотез, которые мы вытащили из обратной связи. Это контекст проекта, что его просто недостаточно. Второе – это критерии, стандарты, что они либо их не существует, либо они не Связи между артефактами – это очень важный момент, потому что есть дизайн, код, тесты, есть архитектура от Solution
[04:08:57] архитектора. Вот если что-то пропустишь, э модель это не учтёт. И последнее – это встроен встроенность в процесс. Это отдельный отдельная проблемка, потому что сейчас мы пока запускаем агенты вручную, мы их включаем в flow jry, но на это нужно немножко времени. Так, идём Какое заключение? К какому заключению мы
[04:09:22] пришли, пытаясь внедрить этих агентов в Что если не контролировать хаос, AI не будет его контролировать, он реально может его продолжать генерить. Вот. И любые плохие требования создают неправильную реализацию. Та же опять же история со стандартами. Нет endдко контроля и ещё счёт обратной связи. То
[04:09:47] есть кто-то должен контролировать то, что происходит. А, и, наверное, переходим к последней заключительной части. Сейчас момент, да, есть время, буквально чуть-чуть. А, заключительной части из тех проблем, которые я ранее озвучивал. Первое, есть такой фреймворк в MIT. Он помогает определить, какая какой процесс в компании должен
[04:10:13] быть первым для автоматизации или длязации там. Ну, для того, чтобы его оцифровать, а-а, нужно понять, э, потенциальных кандидатов, посмотреть возможность этой, э, диджитализации как таковой автоматизации, проверить пользу, ээ, привносимую приоритизацию, понять, какой тип автоматизации тебя, ну, устраивает, да, там это будет совместно с человеком, это полная
[04:10:40] автоматизация работы агента и продолжать циклы улучшений. Но, как мы видим, этот фреймворк, он сам по себе классный, он универсальный, он не подошёл под нас, потому что, а, мы не смогли учесть, и здесь нет ничего о legси и инженерных знаниях. Вот нет рекомендаций об учёте зависимостей и нет
[04:11:07] никаких, э, скажем так, моментов, которые бы, э, предлагали именно сквозные процессы учитывать. Вот, не только просто набор агентов или какую-то определённую автоматизацию. Вот. Э поэтому пересмотрели этот фреймворк. И есть предложение нового типа – это определять сначала сквозные процессы, когда вы хотите строить такой конвейер. А оценить
[04:11:34] готовность знаний, проверить зависимости, оценить э ценности и влияния, проверить реализуемость и тип автоматизации. Ну и потом сформировать портфель, приоритеты и уже пытаться это внедрять. Тогда бы это, ну, может быть, мы не попали бы вот в те проблемы, с которыми мы столкнулись. Хотел вот тоже
[04:11:54] показать этот элемент, потому что он изначально изменился. Это как выглядит наша архитектура. В итоге это стало AI Driven Engineering Production System, вот в котором появился E2E Nendess Management, вот о котором я чуть ранее говорил. Дальше ниже слой регистрации и Engineering Knowledge Data. Он дополнительно
[04:12:20] расширился на уровне legacy, уровне учёта дополнительных знаний, стандартов и расширения данных для более качественной работы. Всё остальное я не буду останавливаться, но в принципе базовое. Вот первый и третий пункт. Э, первый появился, третий расширился. А а какие вещи, к чему мы сейчас пришли? К
[04:12:45] тому, а что нам должно помочь? -э расширение возможностей и качества данных и работы с, а, с контекстом, а-а, фокус на end toend процессах более приоритетных. Вот, э-э, пересмотреть зависимости ещё раз. Аа, и что там ещё сейчас? Оркестрация, взаимосвязи, flow. Ну, это чуть позже.
[04:13:10] Это при масштабировании мы должны будем учитывать остальные зависимости между агентами. А какой пять главных уроков, которые нам помогли, ну, к которым мы пришли в целом, да, это то, что не только AI ready стандарты нам нужны, но и учёт Legacy и Engнириing Memory. Подход к планированию должен быть не
[04:13:36] просто в рамках одного агента, а в рамках end to процесса. А приоритизация должна включать приоритизация и в целом понимание, кто идёт первый, какой агент идёт первый, должна включать в себя зависимости. А дальше что локальная эффективность агентов не гарантирует конечного результата, качества именно, что нам нужно смотреть качество end
[04:14:03] toend процесса. Вот. Ну и том, что мы, аэ, сейчас, что это не что это продукт, что это не проект. Если вы к этому подходите, вы циклически должны выделить под это команду, а, и цикл за циклом улучшать этот конвейер, потому что, по сути, он
[04:14:22] для вас будет ускорение вашего производства. Он вам деньги приносить должен. Вот, э, на этом всё. Готов и рад ответить на дополнительные вопросы. >> Да, в целом можно развёрнуто ещё отвечать. Может, ждём ещё одного спикера, пока он подойдёт, >> а то я торопился. >> Да, поднимайте руки. Вот вижу у девушки
[04:14:45] рука там. Так, а аллоал. >> Да, слышно, >> слышно. Аэ, у меня такой вопрос. Спасибо, во-первых, большое за презентацию. Очень интересно и подробно рассказал. Вот, э, я из колёса группы. Мы проходим, ну, примерно то же самое. Вот. А, и у меня такой вопрос. Мы сейчас
[04:15:13] работаем над юнитэкономикой, и мне интересно спросить у вас, а вот какие из этих решений, может быть, внутри этой цепочки или весь этот интуинтпроцесс был экономически обоснован? Вот. А если что-то было необосновано, то что вы с ними сделали? >> А, да, отвечу. Есть несколько проблем. У меня 22 команды, о
[04:15:34] которых я говорил. Каждая команда очень кастомная. У одних ребят проблемы с тестами. Вот они постоянно страдают. Другие ребята, аэ они возятся постоянно с аналитикой. Вот третье, у третьих там проблема с девелопментом. Поэтому мы подошли отдельно к каждому типу проблем. Например, э большой value мы видим в
[04:15:57] агенте, который генерит ТЗ, но там большая сложность в том, чтобы это ТЗ было действительно качественно сгенерено. Вот тут и как раз нужен legacy, э, нужно engниering memory и так далее. В чём суть? В том, что мы, например, тратим на генерацию одного технического задания 5.000 долларов. И
[04:16:14] это 3 недели. Э, обычно это ошибки, циклы переработки. Если с генератором у нас первые тесты уже показывают, что это на 30, на 40% быстрее, то есть стоимость одной ТЗшки нам будет в целом, ну, процентов на 40 дешевле, чем сейчас. То есть мы будем больше производить
[04:16:36] ценности с точки зрения, например, тех же тестовых сценариев. Там всё хорошо, генерация работает прекрасно. Поэтому у нас два KPя. Первое – это ускорение. И второе – это не потеря качества. Пока она не потеря, не улучшение, но хотя бы не терять качество. Со временем,
[04:16:55] конечно, она должно эволюционировать в в улучшение качества. Смог ответить? А, да, скажу. Есть ограничения, с которыми мы работаем. А первое, мы банк нам нельзя, ну, мы работаем с кодом банка, нам нельзя выводить наружу в облако некоторые данные. Вот поэтому у нас есть свои развёрнуты своё
[04:17:41] развёрнутое железо. И вот мы пытаемся его окупить. окупить за счёт ускорения. Да, это А и был ещё вопрос по первой. >> А, да, я в целом про, ну, полноценные продукты, если с агентами говорить, то здесь, в принципе, понятно, да, как считать. Вот. А если мы говорим про
[04:18:01] создание какого-то продукта, в котором участвуют и где мы её сами обучаем, сами задаём гардрейлы, сами задаём промты системные и, да, там на каких-то участках, вот сами потом, э, оцениваем его качество и вот это вот всё проходим как с обычным продуктом, только с тем, в
[04:18:17] котором встроеном. Вот. И там встаёт вопрос при подчёте Юнит экономики, когда мы создаём просто продукт, у нас есть, да, там, а, косты, есть прибыль, мы тут достаточно легко можем посчитать там ну как быстро мы окупимся и так далее. Вот спродуктами чуть-чуть больше вводных,
[04:18:34] например, да, нам нужно дообучать регулярно эту историю, а при масштабировании каждый новый сценарий возможно заводить, а это тоже обучение, ну, и так далее. Вот. Вы это учитываете или пока к этому не подошли? >> Учитываем. и расскажу, как есть два подхода. Первый – это есть другие банки,
[04:18:51] у которых тоже есть и и агенты, и так далее. Вот мы пытаемся не отстать. И здесь уже кейс не про деньги, а про то, чтобы, ну, это клининг, да. А вторая история с вот это когда мы полагаем, что мы можем больше продать, и это больше работает
[04:19:11] как инвестиция. Мы говорим: “О’кей, при вот до этого, э, коллега рассказывал о примере дождя, да, о том, что мы знаем, что ты любишь дождь. На самом деле это персонализация, мы понимаем, что нужно клиенту”. Вот. А и в банках мы пытаемся сейчас использовать так, чтобы понять,
[04:19:29] что ему нужно, в какой момент. И потенциально, например, это может поднять на 20% наши доходы, доходы какого-то продукта, например, депозиты, да? Мы просто будем понимать момент, когда клиенту что-то предложить и что именно. И вот этот кейс, он работает как инвестиция. Ты не можешь
[04:19:48] сначала заработать, а потом пытаться тратить. Ты говоришь: “О’кей, я собираю э команду и девелоперов, подготавливаю данные, они мне стоят, например, аэ, там, я не знаю, 2.000 долларов в день, но я буду зарабатывать 6.000 потенциально. И ты потом считаешь рои, то есть отбиваются ли твои
[04:20:11] инвестиционные вложения в обратку. Если нет, надо выйти. Надо выйти вовремя. То есть нужно понимать, когда остановить инвестиции и понять, что это неэффективно. Для этого обычно есть э группы людей, э, которые раз в какой-то период пересматривают эффективность работы продукта, потому что продукт он обычно по пинлю считают его, ну, то есть
[04:20:33] на сколько он зарабатывает и сколько он тратит. Если PNL не растёт или срок инвестиций вышел, ну, нужно остановиться, пересмотреть. Это >> можно? Да. >> Дада. А, >> а вопрос. Меня Влад зовут. Вопрос, точнее, не вопрос, а больше вот ты привёл в своей презентации пример насчёт
[04:20:57] Верфи, да? Ты можешь его чуть по поподробнее раскрыть? В чём схожесть? Вот ты говоришь, там есть циклы, вот чуть можешь раскрыть. А, дада. Ещ ещё раз. Смотрите, машину, когда собирают, её уже спроектировали. То есть там нет момента, когда ты прямо сейчас создаёшь продукт. Вот как происходит
[04:21:20] разработка програмного обеспечения. Приходит продукт и говорит: “Блин, ребят, хочу, чтобы вот здесь вот было что-то новенькое. Вот здесь появится кнопка, она принесёт нам деньги”. Это кастом, это заказная разработка. А почему верх? Потому что именно корабли так строят. То есть там нет такого момента в корабле, когда ты должен
[04:21:39] полностью спроектировать его и потом начинаешь строить. Обычно корабль строят поэтапно, иногда возвращаются к базовым вещам, которые можно всё ещё перепроектировать. Вот имен автомобилейстроения, это подход к ну к э судов, да. То есть проектирование идёт в момент на конвейере, и этим сложность. Да, Алек. Алексей Бигдататим. Да, не успели
[04:22:14] познакомиться, попозже подошли. >> А, скорее даже не вопрос, а предложение. Да, давайте дружить и разговаривать. Э, >> Есть два важных аспекта, которые важно при проектировании агентских систем. Это, во-первых, чтобы люди умели хорошо в агентскую разработку. Это первая понятная часть. Вторая часть – это про
[04:22:35] то, как делать непосредственно платформы для агентов. Вот, соответственно, у нас в комьюнити есть ребята, которые делали трансформацию в Яндексе, в NVIDIA, которые занимаются развитием стартапов по specification Driven Development для агентов, поэтому можно будет поговорить, чтобы не наступать на граблены на которые уже наступили другие люди.
[04:22:52] >> Супер. Это клёво. Спасибо. Я только буду рад. Вот был вопрос у в зале, да, насчёт платформы. Мы сами её построили. Это а это похоже на Nathan платформа, на NOJS, написанная, э, нашими разработчиками. Вот поэтому некоторые ошибки мы проживаем сами. Вот. Но нам нравится этот опыт, он тоже
[04:23:17] по-своему ценен. Мы понимаем, почему они так делают другие компании, да? Или, но это важно для нас, это опыт компании. Вот мы потом хотим эту же вещь, эту же платформу использовать в своих целях. >> Да. Привет. Меня зовут Максим. Я занимаюсь я работаю с вайп-кодерами. Я
[04:23:40] занимаюсь чисткой авгиевых конюшин после вайп-кодеров. Ну и, собственно говоря, не только этим, но и ставлю им, э, AI SDLC процессы. Вот хотел заметить, что у вас очень классный вот этот вот тейк про вер, потому что это, ну, есть такая теория решения изобретательских задач ТРС, и
[04:23:57] там есть такой хорошее правило: если тебе хочется найти какой-нибудь интересный фреймворк, ищи те индустрии, где подобные действия от точнее от подобных действий зависит жизнь людей и которые уже давно пробежали по всем возможным граблям. Вот. И вот у вас пример сверфи отличный, потому что
[04:24:17] действительно AIS SDLC – это такая штука, которая аа сама а изменяется в процессе работы. Вот мне это знакомо, потому что я этим уже несколько лет занимаюсь. Вот хотел ещё заметить, что немножко то, что вы рассказывали, а мне напоминает V-образное Vmмоel, да, ну, которое в Боинге, в
[04:24:38] Арбасе, в NASA используется. Вот достаточно похожие штуки. И там есть отдельная роль. Это verification and validation lead, который занимается, собственно говоря, end to end отслеживанием, как как value двигается по V-образной модели и, собственно говоря, чтобы с ним ничего не случилось. Вот это всё была прелюдия. А
[04:25:02] вопрос у меня другой. Вы говорили про версионирование. Ну, как бы понятно, что а есть определённые Мм, как это с как это по-русски вообще? Ну, о’кей, вот вы меня понимаете. И по ним двигаются а-а какие-то сущности э за версионированиями которых вы следите. И, собственно говоря, когда
[04:25:23] какая-то сущность изменяется, нам надо всё ниже по течению пересчитать. Вот мне интересно, как у вас это реализовано. >> А вот это тот момент, до которого мы только сейчас дошли. Вот. И как мы хотим это реализовывать. Я хочу просто, а, размечивать определённый, значит, каждый
[04:25:45] шаг. Это же на самом деле, э, статусная машина, да, она работает примерно так. То есть есть очереди внутри агента, есть определённые решения, которые он вот задача начать их размечивать внутри и уже пытаться работать с разметкой, да. Вот. Потому что у каждого процесса есть
[04:26:03] свой поток с статусами, с переходами. И вот мы будем пытаться зацепиться за это. А вот насчёт ээ V-модели, блин, я знаю эту V-модель, хорошо, что вы сказали, я посмотрю очень внимательно. Это классный >> да? Это прямо топовая идея, потому что с людьми оно плохо работало, потому что
[04:26:21] оно требует очень много компьюта. Вот. И от людей просто это очень сложно получить. А с агентами это, ну, сильно >> Спасибо. Именно вотмодель >> классный инсайт. >> А вы как раз про упомянули конечные автоматы. И вот это, кстати, один из основных вопросов при разгребании LEG
[04:26:42] баз. Пройди по кодовой базе и найди там все неявные конечные автоматы. Вытащи из них, ну, сделай их явными, вытащи все инварианты. И в общем, как это сказать, хороший подход к разгребанию Legси. >> Да, спасибо. Я думаю, это как раз следующий шаг, э потому что всё, что я
[04:27:03] показал – это опыт того, чему мы научились к сейчас, к вчера, условно. Вот. А вот конюшни эти это наше завтра. >> Ну, мы можем вот в кулуарах там пообщаться, чай, кофе, там, всё такое. Супер. [фыркает] >> Всё, спасибо. >> А, ещё раз добрый день, спасибо за
[04:27:26] презентацию. А вы, э, не раз говорили, что у вас есть там, да, проблемы в ваших командах, там где-то на ТЗ, где-то на разработке, где-то на QA. А можно поподробнее, что за, что это за команда, из чего они состоят? То есть это просто агенты или это люди, которые управляют
[04:27:43] агентами? Пока это разработчики, вот, но сейчас это AI Augmented, это разработчик. Разработчик, мы говорим, аналитик, тестировщик, девелопер, а, который будет работать совместно с агентами. То есть у нас пока нет цели заменить людей вообще ни в коем случае. Везде есть Human in the loop, но
[04:28:03] есть цель сделать его работу быстрее, качественнее. Вот поэтому себестоимость его работы будет дешевле. Но по часам я имею в виду, зарплату он свою сохранит, но ценности он будет в эти же часы привносить больше. Свойства ну вот проблемы, связанные в командах. Есть legгаy команды, которые, например,
[04:28:25] бьются об ошибке предыдущих команд, да? Есть команды, ну вот это так построено, есть команды, в которых аэ есть зависимость от ещё кого-то. вот эту зависимость, например, есть корсистемы, да, мы midleway слой, вот по большей части есть корсистемы, в которых тоже есть разработка, иногда именно она
[04:28:47] накладывает ограничения. И вот эти команды могут часто ошибаться именно в работе с ко с коровыми объектами. И вот здесь вот мы надеемся, что агенты смогут заранее подсвечивать риски или обозначать зоны, где, например, тот же тестировщик может в первую очередь обратить внимание на проблему. Он может
[04:29:09] её не заметить. Кстати, был интересный пилот, который пока мы взяли, у нас есть классный тест, ээ, тест лиды, это прямо топовые ребята. И как-то просто в лоб-лоб сравнили, сколько нагенерит сценариев один из лучших тест лидов против ИИ. И и Ии сделал на 30% сценариев больше. И
[04:29:33] действительно, это были нормальные сценарии, ну, в смысле, которые нужно было проверять и к тому, что ИИ действительно расширяет возможности вопрос просто, как ты будешь его >> А, да, спасибо. Вот, да, вы правильно подметили то, что момент такой, а, что зависимости, да, вот вы же там всё-таки
[04:29:49] банк, вы для банка генерируете код, и, соответственно, вы не можете э открыть и там весь код банка, и, соответственно, он не понимает, что и как зависит друг от друга. >> О’кей. А можете ещё проговорить вот, а, наверное, такой весь флоу, а, от, задачи до её исполнения. То есть вот
[04:30:08] бизнес пришёл, сказал: “Я хочу там такую-то фичу”. Дальше вот что происходит и как вот на выходе это вы передаёте. Спасибо. >> А я могу рассказать как есть или как я хочу. Это немножко разные вещи. Ага. Как есть. Ээ не всегда даже мы сейчас только начинаем использовать user
[04:30:26] story. Это круто, потому что user story действительно показывает более явно, какую ценность мы несём для самого клиента. Некоторые команды перешли на user story, остальные переходят. Второе, после user story должны, но пока не везде, есть acceptance критерии. Покпнс критерий. Ты критериям ты понимаешь, что
[04:30:43] действительно в первую очередь будет важно и на основе чего делать приёмку. Нормально, да? По времени >> Заканчиваю. Аэ дальше бизнес-требования. На бизнес-требовании ТЗ. После ТЗ генерация кода. После кода сценарий, но там есть ещё Shift left в начале. То есть тестировщики ещё в начале могут
[04:31:04] генерить часть, значит, unниттест, не юнит-тестов, тестов. интеграционных тестов, да, если контракт известен, и уже в конце прогонять вот эту финалочку, да, заключение, когда действительно ты проверяешь, всё ли соответствует user есть ли acceptance критерии, действительно код написанный соответствует ТЗ и так далее. Ну вот
[04:31:26] процесс такой, но как правильно заметили, он последовательный. А в реалии, в целевой картине он должен быть параллельный. Ты должен в параллели сгенерить и бейзлайн, и архитектуру агентами, и потом доработать в несколько циклов её, э, вот через лупинг доработать до до финального состояния. Но мы говорим только об human augmented.
[04:31:48] Это когда AI с хьюманом, когда AI отдельно работает, у него другой немножко цикл. >> Да. Э, Млс, спасибо большое. Прямо
🧭 Внедряете Enterprise ML и агентные системы с соблюдением регуляторных норм?
Откройте для себя базу верифицированных AI-проектов и консалтинговых практик региона на TengriMap: app.tengrimap.com
Секция 6: Сергей и Георгий (EY / Ernst & Young) — Проклятые сценарии в корпоративном ML и аудит моделей (04:32:00)
[04:32:00] ажиотаж такой на вопросы. Тебя [смех] по полностью загрузили. >> Вот. А ловите, короче, одним словом, мы на самом деле далеко от банков и финтеков никуда не уходим. Сейчас мы продолжим в стадию консалтинга от Эрнстнт Янга. У нас сразу два спикера. Я приглашаю на сцену Сергея и Георгия.
[04:32:32] Да, коллеги, всем привет. Проверим, работает техника. Нет, работает. Всё супер, меня слышно отлично. Меня зовут Сергей Дробин. Всем добрый вечер. М, я представляю компанию EY. Мы вместе с моим коллегой, Георгием Пак. Э, мы, э-э, сейчас расскажем чуть поподробнее про то, что у нас в консалтинге происходит
[04:33:03] и, естественно, в контексте э нашей основного топика этой конференции. Дата Science, Mail и так далее и обработка данных. Но, естественно, поскольку у нас основная тема – это Хэллоуин, то мы расскажем про наши страшилки, про наши ночные кошмары нас как консультантов. >> И наш топик, э, наш рассказ будет
[04:33:28] разделён на два направления. Это, мм, организация проектов, потому что у нас их много, и реализация проектов, опять же, потому что у нас их много. Я расскажу про организацию, а Георгий расскажет уже, как это всё делать. >> Давайте небольшой замер аудитории сделаем. А-э, поднимите руки, те, кто
[04:33:50] учится, начинающие, молодые специалисты, там, младшие аналитики и так далее. Ага. А кто там? Сеньоры, менеджеры, фаундеры, больше больше фаундеров и больше старшего состава. О’кей, >> всё супер. Проговорили тогда. Ээ, ну, фаундерам, соответственно, будет интересно про организацию, а молодым специалистам про реализацию, потому что
[04:34:16] им всё это делать. А, ну, мы, естественно, ещё можем отдельно и долго дискутировать по поводу продажи этих проектов, да, потому что мы в том числе занимаемся и этим, да, как общаться с клиентом и так далее, но это отдельная большая история, про которую можно целую
[04:34:33] конференцию организовать. Давайте сейчас немножко поподробнее про нас, потому что, ну, консалтинг довольно общая история, не всем понятно, что это такое, особенно в контексте дата science и почему вообще в консалтинге это есть. Наверное, в первую очередь нужно сказать, что мы из компании Bigфо, да, Bigфом обычно ассоциируется с
[04:34:58] аудитом, да, то есть это те, кто проверяет финансовую отчётность. Но у Bigfocen есть и консалтинговые направление, да, собственно, мы оттуда. Когда вы думаете, когда вы слышите консалтинг, наверное, вы, возможно, представляете, что это какие-то стратегические слайды для топ-менеджмента компании. И причём тут вообще AIL, Data Science и так далее.
[04:35:22] Да, такой консалтинг есть, но это стратегический консалтинг. А мы именно занимаемся тем, что запускаем, разрабатываем разные модели и помогаем банкам. Именно в финансовом секторе мы работаем, помогаем банкам с разработкой и внедрением ML-моделей в разных процессах. По большей части мы концентрируемся на риск-менеджменте, да,
[04:35:43] потому что это такая наиболее традиционная с точки зрения применения машинрнинга, ну, и в целом статистических моделей сфера. А и ой, да. И соответственно в риск-менеджменте, поскольку это такая длительная история, регулирование сложилось в риск-менеджменте, там уже довольно большая практика по разработке моделей, но есть, естественно, и свои
[04:36:09] особенности, да, потому что мы не можем пихать все продвинутые ээ алгоритмы в все модели, которые используются в банках, потому что это связано с управлением капитала банком. Это большой риск, поэтому модели должны быть более проверенные, стабильные, валидируемые и так далее. Про это я рассказывал на прошлой конференции
[04:36:32] Open Data Science в июне, да, или в июне, но кто не был, можно в целом материал посмотреть. Мы там рассказывали про оценку кредитных рисков и как ээ модели разрабатываются, как они согласовываются. Потому что, как я уже сказал, это регуляторная история, и м довольно много требований к этим
[04:36:52] моделям, требований к тому, как они должны быть разработаны, проверены и Ну, собственно, вот чем мы занимаемся. Наша команда довольно большая. Э у нас в области финансового консалтинга, то есть в финансовом секторе, порядка 60 человек. А наша конкретная команда, которая децентисты, рисковики – это
[04:37:12] почти 30 человек. И мы работаем со всем регионом Центральной Азией и Кавказа. Ну, я базируюсь, мы с Георгием базируемся здесь, в Алмаате, но, собственно, мы по всему региону катаемся и делаем проекты для всех банков, которые у нас присутствуют. А что интересно, обычно, когда вы, ну, там,
[04:37:32] работаете в индустрии, в банке, то у вас какое-то, ну, там, количество проектов, которые вы делаете в год, оно относительно ограничено. У нас же количество проектов довольно большое, потому что команда большая, у нас параллеля обычно пять-смь проектов идёт, даже до 10ти проектов проходит. Поэтому у нас опыт именно проектной
[04:37:54] деятельности, реализации, разработки, запуска, согласования моделей довольно большой. И именно этим мы и хотим поделиться сегодня в контексте кошмаров наших ночных при организации и реализации этих проектов. Давайте тоже небольшой вопрос к аудитории. Вот самая, наверное, страшная какая-нибудь история, даже не история, а кошмар, э риск ээ
[04:38:22] организации проекта в области дата science email. У кого какие истории есть? Что самое страшное у вас было? Да, нет данных. Хорошая история. Так, о’кей. >> Угу. Слили код в открытый источник. Тоже интересная история. Так, давайте. Да, ну здесь валидация должна проверить это всё и прежде чем запускать.
[04:39:01] Ну да, Ну во многих, да, во многих выгуванках Казахстана вообще валидации на текущий момент нет. Да, давайте. вот вы попали в одну из историй, которую мы сейчас расскажем. [смех] Да, есть такое хорошая история, да, на самом деле это скорее вот то, что мы с
[04:39:29] вами сейчас предыдущие темы – это про реализацию проектов, про отсутствие данных, да, про слили код и так далее, а вот это про организацию проектов. Сейчас про это расскажем. Мы здесь такой мини-опроросник внутри нашей команде команды провели, собрали самые с кошмарные кошмары, их отранжировали. И
[04:39:50] вон там шкала такая небольшая, количество чертов UI от одного до пяти. Ну, собственно, поехали. Ужасы организации. У нас там восемь, восемь кошмаров было собрано. Начнём с самых лайтовеньких. Первое – это огонь по своим, как мы это назвали, когда у нас не очень организованы встречи, когда команда, ну
[04:40:14] или несколько, когда большой проект и, может быть, несколько стримов, м и команды, собственно, которые внутри проекта, они могут друг другу мешать, мешать в том числе на встречах задавать какие-то дополнительные уточняющие вопросы, которые, ну, клиент наш, да, наш заказчик не всегда должен слышать. эти вопросы, да, это не очень история.
[04:40:38] М, [фыркает] ну, наши заказчики – это обычно банки, а когда у вас внутренние проекты идут, то, соответственно, у вас заказчики есть бизнес-оунеры того, что вы для кого вы это делаете. Поэтому все истории, которые мы сейчас рассказываем, в целом, они актуальны и для индустрии,
[04:40:52] ээ, в рамках организации именно проектной деятельности внутри компании. >> Можно я прокомментирую? >> Да, давай. Изначально я предлагал назвать этот пункт говорящий подлокотник, но маркетинг сказал, что нельзя такое на слайды класть, поэтому огонь по своим. Да. И, ну да, по сути, какое здесь лечение, это
[04:41:15] нужно понимать, кто кто такие люди, кто могут дополнительные комментарии всегда выдавать и, ну, договариваться вначале, да, что мы как проводить какие-то брифинги, прежде чем выходить на какие-то важные встречи. Ну и знаки, знаки, если это оффлайн ввстреча, то всегда можно нет нет, да и подмигнуть
[04:41:34] друг другу, да, для того, чтобы так такой ситуации не было. Давайте дальше. Чисто организационная история согласовать за 60 секунд. Как вы знаете, ну, по проектной деятельности часто есть какая-то документация. В нашем случае это договоры, акты и так далее, когда нам нужно что-то подписать. Э нету
[04:41:58] человека, который может это подписать. Нужно что-то придумать. Мы часто с таким И мы находим людей, отправляем людей в какие-то непонятные места для того, чтобы подписать договор или акт или ещё что-то, да. Ну и здесь, соответственно, самая базовая идея – это туда не попадать, то есть планировать это
[04:42:18] заранее, спрашивать, как кто у вас подписанты, кто у нас подписанты, потому что наши партнёры тоже могут уходить ээ в отпуск. И, ну, во-первых, в дижитале это всё делать, да, онлайн подписи, всё, всё нормально работает. Ну и, соответственно, какие-то промежуточные этапы предварительно согласовывать, подписывать, чтобы такой ситуации не
[04:42:39] Едем дальше. Э продолжение продолжение ээ подписей. У нас какая ситуация обычно возникает? Когда мы делаем проект? Ну ладно, необычно. Были такие ситуации, сейчас мы их уже побороли, естественно. Были такие ситуации, когда мы делаем проект с рабочей командой клиента, делаем, доделываем, всё отлично, а потом
[04:43:03] в конце ээ возникает необходимость какого-то более широкого согласования или вдруг включается какой-то ещё дополнительный согласующий, который вот с нуля практически врывается, э, и нужно и только вот в этот момент начинает вникать в то, что мы сделали. И это прямо нехорошая ситуация, да? Нужно
[04:43:24] заранее рассказывать, что мы делали, и заранее согласовывать вот эту рабочую команду, с которой мы будем функционировать в течение проекта, общаться, согласовывать и выдавать результаты, чтобы такой ситуации не было. Я думаю, что у вас тоже такое может быть, да, в когда вы делаете для
[04:43:41] бизнес-оунера, а потом бац ещё там дети SEO подскакивает и говорит: “А давайте я тоже посмотрю, отчёт мне совсем не нравится, давайте совсем другую концепцию сделаем”. совсем по-другому. Вот поэтому, ну, во-первых, пушить эту историю, да, нужно поэтапно это согласовывать и заранее всех подтягивать, кто
[04:44:02] потенциально может участвовать в этом проекте в согласовании и так далее. Ну и, соответственно, это фиксировать, чтобы потом можно было сказать: “Ну, ребят, мы заранее всё проговорили, согласовали, кто будет это делать, кто будет согласовывать, кто будет подписывать, принимать результаты. как бы то, что вы сейчас нового человека
[04:44:19] подтягиваете со своими требованиями, это никак не не вкладывается в рамки А следующая свежая боль, а это мы её назвали как микроконтроллер. Это тяга к микроменеджменту со стороны руководителей. Я думаю, тоже у всех такая история. Нет, нет. Да, иногда происходит, когда кто-то из си-левела
[04:44:45] или там деь си-левела ээ включается в какие-то тонкости проекта, ээ смотрит код. У меня был случай, когда CFO довольно крупного банка ревьючил код на СQэле, который мы делали. И это было сильно. Это было сильно. Ну, мы Вот так. Что, ну, от таких ситуаций
[04:45:07] никто не застрахован. Что мы делаем обычно в таких ситуациях? Это успокаиваем этих людей. То есть нужно дать им комфорт. Если они хотят посмотреть код, пусть посмотрят код. Просто сделать это заранее, чтобы у них было время. Потом, ну, понятно, что у силевела нету времени ревючить весь код,
[04:45:28] да? То есть нужно просто предоставить им комфортные условия, чтобы у них была такая возможность. А и заевать таки завоевать таким образом доверие. И это помогает, собственно, дальше работать с этим человеком. Он он доверяет вам, он видит, что вы открыты, даёте все детали, всю подноготную по проекту, готовы
[04:45:47] поделиться этим. И, ну, собственно, дальше он успокаивается и уже не вникает так детально в каждо во все этапы проекта, да? То есть в начале это может быть, ээ это нужно отрегулировать, отловить в самом начале, потому что когда в конце это будет происходить, это
[04:46:04] будет мучительно больно. Это у нас пятое место. Едем дальше. Четвёртое место в нашем хитпараде страшилок. Краеугольный джун, который тащит на себе всё. М, мы сталкиваемся с такой ситуацией. Ну, на самом деле, у всех есть текучка кадров, да, люди переходят, тем более наша сфера довольно
[04:46:29] быстро развивается, э, люди бегают между и проектные команды, которые у нас работают, да, то есть они, ну, не супер большие. Объективно у нас проектная команда – это, ну, 4пшесть человек в зависимости от скоупа проекта. И на каждом человеке довольно большая нагрузка, большая ответственность
[04:46:51] за свой стрим. И поэтому, когда уходит один человек из этой маленькой команды, то возникает необходимость это всё подхватить. У нас-то ещё, ну, дополнительная ответственность потому, что у нас есть контрактные обязательства между нами и клиентом. Поэтому, ну, как бы мы вообще не можем сказать, что, ну, извините, у
[04:47:09] нас человек ушёл, всё, нет, мы обязаны это всё дело закрыть, проект закончить. Поэтому, ну, мы для себя выявили такую историю, как кроссопыление. То есть это постоянная передача информации, либо кодревью, либо замена стримов между людьми, чтобы люди видели все стримы проекта, все направления и все данные и
[04:47:35] чтобы могли друг друга подменять. А, и второе из такого важного с точки зрения организации – это комитменты со стороны команды, то есть открытость к команде и открытость команды к руководителю проекта, чтобы м не было ситуации, когда человек уходит одним днём или там за 2 недели и всё. Ээ
[04:48:00] у меня есть кейс моего, собственно, ухода с предыдущего места работы. Я предупредил своего руководителя за четыре или 5 месяцев, прежде чем уходил. Э, организовал весь переход, нашёл нескольких кандидатов, этих кандидатов заунбордили, и всё прошло максимально смуз. Поэтому вот к такому, ну, это у
[04:48:20] меня только один раз, правда, было, но тем не менее, э, к такой ситуации нужно стремиться с точки зрения передачи данных, с точки зрения общения между руководителем проекта и командой. Э, едем дальше. неконтролируемый рост скоупа. Желания заказчика всегда растут. Да, с этим мы сталкиваемся, ну, всегда,
[04:48:42] всегда. А у нас особенно, да, потому что, ну, на консультантах-то надо ездить, надо из них выжимать всё. Мы же им заплатили деньги, поэтому нас на нас накинуть дополнительных задач просто несметное количество в рамках наших проектов, которые мы делаем. В связи с этим, чем мы занимаемся,
[04:49:06] иногда занимаемся бюрократией, да, подтверждаем какие-то скоупы дополнительно в имейлах, в официальных письмах и так далее, чтобы у нас были следы того, что мы делаем, что мы должны сделать. Ну, плюс, естественно, у нас договорные отношения. Если внутри компании это рассматривать, то, мм, естественно, это как бы договорённости
[04:49:28] по скоупу. Всегда могут быть дополнительные хотелки, да? Вы это закидываем в бэклок. У нас есть приоритизация. Потом где-то когда-то мы до этого, до этой дополнительной хотелки дойдём. Вот. Ээ, ну, соответственно, вот вот как мы с этим боремся. И плюс ещё чек-листы, проверки, статусы по всем
[04:49:47] задачкам, которые у нас в нашем ТЗ зафиксированы. Мы подвязываемся под наш договор, под исходные комитменты, под исходные договорённости. Вот как мы решаем такую боль. Ну и, собственно, нужно уметь пушбечить, да, то есть нужно говорить, что, ребят, у нас есть изначальные договорённости, вы хотите
[04:50:07] ещё дополнительно. Ну, если хотите дополнительно, давайте это отдельно обсуждать за рамками данного проекта или за рамками данной активности, опять же, дополнительный бэклок, ээ, то есть дополнительные задачи в бэклоге, дополнительная команда и так далее, да, потому что, ну, команды не резиновые, проекты не резиновые.
[04:50:28] Ну и подходим к топ-два наших кошмаров ночных с точки зрения организации проектов. На втором месте это новый стейкхолдер. Делаете проект, всё отлично, всё договорились. В середине или во второй половине или где-нибудь ближе к концу меняется стейкхолдер, и у него всё поменялось. Нужно сделать кардинально
[04:50:55] всё по-другому. Вот этого мы боимся больше всего. Стараемся в такие ситуации не попадать, потому что, ну, в таких ситуациях можно дойти до судебных когда приходит новое руководство, ну, мы с банками работаем, а, соответственно, может прийти новое руководство банка и сказать, что все предыдущие проекты,
[04:51:16] которые были реализованы предыдущим руководством, они не нужны. Соответственно, мы по ним платить не будем. Как-нибудь будем Угу. судиться, чтобы консультантам не заплатить за вторую часть проекта, да и аванс тоже можно было бы и вернуть. Поэтому это самая такая одна из неприятных историй, которая может
[04:51:35] случиться. К счастью, у нас оно не часто случается. Ну, на моей памяти не было. Ну, в других направлениях нашу нашей компании оно, конечно, иногда бывает, но у всех у всех такое бывает. А, поэтому для новых участников проектов у нас в целом, если это локальные небольшие
[04:51:54] проекты, у нас такое было, мы онбордим людей, дополнительные какие-то встречи, где расскажем про все детали проекта, изначальные договорённости, договор, ТЗ и так далее, чтобы провести полностью по всем этапам согласования а, и все оставшиеся договорённости тоже фиксировать. и чтобы это у нас было где-то в наших бюрократических следах,
[04:52:22] чтобы потом можно было от этого Ну и, ээ, самое страшное, что с чем мы сталкиваемся – это согласование моделей. Но согласование моделей не с нашими клиентами, а с регулятором. Я про эту историю рассказывал как раз на летней конференции, но всё ещё этот кошмар наш самыйсамый страшный,
[04:52:48] потому что модели, которые мы делаем для целей риск-менеджмента, там управление кредитными рисками, э формирование резервов для банков, эти модели суперважные для банков. Почему? Потому что они согласовываются, в том числе, с регулятором, и на основании их рассчитываются регуляторные резервы. То есть это обязательная отчётность для
[04:53:10] Ну и, соответственно, регулятор смотрит э в эти модели, смотрит в отчёты о разработке, запрашивает данные, ревьючит, согласовывает. Э ну и а банку-то нужно, чтобы эти модели были согласованы, а для нас это дополнительный риск, потому что это согласование с третьими лицами. То есть мы не комитимся на то, что, э, регулятор
[04:53:33] согласует эти модели. мы кометимся на то, что банк пореметит эти модели, а согласование регулятора может год длиться или полтора года. Соответственно, мы же не будем ждать, пока согласует регулятор. Поэтому чем мы занимаемся в этом направлении, это мм естественно мы не комитимся, да, вот на
[04:53:54] согласовании с регулятором, и мы всегда про это говорим. Это всегда дисклеймер нашего э нашей работы по такому Плюс мы прорабатываем эту историю с регулятором напрямую, чтобы они понимали, что мы делаем, и заранее согласовываем, стараемся согласовывать, э, то, что мы будем делать, да, как мы
[04:54:16] будем делать, на каких данных мы будем делать, чтобы от регулятора был комфорт ээ с нашим планом работы. И когда мы что-то доделали, меньше было вопросов со стороны регулятора и быстрее проходило бы согласование. Вот, наверное, это как мы с этим боремся. Ну и, как и сказал,
[04:54:33] это самыйсамый пока страшный страх, который у нас есть в области организации проектов. Ну и в конце моего спича про организацию проектов, наверное, как мы с этим всем боремся. Ну, ну у нас команда, мы опираемся друг на друга. У нас 30 человек, мы, правда, раскиданы по всему
[04:54:54] нашему региону. У нас в Алмаате семь человек, в Ереване семь человек. В Ташкенте один человек, в Баку два, в Астане восемь человек. В общем, мы везде есть, но мы собираемся, ээ, иногда ездим друг к другу. М у нас постоянные созвоны всей командой, хотя
[04:55:16] вся команда на одном проекте никогда не работает. Э и поддерживаем друг друга, рассказываем про вот такие кейсы, как мы с ними справлялись, чтобы ребята Вот. А теперь мы переходим к тому, что вот мы там наорганизовывали эти менеджеры, да, директора, напродавали эти проекты. А делать-то, ребята? И вот
[04:55:39] Георгий сейчас расскажет про то, э, что происходит дальше после того, как, э, мы продали проект, запустили его, делаем его, мм, и как с этим справляется наша >> Спасибо, Сергей. Э, так, как мы уже поняли, у нас аудитория взрослая, да, малыши чуть-чуть есть, тогда, надеюсь, следующая часть будет
[04:56:02] полезна для именно малышей в первую очередь. Ну, а для остальных нас, динозавров, кто последний раз трогал живой код ещё вот где-то между GPT3 и CLД Опус 48, поностальгируем, какие проблемы, с какими проблемами мы Последнее место в нашем топе языковой барьер. Мы консультанты, датасаентисты,
[04:56:30] инженеры. Э, но нам нужно разговаривать с людьми, которые в этом ничего не шарят. Для них питон – это змея, а не язык программирования. Это классическая проблема. А как её решать? Особенно касается младших специалистов, да, которые там просто SQL выучили и попали на стажировку удачно. Э не
[04:56:56] забываем, что писать код любой – это только половина задачи. Главное – это как этот код влияет на деньги, на бизнес-процессы и так далее. То есть первое решение – это говорим с людьми на языке денег и решений. формулы не показываем, показываем картинки, показываем живые
[04:57:22] примеры, аналогии и так далее. Э так, ну, классическая боль исполнителей, предложили классное решение и получили в ответ э ответственность, да, что пора исполнять. Это на самом деле хорошо, если вы смогли предложить решение, которое ваше руководство одобрило. В таком случае просто помним, что когда вы предлагаете
[04:57:52] решение, помните, что вас могут сделать ответственным за него. Думайте о том, какие ресурсы вам понадобятся. Ну и, соответственно, там вам дали дополнительную задачу, сразу просим дополнительное время или помощника, ну и так далее. Так, очень специфичная история конкретно для нашей команды. Валидировали, валидировали, да, не вы
[04:58:17] >> Даже не для нашей команды, а для сферы риск-менеджмента, да, потому что модели в области риск-менеджмента чаще всего подвержены валидации. Они чаще всего более важны с точки зрения функционирования банков, именно на них в первую очередь обращает внимание Да, тут а моя, в том числе [откашливается] моя
[04:58:39] личная боль с таким сталкивался, что там во время разработки, понятное дело, там сроки поджимают, менеджеры поджимают, клиент тоже давит, и надо быстро-быстро сделать модель и при этом, чтобы она ещё получилась э хорошей. Где-то приходится делать ээ компромиссы. Вот. Но потом надо будет это как-то
[04:59:05] провалидировать, а ты уже не помнишь, почему там в таком-то моменте сделал такое-то решение, не такое. Скорее всего, так как вы не глупый человек и у вас были старшие коллеги, какое-то обоснование есть у этого дела, но в моменте, когда нужно документировать, вы не помните. Вот, соответственно,
[04:59:25] как конкретно с валидаторами бороться? Первое – это узнаём требования по валидации, будь то внутренние или внешние, э, до начала разработки. Э-э, второе, э, ну, это придёт с опытом. Во время разработки вы будете понимать, ага, вот к этому моменту прикопаются, сразу готовим защитную аналитику. Почему
[04:59:47] сделали так, а не иначе? А третье заклинание, Сергей, можешь прокомментировать, пожалуйста? >> Да, третье заклинание – это про валидаторов. Я сам, собственно, возглавлял направление валидации в одном банке. И у моей команды, ну, собственно, я пропагандировал такой майнсет, что валидация и разработка моделей, у них
[05:00:09] одна цель: сделать хорошие модели для банка. Ну, опять же, да, я я в банковской отрасли работаю. Сделать хорошие модели для банка. И если такая парадигма, что и валидаторы настроены на то, чтобы улучшить модели, и разработчики настроены на то, чтобы улучшить модели, тогда происходит магия
[05:00:30] и взаимодействие между валидаторами и разработчиками в конструктив, да, то есть конструктивные рекомендации и улучшение моделей. А если у валидаторов майндсет такой, что нам нужно найти любым способом, matter what, да, нам нужно найти ошибки в этих моделях, то это, ну, не суперконструктивная позиция. Поэтому даже если вы разработчик и
[05:00:54] общаетесь с валидатором, то нужно как-то сблизиться с ними, да, чтобы они поняли, что как бы у них та же цель, на самом деле, что и у вас, чтобы у вас была был конструктивный диалог, чтобы они, да, независимо рассматривали модели, как они разработаны, как вы использовали данные,
[05:01:11] делали свои рекомендации, но это было бы гораздо в более конструктивном ключе. как бы мой моё решение. по взаимодействию с валидацией. data governance. А ситуация, вот говорили, что там один из кошмаров – это когда недостаточно данных, но на самом деле, когда данных очень много, но
[05:01:40] они абсолютно неструктурированы, ээ имеют кучу проблем, то это тоже, на самом деле, ээ не сильно лучше. Э, как, что делать, если вот у нас пришли к клиенту там или к вендеру, получили данные и оказалось, что там вот всё печально с качеством, да? Э первое,
[05:02:05] вовлекаем в работу самого заказчика. То есть они, да, вы консультанты, мы консультанты, но их данные порождались несколькими поколениями сотрудников, а которые часть которых уже не работает. А они разберутся в этом э быстрее, чем вы. Да, ну, может быть, вы тоже смогли бы разобраться, но не в разумные сроки.
[05:02:31] Поэтому вовлекаем сотрудников со стороны заказчика, дата оунеров, э, чтобы совместная работа получилась продуктивной и быстрой. Э также не стесняемся говорить нет. Если там приносят там данные, говорят: “Вот у вас очень много данных, по-любому классная модель получится”. Да, если данные абсолютно невозможно спасти, вы
[05:02:53] понимаете, что там на их очистку уйдёт 100 лет, ээ не стесняемся говорить, что нет, эти данные не подходят, и выкидывать их из датасета, не не опираться на на них при разработке Ну и если данные пришли от вендера, да, там условно, например, ну самый понятный
[05:03:13] пример, кредитные бюро кредитных историй, а то если обнаружили, что там низкое качество, то максимально пушим вендера на то, чтобы он почистил данные. Так, следующий сценарий, я в него почти попал. Э, когда встреча с клиентом на высоком уровне, там сидит генеральный директор или, э, там генеральный
[05:03:37] директор -1, а-э, должен ждём менеджера, партнёра, а, и, естественно, вопросы начинают сыпаться на вас, там, про какие-то стратегические вопросы, про какие-то непонятные вам ещё термины какая-то стирка, Ближний Восток, а вы просто интерн зелёный, который должен был слайды перелистывать, да. Э, вот, э, в таком случае, э, что делать? Э первое,
[05:04:08] э, всегда отслеживайте, кто будет на встрече, кто за какую часть отвечает. Э, второе, если вы младший специалист, пользуйтесь этим. Прячемся за широкие штаны старших коллег. Говорите: “Так, я ничего не знаю, но давайте я узнаю и мы вернёмся к вам с ответом. Вот. И третье – это по возможности
[05:04:34] старайтесь держать в голове все ключевые моменты, даже если они не в вашей зоне ответственности, чтобы там стратегические вещи какие-то вы могли всё равно прокомментировать или хотя бы там напомнить какую-то ключевую цифру. Аэ, так. Следующий сценарий- проклятое В принципе, название говорит само за из документации только комментарии не
[05:05:00] трогать fix later. Это понятно, понятная боль каждому разработчику. что в таком случае делать? Первое, если возможно, пробуем воспроизвести старые результаты. Э, пробуем трогать всё, что напомечено, как не трогать. Пытаемся понять, почему его пометили, как не трогать. Ну и в целом, ээ, стараемся разгрести этот технический долг и
[05:05:27] превратить Legacy Cд в что-то живое, чем вы можете полноценно владеть. Так-с, у нас такие кейсы были именно на клиенте. То есть это даже не внутри нашей организации какой-то Legacy код, да? legacy код нашего клиента, э, который, ээ, передали новому поколению разработчиков нашего клиента, и нам в
[05:05:51] этом приходится иногда разбираться. То есть с таким мы тоже сталкиваемся, поэтому это наша такая ежедневная боль. Так, четвёртое место. Ээ нам, как консультантам, часто приходится работать не на своих машинах, а на машинах клиента или машинах вендера. Соответственно, у нас есть такая боль, что, ээ, мы говорим: “Так, давайте нам
[05:06:14] рабочее место, потому что данные не должны покинуть контур. Великая всемогущая служба безопасности >> и банковская тайна, и персональные данные. Мы со всем этим работаем. >> Да. Да. Вот и они с барского плеча дают вам 8 Гб Азу, двухъядерный процессор, ядра от какого-нибудь орешка. А, и мы
[05:06:36] потом очень болезненно, долго работа, ну, банально неудобно работать, когда мышка, движение курсором превращается в слайд-шоу, да? То есть это, ну, не прийдёшь с такой жалобой к си-левелу, как будто бы, да. Но с другой стороны, комфорт разработчиков ежедневный, эргономика – это всё равно важный
[05:06:53] вопрос. Поэтому, значит, для старших э тут совет ээ следить за этим моментом, да, за комфортом ваших разработчиков. для младших заявлять о вашем готовимся к тому, что вам не дадут Требуем его. Если вы не потребуете, вам ничего не дадут. Поэтому готовим сразу список, что нам нужно, какие
[05:07:22] спецификации, там сколько Азу, сколько места на жёстком диске, сколько ядер, э сколько, какая частота процессора, список библиотек, естественно, должен быть и так далее. Так, а, ну и выделяем прямо в календаре проекта время на то, чтобы полноценно проверить рабочее место, прежде чем начинать работу.
[05:07:42] Так, тоже классическая проблема, эффект наблюдателя. Э, так, на всякий случай тут прокомментирую. Э, проблема у нас работает, а у клиента нет. Это известная проблема в сфере IT и как будто бы есть инструменты для её решения. Однако конкретно в нашем случае есть нюанс, что
[05:08:04] мы всё-таки не IT-компания, у нас клиенты тоже не про IT-продукты. У нас наши delivраб иногда бывают там, например, шаблон в эксельке с VBA кодом, да, например. И вот недавний кейс был, что э там мы разрабатываем, всё классно, всё перепроверили, отправляем, а у клиента не работает. стали разбираться,
[05:08:28] почему потратили на это какое-то время, а выяснилось, что просто у клиента Excel на русском, и это сломало формулы в макросах. Вот. Э-э поэтому бывают ситуации, в общем, когда невозможно использовать классические инструменты для решения ровно этой проблемы. Э, поэтому нам приходится иногда переизобретать велосипед, а-а, и, э-э,
[05:08:53] скажем так, операционными методами, э, исправления этой проблемы. Э, что посоветуем в связи с этим? Во-первых, используем не просто Pip Install Pandas, а конкретную версию. А узнаём всё о системе клиента заранее, вплоть до языка интерфейса операционной системы. Ну и если если есть у вас такая роскошь,
[05:09:16] пользуйтесь готовыми инструментами для решения этой проблемы. Так, предпоследнее место. Проклятие пьяного мастера. Для меня это топ- один, на самом деле, э потому что бывала такая ситуация, когда есть много разрозненных файлов, нужно собрать из этого датасет, э, который дальше можно будет, э, запихнуть в emailй.
[05:09:40] Но данные файлики представляют из себя там кучку экселек, которую заполняли когда-то люди. Вот. И как-то раз вот меня посетило вдохновение, я там вручную что-то туда-сюда перетаскал, там кучу переименований сделал, а потом понимаю, что, блин, вот меня сейчас спросят: “Как ты это сделал? Я же не смогу повторить
[05:10:00] это”. Э и соответственно там возникают с этим проблемы дальше с валидацией, да? Потому что не задокументировано, откуда это взялось, откуда то взялось. Э-э, тут могу посоветовать только в целом свою дисциплину как разработчика постоянно поддерживать, подтягивать и э подтягивать до такого уровня, что даже
[05:10:21] когда на вас вот нападает такое вдохновение, когда вы не можете себя сдерживать и совершаете кучу недокументированных действий, э у вас всё равно ваш рабочий процесс составляет достаточно следов, чтобы было потом легче восстановить процесс. То есть там структурируем папки, не складываем всё в downloadлоуд, а прямо раскладываем
[05:10:38] аккуратненько. Э если какие-то, э, там переименования делаем, то не прямо в файле, в Экселе тыкаем, а делаем через справочники. Ну вот кучу таких мелких моментов. А, ну и ещё там, э, если относимся аккуратно к промежуточным файлам, да, то есть стараемся с одной стороны делать их как
[05:11:00] можно меньше, чтобы было как можно более чётко увидеть процесс от исходных файлов к конечному датасету. С другой стороны, промежуточных файлов должно быть достаточно, чтобы можно было всё-таки восстановить цепочку, а не так, что там вот были данные как будто бы, а вот потом сразу датасет.
[05:11:21] А так-с. Ну и последнее место. >> Наоборот первое. >> А, ну да, о’кей. Последний из Магикан мы назвали этот ужас. А проект на стадии 99% готовности уже год. Э, соответственно, там, ну, там чуть-чуть осталось досчитать, вот чуть-чуть там доделать. Естественно, остальная команда уже разошлась по
[05:11:44] другим проектам. Здесь остались только вот менеджер, который общается с клиентом, и вы. Ээ менеджер, понятное дело, в код лезть не будет. А ему это не почину раз у него 10 проектов параллельно два. Поэтому вот, ээ, вы остались единственные, на кого реальная техническая работа вся падает. Э, что с
[05:12:04] этим делать? Во-первых, для старших такие вот хвосты проектов, да, то есть поддержка, мелкие доделки и так далее, оформляем это в договоре в отдельный скоуп для младших или в отдельные договорённости с заказчиком с вашим, да, естественно, если это внутри организации. Про договор – это наш кейс
[05:12:24] >> Угу. Для младших, если там вы понимаете, что у вас ждёт один и тот же вид пересчёта, то делаем для автоматизируем это, да, вручную всё не делаем, стараемся как можно больше автоматизировать, чтобы процесс пересчёта у вас выглядел так, что вы один раз там Ctrl Enter нажали и всё,
[05:12:42] можно отдавать результат. А, и опять же про дисциплину разработчика, поддерживаете логи, поддерживаете ридми и так далее. Понятно, сейчас в эпоху, когда все работают с агентами, ээ это становится чуть-чуть проще, чем раньше, но, ээ, тем не менее стоит об об этом помнить. Так-с. Э, ну и глобальные
[05:13:04] выводы, да? Во-первых, э данные. Помним, что модель – это только половина дела, а остальная половина – это, собственно, работа до и работа после. То есть работа до – это собрать данные, чтобы они были приемлевого качества. Э, работа после это чтобы модель принял валидатор.
[05:13:25] Так-с. Потом окружение, то есть это про рабочее место. Вы разработчик, у вас должен вам должно быть комфортно. Ну и третье – это валидатор в голове. Всегда во время разработки думайте о том, к какому моменту стоит приготовить дополнительную аналитику, дополнительное да, и про валидатора важная история, да?
[05:13:46] То есть это эта история больше актуальна в банках, потому что там есть валидации, есть требования к валидации. Понятно, что ещё не во всех банках оно запущено и так далее, но в других сферах, да, в других индустриях нету требований к валидации. И там возникает
[05:14:04] дополнительная вот риск того, что то, о чём как раз Георгий и рассказывал, что у нас там legacy код, непонятно, как мы собрали данные, потом как сделали какую-то модель, сделали выводы и принимаем на этом решение, да? То есть менеджмент компании может принимать решение на основании вот всего этого
[05:14:24] процесса ручного сбора данных каким-то образом. И это может приводить к ошибкам просто банально из-за того, что на это никто дополнительно даже не посмотрел. Поэтому вот валидатор в голове – это такая внутренняя дополнительная дисциплина э в разработке, чтобы всегда предполагать, что, ну, кто-то же это
[05:14:44] будет смотреть в какой-то момент. Вот. И нужно сделать так, чтобы всё было понятно и всё было обосновано. >> У нас кончилось время, по идее, >> да? И теперь мы готовы ответить на вопросы после того, как поделились нашими болями. Да, вон вопрос есть. Спасибо.
[05:15:09] >> Спасибо большое за презентацию. А у меня такой вопрос на каком этапе и где вы применяете и пользуетесь ли вы вообще? Потому что, ну, такое ощущение сложилось, что вы делаете всё руками и вам это нормально. А смотрите, я здесь мы просто рассказываем. Георгий, если нас хотят
[05:15:31] Так вот, рассказываю. Касательно Иидей. Возможно, из нашего рассказа кажется, что мы там в Экселях всё делаем. Ээ на самом деле нет, потому что применение может быть в Экселе, а разработка-то это всё равно перелопатить кучу данных. поговорить с заказчиками, как эти данные использовать, какие данные они будут
[05:15:57] получать, настроить этот процесс. А дальше, например, ну, то есть это процесс принятия кредитных решений в банке. Мы разрабатываем, а мы сами не копим, мы консультанты, мы не перепродаём данные. Мы не можем так делать. Если вот представьте, вы один клиент дали нам свои данные, и вы же не хотите, чтобы мы
[05:16:28] эти данные передали другому клиенту. А это да, конечно, это в этом и суть консалтинга, да, это наш опыт, который мы продаём. Мы работаем с многими клиентами, знаем, как устроен процесс в разных банках, например, да, вот конкретно про нашу индустрию. И это переиспользуем, да, то есть знания
[05:16:55] переиспользуем для других наших клиентов, естественно. Что касается опять же разработки, работа с данными – это отдельная история. А как это показать клиенту и как этот клиент будет использовать, это совсем другая история. Может быть, клиенту удобнее дальше жить с Экселём. Но под этим Экселём у нас лежит огромная
[05:17:15] аналитика, которую мы сделали, разработали кучу моделей, там бустинги там с интегрировали с Exкселём, но на выходе всё равно UI в виде Экселя, да, такое может быть. Иногда это может быть какое-то приложение, куда зашивается наша модель, но это не всегда. То есть зависит от хотелок наших банков, наших
[05:17:32] клиентов, с которыми мы работаем. И в зависимости от размера, от могут быть разные разные решения. И инновация – это не всегда там всегда все эти новые технологии Хайтек, да? То есть про иногда простой Excel может сильно улучшить работу и жизнь банка и прибыльность банка. А это, ну,
[05:17:55] собственно, про технологичность. Что касается И, ну, мы при разработке используем, то есть, э, мы обычно используем для оптимизации написания кода, ускорения написания кода, ну, последние года полтора, наверное, в по большей части мы >> Да, спасибо, пожалуйста. >> Приветствую. А, спасибо за доклад. Много
[05:18:17] штук тут, на самом деле, откликнулось, потому что пришлось, скажем так, потыкаться немного вот в консалтинге. -Э, у меня такой вопрос. Не знаю, было ли у вас такое, но если было, то хотел бы узнать, как вы это в целом решали. То есть было ли у вас, что
[05:18:36] вы работали с заказчиком, стейкхолдером, который условно хочет что-то автоматизировать, улучшить, но при этом он не может дать какую-то чёткую цель? Допустим, он там хочет качество 99%. Но как бы в Мэле гарантированно сказать, что на 99% качества мы не можем решить большинство задач. Вот как вы в этих
[05:18:58] случаях справлялись и объясняли заказчику там или как вы фиксили цель в рамках таких условий? И второй вопрос тоже, э, как вы в целом при там кратких сроках, сжатых сроках поддерживали проект ээ в рамках качества кода, в рамках качества самого решения и в рамках ревью? То есть из-за сжатых
[05:19:24] сроков иногда хочется много чего там попробовать сделать, но ты просто не можешь успеть это сделать и сделать качественно. Как вы вот вот этот баланс в целом держите? >> Классные вопросы. Так, первое про цели. Э, конечно, были у нас ситуации, когда клиент хочет, ну вот, хочу самолёт
[05:19:44] летать, чтобы классно было. Вот. Ну, естественно, нам нужно это приземлить на вот термины того, что мы фактически будем делать и что это будет. Да, какие метрики, какие модели, какую архитектуру. Ну, соответственно, нужно стейкхолдера к этой мысли привести. От мысли про космолёт приземлить его,
[05:20:03] декомпозировать эту цель на что-то реалистичное, что мы можем сделать, и потом подвести к тому, что это повлияет на создание космолёта и будет вот такой-то эффект, да? То есть основное – это показать эффекты от того, что вы делаете. Зачем это нужно, да? Модели классно, да? Ну, модели – это что не
[05:20:23] самоцель, да? Самоцель – это какой-то бизнес-эффект, это деньги. Мы всегда про деньги, да? То есть для клиента, э, либо это регуляторный риск, да, что к ним придёт регулятор и даст штраф за то, что у них неправильные модели, например, да, для кредитных рисков либо дополнительные
[05:20:41] резервы это будут, это будет PNL-эффект прямой. Поэтому нужно всегда выруливать в терминологию PNL-эффекта. Тогда это будет понятная дискуссия с си-левелом. Второй вопрос касательно сжатых сроков. Ну м мы всегда придумываем много всего, да, в рамках проектов, много разных инициатив, как можно дополнительно попробовать сделать модели, да? То есть мы
[05:21:13] часто штурмим, да, придумываем разные опции того, что можно сделать. И, естественно, мы не всё из этого тестируем, потому что, ну, мы тогда просто, у нас проекты будут по 2 года, 3 года, и мы никогда не дойдём до результата. Вот поэтому мы стараемся себя ограничивать с точки зрения
[05:21:37] нашей м инициативности, да, мы, естественно, это делаем, потом показываем, потом приоритизируем и рассказываем, что мы сделаем вот это конкретно, да, из всего того множества, что мы напридумывали. А, а что касается именно качества кода, ну, здесь мы не можем поступиться нашим э брендом, да,
[05:21:59] нашим качеством работы, поэтому мы фигарим, да, то есть мы много работаем для того, чтобы качество наших было достаточно, чтобы клиенты приходили к нам и могли платить и понимали, за что они платят. Они платят, в том числе, за >> Да, ещё вопрос. А, здравствуйте. А, а,
[05:22:26] >> я хотел задать вопрос по поводу предиктивных моделей. Я убеждён, что они у вас есть. Вот. И так как это тайм, >> ну, не у нас, мы их делали, >> а вы их делали, да, >> Ну, и это же тайм сериясcдкастинг, да, и он очень капризный сам по себе. И
[05:22:41] у меня скорее вопрос такой: а можете ли вы рассказать кейс а про фирнеринг? Да, то есть у нас много фичей, да, мы можем туда добавить, в принципе, очень много данных. И какая, может быть, из фечей больше всего повлияло, что модель хорошо отработала или Ну вот такой вопрос.
[05:22:59] Спасибо. Интересный вопрос, довольно абстрактный с точки зрения моделирования, потому что много разных тайм Series моделей может быть, но мы чаще всего с макромоделированием не сталкиваемся, поскольку это зашивается в оценку кредитных рисков и в оценку рыночных рисков, в том числе. В оценке рыночных рисков это напрямую чаще всего
[05:23:24] time series моделирование. С точки зрения подбора фичей, ну, здесь не скажу какого-то универсального решения, естественно, потому что часто бывает так, что, ну, мы можем собрать практически любую модель, и она будет хорошая, да, она может предиктить + 10%, -10%, и все будут прекрасные модели. Вот
[05:23:48] поэтому здесь вопрос, конечно, э компромиссов. про интересный кейс, но опять же про макромоделирование. Сейчас у нас один проект, э, связан с макромоделированием на региональном уровне в Узбекистане и в том числе связано со стройкой. Там как бы основная проблема с данными, как вы понимаете, да, с качеством данных, с
[05:24:18] глубиной данных. А для Time Series моделей хотелось бы, чтобы данные данных было бы побольше и они были бы почаще, но в макромоделировании такого и невозможно. А там, ну, квартальные квартальные срезы, в лучшем случае по месячные сречм особенностей Узбекистана глубина, ну, больше 6 лет. То есть точек не супер
[05:24:40] много. Э, и здесь, э, из прикольного, что это знание локалов. Знание локалов касательно рынков, потому что мы можем опять же нагенерить, и мы нагенерили очень большое множество моделей, а там векторные модели и так далее, много всего сделали. И оттуда выбрать, ну, есть из чего выбрать. А что конкретно
[05:25:07] зайдёт в итоговый бизнес-процесс? Это нужно знание конкретных экспертов из конкретных областей, из конкретных регионов Узбекистана. И мы их привлекали для того, чтобы они помогали нам как-то такой с бизнесовой точки зрения тестировать те модели, которые мы нагенерили. Вот. И таким образом выбирали итоговый сет фичей там
[05:25:29] для каждого региона. Вот такой, наверное, интересный кейс из Да, ещё вопрос. А, здравствуйте. Меня зовут Ртем, Бирки Банк. Как раз переношу расчёт резервов с Оракла на Гримплан. А вопрос сжеты, >> да, это ставки ЦБ, инфляция. А в целом, как я понимаю, прогнозы и в России, и в
[05:25:55] Казахстане, в Узбекистане, а, на снижение ставок инфляции. И как вот вы с этим работаете? Ээ, как, как вы это зашиваете у модели? Мы не зависим от кондиктуры рынка, на самом деле. Ну, именно конкретно наша деятельность. В моделях, естественно, мы учитываем так или иначе и ставки. Это в
[05:26:21] макромоделировании, если вы про резервирование говорите, то, в резервах это должно учитываться, в макрокалибровки должно учитываться. И там мы подбираем фичи, которые наилучшим образом прогнозируют дефолтрейт вашего конкретного банка. Поэтому вот таким образом мы это должны учитывать. А на нашу деятельность это никак не влияет,
[05:26:42] потому что мы мы не банк, мы консультанты, мы делаем проекты. На этом, наверное, всё. Спасибо большое за вопрос, коллеги. Спасибо. Да, я вижу то, что ещё остались вопросы. Предлагаю их в куарах и дальше продолжить, потому что у нас есть программа, её нужно откатать. И у нас
🧭 Занимаетесь Computer Vision, биометрией или мультимодальными моделями?
TengriMap — первая в истории интерактивная платформа, соединяющая исследователей, авторов публикаций и фаундеров Центральной Азии в единое рабочее пространство.
👉 Исследовать экосистему: app.tengrimap.com
Секция 7: Андрей Шадриков (DataFest Almaty, Verigram) — Призраки на картинках: дипфейки, биометрия и Computer Vision (05:27:00)
[05:27:01] остался последний спикер, последний не по значению. Это Андрей Шадриков, организатор Датафест уже в течение 3 лет в Алматы. Э, эксперт в компьютер Vision и RnD в Вериграме RnDли. >> Да, спасибо. Так, а у нас последний доклад, и он, наверное, будет выбивающийся всё это дело, потому
[05:27:30] что он будет очень специфичный про компьютерное зрение, про что сегодня вообще никто не рассказывал или даже близко к этому делу. А, но я попробую вот рассказать, собственно, про то, картинки – это гораздо больше, чем кажется просто на первый взгляд. А, ну вот немного типа завлекающую вот эта вот
[05:27:52] картинка с призраком Линколина. А кто-нибудь вообще знает, как похожие картинки делались тогда? Их можно на самом деле сейчас тоже повторить. На digitalл камеру тоже. А, да. Вот. Ну, то есть это бы считай почти съём почти плёнка была, да. Ну, кстати, двоение изображений тоже
[05:28:23] было, да, там действительно, в общем, обычно это, да, это называется множественная экспозиция. Вот когда у нас один одна плёнка несколько раз э получает света из входа с цифровой камерой с современным, ну, типа современными цифровыми камерами на самом деле похоже тоже можно. Она делается
[05:28:38] вот, как правильно заметили, с большой выдержкой обычно она де вот. Но там надо очень правильно играть со светом, чтобы как бы в нужный момент свет появлялся. А вот у меня я сам настроил так замечательно, что ладно, сейчас сейчас заработает. Да. А про меня совсем быстро. Типа я
[05:29:01] занимаюсь комбинированным зрением с пятнадцатого года в биометрии с семнадцатого года получается. Вот. И, собственно, вот почему сегодня разговор про призраков картинге, потому что это очень связано с дифейками и биометрией. Вот, кроме работы я занимаюсь, а, менством, лекторами и вот провожу мероприятие датафеста до Алматинского датафеста я и до сих пор
[05:29:26] я провожу секцию, связанную с камерой зрения в датафесте. Вот поэтому вот я очень много рассказываю про про картинки комр зрения. Вот. А, собственно, про задачу. Почему до сих пор существует проблема с дефейками? Понятно, что сейчас она уже отошла на второй план после другого LM и AI в общем случае. Но
[05:29:51] ещё 3 года все просто кричали о том, что фейки – это большая проблема. Сейчас это тоже кричат, но как будто уже меньше А, и проблема действительно не новая, как я вот показал раньше, то есть на титульном слайде, что картин влияние как бы на то, как картинка выглядит,
[05:30:08] появилось с самого начала поши самых картинок. А, ну то есть как как она только мы фотографии начали делать каким-то образом сразу научи научились их как-то модифицировать, чтобы э делать изображения, которые выглядят, как будто они нереальны или специально подделывать их. Например, вот как известный пример
[05:30:30] политический ретр с Ежовым, когда его, вырезали и забыли, что он был. И таких примеров очень много, на самом деле, не только политических. А, и то есть почему это на самом деле очень много в последнее времят, это как раз-таки вот из-за антифейков постоянной диффузий и то, что это
[05:30:51] настолько просто стало сейчас делать. А самый как бы кричащий, наверное, пример последних там 3 лет о том, реально это картинка или нет. Нет, это нереальная картинка была. А, но это очень как бы долго вызывало обсуждение. И как бы у меня это главно так не совсем главная
[05:31:13] боль, но просто это интересно заниматься это давно. Мы своей командой это уже не один раз рассказываем, как мы пытаемся победить со своей стороны разным вопросом это всё дело. У нас вот есть презентажки другие, есть вот QR-код на предыдущее выступление моего коллеги, где он точно рассказывают про то, почему
[05:31:32] вот как бы проблема дефейков, реалистичных дефейков – это тоже старая вещь там с примером этого курса. Вот есть очень много методов, как мы вообще можем сделать, и они связаны с тем, что получение изображения, которое мы видим на экране, оно проходит очень большой путь. То есть вот от того, что вот есть
[05:31:52] какая-то камера, которая снимает вот меня, например, на сцене, до того, как это появляется на сейчас он, например, на стри на стриме на Ютубе, проходит просто столько этапов, каждый из которых можно как-то поменять, и каждый из которых на самом деле меняет картинку и вносит свои свои шумы.
[05:32:11] Вот для визуализации примера давайте вот возьмём а не реалистичную, сразу говорю, картинку. Она сгенерирована диффузией. Вот. Но как бы для нашей иллюстрации она подойдёт. Мы возьмём её часть, немного её поменяем вот эту часть вот как раз сожмём её, сожмём её определённым образом, вставим
[05:32:32] нарогинальную картинку. И даже если был бы хороший хороший здесь экран, вы бы на самом деле не заметили, что здесь было какое-то изменение. Но на самом деле потому что изменения было почти никакого визуального, но с точки зрения компьютера изменений было очень много. И есть очень классические
[05:32:50] методы, то, что называется форензики, то, что обычно изначально применялось для, собственно, всяких расследований, а, полицейских и так далее подобное для того, чтобы понять вообще, что Вот. И по этим методам сразу видно, например, что эта область была изменена. Опять же, они показывают, что это
[05:33:12] подозрение на изменение, но это можно сделать. И есть другие методы, которые вот, например, на этой картинке плохо работают. Есть методы, которые объединяют все такие классические методы и делают явным о том, что вот были лица, они были изменены. Потенциально ещё какая-то часть была картинки изменена, но это
[05:33:33] ложное срабатывание методов. Вот. собственно, почему ещё призраки? Потому что один из таких методов, он на самом деле так и называется, это призраки Джипега, связаны с тем, что самый, наверное, популярный формат сжатия картинок и передачи картинок JPEG имеет собственные, ну, то есть это сжатие с
[05:33:54] потерями, он имеет очень специфичные шумы, которые остаются на картинке. Если вы много-много много раз сжимаете, например, картинку джипего, вы вот надо было вставить шакала, который сжимается джипегом, и там сразу видно вот это. А квадратиками покрывается он весь. Вот. И в этом как бы смысл поисков призраков
[05:34:15] Джипега. Если мы, как мы в оригинале взяли картинку и её часть сжали, ну, то есть мы взяли на самом деле две картинки как раз Джипега сжали в одну ижали в одну, то а мы увидим эти призраки о том, что у нас была какая-то другая картинка
[05:34:33] вставлена в нашу. Проблема в том, что это работает только вот с такими довольно явными манипуляцию картины, когда никто даже не пытался скрыть, что было изменение сильное. То есть это известно, ну, то есть эти подходы известны очень давно, поэтому их обойти очень просто. Хороший ретуш очень мало оставляет
[05:34:57] следов. Нам достаточно сжимать просто в несколько раз. постобработка дополнительная вообще склевают почти все следы там. Но там проблема в том, что сама картинка, если она изначально не очень большого качества, то мы не очень много можем её там деградировать, чтобы скрыть наши следы. Поэтому иногда это просто
[05:35:18] невозможно. И дефейки, полные дефейки, которые сделаны диффузиями, они никак не ловятся такими методами, потому что там не было никакого изменения картинки. Вся картинка изначально появилась за один раз. Поэтому здесь вы не найдёте никакой склейки. там будет всё одинаково. Вот и поэтому нужно больше информации.
[05:35:36] Собственно, это вот слайд по то, что в как-то в любой теме найдётся настолько много глубины, насколько хочется в ней разобраться. И сейчас будет немного тоже про то, что есть много способов пытаться разобраться, и эти все способы тоже не работают. Ну [фыркает] или не работают
[05:35:53] А возвращаясь к тому, что камера, ну, получение картинки – это сложный процесс. И вот здесь вот есть основные этапы, которые вот просто если вы фоткаете на телефон, то есть у вас есть матрица камеры, которая уже имеет некоторую неоднородность о том, как она ловит фотоны и превращает это в сигнал.
[05:36:13] Потом есть всякие вот эти, ну, то есть формализации типа фильтра Брайера или, а, интерполяции. Это смысл в том, что то, как работает сама цифровая камера там, в общем, поскольку у нас фотон как бы он один падает, а мы не знаем на самом деле как. То есть на самом деле
[05:36:34] камера очень очень таким тупым образом разделяет цвет, ну, то есть длину длину волны фотона. Вот она определяет это тем, что у вас стоят на матрице просто фильтры, которые не пропускают фотоны нужных цветов. И поэтому у камеры получается такой странный фильтрованный вход, который ей надо
[05:36:58] как-то воссоздать картинку, которую вы должны на самом деле видеть глазами. На самих глазах на самом деле похожий поход, если кто, ну, то есть в биологии точно было про то, что вот есть, а, как устроен глаз, как там есть разные, а, клетки, которые реагируют на разные тоже
[05:37:17] цвета. Поэтому это на самом деле недалеко от того, как наш мозг на самом деле тоже восстанавливает картинку, которую мы видим. А, о’кей, это совсем философская отход. Вот. Но смысл в том, что на каждый шаг, каждый шаг добавляет какой-то свой уникальный шум. И этот шум
[05:37:34] можно пытаться аа классифицировать. То есть, если мы видим картинку, мы можем попробовать понять, что она была сделана с какой-то фотографии, это с какого-то фотоаппарата, например. Здесь вот ссылка работу, которая показывает о том, что вот они собрали там сколько-то фотоаппаратов, посчитали на них статистику и показали, что в целом
[05:37:57] ну вот их подход, он работает для тех фотоаппарат, которые они собрали. Кроме этого было ещё сранами в восемнадцатом году на кэгле, которое делал очень похожие образы. Но там у вас было меньше фотоаппаратов, но больше фотографий и было, на самом деле, больше ограничений, потому что на фотографию
[05:38:16] было наложена ещё постока, которая, ну, как мы уже видели раньше, она скрывает эти эту информацию, которую мы пытаемся найти. Но тем не менее как бы топовые команды, которые все тогда были из ОДСа, это вот конец десятых годов гла там все из ДДСа в топе, а
[05:38:36] получают как бы качество определения модели фотоаппарата там выше 95%. То есть вы берёте просто картинку из интернета, кидаете эту в нейросеть, эта нейросеть вам скажет, из какого фотоаппарата сделана была эта картинка. То есть это звучит как магия какая-то. То есть у нас нигде не написано какой-то
[05:38:57] фотоаппарат, но это потенциально можно сделать. Точность не 100%, но тем не менее. То есть какой какая-то информация Другой подход, а который мы на самом деле рассказывали в нескольких наших И у нас есть вот припринт, который можно тоже почитать идею о том, что если мы
[05:39:22] делаем какое-то приложение, то есть, допустим, у нас не проблема вот то, что у нас есть в интернете кастинка, мы делаем приложение, которое пытается понять, что камера, с которой мы работаем – это реальная камера. То есть вот мы делаем, например, мобильное приложение такое, то тогда мы можем
[05:39:37] задать этому этой камеры, которую мы спрашиваем, какие-то вопросы, получать от неё ответы и уже классифицировать вот это взаимодействие какой-то, а на то, насколько мы считаем, что это взаимодействие с реальной камерой или с виртуальной камерой, то, что называется. То есть это какая-то нереаль это какой-то софтуер, который
[05:39:59] имитирует работу реальной камеры. Вот один из как бы самых известных примеров – это вот то, что у меня сейчас запущено для того, чтобы кидать стрим на YouTube. То есть там виртуальные камеры, которые собирают фот с презентации, вот с той камеры, всё это комбинирует и кидает это
[05:40:15] всё в YouTube. На самом деле пофиг, какая это всё дело. А, но смысл в том, что как бы вот это может быть как будто реальная камера. И основные подходы обманов на собеседованиях, на проходе регистрации в банках и так далее подобное связано именно вот с этим подходом, что есть
[05:40:37] какая-то программа, которая имитирует работу реальной камеры. И когда реально человек, ну, даже вот если у вас есть какой-то саппорт, который смот, ну, то есть который валидирует на то, что человек в банке пытается что-то зарегистрироваться, открыть какой-то большой кредит, вот это всё дело, а, и у
[05:40:55] вас стоит реальный человек, который пытается понять, это вообще дефек, не дефейк, и там вот просят всякого провести перед глазами, вот это всё дело. А это не работает в том плане, что дефейки уже последний год такие, что очень просто сделать дефейк, который обойдёт все эти проверки, человек не
[05:41:14] А такой вот, но при этом опять же возвращаюсь, что поскольку у нас есть какая-то какая-то программа, которая проверяет, мы можем что-то с этим сделать. И вот это один из подходов, который мы тоже рассказывали. Он не гарантированный тоже, но это очень один слой. Вот проблема в том, что каждый из этих
[05:41:33] подходов не универсален и не решает задач полностью. И, ну, вот здесь этот пример есть в том, что в чём проблема как бы у нас в если мы через браузер, то там вообще дополнительные слои шум шумов своего браузера, значит, накидывается там, в общем, куча всего.
[05:41:52] Вот ещё на самом деле отдельная проблема приложения, которые дают вам камеру. Например, на маках есть приложение FaceTime, которые вообще всегда считаются, что это камеры, но на самом деле это не, ну, как в общем, самая проблема, что все компьютеры напрямую с камерой не умеют общаться. Она общаются
[05:42:08] через что-то, и это что-то уже может добавлять свою постработку. Фейстам один из таких примеров. А как вообще пытались обучить нейронные сети? Потому что как бы, о’кей, вот я то, что рассказывал, это какие-то каки такие более классические методы, которые все должны были забыть пятнадцатого года.
[05:42:26] и должны начать с ней нервных сетей. Хорошо. На самом деле одно из главных, вот напоминаю том, что есть какой-то вот уникальный шум, пошёл с того, что все пошли смотреть, а что вообще вот эти дефейки из совы представляют, если их попытаться как-то усреднять. И там вот
[05:42:43] начали замечать вот такие странные, а, регулярные картинки, которые возникают. Но это то, что называется фурье Спектр. Не суть важно. В общем, смысл в том, что сгенерированные картинки имеют какой-то очень уникальный вид в та в тако в таком пространстве. То есть это визуально их
[05:43:03] незаметно, но компьютер это видит, и на этом можно обучать нейронные сети. Причём у каждой программы генератора свои уникальные такие вещи. И а очень были работы, они его замечали, они смотрели, как это можно сделать. Вот можно посмотреть, собственно, её реализацию вот разных работ. можно
[05:43:22] посмотреть, что они вот несколько лет приходили. Почему они несколько лет А потому что они обзавались меньше, чем за год чаще всего. То есть выходила эта работа, показывал, что вот у нас есть а детектор таких дефейков меньше чем через год. Обычно выходила следующая работа, которая говорила, что
[05:43:39] ваш метод дефейков ни фига не умеет ловить дефейки. И типа точность определения ваших дефейков типа около 0%. А то, что вы в стате писали, это вот просто вы переобучились на ваших данных. и вот до сих пор как бы нету работ, которые показывают что-то, что
[05:43:59] универсальное есть. И оно на самом деле тоже, ну, то есть вот вот пример о том, что точность, ну, то есть как тамк Наверное, здесь никого не надо говорить, что просто подкидываем монет, подкидываем монетки, а укрок даёт 50%. Это типа означает, что ваш детектор
[05:44:19] дефейков то же самое, что её просто будут подкидывать монетку, что, ну, очень странно, когда вы говорите, что вы сделали какой-то дефейк. Вот на что почему на самом деле происходит проблема в том, что данные, на которых работа публикуется, они, ну, не проходят периодически какой-то такой
[05:44:42] стантизированную валидацию. Они обычно делаются какими-нибудь, а, аспирантами или нтёрнами, которым, ну, в общем, у них обычно нету времени просто просматривать всё подряд. Они смотрят обычно какую-то выборку, видят, что она всё о’кей, какие-то стандартные тесты, всё о’кей, всё мы генерасеть. А нерсеть такая типа отлично. Я вижу, что
[05:45:06] формат входа у вас на на один класс, ну, типа на, грубо говоря, ваши реальные картинки все в джипеках, ваши все дефейки, они в пнг или в ВП. Всё, я умею отличать GPги от ПНГ. Напеге есть квадратная структура, у всех остальных нет. Всё, я вам делаю отличный детектор
[05:45:27] Вторая как бы проблема, размер для нас визуально как бы, если мы будем смотреть на картинку, которая там 4K или Full HD, а, ну, вы увидите разницу, если вы будете смотреть на 4К мониторе. Но если вам сделают даже меньше, чем Full HD монитор, вы не увидите разницу. Проблема
[05:45:42] в том, что неросеть увидит. Разница в том, что вы подаёте ей 4К изображение, которое как-то было ужато или Full HD изображение, которое было как-то ужато. И опять же, у вас идеальный детектор Более странный вариант – это когда у вас дефейки просто выглядят чуть-чуть
[05:45:57] по-другому, но вы это не замечаете глазами. Например, там, не знаю, у вас определённого цвета глаза генерируются всегда, которые, ну, в целом как реальные, но таких реальных классов, например, в вашем досете сильно мало. Ну, и всё. У вас опять же идеальный генератор дефейков, которые ничего не
[05:46:15] ловит, на самом деле. И, ну, в общем, вот есть принт вот этого года, который в целом это показывает. А ещё он показывает в том, что почему на самом деле проблема большая в данных. А у меня я был уверен, что у меня здесь слайд по количестве дефейков. Хорошо,
[05:46:33] собственно, проблема в данных, как мы уже сказали, давайте разбираться, почему. Ну, то есть почему не расеть видеть то, что как как будто мы не видим глазами. Вот есть замечательный старый, относительно старая статья. Господи, девятнадцатый год, старая статья. в любой другой науке, кроме как
[05:46:51] это будет звучать очень странно. Вот. А это вообще а девятнадцатый год для машинообучения это, я не знаю, там типа уже динозавры откапывают. Но тем не менее она очень хорошо показывает о том, что вот у нас есть слева картинка, которая нервно свети определяет, как это очень уверено, что
[05:47:06] это слон. Посередине она такая картинка, это я очень уверен, что это кошка. А справа картинка неросе такая, я точно уверен, что это слон. Э, и даже второй вариант – это не кошка. И третий вариант – это не кошка. И как бы здесь задумываешься о том, что
[05:47:23] нероседи переобучаются на очень конкретный формат данных. И на самом деле они очень все переобучаются на текстуры. То есть если у вас картинка выглядит определённым образом вот именно текстурирована, то есть есть повторяющиеся вещи. Вот это просто замечательная вещь. любая нейросеть, это просто съест и скажет: “Всё отлично, я
[05:47:42] это беру как самый надёжный, ну вот, инструмент для определения, даже если вы визуально этот паттерн можете не видеть”. Вот. И один из один из таких паттернов, собственно, это то, что было раньше очень тоже популярно говорить. Это адверсари атаки, то, что называются. И адверсал атаки, естественно, на на
[05:48:04] детекторе дефейков тоже есть. Вот мы берём это сгенерированная картинка. модель, ну, типа детектор какой-то дефейков говорит, что да, это дефейк. Вот я очень уверен, что это дефейк. Мы добавляем совсем чуть-чуть, вот прямо совсем чуть-чуть какого-то набора из каких-то цветных пикселей. И модель такая: “Я уверен, что это тебе реальное
[05:48:25] глицо”. Визуально ничего не поменялось, но модели замечательно говорят, что типа всё это всё терриальное лицо и что хочешь с этим делай. Вот, собственно, почему проблема ещё в данных, потому что вот, собственно, привление, которое я уже говорил, обычно то, что публикуют и то обычно на чём
[05:48:47] вот, собственно, пытаются соревноваться, это там пять генераторов. Это пять программ, которые ты можешь сделать что-то. А реально а в реальной жизни там типа даже не даже не три сотни, там как бы тысяча этих программ, которые умеют генерировать. Да, они малоизвестны там реальных известных реально там где
[05:49:06] поменьше десятка, но количество безумное. А мы пытаемся что сделать? Мы пытаемся сделать на самом деле модель, которая не по картинке как будто смотрит. Нам нужно количество картинок. Но реально, если мы посмотрим вот вероятностю модель, как у нас получается эта картинка, мы пытаемся сделать модель,
[05:49:25] которая определяет реальный мир от генератора. А генераторов у нас всего пять. Это означает, что в нашем даносете просто какой-то странный баланс, что у нас всего лишь пять примеров одного класса и все остальные – это другого Вот. И здесь мы переовучим на этих пять
[05:49:41] примеров и больше ничего не умеем Собственно, как с этим можно бороться? Это на самом деле не только проблема в детекции фейков. Похожая проблема ну, тоже относительно давно была у модели, которые улучшают картинги Это когда вот как бы вы подаёте картинку, она вам может картинку в два
[05:50:03] раза больше сделать или в четыре раза больше сделать. А сейчас уже как бы этим, по-моему, никто не пользуется, потому что диффузиями всё пользуется для генерации и всё. Но был там тоже была проблема в том, что когда их обучали, у вас невозможно сделать реальную пару,
[05:50:20] которой высокого разрешения и маленького разрешения. Вам надо как-то синтезировать эти данные. И обычно брались кадров большого разрешения и Но алгоритмов сжатия у вас тоже пять И нейровные сети замечательно их учили. Соответственно, идея была в следующем. Хорошо, у нас может быть пять алгоритмов, которые уникальные, но вот
[05:50:42] последовательность этих алгоритмов мы можем менять. И тогда у нас получается декартового произведения 5 на5. У нас уже хотя бы там нет даже, господи, всё, там пять пять алгоритмов и у нас, например, четыре шага. И у нас получается, что там 4 в пятой степени.
[05:50:59] Да, я правильно сказал. Меня здесь сейчас не пойдут увольнять за то, что я мостат не знаю. А вот и как бы смысл в том, что вот это один из способов, который мы можем попытаться сделать, чтобы обмануть модель, которая пытается изучить конкретный шаблон. Ну
[05:51:18] вот примеры, как это, собственно, делают самые популярные супроution модельки. И, соответственно, как мы, например, можем делать, ну, вот как мы, например, делаем для генерации наших атак. То есть у нас есть какая-то реальная картинка, которая взят взята вот фотографии, как-то ещё дело. И дальше она проходит
[05:51:37] целые пайплайн операции, где у нас есть разные варианты того, что с ним может И там есть вот варианты о том, что там может произойти Фйake, там может произойти ещё что-нибудь. И если у нас этот шаг происходит, мы говорим, что теперь эта картинка это пфейк. Если у
[05:51:54] нас этих шагов нет, мы говорим, что картинка осталась реальной. То есть она, да, прошла там, вот её сжали, её разжали, ещё хоть что-то сделали, но поскольку это сжали там какими-то очень понятными алгоритмыми, мы считаем, что это реальная картинка, это не дефейк. собственно, проблема в том, что, как я
[05:52:11] говорю, осторожность деградацией, как бы, потому что вот один из шагов здесь – это шаг компрессии, то есть деградация. То есть мы учим модели о том, что реальные картинки и дефейки могут могут быть деградированы, чтобы вскрыть сигнал. Ну и почему осторожно деградации? Потому что, ну, допустим, вот эта картинка
[05:52:32] может сейчас сказать реальная, а, ну, и справа уже ко может так деградировать, что весь сигнал потеряется. И, ну, вот тоже с XCD, а, шутка про про похожие вещи о том, что цифровая цифровая медиа, она не настолько долговечная, как может быть Вот, собственно, а ближе уже к заключению, чтобы вас не
[05:53:02] томить, я уже здесь стою 20 минут больше. А, собственно, что что мы хотим проверять, когда мы делаем наши данные с картинками? Очень важно, а, потому что мы считаем, что вот мы как люди визуально умеем отличать, что такое правильная и неправильная картинка. Но это абсолютно правильно для любой задачи
[05:53:22] машины обучения, где мы даже не видим И как бы в этом плане комно зрение скорее должно, а, базироваться на таких базовых принципах, которые не с картинкой связаны, типа о том, что у нас все классы одинаково собраны, нет визуальных признаков и одинаковая предуработка. Вот как мы проверяем
[05:53:42] вообще наши данные о том, что мы проверяем правильно, как будто у нас open set, то есть у нас есть как бы такие данные, которые мы никогда не видели в в обучении, как мы не проверяем, мы не проверяем, мы не делаем множественное тестирование на оди на тех
[05:53:54] же тестовых данных, иначе мы получим а некорректную корреляции. Вот, собственно, выводы в конце о том, что определение ретуши или фейков – это безумно старая задача, а, и универсального решения для неё до сих пор нет, потому что методы генерации тоже развиваются. Ну и многие проблемы, которые у нас
[05:54:15] появляются с машино учения, как обычно, исходят из того, что у нас некорректно собраны данные для обучения или валидации. Вот. А не потому, что у нас модели плохие. Спасибо за внимание. Так, раз, раз, раз. Переходим к Вот у Лёши есть вопрос. >> Спасибо за доклад. А я с картинками
[05:54:43] работал не так много, как с текстами, поэтому много полезного, интересного. Но как математик иногда хочется докопаться. [смех] Оно вообще никак не меняет выводы. Просто уточнить. Либо я что-то не понял, да? Либо >> когда мы говорим АУК 45%, это просто означает, что два класса перепутали
[05:55:00] >> там два класса, да. >> Ага. Ну, то есть как бы там имеет смысл показывать именно 55%, >> Ага. Вот. А про когда говорили, что меняли различные параметры, там компрессия, не компрессия, там имелось в виду, что каждый ээ вот этот генератор, он может упоминаться много раз или как?
[05:55:18] Как все разные? >> А там с повторением выборка идёт. Всё, понял. Спасибо. >> Так, ещё вопросы у нас есть. >> Здравствуйте, спасибо за доклад. А я правильно понимаю, что вообще, по идее, в перспективе как-то бесполезно бороться с тем, что люди будут продолжать генерировать вот контент, условно, брать
[05:55:46] чьё-то лицо, создавать фейковых людей, и мы никак не можем это отследить. и, э, как сказать, сделать так, чтобы это >> На самом деле, по этому поводу есть много хороших Аа потому что, ну, как я сказал, получение картинки до того, что она появилась на экране, очень много шагов.
[05:56:10] Каждый из этих шагов потенциально можно регулировать как-то. То есть есть, например, цифры подписи у камер, которые делают снимки. То есть у всех, у Кэнна, у Никона, у Sony а есть свои подписи картинок в современных камерах. И, например, это, ну, то есть там начинается вот опять же медикация
[05:56:31] рисков, где нам самое критичное, что у нас некорректные данные. Это, например, журналистика из горячих зон. Она делается вся с персональных камер обычно, а а не с телефонов, например. И, например, вот так вот можно начинать, что как бы вот у нас есть подпись с
[05:56:46] этого с этой камеры, мы прямо можем валидировать, что она была произведена на этом заводе. Вот. То есть есть такая такие цепочки. С телефонами на самом деле похоже тоже можно проворачивать, потому что сейчас производители телефонов, а обязуются тоже там подписываться некоторые вещи. Хотя, ну,
[05:57:02] в общем, поскольку телефонов очень много, то там всё это сильно сложнее. Вот как бы пытаться решить задачу с обратной стороны, что как бы у нас уже есть какая-то медиаинформация, мы пытаемся её раскрутить назад. Вот это самая сложная и как будто нерешабельная задача. То есть вот получив мы картинку,
[05:57:19] ничего не знаем про неё. А то есть хорошо, ещё шаг типа где регуляция. А, например, Open AI, а, и Google в своих моделях, которые генерируют картинки, они вставляют свои тоже скрытые символы, которые могу можно потом узнать, и они в целом а переживают компрессию.
[05:57:42] Это как бы другой способ, да? То есть вы закрываете самые самые как бы самые дешёвые способы, которые, ну, и самые простые для каких-нибудь потенциальных мошенников или атакующих или кого угодно. Типа B actors, то, что ну и как бы вот вы не можете решить
[05:58:00] задачу целиком, но вы пытаетесь уменьшать риски на каждом из шагов, и как бы ты пытаешься решать скорее вот такую задачу по кусочкам. А у меня есть вопрос. >> Ой, микрофон. >> Да. Раз-раз >> работают, работают. >> А, ладно. В общем, у меня такой вопрос:
[05:58:28] а есть ли какой-то интересный бизнес-кейс, где вы применяете детекцию вот таких штук? >> Это наш основной продукт. Ну, типа, мы в Велиграме занимаемся QC процессом, то есть мы продаём решение, которое позволяет нашим клиентам аа проводить безопасную удалённую верификацию по лицу. >> Да, да, да, я знаю. Да, интересно доклад
[05:58:52] Миша рассказал. Ну вот как бы и наш кейс с детекцией как бы вот или просто интересные кейсы с какими мы его поймали или что? А >> не просто я думал, может как-то это отдельно у вас или это тоже интегрировано в этот как бы байплаine?
[05:59:05] Не, это всё внутри этого всё дела, потому что количество разных способов, которые мошенники пытаются обойти системы, оно просто очень очень большое, потому что как там есть и специально купленые телефоны, там есть специальные HDMI кабеля, там, ну, в общем, там много всего есть. Это не
[05:59:25] отменяет самых частых кейсов рода, которые постоянно летят, но такие единичные случаи встречаются. Да. >> Я просто помню, что вы бы осном ловили фростеров по метаданным. А видеозвонка. >> А, ну это где там это? Ну вот у меня была ссылка, А это вот это вот это один способ, да,
[05:59:46] так ловить. >> Да, спасибо. >> Аэ, меня зовут Михаил. Вопрос по поводу, а, не ложноотрицательного, а исхода анализа. >> Потому что я, например, сталкивался неоднократно с историями, когда >> тебя просят прислать какой-нибудь там фотопаспорта или какой-нибудь PDF, и это начинаются пляски вокруг сканера, вокруг
[06:00:22] всего на свете, потому что алгоритм находит неизвестно что и на это ругается. Вот как вы вот в этой части алгоритма вообще вот с этим работаете? >> Ну, если вы заметите, в презентации на самом деле показываю, ну, типа там, ну, в общем, там я обе ошибки показываю. Я
[06:00:38] показываю ложны положительные, ложены, отрицательные. И на самом деле, когда мы работаем в команде, у нас, ну, то есть мы не работаем с одной ошибкой, с с одной метрикой. Мы всегда работаем с двумя ошибками. А, например, в наших кейсах мы стараемся делать так, чтобы наши модели имели
[06:00:53] ложно, ну, типа они ложно отказывали вам в меньше чем 1% случаев или там 1-2% Вот. А, то есть вот, например, с помощью вот этого, которую я писал, и там несколько генераторов, можно сделать маленькую модель дефейка, которая будет очень хорошо ловить конкретной модели генераторов, [фыркает] но при этом почти
[06:01:17] не будет отказывать реальным людям. И так, на самом деле, может подходить ко Я ответил или нет? Хорошо. >> Здравствуйте. А я хотел спросить то, что вы описали, это больше связано с фото. Афейк видео их проще распознавать современные технологии настолько хорошо генерируют видео, что это не
[06:01:43] >> А всё, что я рассказал, переносится на видео абсолютно точно так же. А проблема в том, что видео бо генерация видео требует больше вычислительных ресурсов, поэтому оно просто генерацию более качественных фейков требует больше времени. Это единственная разница. Вот. А всё остальное на самом деле точно
[06:02:03] так же переносится, потому что у каждого генератора дефейков есть свой собственный след. Его тоже можно ловить. Его обычно ловят. Там вот всякие шутки потому что вот видео что-то нереально происходит на фоне или там какое-то действие не то. Вот это уйдёт. Это уже у
[06:02:17] многих там генераторов уходит почти полностью. Через 2 года вы уже, скорее всего, увидите о том, что, ну, генератор видео генерирует видео, которого вы не Ну, то есть то же самое было с картинками. эти шестипайлые генерации, всё остальное это ушло. И как бы, да, эти все генерации всё как
[06:02:37] бы это развивается, это очень быстро развивается, это очень быстро уйдёт. >> вообще у нас 10 минут до того, что у нас площадка закроется. А >> я больше, да, как раз в завершении. Раз вы так классно решаете вопросы, тот человек или не тот, то, возможно,
[06:03:03] переходя уже к байкам, а какие самые интересные заказы к вам приходили, а как наоборот сделать пфейк или вот с такими запросами к вам приходят, не приходят какие- такие интересные из >> нам не приходит вопрос сделать фейк, мы сами к себе приходим, когда нам сделать
[06:03:18] Вот на самом деле есть интересный кейс рабочий буквально этого года. В общем, смысл в чём? Мы знаем все популярные методы генерации дефейков, потому что мы тоже их сканим. А-а, и мы знаем, что у нас, то есть, а, у нас был случай, что наша модель дефейков, например, не
[06:03:40] поймала конкретный дефейк там. Ну, в общем, там всё равно инцидента не произошло напрямую, там другие слои но мы поняли, что наш, э, мы не можем полностью, грубо говоря, наш генератор о наш детектор не может поймать генератор, который он должен, по идее, ловить. И на
Закрытие Data Halloween Almaty 2026 и награждение (06:04:00)
[06:04:00] самом деле, а вот то, что я описывал там вот пайплайне о том, что там куча всего шагов есть, он был добавлен после этого кейса, потому что в очередной раз посмотрели о том, что у на как у нас выбираются данные для обучения, и оказалось, что,
[06:04:16] ну, вот мы, видимо, что-то не учитывая, что у нас есть в реальной жизни, что позволяет, а, что позволило этому кейсу пройти защиту от дефейка. >> Ладно, наверно. заканчивать. >> Давайте поаплодируем Андрею ещё раз. На самом деле, да, будем завершать текущий, э, дату Хэллоин Алмааты 2026. У
[06:04:44] нас с Андреем была в целом э опасение, что после обеденного перерыва все разбегутся и удут на Хиксфилд. Но, как видите, здесь около тридцати человек. А, и мне кажется, это достаточный успех, что, э, вы остались здесь, и мы не зря готовились и отбирали спикеров, выбирали
[06:05:07] ээ площадку. Спасиборайву ещё раз за то, что приютили. Вот. Так что будем, наверное, прощаться уже, встретимся в следующем году и будем делать ещё круче. >> Да, спасибо. Приходите ещё раз. Оп. Ну это спасибо
🧭 Первая публикация интерактивной карты экосистемы TengriMap
TengriMap — первая платформа технологической и исследовательской экосистемы Центральной Азии (Казахстан, Узбекистан, Кыргызстан, Таджикистан).
Находите стартапы, хабы, коворкинги, авторов arXiv-исследований и объединяйтесь для создания новых прорывных продуктов:
👉 app.tengrimap.com