Первая встреча в рамках международного научного турне Tinkoff Lab Research 4 Kids прошла 8 апреля в Минске. Проект призван популяризировать науку в области искусственного интеллекта среди студентов в городах России, Беларуси и Казахстана.
На мероприятие зарегистрировалось 96 студентов из ведущих вузов Беларуси: БГУ, БГУИР, БГТУ и БНТУ.
Студенты узнали о последних научных открытиях и наработках в наиболее перспективных областях ИИ: обработки естественного языка (NLP), компьютерного зрения (CV), обучения с подкреплением (RL) и рекомендательных систем (RecSys).
Так, в рамках NLP была представлена актуальная работа в эффективных языковых моделях. Новый метод может использоваться для обучения моделей, способных работать с очень длинными текстами с меньшими потерями информации, чем у предыдущих подходов, представленными исследователями из Стэнфордского университета.
"Сейчас очень популярны текстовые ассистенты, которые помогают людям в учебе, работе и в принципе в бытовых задачах. Например, всем известный ChatGPT. В лучших из таких ассистентах используется архитектура, которая называется трансформер. Она очень сложная вычислительно, поэтому исследователи по всему миру работают над более эффективными альтернативными моделями, стараясь сохранить высокое качество трансформера. В декабре исследовательская группа из Стэнфорда предложила модель, которая стала еще ближе по качеству к трансформерам, но при этом была гораздо более эффективна. Мы сразу увидели в этой работе возможности для улучшения путем изменения параметризации и использования дополнительной нормализации и существенно сократили разрыв с трансформером. Мы написали статью довольно быстро и отправили ее на международную конференцию по искусственному интеллекту ACL, где получили достаточно высокие оценки. В некотором смысле мы вступили со Стэнфордом в гонку, потому что свою полноценную статью по их новой архитектуре, которую мы улучшили, они выложили на две недели позже нас", — рассказал исследователь обработки естественного языка в Tinkoff Research, выпускник Tinkoff Lab Ярослав Аксенов.
В области обучения с подкреплением (RL) студенты узнали о работе команды над обучением адаптивных RL-агентов. Обсуждение инструментов Computer Vision (CV) включало последние наработки в направлении out-of-domain detection, байесовских методов и диффузионных моделей. Ученые из Tinkoff Research также рассказали о том, почему область рекомендательных систем в большей степени развивает бизнес, а не исследовательские институты.
Авторы научных открытий — молодые ученые из научно-исследовательский лаборатории Tinkoff Research. Это одна из немногих российских исследовательских групп, которая занимается научными исследованиями внутри компании, а не на базе некоммерческой организации. За два года существования команды 20 работ были приняты на крупнейшие конференции уровня в области ИИ уровня А*: NeurIPS, ICML, ACL, CVPR и другие. Научные работы Tinkoff Research цитируются учеными из университетов Беркли и Стэнфорда, а также исследовательского проекта Google по изучению искусственного интеллекта Google DeepMind.
“Технологии искусственного интеллекта стремительно меняют наше с вами представление о возможном. В Tinkoff Research мы стараемся стоять на фронтире исследований искусственного интеллекта и развивать интересные нам направления - от генеративных диффузионных моделей до более адаптивных рекомендательных систем на базе обучения с подкреплением”, - отметил руководитель команды Tinkoff Research Сергей Колесников.
Исследовательская группа курирует студенческую лабораторию Tinkoff Lab и помогает талантливым студентам совершать научные открытия. Если у студента есть идея для научного исследования, команда помогает с ее реализацией: постановкой экспериментов, доступом к вычислительным ресурсам, написанием статьи и ее публикацией на крупнейших конференциях.
Белорусские студенты также получили возможность пройти отбор на стажировку в Tinkoff Lab и начать исследовать новые возможности искусственного интеллекта под руководством менторов. Индустриальные проекты студентов станут частью экосистемы Тинькофф, а научные — основой для публикаций и докладов на конференциях.