 |
Новый NLU Suite от BSS: как создать кастомную языковую модель с минимальными затратами
Обновленный инструмент для обучения моделей позволяет адаптировать LLM под локальные задачи благодаря методу LoRA: он обучает только дополнения, не затрагивая всю модель. После такой адаптации качество ответов в среднем растет на 15%, а компактные модели обгоняют недообученные большие на целевых запросах.
BSS добавила поддержку LoRA (Low-Rank Adaptation) в инструмент для обучения моделей NLU Suite. Теперь можно обучать языковые модели под локальные задачи быстрее, дешевле и даже при сильно ограниченных мощностях.
Вместо полного переобучения модели LoRA позволяет добавить к ней «блок» под нужды клиента. В итоге обучается не исходная модель, а небольшие матрицы, которые на нее накладываются. Это позволяет создать LLM-эксперта в заданной области гораздо быстрее, чем при традиционном тюнинге.
Для запуска достаточно обеспечить сервер и данные для обучения. Обучающие корпуса можно подготовить с нуля в NLU Suite с помощью любой мощной модели – например, GPT-5. Параметры дообучения можно выставить по умолчанию или настроить в процессе работы. Так можно настраивать как полные модели, так и квантизированные (сжатые) модели.
Качество ответов после дообучения в среднем растет на 15%. При этом обученные компактные модели с меньшей памятью (1 млрд параметров) обгоняют необученные большие (27–30 млрд) на целевых запросах. А разница в качестве обученных компактных (1 млрд) и обученных средних (9 млрд) моделей составляет лишь 5–10%. Это значит, что даже при ограниченных ресурсах можно получить эффективную специализированную модель.
Обновление затрагивает и пользовательский опыт: упростилась загрузка обучающих и тестовых датасетов, обновился интерфейс для сравнения результатов, появилось автоматическое восстановление задач при сбоях.
Как новое решение может повлиять на бизнес, рассказал директор департамента голосовых цифровых технологий BSS Александр Крушинский:
«Наше решение сокращает стоимость и сроки внедрения, а также снижает зависимость от специалистов по дообучению моделей – то есть, повышает доступность использования LLM-технологий в бизнесе».
Контактное лицо: Вадим Прищепа (написать письмо автору)
Компания: BSS (все новости этой организации)
Добавлен: 23:23, 14.04.2026
Количество просмотров: 398
Страна: Россия
| Быстрее самолётов: в аэрогавани «Нерюнгри» увеличили скорости 4G, МегаФон, 23:01, 30.06.2026, Россия |
231 |
| Пассажирам и сотрудникам аэропорта «Нерюнгри» в Чульмане стал доступен более быстрый мобильный интернет МегаФона. Техническая служба оператора запустила в воздушной гавани базовую станцию с поддержкой LTE. Благодаря проведённым работам скорости передачи данных теперь достигают 75 Мбит/с. |
|
| От «умного дома» до прогулок у озера — в Тюмени улучшили связь для тысяч новосёлов, МегаФон, 23:01, 30.06.2026, Россия |
234 |
| МегаФон запустил новые базовые станции в семи жилых комплексах областного центра Тюменской области: «Юнион», «Централь», «Новый», «Дивный квартал у озера», «Опера», «Мотивы», «Ново Комарово». Новостройки находятся в разных точках города, в общей сложности в них уже проживают несколько тысяч человек, ещё столько же готовятся к новоселью. |
|
| МегаФон увеличил покрытие на региональной трассе в Удмуртии, МегаФон, 23:00, 30.06.2026, Россия |
236 |
| МегаФон запустил новые базовые станции в населённых пунктах, прилегающих к региональной автодороге, соединяющей Сарапул и Камбарку: теперь жители сёл Мазунио и Тарасово будут на связи с близкими и друзьями, смогут пользоваться цифровыми сервисами. Для автомобилистов в этих локациях стали доступны голосовые вызовы, загрузка карт, использование навигационных сервисов. |
|
| «ПрограмБанк» внедрил нейросетевую верификацию лиц, Компания ПрограмБанк, 22:58, 30.06.2026, |
236 |
| Технология не только снижает риски мошенничества, но и исключает дублирование записей в базе данных при изменении клиентом ФИО, документа, удостоверяющего личность, или номера телефона. |
|
|
|
