Ученые в РФ повысили точность ответов нейросетей до 15%
Это позволит улучшить качество ответов от виртуальных ассистентов и чат-ботов в различных сферах: от образования до медицины.
«Современные языковые модели, обучаясь на больших объемах данных, сталкиваются с проблемой потери качества при долгой тренировке. Исследователи предложили использовать новый метод на основе уже существующих методов Trust Region с небольшими изменениями, которые позволили влиять на обучение LLM. Новый подход позволяет улучшить качество ответов искусственного интеллекта по пяти различным показателям», – сообщается в пресс-релизе Т-банка.
Методы Trust Region представляют собой итеративные методы оптимизации, которые позволяют адаптивно расширять или сужать область поиска наилучшего решения для заданной задачи.
Результаты, полученные с помощью модели, использующей новый метод, продемонстрировали превосходство по пяти ключевым критериям: точность, связность, стиль, логичность рассуждений и информативность. Кроме того, LLM стали менее подвержены случайным ошибкам и избегают генерации странных текстов, которые могут возникать при обучении на узкоспециализированную задачу.
Этот инновационный подход характеризуется легкостью в применении и хорошей интеграцией с традиционными методами. Его основная идея заключается в том, чтобы периодически обновлять параметры языковой модели (нейросети), которые используются по умолчанию.
«Предложенный метод позволяет модели отмечать ключевые «ориентиры» на своем пути, что помогает избежать отклонений и быстрее достичь целевой точки», – отметили в компании.
Источник: ТАСС