Методика использования больших языковых моделей для самоподготовки студентов

Abstract

Предлагается интерактивная система для самоподготовки студентов на основе больших языковых моделей (LLM). Разработана многокомпонентная архитектура системы, включающая клиентскую и серверную части, а также выбраны алгоритмы квантования для снижения требований к вычислительным ресурсам. Описана методология создания системы, включающая подготовку данных, файн-тюнинг LLM и разработку пользовательского интерфейса. Приведены результаты тестирования модели Qwen 2.5 32B.

This paper deals with the development of an interactive student self-training system based on large language models (LLMs). A multi-component architecture of the system is proposed, including client and server parts, as well as methods for reducing resource requirements, such as quantization. A methodology for building the system is described, including data preparation, LLM file-tuning, and user interface development. The results of testing the Qwen 2.5 32B model are presented.