Программный аналитический комплекс для образовательной платформы Открытое

А.А., Кольцов А., Барсуков Н., Кочугова В., Сысоев И.
Руководитель:
к.т.н., доцент

Никифоров И.В.

Заинтересованное лицо (business owner): Толпыгин С.

Санкт-Петербургский политехнический университет Петра Великого
Институт компьютерных наук и технологий
Высшая школа программной инженерии

РФ:
- «Открытое образование» - современная образовательная платформа, предлагающая онлайн-курсы по

базовым дисциплинам, изучаемым в российских университетах
- Moodle
- DonorsChoose
Все образовательные платформы имеют возможность сохранять активность (действия) пользователей на сайте во время прохождения обучения на курсе или выполнения тестовых и экзаменационных заданий (ведение аудита действий пользователя)
Но далеко не все образовательные платформы предоставляют возможность анализировать активность пользователей и преподавателей с целью совершенствования контента курса, ресурса и платформы.
Платформа «Открытое образование» одна из наиболее активно использующихся систем образования всей России, в том числе СПбПУ, и к сожалению, имеет крайне ограниченный набор аналиьтических возможностей.

Поэтому актуальной является задача разработки программного аналитического комплекса для платформы «Открытое Образование»

образвание»
Платформа позволяет
Логгировать каждое действие пользователя (студента, преподавателя, администратора).
Формат логирования

JSON.
Возможность вручную скачать аудит в виде лог-файла
Необходим специальный доступ. Не каждому пользователю доступно такое действие.

Сопутствующие ограничения:
Большой объем файлов лога (например, 18Гб, 100 000 000 записей)
невозможность человеку вручную проанализировать лог файлы и собрать статистику
открыть файл для просмотра стандартными программными средствами
Наличие «пустых», неинформаитивных строк
Наличие более 200 разных типов событий пользователей

Необходимо предоставить возможность анализа логов за счет создания программного средства объединяющего в себе выгрузку, хранение и обработку

портала «Открытое образование» за счет создания программного аналитического средства, реализующего

в себе выгрузку, хранение, обработку и отображение результатов анализа.
Для достижения поставленной цели необходимо решить следующие задачи:
Исследовать структуру и формат логов, предоставляемых образовательной платформой «Открытое образование».
Развернуть тестовый стенд с API платформы для сбора тестовых данных, реализации программного взаимодействия и проведения экспериментов.
Предложить программную структуру программного средства, позволяющего анализировать логи.
Реализовать программное средство (удобное для конечного пользователя).
Продемонстрировать работу приложения.

строго задокументированы платформой, например
edx.course.enrollment.activated -событие, при котором студент записался на

курс;
edx.course.enrollment.deactivated - событие,при котором студент вышел из курса
Каждая строчка лога представляет собой отдельное событие
Вложенные структуры различны в зависимости от события
Обрабатывая и комбинируа анализ различных событий можно получать «интересные» результаты

активности на курсе
Подразумевается как пользователь перемещался по разделам курса.
По

каждому пользователю должен быть построен граф перемещения по разделам. В узлах графа раздел, переходы между узлами - перемещения. Переходы должны быть подписаны порядковым номером перехода.
Итоговый вид - табличка в csv, которая потом может быть подана на блок визуализации и построения графа.
3. Определение махинаций студентов
Например, время нахождения на тесте 1 мин, или время просмотра всех видеолекций 1 мин, или наоборот человек уснул на просмотре видео.
4. Прогнозирование поведения студента на курсе.
Сможет ли этот пользователь завершит курс или он на него зарегистрировался просто так.
5. Определение наиболее интересного материала курса и материала курса, который стоит переработать, доработать
Наиболее плохие вопросы в тестах, по которым у пользователей возникает больше всего вопросов.
6. Сравнение результатов запуска курса из года в год

виде сводной многомерной таблицы позволяет оценивать зависимости показателей и строить

выборки по срезам
Таблица активности преподавателя отличается от таблицы активности студента

данных для программы:
Ввод данных адреса OpenEdu (файл настроек)
имя пользователя и

пароль для доступа к логам
Идентификатор курса
Идентификатор пользователя (опционально)
Выбор задачи анализа

Внутренняя работа системы
незримая для конечного пользователя

Результат анализа
(понятный пользователю)

работоспособности
На удаленном сервере с мощными аппаратными возможностями для достижения наилучшей

производительности
Для установки системы требуется:
JDK 11
Настроенная БД PostgreSQL (лучше конечно сделать embedded BD, чтобы она незримо устанавливалась)
Что еще?

и преподавателей.
Реализация на начальном этапе должна быть максимально простой

и расширяемой (без Spark и Flink)
Возможность простой установки и использования
Наличие крайне простой и интуитивной документации
Наглядное и интуитивное отображение результатов анализа
Наличие тестового стенда

пользователя на портале OpenEdu
Модуль выгрузки логов курса
В ZIP-архиве
Предобработка логов (фильтрация

и парсинг)

Запись логов в аналитическую базу данных

PostgreSQL

Задача 1

Задача 2

….

Задача N

Интерфейс запуска задачи

Интерфейс предоставления результатов

Результат в виде файлов
(csv, файлы, картинки, графики)

утентификации и выгрузки лога в ZIP-архиве
Реализовать несколько простых задач анализа
Реализовать

модуль сохранения результатов анализа в файл csv
Обернуть «каркас» программного решения в конечный дистрибутив
Проверить работоспособность и интеграцию модулей
Провести демонстрацию и нагрузочное тестирование
Расширить и усложнить аналитические задачи
Расширить форматы отображения результатов
Применить современные программные средства для обработки: Spark и Flink

openEduAnalytics.zip
Скачать последний дистрибутив можно с репозитория
https://github.com/mandarinSh/OpenPolyEdu
Дистрибутив self-contained и содержит все

необходимое для установки

OpenEduAnalytics.zip

OpenEduAnalytics
- bin
- start.bat - скрипт запуска
- config
- application.yml - основной файл настроек или любой другой формат
- libs
- - зависимости (для Java, для Pyhon, и т.д.)
- soft
- PostgreSQL_x.x.x.zip - используемые ПО, чтобы пользователь никуда не лезть качать
- JDK_11.zip
- Python x.x.x
- workdir - рабочая директория для временных файлов и БД
- results - директория с результатами запусков

в workdir/install_soft
распаковывает Python в workdir/install_soft
прописывает JAVA_HOME/Phyton/etc. для локального старта
осуществляет настройку

PostgeSQL (копирует приготовленный заранее файл)
запускает сервисы PostgreSQL
запускает модуль аутентификации и выгрузки логов и ждет завершения его работы
запускает модуль фильтрации и загрузки логов в PostgreSQL и ждет завершения работы компонента
запускает модуль аналитики и предлагает пользователю выбрать требуемую задачу
генерирует файл с результатами
просит пользователя выбрать другую задачу и также генерирует результат
по завершении работы аналитического модуля осуществляется остановка сервисов PostgeSQL.

Везде можно делать оптимизацию и смотреть на наличие уже выполенных шагов, пропуская, например, установку или выгрузку. Все это очень легко настраивается передаваемыми опциями bat