ОБУЧЕНИЕ КЛАССИФИКАТОРОВ НА ОСНОВЕ ВЫДЕЛЕНИЯ ФРАГМЕНТОВ Васильев В.Г.

Задачи выделения фрагментов Задача поиска фрагментов релевантных запросу (Passage Retrieval) –вычисление весов фрагментов –вычисление функции правдоподобия запроса –построение вероятностных моделей запросов –использование методов машинного обучения –использование скрытых марковских моделей Задача классификации фрагментов в соответствии с классификатором (Passage Recognition) –обучение на полных текстах, выделение фрагментов, классификация фрагментов –классификация текста целиком, поиск наиболее релевантного фрагмента –оценивание параметров скрытой марковской модели на полных текстах, выделение фрагментов

Методы классификации текстов Метод машин опорных векторов (SVM) – рубрика отделяется от других классов с помощью гиперплоскости Байесовский классификатор на основе модели смеси распределений фон Мизеса-Фишера (VMF) – рубрика описывается с помощью точки на гиперсфере единичного радиуса

Модель фон Мизеса-Фишера

Методы выделения фрагментов в текстах Выделение фрагментов путем классификации предложений (SENT) Выделение фрагментов путем классификации блоков текста (TILE) Выделение фрагментов путем классификации иерархического покрытия (HIER) Выделение фрагментов с использованием оптимизационных методов (LS)

Выделение фрагментов путем классификации блоков текста

Выделение фрагментов путем классификации иерархического покрытия

Выделение фрагментов с использованием оптимизационных методов

Схема итерационного обучения отдельной рубрики Исходный массив Обучение модели Выделение фрагментов фрагмент

Схема классификации текстов с использованием фрагментов Текст Выделение фрагментов Текст фрагмент Построение вектора признаков фрагмент Классификация

Характеристики массивов текстов Массив Число документов Число рубрик Размер Reuters Mb 20 News Groups Mb ROMIP 2004 Legal Mb Массив Число документов Число рубрик Размер Reuters Mb 20 News Groups Mini Mb ROMIP 2004 Legal Mini Мб Полные массивы Сокращенные массивы текстов

Пример текста из массива 20NG

Пример текста из массива Reuters-21578

Пример текста из массива ROMIP 2004 Legal

Оценка качества классификации для массива ROMIP 2004 Legal Mini МетодF-мераМетодF-мера SVM0.37VMF0.45 SVM-SENT0.39VMF-SENT0.47 SVM-HIER0.38VMF-HIER0.46 SVM-TILE0.39VMF-TILE0.46 SVM-LS0.50VMF-LS0.37

Оценка точности и полноты классификации МетодТочностьПолнотаF-мера SVM SVM-LS МетодТочностьПолнотаF-мера SVM SVM-LS News Group Mini Romip 2004 Legal Mini

Качество классификации для массива 20 NG от размера обучающего множества

Качество классификации для массива Reuters от размера обучающего множества

Качество классификации для массива 20 NG от числа итераций

Время обучения и классификации массива 20 NG от числа итераций

Среднее число выделяемых предложений для массива 20 NG в зависимости от числа итераций

Выводы Обучения классификаторов с использованием фрагментов более эффективно при маленьких размерах обучающих выборок В некоторых случаях использование данного метода может заметно улучшить полноту классификации Для сходимости метода достаточно выполнения нескольких итераций

Направления дальнейших исследований Анализ характера выделяемых фрагментов и областей применимости рассмотренного подхода Использование методов рандомизации (бутстреп метода) для расширения объема обучающих выборок Выделение фрагментов с использованием правил на специальном языке