Условное случайное поле
Условное случайное поле (CRF) представляет собой тип неориентированной вероятностной модели , которая используется в машинном обучении (филиал искусственного интеллекта ). Этот термин часто используется для обозначения специальной формы с линейной структурой - линейно-цепного условного случайного поля . Обычно это используется для сегментации последовательностей. Это означает, что CRF принимает последовательность на входе и выводит последовательность такой же длины . В отличие от скрытых марковских моделей (HMM; другая, но направленная модель для последовательных данных), CRF может получить доступ к полной информации входной последовательности в любой точке, тогда как HMM видит только текущий вход. Это означает, что можно использовать сложные наборы функций.
обучение персонала
Как и все модели машинного обучения , CRF необходимо обучать ; то есть их параметры должны оцениваться по данным . Для этого существуют различные методы обучения, такие как метод градиента или метод квазиньютона . Указывается ряд последовательностей, для которых известны как вход, так и желаемый выход (это отслеживаемое обучение ). Затем процесс обучения пытается адаптировать параметры в CRF таким образом, чтобы правильная выходная последовательность предсказывалась для как можно большего числа последовательностей в обучающих данных.
Приложения
CRF успешно применялись для решения различных задач, таких как:
- Извлечение информации из текстов на естественном языке
- Морфологический анализ
- Классификация белков
- Прогнозирование вторичной структуры из ДНК и белков
- Распознавание и восстановление изображений
Смотри тоже
реквизиты для входа
- Дж. Лафферти, А. МакКаллум, Ф. Перейра: Условные случайные поля: вероятностные модели для сегментации и маркировки данных последовательности . В: Proc. 18-я Международная конф. по машинному обучению . Морган Кауфманн, Сан-Франциско, Калифорния, 2001 г., стр. 282-289 .
- А. МакКаллум: Эффективное наведение свойств условных случайных полей . В: Proc. 19-я конференция по неопределенности в искусственном интеллекте . 2003 г.
- Ф. Ша, Ф. Перейра: неглубокий анализ с условными случайными полями . Университет Пенсильвании, 2003 г. (Технический отчет MS-CIS-02-35).
- HM Wallach: Условные случайные поля: Введение . Университет Пенсильвании, 2004 г. (Технический отчет MS-CIS-04-21).
- К. Саттон, А. Маккаллум: Введение в условные случайные поля для реляционного обучения . В: Лиз Гетур, Бен Таскар (ред.): Введение в статистическое реляционное обучение . MIT Press, 2006.
- Р. Клингер, К. Томанек: классические вероятностные модели и условные случайные поля . Дортмундский технологический университет, декабрь 2007 г., ISSN 1864-4503 ( онлайн-PDF - отчет по разработке алгоритмов TR07-2-013).
- Т. Кудо, К. Ямамото, Ю. Мацумото: Применение условных случайных полей к японскому морфологическому анализу . 2004 ( PDF онлайн ).