Билет 41.Общая характеристика деревьев решений. Алгоритмы построения деревьев решений.
Методология2 комментарияВерсия для печати
Введение
Стремительное развитие информационных технологий, в частности, прогресс в методах сбора, хранения и обработки данных позволил многим организациям собирать огромные массивы данных, которые необходимо анализировать. Объемы этих данных настолько велики, что возможностей экспертов уже не хватает, что породило спрос на методы автоматического исследования (анализа) данных, который с каждым годом постоянно увеличивается.
Деревья решений – один из таких методов автоматического анализа данных. Первые идеи создания деревьев решений восходят к работам Ховленда (Hoveland) и Ханта(Hunt) конца 50-х годов XX века. Однако, основополагающей работой, давшей импульс для развития этого направления, явилась книга Ханта (Hunt, E.B.), Мэрина (Marin J.) и Стоуна (Stone, P.J) "ExperimentsinInduction", увидевшая свет в 1966г.
Терминология
Введем основные понятия из теории деревьев решений, которые будут употребляться в этой и последующих статьях.
| Название | Описание |
| Объект | Пример, шаблон, наблюдение |
| Атрибут | Признак, независимая переменная, свойство |
| Метка класса | Зависимая переменная, целевая переменная, признак определяющий класс объекта |
| Узел | Внутренний узел дерева, узел проверки |
| Лист | Конечный узел дерева, узел решения |
| Проверка (test) | Условие в узле |
Что такое дерево решений и типы решаемых задач
Деревья решений – это способ представления правил в иерархической, последовательной структуре, где каждому объекту соответствует единственный узел, дающий решение.
|
|
|
Под правилом понимается логическая конструкция, представленная в виде "если ... то ...".
Область применения деревья решений в настоящее время широка, но все задачи, решаемые этим аппаратом могут быть объединены в следующие три класса:
· Описание данных: Деревья решений позволяют хранить информацию о данных в компактной форме, вместо них мы можем хранить дерево решений, которое содержит точное описание объектов.
· Классификация: Деревья решений отлично справляются с задачами классификации, т.е. отнесения объектов к одному из заранее известных классов. Целевая переменная должна иметь дискретные значения.
· Регрессия: Если целевая переменная имеет непрерывные значения, деревья решений позволяют установить зависимость целевой переменной от независимых(входных) переменных. Например, к этому классу относятся задачи численного прогнозирования (предсказания значений целевой переменной).
Преимущества использования деревьев решений
Рассмотрев основные проблемы, возникающие при построении деревьев, было бы несправедливо не упомянуть об их достоинствах:
|
|
|
· быстрый процесс обучения;
· генерация правил в областях, где эксперту трудно формализовать свои знания;
· извлечение правил на естественном языке;
· интуитивно понятная классификационная модель;
· высокая точность прогноза, сопоставимая с другими методами (статистика, нейронные сети);
· построение непараметрических моделей.
В силу этих и многих других причин, методология деревьев решений является важным инструментом в работе каждого специалиста, занимающегося анализом данных, вне зависимости от того практик он или теоретик.
Области применения деревьев решений
Деревья решений являются прекрасным инструментом в системах поддержки принятия решений, интеллектуального анализа данных (datamining).
В состав многих пакетов, предназначенных для интеллектуального анализа данных, уже включены методы построения деревьев решений. В областях, где высока цена ошибки, они послужат отличным подспорьем аналитика или руководителя
Деревья решений успешно применяются для решения практических задач в следующих областях:
· Банковское дело. Оценка кредитоспособности клиентов банка при выдаче кредитов.
· Промышленность. Контроль за качеством продукции (выявление дефектов), испытания без разрушений (например проверка качества сварки) и т.д.
|
|
|
· Медицина. Диагностика различных заболеваний.
· Молекулярная биология. Анализ строения аминокислот.
Это далеко не полный список областей где можно использовать деревья решений. Не исследованы еще многие потенциальные области применения.
Дата добавления: 2018-04-15; просмотров: 340; Мы поможем в написании вашей работы! |
Мы поможем в написании ваших работ!