информация, язык, интеллект № 3 (77) 2011

More documents

Recommendations

Info

Е. А. Гофман, А. А. Олейник, С. А. Субботин 128 ⎧1 ( 1+ 2p− 1),если p> 0, 5; ⎪2 r( p) = ⎨ , (3) ⎪1 ( 1− 1− 2p),если p> 0, 5. ⎩⎪ 2 Таким образом, чем ближе значение вероятности к 0,5, тем выше модифицированное значение, а чем дальше от 0,5, тем значение ниже. Оценочная функция рассчитывается для всех возможных разбиений и выбирается разбиение с наименьшим значением оценочной функции. Разбиение начинается от корневого узла и продолжается до тех пор, пока не возникнет ситуация, когда невозможно произвести новое разбиение. После выполнения первого этапа может возникнуть ситуация «переобучения» дерева, что может привести к не совсем корректной работе дерева на тестовых выборках. В связи с этим на втором этапе производится усечение большого дерева, чтобы дерево меньших размеров давало более стабильные оценки вероятности и было более интерпретабельным. Далее описывается подход, который вместо урезания полного дерева будет производить переоценку вероятности каждого листового узла путем усреднения оценки вероятности по пути следования от корневого узла к листовому узлу. Для достижения данной цели была взята идея «утяжеления дерева» [8]. Если используется дерево для сжатия бинарного классового признака yi , основанного на xi , то в таком случае метод утяжеления дерева гарантирует, что коэффициент сжатия переоцененной вероятности не будет хуже, чем в успешно усечённом дереве. Так как предлагаемый метод применяется в большей степени к трансформированной оценке вероятности r( p), чем непосредственно к p , то теоретически результат может быть следующим: путем использования переоцененной вероятности можно достичь ожидаемую классификацию обучающего множества с не худшим результатом, чем у правильно усеченного дерева. Следует отметить, что данный подход также является сжатием, поскольку при помощи такого подхода оценка сжимается от дальних узлов дерева по направлению к оценкам узлов, которые находятся ближе к корню дерева. Пусть узлы T1 и T2 являются элементами одного уровня с общим родительским узлом T . Пусть pT ( 1 ) , pT ( 2 ) и pT ( ) будут соответствующими оценками вероятности. Локальная переоцененная вероятность это wT p( T) + ( 1−wT ) pT ( 1 ) для T1 и wT p( T) + ( 1−wT ) pT ( 2 ) для T2 . Локальная значимость wT и сопутствующая функция G( T) рассчитываются рекурсивно, основываясь на следующих формулах: wT c⋅exp( −| T | g( p( T ))) = − w exp( −| T | G( T ) −| T | GT ( )) , 1 t 1 1 2 2 g p T w w T c T GT T GT 1 ( ( )) + log(( 1+ ) T ) , T > , , | | | | | T ( ) = ( ) + | | 1 если 05 1 2 | 1 ( ) | T | log(( )( )), | | GT ⎧ ⎪ ⎪ ⎪ ⎨ 2 + ⎪ ⎪ 1 ⎪ + 1+ c 1−iwTвпротивном случае. ⎩ T Параметр с устанавливается априорно и показывает Байесову «оценку» разбиения. Для листового узла Т устанавливается: G( T) = g( p( T )) и wT =1. После вычисления значимостей wT для каждого узла рекурсивным методом (используется нисходящая рекурсия) необходимо рассчитать глобальную оценку вероятности для каждого узла дерева сверху вниз. Данный этап усредняет все оценки r(p) от корневого узла T0 к узлу Th по пути T0 , …, Th , основываясь на значимости wT . Следует отметить, что значимость wT является лишь локально важной. Это означает то, что глобальная значимость узла Th является wT * =∏ ( 1 − w ) w на всём пути. h ∑ 1 i< k i k По определению, i = wi = 1 для любого направления, ведущему к листу. По следующим рекурсивным формулам вычисляется глобальная переоценка подчиненных узлов T1 и T2 в родительском узле T : w = w ( 1 −w) , (4) Ti T T r *( T ) = r *( T) + w w r( pT ( )), i Ti Ti i (5) где r( p( T )) – преобразование по формуле (3) из оценки вероятности pT ( )в узле T . В корневом узле устанавливается: w = 1 . После вычисления r *( Th) для листового узла Th в качестве оценки вероятности −1 можно использовать следующее: r ( r( Th )) . Метка класса для Ti будет равна единице, если rT ( i ) > 05 , , в противном случае – нулю. Усечение дерева выполняется, начиная с основания по направлению вверх путем проверки идентичности узлов одного уровня. Если идентичность узлов выявлена, то они удаляются и используется значение родительского узла. Данная процедура будет продолжаться до тех пор, пока она не станет невозможной. Метод сглаживания последовательно улучшает работу дерева. Оценка временной сложности – OM ( ), где M – количество узлов неусеченного дерева. Неотъемлемой частью предложенного метода является этап преобразования дерева решений в эквивалентный набор легко поддающихся толкованию лингвистических правил. Важность такого преобразования объясняется двумя причинами. 1. Любому человеку легче понять и изменить набор правил, чем понять и изменить дерево решений. Потребность в таком изменении очевидна. Например, может возникнуть ситуация, когда имеется некоторое несоответствие между обучающей выборкой и реальной системой, что требует
ручной модификации автоматически созданной системы, и, таким образом, в системе, основанной на правилах, такую модификацию можно выполнить путём простого изменения соответствующих правил. 2. Тот факт, что набор правил логически эквивалентен соответствующему дереву решений для данной обучающей выборки, гарантирует, что любой математический анализ эффективности работы дерева решений относится не только к дереву решений, но и к соответствующему набору правил. Самый простой способ преобразования дерева в эквивалентный набор правил заключается в том, чтобы создать набор правил из правил, каждое из которых соответствует отдельному листу дерева путём формирования логического объединения условий на пути от корня дерева к листу. Предлагается подход, преобразующий дерево решений в набор логически эквивалентных правил. Целью предлагаемого подхода не является получение доказуемо минимального набора правил. Вместо этого с помощью предлагаемого подхода производится логическое усечение правил. 1. Проверка условий “>” и “
Page 1 and 2:
ИНФОРМАЦИЯ, ЯЗЫК, И
Page 3 and 4:
ТеореТические осно
Page 5 and 6:
алфавите (в только
Page 7 and 8:
Как узнать, какое ч
Page 9 and 10:
переменными нам пр
Page 11 and 12:
Предикат, принимаю
Page 13 and 14:
тить, что в предела
Page 15 and 16:
единицы в СДНФ; i, j -
Page 17 and 18:
f ″(а t+1 )≡1, поэтому
Page 19 and 20:
предварительно иск
Page 21 and 22:
определение поняти
Page 23 and 24:
некоторых узнавани
Page 25 and 26:
2) К скобочным форма
Page 27 and 28:
5) По имплицентной т
Page 29 and 30:
булевых уравнений [
Page 31 and 32:
Свойства введенных
Page 33 and 34:
но интерпретироват
Page 35 and 36:
типа (4, 3, 5) числа, за
Page 37 and 38:
оператор, который с
Page 39 and 40:
рациональных облас
Page 41 and 42:
тельным образом об
Page 43 and 44:
A1 . Чем больше крест
Page 45 and 46:
f(x 1 , x 2 , …, x n )≡ x a 1 1
Page 47 and 48:
Рассмотрим и доказ
Page 49 and 50:
Рис. 4. Неявная связ
Page 51 and 52:
y1, y2, y3 ; R - ассоцииру
Page 53 and 54:
Список литературы:
Page 55 and 56:
БИОНИКА ИНТЕЛЛЕКТА
Page 57 and 58:
DIsCreTe DYNamICal moDelING of sYsT
Page 59 and 60:
DIsCreTe DYNamICal moDelING of sYsT
Page 61 and 62:
рОЛЬ, ЗАДАЧИ И МЕТО
Page 63 and 64:
рОЛЬ, ЗАДАЧИ И МЕТО
Page 65 and 66:
БИОНИКА ИНТЕЛЛЕКТА
Page 67 and 68:
j плана содержания (
Page 69 and 70:
жения), а не математ
Page 71 and 72:
симпатии и антипат
Page 73 and 74:
претенденты незнак
Page 75 and 76:
МОДЕЛЬ ВЫБОрА ОПТИ
Page 77 and 78: МОДЕЛЬ ВЫБОрА ОПТИ
Page 79 and 80: СОЗДАНИЕ рЕГИОНАЛЬ
Page 85 and 86: инТеллекТуальная о
Page 87 and 88: При применении ВМ д
Page 89 and 90: БИОНИКА ИНТЕЛЛЕКТА
Page 91 and 92: рОЗрОБКА МЕТОДу ВИ
Page 93 and 94: рОЗрОБКА МЕТОДу ВИ
Page 95 and 96: ПОСТрОЕНИЕ ЧЕТЫрЁх
Page 97 and 98: ПОСТрОЕНИЕ ЧЕТЫрЁх
Page 99 and 100: Як відомо, оброблен
Page 101 and 102: а б в г Рис. 3. Графік
Page 103 and 104: КЛАСТЕрИЗАЦИЯ ДАНН
Page 105 and 106: дартному методу k-mea
Page 109 and 110: ОПТИМІЗАЦІЯ рІВНЯ
Page 111 and 112: ОПТИМІЗАЦІЯ рІВНЯ
Page 113 and 114: КА может находитьс
Page 115 and 116: размере поля M стро
Page 117 and 118: ячейки не менее (9 - m
Page 121 and 122: убыванию, является
Page 123 and 124: прохождение ЛП про
Page 125 and 126: Локально-параллель
Page 127: БИОНИКА ИНТЕЛЛЕКТА
Page 133 and 134: МОДЕЛЬ ОТрИЦАТЕЛЬН
Page 135 and 136: МОДЕЛЬ ОТрИЦАТЕЛЬН
Page 137 and 138: ОТОБрАЖЕНИЕ эЛЕМЕН
Page 145 and 146: Она обеспечивает в
Page 147 and 148: Рис. 3. Общая структ
Page 149 and 150: вания источников д
Page 153 and 154: КОНЦЕПЦІЇ уНІФІКАЦ
Page 155 and 156: КОНЦЕПЦІЇ уНІФІКАЦ
Page 159 and 160: нів утворює вектор
Page 161 and 162: з використанням ве
Page 163 and 164: Зарецкая Ирина Тим
Page 165 and 166: ПРАВИЛА оформлення
show all

информация, язык, интеллект № 3 (77) 2011

You also want an ePaper? Increase the reach of your titles

Delete template?

Save as template?