Оценивание смещения эмпирического риска для линейных классификаторов

Журнал: 
Страница: 
47
УДК: 
519.6
Рассматривается задача оценивания качества решающей функции распознавания по обучающей выборке. Для задачи распознавания образов в дискретном пространстве получены точные оценки смещения эмпирического риска, используемого в качестве оценки вероятности ошибочной классификации, что позволило определить погрешность оценок Вапника-Червоненкиса. В настоящей работе исследовалась возможность переноса полученного результата на непрерывный случай, для чего проведено статистическое моделирование построения оптимальной выборочной линейной разделяющей функции при наихудшем распределении в пространстве переменных. Полученные в результате моделирования значения смещения эмпирического риска оказываются практически совпадающими с точными оценками для дискретного случая при одинаковой емкости классов решающих функций.
info_eng: 
An empirical risk bias in classification problem is researched. Statistical modeling performed shows that the risk bias dependence on decision class capacity appears to be the same both for multinomial (discrete) case and for linear classifier. This result ensures that universal scaling of Vapnik - Chervonenkis bias estimations may be available since such scaling was obtained for a discrete case. To prove using an empirical risk as a risk estimator a comparison of it's volatility versus volatility of leave-one-out estimator is also performed.