Обзор современных исследований по проблеме качества обучения алгоритмов

Журнал: 
Страница: 
5
УДК: 
519.7:004.855.5
Приведен обзор основных идей теории обучаемых систем, связанных со способностью к обобщению и обоснованием алгоритмов обучения. Среди них - классическая статистическая теория Вапника-Червоненкиса и минимизация эмпирического риска, эффективная сложность, отступ, композиция алгоритмов (взвешенное голосование, бустинг, баггинг), стабильность метода обучения, скользящий контроль. Более подробно рассмотрен комбинаторный подход для обоснования невероятностной границы обобщения.
info_eng: 
The review considers basic ideas of machine learning theory concerning generalization bounds and learning algorithms grounds. Among them are: classical VC theory and structural risk min imization, effective VC-dimension and data-dependent bounds, margin, ensembles of algorithms (weighted voting, boosting and bagging), stability, cross-validation. A new combinatorial approach to proving non-probabilistic generalization bounds is considered a little more detailed.