Foundations of Machine Learning (Second Edition) - это фундаментальный академический учебник по теории машинного обучения, написанный ведущими исследователями Мехрияром Мохри, Афшином Ростамизаде и Амитом Талвалкаром. Книга ориентирована на глубокое теоретическое понимание алгоритмов машинного обучения и предназначена для студентов магистратуры, аспирантов, исследователей и инженеров, работающих с ML на профессиональном уровне.
Второе издание существенно переработано и расширено. В книге подробно рассматриваются PAC-обучение, сложность Радемахера, VC-размерность, выбор моделей, методы опорных векторов, ядерные методы, бустинг, онлайн-обучение, многоклассовая классификация, ранжирование, регрессия, модели максимальной энтропии, алгоритмическая стабильность, снижение размерности и обучение с подкреплением. Значительное внимание уделяется оценкам обобщающей способности, регуляризации и связи с теорией игр.
Издание отличается строгой математической подачей материала, аккуратными доказательствами, интуитивными пояснениями и большим количеством упражнений, что делает его одним из ключевых учебников по теории машинного обучения.
Table of Contents
Preface
-
Introduction
1.1 What is machine learning?
1.2 What kind of problems can be tackled using machine learning?
1.3 Some standard learning tasks
1.4 Learning stages
1.5 Learning scenarios
1.6 Generalization
-
The PAC Learning Framework
2.1 The PAC learning model
2.2 Guarantees for finite hypothesis sets - consistent case
2.3 Guarantees for finite hypothesis sets - inconsistent case
2.4 Generalities
2.5 Chapter notes
2.6 Exercises
-
Rademacher Complexity and VC-Dimension
-
Model Selection
-
Support Vector Machines
-
Kernel Methods
-
Boosting
-
On-Line Learning
-
Multi-Class Classification
-
Ranking
-
Regression
-
Maximum Entropy Models
-
Conditional Maximum Entropy Models
-
Algorithmic Stability
-
Dimensionality Reduction
-
Learning Automata and Languages
-
Reinforcement Learning
Conclusion
Appendix A. Linear Algebra Review
Index