Advances in minimum description length: Theory and applications pdf

Питер Грюнвальд возглавляет группу машинного обучения в CWI в Амстердаме, Нидерланды. Он также является профессором статистического обучения в математическом институте Лейденского университета. В настоящее время он является президентом Association for Computational Learning, организации, проводящей COLT, ведущую в мире ежегодную конференцию по теории машинного обучения, он был со-председателем программы COLT в 2015 году, а также возглавлял UAI - еще одну ведущую конференцию по машинному обучению - в 2010/2011. Помимо публикаций на сайтах ML, таких как NIPS, COLT и UAI, он также регулярно участвует в статистических журналах, таких как Annals of Statistics. Он является автором книги «Принцип минимальной длины описания» (MIT Press, 2007; см. Здесь актуальное (2020), гораздо более короткое введение), которая стала стандартным справочником для подхода MDL к обучению. В 2010 году он был совместно удостоен премии Ван Данцига, высшей голландской награды в области статистики и операционных исследований. Получил гранты NWO VIDI (2005 г.), VICI (2010 г.) и ТОП-1 (2016 г.).

Advances in minimum description length: Theory and applications pdf Петер Грюнвальд

The process of inductive inference—to infer general laws and principles from particular instances—is the basis of statistical modeling, pattern recognition, and machine learning. The Minimum Descriptive Length (MDL) principle, a powerful method of inductive inference, holds that the best explanation, given a limited set of observed data, is the one that permits the greatest compression of the data—that the more we are able to compress the data, the more we learn about the regularities underlying the data. Advances in Minimum Description Length is a sourcebook that will introduce the scientific community to the foundations of MDL, recent theoretical advances, and practical applications. The book begins with an extensive tutorial on MDL, covering its theoretical underpinnings, practical implications as well as its various interpretations, and its underlying philosophy. The tutorial includes a brief history of MDL—from its roots in the notion of Kolmogorov complexity to the beginning of MDL proper. The book then presents recent theoretical advances, introducing modern MDL methods in a way that is accessible to readers from many different scientific fields. The book concludes with examples of how to apply MDL in research settings that range from bioinformatics and machine learning to psychology.