Feed on
Posts
Comments

Archive for April, 2008

Voici quelques liens vers des journaux scientifiques dédiés aux résultats négatifs.

L’autosupervision

Il y a aussi des problèmes non supervisés qui peuvent être écrits comme des problèmes supervisés. Par exemple, un réseau peut tenter d’apprendre tout simplement à reproduire les entrées en sortie. Dans ce cas, la paire d’entraînement (xp, dp) est donnée par (xp, xp). Pour un réseau acyclique à une couche cachée entrainé par la […]

La PCA se limite cependant à des statistiques de second ordre, c’est-à-dire à analyser les corrélations. Elle ne permet pas d’extraire de statistiques plus approfondies des données. C’est le but de l’analyse des composantes indépendantes (ICA, de l’anglais Independent Component Analysis). Cette méthode statistique consiste à rechercher les variables à l’origine des données observées. Ce […]

Une autre approche consiste à trouver un sous-espace de la distribution des données dans lequel se retrouve la majorité des données. Par exemple, notre système solaire, bien qu’il soit dans un espace tridimensionnel, est toujours représenté dans un plan. On peut expliquer une grande partie des données, des positions des planètes et de la rotation […]

Une première approche statistique en entraînement non supervisé est de tenter de reconstruire la fonction de distribution qui génère les données. Supposons un ensemble de vecteurs observés (échantillons indépendants) D = {x1,…,xP}, alors la vraisemblance des échantillons est donnée par :    

Équation 29

où θ est le vecteur de paramètres de la fonction de distribution p. Il suffit […]

Apprentissage non supervisé

Définition
L’apprentissage non supervisé a aussi pour but d’apprendre une fonction f:ÂN®ÂM (probabilité) ou f:ÂN®{1,…,M} (classification). Cependant, seuls les vecteurs d’entrées xp de la fonction sont fournis à l’algorithme. Celui-ci cherche généralement à trouver quelque chose de représentatif dans l’information fournie, de façon à trouver une représentation plus naturelle, plus utile ou plus efficace des données.
Si […]

J’ai été invité à présenter un survol de l’apprentissage (machine) par renforcement dans le cadre du cours d’apprentissage machine au DIRO (UdeM). La présentation était hier, et comme promis, voici les diapositives (pdf) de la présentation. Ma principale référence de base pour un tel survol est toujours le livre Reinforcement Learning: An Introduction par Sutton & Barto, […]