Polarisation inductive

omp-sci-moignon

La polarisation inductive d'un algorithme de étude est l'ensemble de prétentions que l'étudiant emploie pour prévoir des sorties données les entrées qu'il n'a pas rencontrées (Mitchell, 1980).

Dans l'étude de machine , on vise à construire les algorithmes qui peuvent en mesure au apprennent pour prévoir un certain résultat de cible. Pour réaliser ceci, l'algorithme d'étude est présenté quelques exemples de formation qui démontrent la relation prévue des valeurs d'entrée et de rendement. Alors l'étudiant est censé rapprocher le rendement correct, même par les exemples qui n'ont pas été montrés pendant la formation. Sans aucune prétention additionnelle, cette tâche ne peut pas n'être résolue exactement puisque les situations invisibles pourraient avoir une valeur arbitraire de rendement. Le genre de prétentions nécessaires au sujet de la nature de la fonction de cible sont englobés dans la polarisation inductive (Mitchell, 1980 de de limite ; desJardins et Gordon, 1995).

Un exemple classique d'une polarisation inductive est le rasoir d'Occam de , supposant qu'à hypothèse conformée la plus simple au sujet de la fonction de cible est réellement le meilleur. Ici le à conformé signifie que l'hypothèse de l'étudiant rapporte les sorties correctes pour tous les exemples qui ont été donnés à l'algorithme.

Des approches à une définition plus formelle de polarisation inductive sont basées sur la logique mathématique . Ici, la polarisation inductive est une formule logique qui, ainsi que les données de formation, nécessite logiquement l'hypothèse produite par l'étudiant. Malheureusement, ce formalisme strict échoue dans beaucoup de cas pratiques, où la polarisation inductive peut seulement être donnée comme description approximative (par exemple dans le cas de réseaux neurologiques ), ou pas du tout.

Types de polarisations inductives

Ce qui suit est une liste de polarisations inductives communes dans des algorithmes d'étude de machine.
L'indépendance conditionnelle de maximum de : si l'hypothèse peut être moulée dans un cadre bayésien du , essai pour maximiser l'indépendance conditionnelle. C'est la polarisation utilisée dans le classificateur naïf de Bayes de .
Erreur minimum de la contre-vérification de : en essayant de choisir parmi des hypothèses, choisir l'hypothèse avec la plus basse erreur de contre-vérification. Bien que la contre-vérification puisse sembler être exempte de polarisation, le aucuns théorèmes libres du déjeuner prouvent que la contre-vérification doit être décentrée.
Marge maximum : en dessinant une frontière entre deux classes, tentative de maximiser la largeur de la frontière. C'est la polarisation utilisée dans des machines de vecteur de soutien de . La prétention est que des classes distinctes tendent à être séparées par des frontières larges.
longueur minimum de description de de : en formant une hypothèse, tentative de réduire au minimum la longueur de la description de l'hypothèse. La prétention est que des hypothèses plus simples sont pour être vraies. Voir le rasoir d'Occam de .
Le minimum de comporte : à moins qu'il y ait de bonne évidence qu'un dispositif est utile, il devrait être supprimé. C'est la prétention derrière des algorithmes de la sélection de mode .
Les voisins les plus proches : supposer que la plupart des cas dans un petit voisinage dans l'espace de dispositif appartiennent à la même classe. Donné un cas pour lequel la classe est inconnue, deviner qu'elle appartient à la même classe que la majorité dans son voisinage immédiat. C'est la polarisation utilisée dans l'algorithme voisin K-proche . La prétention est que les cas qui sont près de l'un l'autre tendent à appartenir à la même classe.

Décalage de polarisation

Bien que la plupart des algorithmes d'étude aient une polarisation statique, quelques algorithmes sont conçus pour décaler leur polarisation pendant qu'ils acquièrent plus de données (Utgoff, 1984). Ceci n'évite pas de biais, puisque le processus polarisé de décalage lui-même doit avoir une polarisation.

Voir également

polarisé
Polarisation cognitive
aucun déjeuner libre dans la recherche et l'optimisation

Random links: