Neurone artificiel

Un neurone artificiel , également appelé le l'unité semi-linéaire , le neurone de nanovolt de , le neurone binaire ou le neurone de McCulloch-Pitts de , est une abstraction des neurones biologiques et de l'unité de base dans un réseau neurologique artificiel . Le neurone artificiel reçoit une ou plusieurs entrées (représentant les une ou plusieurs dendrites ) et les additionne pour produire un résultat (synapse ). Habituellement les sommes de chaque noeud sont pesées, et la somme est passée par une fonction non linéaire du connue sous le nom de fonction d'activation de ou fonction de transfert . La forme canonique de fonctions de transfert est le sigmoïde, mais elles peuvent également prendre la forme d'autres fonctions non linéaires, de fonctions linéaires du par morceaux , ou de fonctions d'étape . Généralement, les fonctions de transfert sont augmentant monotoniquement .

Structure de base

Pour un neurone artificiel donné, laisser là être des entrées du m avec le X 0 de signaux par le m de du X et pèse le m de du W 0 au W .

Le rendement du k de neurone est : = de y_k de

\ varphi \ x_j laissé (\ de sum_ {j=0} ^m de w_ {kJ} \ droit)

Là où le \ varphi (phi) est la fonction de transfert.

Les propagations de rendement à la prochaine couche (par une synapse pesée) ou sort finalement du système comme partie ou tout les rendement.

Histoire

Le neurone artificiel original est l'unité de logique de seuil d'abord proposée par le Warren McCulloch et le Walter Pitts dans le 1943 . Comme fonction de transfert, il utilise un seuil de ou la fonction d'étape de Heaviside prenant les valeurs 1 ou 0 seulement. Les entrées et les sorties sont toutes les deux binaires. Les bords n'ont aucun poids, mais sont excitatoires ou inhibiteurs. L'excitation est additionnée pour calculer la valeur d'activation, avec chaque entrée contribuant une 1 valeur (des raccordements peuvent être repliés pour multiplier effectivement ceci par n'importe quel nombre entier). L'inhibition est absolue plutôt que le parent, voulant dire qu'une entrée inhibitrice active simple forcera le rendement d'un noeud à 0, indépendamment des valeurs des entrées excitatoires.

< ! -- La présente partie de l'article doit être augmentée -->

Types de fonctions de transfert

La fonction de transfert d'un neurone est choisie pour avoir un certain nombre de propriétés qu'augmenter ou simplifier le réseau contenant le neurone. Crucialement, par exemple, n'importe quel perceptron multicouche using une fonction de transfert linéaire du a un réseau à une seule couche équivalent ; une fonction non linéaire est donc nécessaire pour gagner les avantages d'un réseau multicouche.

Au-dessous de, le u se réfère dans toutes les caisses à la somme pesée de toutes les entrées au neurone, c. pour des entrées du n ,

u = \ x_ du w_ ^n de sum_ {I = 1} {I} {I}

là où le W est un vecteur des poids synaptiques de et du X est un vecteur des entrées.

Fonction d'étape

Le y de rendement de cette fonction de transfert est binaire, selon si l'entrée rencontre un seuil spécifique, le θ de . Le " ; signal" ; est envoyé, c. le rendement est placé à un, si l'activation rencontre le seuil.

y = \ est parti \ {\ commencent {matrice} 1 et \ mbox {si} u \ GE \ thêta \ \ 0 et \ mbox {si} u < \ thêta \ extrémité {} de matrice \ right.

Voir : Fonction d'étape de Heaviside

Combinaison linéaire

Le y d'unité de rendement est une somme ci-dessus linéairement pesée de ses entrées plus une limite de la polarisation de , semblable au θ de , qui est indépendant des entrées. le

y = \ a laissé (u + b \ droit)

Des réseaux basés sur cette formulation sont connus en tant que perceptrons '. Typiquement la fonction de transfert ci-dessus sous sa forme pure serait seulement utile dans un arrangement de la régression . Pour un arrangement binaire de classification, le signe du rendement dénote la classe prévue ; dans ce cas-ci il est plus sensible (et plus commode dans le cadre de l'algorithme d'étude) pour considérer comme étant les sorties positives 1 et sorties négatives à être 0, de ce fait ramenant la fonction de transfert à celle de la fonction d'étape ci-dessus, où \ thêta = - b.

Voir : Perceptron

sigmoïde

Une fonction non linéaire assez simple, le sigmoïde a également un dérivé facilement calculé, qui peut être important quand le calcul du poids met à jour dans le réseau. Elle rend ainsi le réseau plus facilement manipulable mathématiquement, et était attrayante aux premiers informaticiens qui ont dû réduire au minimum le volume des calculs de leurs simulations. Elle est généralement - vu dans les perceptrons multicouche using un algorithme de la rétropropagation .

< ! -- La présente partie de l'article doit être augmentée -->

Voir : Fonction sigmoïde

Algorithme du pseudo-code

Ce qui suit est une exécution simple de pseudo-code d'un TLU simple qui prend à les entrées booléennes de (vraies ou fausses), et des retours un simple booléen produit une fois activé. Un modèle orienté objectivement du est employé. Aucune méthode de formation n'est définie, puisque plusieurs existent. Si un modèle purement fonctionnel étaient employés, la classe TLU ci-dessous serait remplacée par une fonction TLU avec le seuil, les poids, et les entrées de paramètres d'entrée qui ont renvoyé une valeur booléenne du .

de la classe TLU de défini comme : de seuil du membre de données de : nombre de le membre de données de pèse le : la liste de numérote le de la taille X le feu du membre de fonction de ( d'entrées : liste de de booleans de de la taille X) : booléen de défini comme : variable du T : nombre de ← 0 de de T pour chaque de i dans le de 1 au de X : si entrées de (i) le est vrai de : ← de T T + poids (i) extrémité de si extrémité de pour chaque si de T > de seuil : de retour vrai autrement : de retour faux extrémité de si fonction de fin de classe d'extrémité de

Exemple de bilan

Critique

Le neurone artificiel est critiqué par Izhikevich pour ne pas être biologiquement réaliste. Bien que cet argument soit techniquement correct, il est en grande partie scolaire, car des neurones artificiels ne sont pas prévus pour modeler parfaitement les neurones biologiques , mais exécuter plutôt des calculs non linéaires complexes.

Voir également

Réseau neurologique
Perceptron
ADALINE
Le neurone biologique de modèle
Connexionisme

.

Random links:Frankfort, le Dakota du Sud | Mouche par Night (album) | Bob Horner | Yeovil (collège électoral BRITANNIQUE du Parlement) | Neurona_artificial