For faster navigation, this Iframe is preloading the Wikiwand page for Hopfieldova neuronová síť.

Hopfieldova neuronová síť

Hopfieldova síť se čtyřmi uzly

Hopfieldova síť, anglicky značeno Hopfiel network či Hopfiel (Auto-)Associative Memory (HAM), je jednovrstvá rekurentní umělá neuronová síť s plně vzájemně propojenými neurony popularizovaná Johnem Hopfieldem v roce 1982. Hopfieldovy sítě, tj. disktrétní resp. spojité, slouží k filtraci šumu resp. optimalizaci vybraných problémů. Hopfieldovy sítě také poskytují model pro pochopení lidské paměti.

Diskrétní Hopfieldova síť

[editovat | editovat zdroj]

Diskrétní Hopfieldova síť[1] je jednovrstvá rekurentní neuronová síť se skokovou bipolární přenosovou funkcí, pracující jako autoasociativní paměť, do které se ve fázi učení (učení bez učitele) uloží bipolární vzory obsažené v trénovacích datech. Tyto vzory, pokud se částečně poškodí a síti znovu předloží, tentokrát ve fázi vybavování, dokáže síť opravit. Během vybavování uloženého vzoru z paměti probíhá v síti rekurentní proces, tj. síť se snaží zaujmout stav s lokálně minimální energií, tj. výchozí stav padá do lokálního energetického minima (atraktoru) na dně oblasti jeho gradientního spádu, kde se nalézá uložený vzor. Během učení sítě však vznikají ale i tzv. falešné atraktory (poutače), tj. pokud je vzor více poškozen, může se výchozí stav sítě dostat do oblasti falešného atraktoru a síť si vybaví z paměti něco, s čím se během učení nesetkala (iluze již viděného). S počtem vzorů v trénovacích datech roste během učení i počet falešných atraktorů, tj. trénovací data nesmí obsahovat příliš velké množství vzorů, kapacita paměti sítě je tak omezena.

Energetická funkce stavu sítě má tvar:

tj. po naučení sítě:

kde je:

počet neuronů,
počet učících vzorů,
stav neuronu,
váha vazby mezi neurony,
vektor stavů neuronů (stav) sítě,
ortogonální projekce stavu sítě do nadroviny generované učícími vzory,

tj. vektor výchozího stavu sítě padá během rekurentního procesu vybavování stavu sítě z paměti do nadroviny generované dostatečně odlišitelnými (ortogonálními) bipolárními učícími vzory do lokálního minima energetické funkce, kde splyne se svou ortogonální projekcí.

Spojitá Hopfieldova síť

[editovat | editovat zdroj]

Spojitá Hopfieldova síť[2] má stejnou architekturu jako předchozí typ, pouze přenosové funkce neuronů nejsou skokové, ale spojité (sigmoida). Síť se neučí, váhy neurálních vazeb a prahy neuronů se nastaví extrakcí z objektivní funkce určením jejích příslušných parciálních derivací. Během vybavování výchozího stavu sítě probíhá v síti rekurentní proces, tj. síť se snaží zaujmout stav s lokálně minimální energií, během kterého postupně snižujeme hodnotu teploty (převrácená hodnota strmosti sigmoidy), tj. analogicky s metodou simulovaného žíhání tak, že ke konci rekurentního procesu vybavování se sigmoida začne limitně blížit skokové binární přenosové funkci. Taková síť (Boltzmannův stroj) pak umožňuje řešit jistou třídu optimalizačních úloh, vymezenou objektivními funkcemi ve tvaru kvadratické formy na oblasti binárních řešení, např. problém obchodního cestujícího.

Energetická funkce stavu sítě má tvar:

kde je:

počet neuronů,
stav neuronu,
váha vazby mezi neurony,
práh neuronu.
  1. HOPFIELD, J.J. Neural networks and physical systems with emergent collective computational abilities. [s.l.]: National Academy of Sciences 79 (8), 1982. 8 s. (anglicky) 
  2. HOPFIELD, J.J.; TANK, D.W. Neural computation of decisions in optimization problems. [s.l.]: Biological Cybernetics 52 (3), 1985. 12 s. (anglicky) 

Literatura

[editovat | editovat zdroj]

Související články

[editovat | editovat zdroj]
{{bottomLinkPreText}} {{bottomLinkText}}
Hopfieldova neuronová síť
Listen to this article

This browser is not supported by Wikiwand :(
Wikiwand requires a browser with modern capabilities in order to provide you with the best reading experience.
Please download and use one of the following browsers:

This article was just edited, click to reload
This article has been deleted on Wikipedia (Why?)

Back to homepage

Please click Add in the dialog above
Please click Allow in the top-left corner,
then click Install Now in the dialog
Please click Open in the download dialog,
then click Install
Please click the "Downloads" icon in the Safari toolbar, open the first download in the list,
then click Install
{{::$root.activation.text}}

Install Wikiwand

Install on Chrome Install on Firefox
Don't forget to rate us

Tell your friends about Wikiwand!

Gmail Facebook Twitter Link

Enjoying Wikiwand?

Tell your friends and spread the love:
Share on Gmail Share on Facebook Share on Twitter Share on Buffer

Our magic isn't perfect

You can help our automatic cover photo selection by reporting an unsuitable photo.

This photo is visually disturbing This photo is not a good choice

Thank you for helping!


Your input will affect cover photo selection, along with input from other users.

X

Get ready for Wikiwand 2.0 🎉! the new version arrives on September 1st! Don't want to wait?