Základní termíny neuronových sítí

Neuron je základní jednotka každé sítě. Obsahuje následující:

• vstupy a váhy na vstupech
• bázovou funkci, která spojuje vstupy do jedné hodnoty
• aktivační funkci, která na základě vstupů poskytne výstupní hodnotu
• výstupy, na které je tato hodnota vystavena

Bázová funkce může být:

• lineární (LBF): váhované vstupy se pouze sečtou
  • aktivační funkce je pak:
  • skoková (od určitého výsledku výše je na výstupu 1, jinak 0)
  • rampová (lineární na nějakém úseku)
  • sigmoida nebo hyperbolický tangens (podobné)
• radiální (RBF): vzdálenost vstupního vektoru od vektoru vah
  • aktivační funkce je pak:
  • skoková (po poloměr 1, dále než poloměr 0)
  • spojitá (s rostoucí vzdáleností klesá výstupní hodnota)

Perceptron je jediný neuron s LBF a skokovou aktivací. Umí separovat prostor na dvě třídy - učí se s učitelem.

Varianta perceptronu, která ovlivňuje sílu učení tak, že je více závislé na velikosti odchylky. Madaline: více paralelních Adaline neuronů.