Wykład 6: Sieci Neuronowe

Historia SN• Badania nad sieciami neuronowymi miały już swoje początki w latachczterdziestych. McCulloch i Pitts w 1943 roku przedstawili pierwszyformalny model neuronu w postaci układu arytmetyczno-logicznego. Jegoidea przetrwała lata i stanowi do dzisiaj podstawowe ogniwo większościużywanych modeli. Istotnym elementem tego modelu jest sumowaniesygnałów wejściowych z odpowiednią wagą i poddanie otrzymanej sumydziałaniu nieliniowej funkcji aktywacji. Sieci wykorzystujące ten model niezostały praktycznie zrealizowane w ówczesnej technice, jednak wywarływpływ na późniejszy rozwój tej dziedziny.• W kilka lat później Hebb (1949) odkrył, że informacja może byćprzechowywana w strukturze połączeń pomiędzy neuronami, i jakopierwszy zaproponował metodę uczenia sieci polegającą na zmianach wagpołączeń pomiędzy neuronami. Zaproponowana metoda nazywana jestdzisiaj regułą Hebba.