Штучне моделювання нейрона

Біологічний нейрон

Нервова система й мозок людини складаються з нейронів, з'єднаних між собою нервовими волокнами. Нервові волокна здатні передавати електричні імпульси між нейронами.

Нейрон (нервова клітина) є особливою біологічною клітиною, що обробляє інформацію (рис. 6.1). Він складається з тіла й відростків нервових волокон двох типів - дендритів, по яких приймаються імпульси, і єдиного аксона, по якому нейрон може передавати імпульс. Тіло нейрона включає ядро, що містить інформацію про спадкоємні властивості, та плазму, що володіє молекулярними засобами для виробництва необхідних нейрону матеріалів. Нейрон одержує сигнали (імпульси) від аксонів інших нейронів через дендрити (приймачі) та передає сигнали, які ґенерує тіло клітини, вздовж свого аксона (передавача), що наприкінці розгалужується на волокна. На закінченнях цих волокон перебувають спеціальні утворення - синапси, які впливають на силу імпульсу.

Рисунок 6.1 - Взаємозв’язок біологічних нейронів

Синапс є елементарною структурою й функціональним вузлом між двома нейронами (волокно аксона одного нейрона й дендрит іншого). Коли імпульс досягає синаптичного закінчення, вивільняються певні хімічні речовини, що називаються нейротрансмітерами. Нейротрансмітери дифундують через синаптичну щілину, збуджуючи або загальмовуючи, залежно від типу синапса, здатність нейрона-приймача ґенерувати електричні імпульси. Результативність синапса може настроюватися минаючими через нього сигналами, так що синапси можуть навчатися залежно від активності процесів, у яких вони беруть участь. Ця залежність від передісторії діє як пам'ять, що, можливо, відповідальна за пам'ять людини. Важливо зазначити, що вага синапсів може змінюватися згодом, що змінює й поведінку відповідного нейрона.

Штучне моделювання нейрона

Біологічний нейрон моделюється як пристрій, що має кілька входів (дендрити) і один вихід (аксон). Кожному входу ставиться у відповідність деякий ваговий коефіцієнт (w), що характеризує пропускну здатність каналу й оцінює ступінь впливу сигналу із цього входу на сигнал на виході. Залежно від конкретної реалізації, оброблювані нейроном сигнали можуть бути аналоговими або цифровими (1 або 0). У тілі нейрона відбувається зважене підсумовування вхідних збуджень, а далі це значення є арґументом активаційної функції нейрона. На рис. 6.2 показана його структура.

Рисунок 6.2 - Структура штучного нейрона

До складу нейрона входять множники (синапси), суматор і нелінійний перетворювач. Синапси здійснюють зв'язок між нейронами й множать вхідний сигнал на число, що характеризує силу зв'язку – вагу синапса. Суматор виконує додавання сигналів, що надходять по синаптичних зв'язках від інших нейронів, і зовнішніх вхідних сигналів. Нелінійний перетворювач реалізує нелінійну функцію виходу суматора. Ця функція називається функцією активації або передавальною функцією нейрона. Нейрон у цілому реалізує скалярну функцію векторного арґументу. Математична модель нейрона описується наступними співвідношеннями:

; (6.1)

, (6.2)

де - вага синапса (); b - значення зсуву; s - результат підсумовування; - компонент вхідного вектора (вхідний сигнал) (); y - вихідний сигнал нейрона; n - кількість входів нейрона; f - нелінійне перетворення (функція активації).

У загальному випадку вхідний сигнал, вагові коефіцієнти й значення зсуву можуть набувати дійсних значень. Вихід y визначається видом функції активації й може бути як дійсним, так і цілим. У багатьох практичних задачах входи, ваги й зсуви можуть набувати лише деяких фіксованих значень.

Синаптичні зв'язки з позитивними вагами називають збуджуючими, з негативними вагами - гальмуючими.

Таким чином, нейрон повністю описується своїми вагами та передавальною функцією f(s). Одержавши набір чисел (вектор) , які є входами, нейрон видає деяке число у на виході.

На вхідний сигнал s нелінійний перетворювач відповідає вихідним сигналом f(s), що являє собою вихід нейрона y. Приклади активаційних функцій подані в табл. 6.1 і на рис. 6.3.

Таблиця 6.1 - Перелік функцій активації нейронів

Функція активації	Формула	Область визначення
Порогова
Знакова (сигнатурна)
Сигмоїдальна (логістична)
Напівлінійна
Лінійна
Радіальна базисна (гауссова)
Напівлінійна з насиченням
Лінійна з насиченням
Гіперболічний танґенс (сигмоїдальна)
Трикутна