KO’P SATHLI
NEYRON
TARMOQLAR
BAJARDI: XALILOV JASURBEK
Reja:
o Biologik neyron va Makkaloch va Pits neyronlarining rasmiy modeli.
o Oddiy tasniflash masalalarini bevosita bitta neyron bilan hal qilish qobiliyati.
o Bir qavatli neyron tarmoq va Rosenblat perseptroni.
o Ko'p qatlamli neyron tarmoqlar.
o Neyron tarmoqlar muammolari va istiqbollari.
Biologik neyron va Makkaloch va Pits
neyronlarining rasmiy modeli.
1943 yilda J. Makkulochi va V. Pitt biologik
neyronning bir nechta kirish (kirish sinapslari dendritlar) va bitta chiqish (chiqish sinapsi - akson)
bo'lgan qurilma sifatida rasmiy modelini taklif
qildilar.
Dendritlar axborot manbalaridan (retseptorlar)
ma'lumot oladi Li , ular ham neyronlar bo'lishi
mumkin.
Kirish signallari to'plami { L i } ob'ektni, uning
holatini yoki neyron tomonidan qayta ishlangan
vaziyatni tavsiflaydi.
J-neyronning har bir i-kirishiga ma'lum bir og'irlik koeffitsienti I ij tayinlanadi, bu esa ushbu kirish signalining
Y j signalini aniqlovchi uzatish (faollashtirish) funktsiyasi argumentiga ta'sir qilish
darajasini tavsiflaydi. neyron chiqishi . Kirish signallarining vaznli yig'indisi neyronda sodir
bo'ladi va keyin bu qiymat neyronning faollashtirish (o'tkazish) funktsiyasi
uchun argument sifatida ishlatiladi .
Klassik neyron modeli J. McCulloch
va W. Pitt tomonidan (1943) tizim axborot nazariyasining yozuvida
Oddiy tasniflash masalalarini bevosita
bitta neyron bilan hal qilish qobiliyati.
Tasavvur qilaylik , o'quvchilarning jinsini aniqlash masalasini ularning tashqi kuzatiladigan
xususiyatlaridan kelib chiqib hal qilish kerak .
Albatta, ishonchliroq usullar mavjud, ammo biz ularni ko'rib chiqmaymiz, chunki...
ular dastlabki ma'lumotni olish va vazifani arzimas narsaga aylantirish uchun qo'shimcha
xarajatlarni talab qiladi.
Shuning uchun biz quyidagi tavsiflovchi shkalalar va darajalarni ko'rib chiqamiz:
1. Soch uzunligi: uzun, o'rta, qisqa.
2. Shimlarning mavjudligi: ha, yo'q.
3. Parfyum yoki odekolondan foydalanish: ha, yo'q.
Og'irlik koeffitsientlarini aniqlash uchun jadval tuzamiz
OG'IRLIKNI ANIQLASH
NEYRON KOEFFITSIENTLARI TO'G'RIDAN-TO'G'RI
EMPIRIK DALILLARGA ASOSLANGAN
Bir qavatli neyron tarmoq va Rosenblat
perseptroni.
Tarixiy jihatdan idrok etish (idrok etish) va idrok etilgan stimulga reaktsiyani shakllantirish
qobiliyatiga ega bo'lgan birinchi sun'iy neyron tarmoq Rosenblattning Perceptron (F. Rosenblatt,
1957) edi. " Perceptron " atamasi lotincha perceptio so'zidan kelib chiqqan bo'lib , idrok, bilish
degan ma'noni anglatadi. Ushbu atamaning ruscha analogi "Perceptron" dir. Uning muallifi
perseptronni aniq texnik hisoblash qurilmasi sifatida emas, balki miya funktsiyasi modeli sifatida
ko'rib chiqdi. Sun'iy neyron tarmoqlar bo'yicha zamonaviy ishlar kamdan-kam hollarda bunday
maqsadni ko'zlaydi.
Eng oddiy klassik perseptron uchta turdagi elementlarni o'z ichiga oladi, ularning maqsadi odatda
yuqorida muhokama qilingan refleks neyron tarmog'ining neyroniga mos keladi.
S-elementlar tashqi dunyodan ikkilik signallarni qabul
qiluvchi sensorlar yoki retseptorlardir .
Har bir S-element ba'zi tavsif shkalasining ma'lum bir
gradatsiyasiga mos keladi.
Keyinchalik, signallar assotsiativ yoki A-elementlar
qatlamiga kiradi (S dan A-elementlarga ulanishlarning bir
qismi ko'rsatilgan).
Faqatgina rasmiy neyronlar bo'lgan assotsiativ elementlar
ulanishlarning o'zgaruvchan og'irliklarini hisobga olgan
holda bir qator S-elementlardan keladigan
ma'lumotlarni birgalikda qo'shimcha ishlov
berishni amalga oshiradi. Har bir A-element ba'zi tasniflash
shkalasining ma'lum bir gradatsiyasiga mos keladi.
F.Rozenblatt 4 bosqichdan iborat iterativ o‘rganish algoritmini taklif qildi, u vazn
matritsasini moslashtirishdan iborat bo‘lib, bu chiqish vektorlarida xatolikni izchil
kamaytiradi:
0-qadam:
Barcha neyronlarning og'irliklarining boshlang'ich
qiymatlari tasodifiy deb qabul qilinadi .
3-qadam:
Og'irlik koeffitsientlarining vektorlari shunday o'rnatiladiki, tuzatish
miqdori chiqishdagi xatoga mutanosib bo'ladi va xato nolga teng bo'lsa,
nolga teng bo'ladi:
- faqat nolga teng bo'lmagan kirish qiymatlariga mos keladigan og'irlik
matritsasining tarkibiy qismlari o'zgartiriladi;
- vazn o'sishi belgisi xato belgisiga mos keladi, ya'ni. ijobiy xato
(chiqish qiymati talab qilinganidan kamroq) aloqaning kuchayishiga
olib keladi;
1-qadam:
X a kirish tasviri tarmoqqa taqdim etiladi , natijada chiqish
- har bir neyronni o'rganish boshqa neyronlarni o'rganishdan mustaqil
ravishda sodir bo'ladi, bu biologik nuqtai nazardan muhim
bo'lgan mahalliy o'rganish printsipiga mos keladi .
tasviri olinadi.
4-qadam :
2-qadam:
Chiqishda tarmoq tomonidan qilingan xato vektori
hisoblanadi.
1-3 bosqichlar barcha trening vektorlari uchun takrorlanadi. Butun
namunani ketma-ket taqdim etishning bir tsikli davr deb ataladi. Agar
quyidagi shartlardan kamida bittasi bajarilsa, mashg'ulot bir necha
davrdan keyin tugaydi:
- iteratsiyalar yaqinlashganda, ya'ni. og'irliklar vektori o'zgarishni
to'xtatadi;
- barcha vektorlar bo'yicha yig'ilgan umumiy mutlaq xato ma'lum bir
kichik qiymatdan kam bo'lganda.
Ushbu o'qitish usuli F. Rosenblatt tomonidan " xato signalini qayta aloqa bilan tuzatish usuli " deb
nomlangan .
Bu tarmoq chiqishidan uning kirishiga xato signalini uzatishni bildiradi, bu erda og'irlik koeffitsientlari
aniqlanadi va ishlatiladi. Keyinchalik bu algoritm " d -qoida" deb nomlandi .
Ushbu algoritm nazorat ostidagi o'rganish algoritmlarining keng sinfiga tegishli , chunki unda nafaqat kirish
vektorlari,
balki chiqish vektorlarining qiymatlari ham ma'lum deb hisoblanadi, ya'ni. talabaning javobining to'g'riligini
baholashga qodir bo'lgan o'qituvchi bor, ikkinchisi esa neyron tarmoqdir. Rozenblat d- qoidasidan foydalanib,
“Ta’limning yaqinlashuvi haqidagi teorema”ni isbotladi. Bu teorema shuni ko'rsatadiki, perseptron o'zi
tasavvur qiladigan har qanday o'quv majmuasini o'rganishga qodir .
Ammo u qanday mashg'ulotlarni taqdim eta olishi haqida hech narsa aytilmagan. Bu savolga javobni keyingi
bo'limda olamiz.
Ko'p qatlamli neyron tarmoqlar.
Qanday qilib ko'p qatlamli (ierarxik) neyron tarmoqlari sinflarning chiziqli bo'linishi talabi bilan bog'liq
bo'lgan bir qatlamli neyron tarmoqlarning asosiy cheklanishini engib o'tishlari mumkin?
Ko'pincha bir vaqtning o'zida bajarib bo'lmaydigan narsalarni qismlarga bo'lish mumkin.
Buning uchun neyron tarmoq qatlamlari tomonidan hal qilinadigan vazifalar o'zgartiriladi.
Ma'lum bo'lishicha, 1-qavatda siz retseptorlar tomonidan qayd etilgan asosiy xususiyatlar asosida
sinflarni darhol aniqlashga urinmasligingiz kerak , faqat ikkinchi darajali xususiyatlarning chiziqli
bo'linadigan tizimini shakllantirishingiz kerak , bu 2-qavatdagi sinflar bilan bog'lanishi mumkin.
Ko'p qatlamli tarmoqda oldingi qatlam
neyronlarining chiqish signallari keyingi
qatlamning neyronlari uchun kirish signallari
rolini o'ynaydi, ya'ni. oldingi qatlamning
neyronlari keyingi qatlamning neyronlari
uchun retseptorlar vazifasini bajaradi .
Perseptron retseptorlarning qo'zg'alish darajasini belgilaydigan kirish tasvirini odatda unchalik ko'p
bo'lmagan eng yuqori darajadagi neyronlar tomonidan aniqlangan chiqish tasviriga aylantiradi. Tarmoq
ierarxiyasining yuqori darajasidagi neyronlarning qo'zg'alish holatlari kirish tasvirining ma'lum
sinflarga tegishliligini tavsiflaydi.
Shunday qilib, ko'p qatlamli perseptron - bu odatda tasodifiy tanlangan chiziqli chegara funktsiyalari
o'rnatiladigan ikkilamchi xususiyatlar makonida o'quv jarayonida sozlangan chiziqli qaror qoidasini
amalga oshiradigan o'rgatish mumkin bo'lgan tanib olish tizimi .
Trening davomida o'quv namunasidan signallar navbatma-navbat perseptronning
kirishiga, shuningdek, ushbu signalni tayinlash kerak bo'lgan sinf haqidagi ko'rsatmalarga beriladi.
Perseptronni o'rgatish har bir tanib olish xatosi uchun og'irliklarni tuzatishdan iborat, ya'ni perseptron
tomonidan ishlab chiqarilgan yechim va haqiqiy sinf o'rtasidagi nomuvofiqlikning har bir holati
uchun . Agar perseptron ma'lum bir sinfga signalni noto'g'ri belgilagan bo'lsa, u holda funktsiyaning
og'irliklari, haqiqiy sinf ortadi va xato sinfning og'irliklari kamayadi. Agar yechim to'g'ri bo'lsa,
barcha og'irliklar o'zgarishsiz qoladi.
Xopfild modeli
Xopfild modeli (JJHopfield, 1982) birinchi bo'lib chiziqli bo'lmagan dinamik tizimlar va neyron tarmoqlar
o'rtasidagi aloqani o'rnatdi.
Xopfild modeli ko'p qatlamli perseptron modeliga quyidagi ikkita yangi xususiyatni qo'shish orqali
umumlashtirishdir:
1. Neyron tarmog'ida barcha neyronlar bir-biri bilan bevosita bog'langan: i-neyron va j-neyron o'rtasidagi bog'lanish kuchi W ij sifatida belgilanadi .
2. Neyronlar orasidagi bog'lanishlar simmetrikdir: W ij =W ji , neyron o'zi bilan bog'lanmagan W ii =0.
Har bir neyron klassik formula bilan aniqlanadigan faqat ikkita holatni qabul qilishi mumkin.
Barcha neyronlarning qo'zg'alish holatlarining o'zgarishi ketma-ket yoki bir vaqtning o'zida (parallel) sodir bo'lishi
mumkin, ammo Xopfild tarmog'ining xususiyatlari dinamikaning turiga bog'liq emas.
Xopfild tarmog'i to'liq bo'lmagan va shovqinli manba ma'lumotlariga ega bo'lgan ob'ektlarni tanib olish
qobiliyatiga ega, ammo agar tasvir o'quv majmuasida taqdim etilgan asl holatiga nisbatan o'zgartirilsa yoki
aylantirilsa, buni amalga oshira olmaydi.
Neyron tarmoqlar muammolari va
istiqbollari.
Bizning fikrimizcha, neyron tarmoqlarning asosiy muammolariga quyidagilar kiradi:
1. Kirish signallari intensivligi va og'irlik koeffitsientlari ma'nosini mazmunli talqin qilishning
qiyinligi ("vazn koeffitsientlarini izohlash muammosi").
2. Argumentning qo'shimchaligini va neyronning faollashtirish (o'tkazish) funktsiyasi turini mazmunli
talqin qilish va asoslashning murakkabligi ("ko'chirish funktsiyasini izohlash muammosi").
3. Neyron birikmalarining strukturasini aniqlashda, og'irlik koeffitsientlari va uzatish funktsiyalarini
tanlashda yuzaga keladigan "kombinator portlash" ("o'lchovlilik muammosi").
4. "Chiziqli ajralish muammosi" neyronlarning qo'zg'alishi faqat mantiqiy 0 yoki 1 qiymatlarini qabul
qilganligi sababli yuzaga keladi.