O’ZBEKISTON RESPUBLIKASI OLIY VA O’RTA
MAXSUS TA’LIMI VAZIRLIGI MUHAMMAD ALXORAZMIY NOMIDAGI TOSHKENT AXBOROT
TEXNOLOGIYALARI UNIVERSITETI FARG’ONA
FILIALID DASTURIY INJINERING VA RAQAMLI
IQTISODIOT FAKULTETI AXBOROT
XAVFSIZLIGI YO’NALISHI
3-KURS “641-21” GURUH TALABASI
KUCHKAROV BAXROMJONning
MASHINALI O’QITISH FANIDAN
MUSTAQIL ISHI
BAJARDI:
KUCHKAROV.B.K
QABUL QILDI:
ISROILOV.SH.M
Farg’ona 2023
Mavzu: Ko’p sathli neyron tarmoqlar
Reja:
1.
2.
3.
4.
5.
6.
Sun'iy neyron tarmoqlari, Biologiyadan parallellik
Neyron tarmoq arxitekturasi, Neyron tarmoq uchun ma'lumotlar yig'ish
Ko'p qatlamli perseptron ( MLP )
Ko'p qatlamli perceptron treningi
Xulosa
Foydalanilgan adabiyot
1.
Sun'iy neyron tarmoqlari
Sun'iy neyron tarmoqlar (ANN) - bu biologik neyron tarmoqlar - tirik
organizm nerv hujayralari tarmoqlarini tashkil etish va ishlash printsipi asosida
qurilgan matematik modellar, shuningdek ularning dasturiy yoki apparat ta'minoti.
Bu kontseptsiya miyada sodir bo'ladigan jarayonlarni o'rganish va bu jarayonlarni
modellashtirishga harakat qilishda paydo bo'lgan . Birinchi bunday urinish
McCulloch va Pittsning neyron tarmoqlari edi. Keyinchalik, o'rganish algoritmlari
ishlab chiqilgandan so'ng, natijada olingan modellar amaliy maqsadlarda qo'llanila
boshlandi: muammolarni bashorat qilishda, naqshni aniqlashda, boshqaruv
muammolarida va boshqalar.
ANN - bu bog'langan va o'zaro ta'sir qiluvchi oddiy protsessorlar (sun'iy
neyronlar) tizimi. Ushbu protsessorlar odatda juda oddiy, ayniqsa shaxsiy
kompyuterlarda ishlatiladigan protsessorlarga nisbatan. Bunday tarmoqdagi har bir
protsessor faqat vaqti-vaqti bilan qabul qiladigan signallar va vaqti-vaqti bilan
boshqa protsessorlarga yuboradigan signallar bilan ishlaydi. Va shunga qaramay,
boshqariladigan o'zaro ta'sirga ega etarlicha katta tarmoqqa ulanganda, bunday
mahalliy oddiy protsessorlar birgalikda juda murakkab vazifalarni bajarishga qodir.
Mashinani o'rganish nuqtai nazaridan, neyron tarmoq naqshni aniqlash
usullari, diskriminant tahlili, klasterlash usullari va boshqalarning alohida holatidir.
Matematik nuqtai nazardan, neyron tarmoqlarni o'qitish ko'p parametrli chiziqli
bo'lmagan optimallashtirish muammosidir. Kibernetika nuqtai nazaridan neyron
tarmoq adaptiv boshqaruv masalalarida va robototexnika uchun algoritm sifatida
qo'llaniladi. Kompyuter texnologiyalari va dasturlashning rivojlanishi nuqtai
nazaridan neyron tarmoq samarali parallellik muammosini hal qilish usuli
hisoblanadi. Sun'iy intellekt nuqtai nazaridan esa, ANN konnektivizm falsafiy
harakatining asosi va kompyuter algoritmlari yordamida tabiiy aqlni qurish
(modellash) imkoniyatlarini o'rganishga tizimli yondashuvning asosiy yo'nalishi
hisoblanadi.
Suniy neyron tarmoq tuzilishi.
Neyron tarmoqlar so'zning odatiy ma'nosida dasturlashtirilmagan, ular
o'qitilgan. O'rganish qobiliyati neyron tarmoqlarning an'anaviy algoritmlarga
nisbatan asosiy afzalliklaridan biridir. Texnik jihatdan o'rganish neyronlar orasidagi
bog'lanish koeffitsientlarini topishdan iborat. O'qitish jarayonida neyron tarmoq
kirish ma'lumotlari va chiqish ma'lumotlari o'rtasidagi murakkab bog'liqlikni
aniqlashga, shuningdek umumlashtirishni amalga oshirishga qodir. Bu shuni
anglatadiki, mashg'ulotlar muvaffaqiyatli o'tgan taqdirda, tarmoq o'quv majmuasida
etishmayotgan ma'lumotlar, shuningdek, to'liq bo'lmagan va/yoki "shovqinli",
qisman buzilgan ma'lumotlar asosida to'g'ri natijani qaytarishi mumkin bo'ladi.
Suniy neyron tarmoq sintez qilishi.
1.2
Biologiyadan parallellik
Neyron tarmoqlari sun'iy intellekt sohasidagi tadqiqotlar natijasida paydo
bo'ldi, ya'ni miyaning past darajadagi tuzilishini simulyatsiya qilish orqali biologik
asab tizimlarining xatolarni o'rganish va tuzatish qobiliyatini takrorlashga urinishlar
(Patterson, 1996 ) . 60-80-yillarda sun'iy intellektni tadqiq qilishning asosiy
yo'nalishi ekspert tizimlari edi. Bunday tizimlar fikrlash jarayonini yuqori darajadagi
modellashtirishga asoslangan edi (xususan, bizning fikrlash jarayonimiz belgilarni
manipulyatsiya qilish asosida qurilgan degan g'oyaga asoslanadi). Tez orada ma'lum
bo'ldiki, bunday tizimlar, garchi ba'zi sohalarda foydali bo'lsa-da, inson aqlining
ba'zi muhim jihatlarini qamrab olmagan. Bir qarashga ko'ra, buning sababi shundaki,
ular miya tuzilishini qayta ishlab chiqara olmaydi. Sun'iy intellektni yaratish uchun
shunga o'xshash arxitekturaga ega tizimni qurish kerak.
Miya juda ko'p sonli (taxminan 10 000 000 000) neyronlardan iborat bo'lib,
ular ko'p sonli ulanishlar bilan bog'langan (har bir neyron uchun o'rtacha bir necha
ming ulanish, lekin bu raqam juda o'zgarishi mumkin). Neyronlar elektrokimyoviy
signallarni uzatishga qodir bo'lgan maxsus hujayralardir. Neyron axborot kiritish
(dendritlar), yadro va tarmoqlanuvchi chiqish (akson)ning tarmoqlangan tuzilishiga
ega. Hujayra aksonlari sinapslar yordamida boshqa hujayralarning dendritlari bilan
bog'lanadi. Faollashtirilganda, neyron o'z aksoni bo'ylab elektrokimyoviy signal
yuboradi. Sinapslar orqali bu signal boshqa neyronlarga etib boradi va ular o'z
navbatida faollashishi mumkin. Neyron uning yadrosiga dendritlardan keladigan
signallarning umumiy darajasi ma'lum darajadan oshib ketganda faollashadi
(faollashuv chegarasi).
Neyron tomonidan qabul qilingan signalning intensivligi (va shuning uchun
uni faollashtirish imkoniyati) sinapslarning faolligiga juda bog'liq. Har bir
sinapsning uzunligi bor va maxsus kimyoviy moddalar uning bo'ylab signal uzatadi.
Neyrotizimlarning eng nufuzli tadqiqotchilaridan biri Donald Xebb o'rganish
birinchi navbatda sinaptik aloqalarning "kuchliligi" o'zgarishidan iborat, deb
ta'kidladi. Masalan, Pavlovning klassik tajribasida itni ovqatlantirishdan oldin har
safar qo'ng'iroq chalinardi va it tezda qo'ng'iroq chalinishini ovqat bilan bog'lashni
o'rgandi. Bosh miya po‘stlog‘ining eshitish uchun mas’ul bo‘lgan sohalari bilan
so‘lak bezlari o‘rtasidagi sinaptik aloqalar mustahkamlanib, po‘stloq qo‘ng‘iroq
ovozi bilan qo‘zg‘alganda, itning so‘laklari oqishi boshlandi.
Shunday qilib, juda ko'p sonli juda oddiy elementlardan (ularning har biri
kirish signallarining vaznli yig'indisini oladi va agar umumiy kirish ma'lum
darajadan oshsa, ikkilik signalni uzatadi) qurilgan bo'lsa, miya juda murakkab
muammolarni hal qilishga qodir. . Albatta, biz bu yerda miyaning ko‘p murakkab
jihatlariga to‘xtalib o‘tmaganmiz, lekin qiziq tomoni shundaki, sun’iy neyron
tarmoqlar yuqorida tavsiflanganidan unchalik murakkab bo‘lmagan model
yordamida ajoyib natijalarga erisha oladi.
Tugun. 1 neyron
2.
Neyron tarmoq arxitekturasi
ANNni sun'iy neyronlar tugunlar bo'lgan og'irlikdagi ulanishlarga ega
yo'naltirilgan grafik sifatida ko'rib chiqish mumkin. Ulanishlar arxitekturasidan
kelib chiqib, ANN larni ikki sinfga (4-rasm) guruhlash mumkin: grafiklarda halqalar
bo‘lmagan oldinga yo‘naltiriladigan tarmoqlar va takroriy tarmoqlar yoki qayta
aloqa bog‘langan tarmoqlar.
Tugun. ANN ulanishlar arxitekturasi
Ko'p qatlamli perseptronlar deb ataladigan birinchi darajali tarmoqlarning eng
keng tarqalgan oilasida neyronlar qatlamlarda joylashgan va qatlamlar o'rtasida bir
yo'nalishli aloqalarga ega. Shaklda. 4-rasmda har bir sinfning tipik tarmoqlari
ko'rsatilgan. Oldinga uzatish tarmoqlari ma'lum bir kirish uchun tarmoqning oldingi
holatiga bog'liq bo'lmagan bitta chiqish qiymatlari to'plamini ishlab chiqaradigan
ma'noda statikdir. Takroriy tarmoqlar dinamikdir, chunki teskari aloqa tufayli
ulardagi neyronlarning kirishlari o'zgartiriladi, bu esa tarmoq holatining o'zgarishiga
olib keladi.
2.2 Neyron tarmoq uchun ma'lumotlar yig'ish.
Agar muammo neyron tarmoq yordamida hal etilsa, u holda o'quv
ma'lumotlarini yig'ish kerak. O'quv ma'lumotlar to'plami - bu kirish va chiqish
o'zgaruvchilari qiymatlari ko'rsatilgan kuzatishlar to'plami. Qaysi o'zgaruvchilardan
foydalanish va qancha (va qaysi) kuzatuvlarni to'plash kerakligini hal qilish kerak
bo'lgan birinchi savol.
O'zgaruvchilarni tanlash (hech bo'lmaganda boshlang'ich) intuitiv ravishda
amalga oshiriladi. Mavzu sohasidagi tajribangiz qaysi o'zgaruvchilar muhimligini
aniqlashga yordam beradi.
Neyron tarmoqlar ma'lum cheklangan diapazonda joylashgan raqamli
ma'lumotlar bilan ishlashi mumkin. Bu ma'lumotlar standart miqyosda bo'lmaganda,
qiymatlar etishmayotganda va ma'lumotlar raqamli bo'lmaganda muammolarni
keltirib chiqaradi.
Raqamli bo'lmagan ma'lumotlar bilan ishlash qiyinroq vazifadir. Ko'pincha
raqamli bo'lmagan ma'lumotlar Jins = {Erkak, Ayol} tipidagi nominal o'zgaruvchilar
ko'rinishida taqdim etiladi.
Masalan, biz neyron tarmog'ini ko'chmas mulk qiymatini baholashni
o'rgatmoqchimiz. Uyning narxi ko'p jihatdan u shaharning qaysi hududida
joylashganiga bog'liq. Shaharni o'z nomlari bilan bir necha o'nlab tumanlarga bo'lish
mumkin va tumanni belgilash uchun nominal qiymatlarga ega o'zgaruvchini kiritish
tabiiy ko'rinadi. Afsuski, bu holda neyron tarmoqni o'rgatish juda qiyin bo'ladi va
buning o'rniga har bir tumanga ma'lum bir reytingni (ekspert baholari asosida)
belgilash yaxshiroqdir.
Boshqa turdagi raqamli bo'lmagan ma'lumotlar raqamli shaklga aylantirilishi
yoki ahamiyatsiz deb e'lon qilinishi mumkin. Sana va vaqt qiymatlari, agar kerak
bo'lsa, ulardan boshlanish sanasini (vaqtini) ayirish orqali raqamli qiymatlarga
aylantirilishi mumkin. Pul belgilarini aylantirish qiyin emas. Siz ixtiyoriy matn
maydonlari (masalan, odamlarning familiyalari) bilan ishlay olmaysiz va ularni
ahamiyatsiz qilishingiz kerak.
Tarmoqni o'rgatish uchun qancha kuzatish kerakligi haqidagi savol ko'pincha
qiyin. Kerakli kuzatuvlar sonini tarmoq hajmi bilan bog'laydigan bir qator evristik
qoidalar mavjud (ulardan eng oddiyi kuzatuvlar soni tarmoqdagi ulanishlar sonidan
o'n barobar ko'p bo'lishi kerakligini aytadi). Aslida, bu raqam, shuningdek, neyron
tarmog'i qayta ishlab chiqarishga intilayotgan xaritalashning (oldindan noma'lum)
murakkabligiga bog'liq. O'zgaruvchilar soni ortib borishi bilan talab qilinadigan
kuzatuvlar soni nochiziqli ravishda o'sib boradi, shuning uchun hatto juda kichik
(masalan, ellik) o'zgaruvchilar soni bilan ham juda ko'p kuzatuvlar talab qilinishi
mumkin. Ushbu qiyinchilik "o'lchovlilik la'nati" deb nomlanadi va biz bu haqda
keyinroq ushbu bobda muhokama qilamiz.
Ko'pgina real muammolar uchun bir necha yuz yoki mingta kuzatishlar etarli.
Ayniqsa, murakkab masalalar uchun undan ham kattaroq son talab qilinishi mumkin,
lekin yuztadan kam kuzatuv yetarli bo'lgan (hatto arzimas) muammoga duch kelish
juda kam uchraydi. Agar bu erda ko'rsatilganidan kamroq ma'lumot mavjud bo'lsa,
unda siz tarmoqni o'rgatish uchun etarli ma'lumotga ega emassiz va siz qila oladigan
eng yaxshi narsa ma'lumotlarga qandaydir chiziqli modelni moslashtirishga harakat
qilishdir.
3. Ko'p qatlamli perseptron (MLP)
Bu, ehtimol, bugungi kunda eng ko'p ishlatiladigan tarmoq arxitekturasi. U
Rumelhart va McClelland (1986) tomonidan taklif qilingan va neyron tarmoqlar
bo'yicha deyarli barcha darsliklarda batafsil muhokama qilingan. Ushbu turdagi
tarmoq yuqorida qisqacha tavsiflangan. Tarmoqning har bir elementi atama sifatida
sozlangan o'z kirishlarining vaznli yig'indisini tuzadi va keyin ushbu elementning
chiqish qiymatini ishlab chiqarish uchun ushbu faollashtirish qiymatini uzatish
funktsiyasi orqali o'tkazadi. Elementlar to'g'ridan-to'g'ri signal uzatilishi bilan
qatlam-qatlam topologiyasida tashkil etilgan. Bunday tarmoqni kirish-chiqish
modeli sifatida osongina talqin qilish mumkin, unda vaznlar va chegaralar (biaslar)
modelning erkin parametrlari hisoblanadi. Bunday tarmoq deyarli har qanday
murakkablik darajasidagi funksiyani modellashtirishi mumkin, bunda qatlamlar soni
va har bir qatlamdagi elementlar soni funksiyaning murakkabligini belgilaydi.
Oraliq qatlamlar sonini va ulardagi elementlar sonini aniqlash MLPni loyihalashda
muhim masala hisoblanadi.
Kirish va chiqish elementlarining soni muammoning shartlari bilan
belgilanadi. Qaysi kirish qiymatlaridan foydalanish va qaysi birini ishlatmaslik
haqida shubhalar paydo bo'lishi mumkin, bu masalaga keyinroq qaytamiz. Hozircha
biz kirish o'zgaruvchilari intuitiv ravishda tanlangan va ularning barchasi muhim deb
taxmin qilamiz. Ularda qancha oraliq qatlam va elementlardan foydalanish kerakligi
haqidagi savol hali ham to'liq noaniq. Dastlabki taxmin sifatida biz bitta oraliq
qatlamni olamiz va undagi elementlar sonini kirish va chiqish elementlari sonining
yarmiga teng qilib belgilashimiz mumkin. Shunga qaramay, biz bu masalani
keyinroq batafsilroq muhokama qilamiz.
4. Ko'p qatlamli perseptronlarni tayyorlash
Qatlamlar soni va ularning har biridagi elementlar soni aniqlangandan so'ng,
tarmoq tomonidan ishlab chiqarilgan prognozdagi xatolikni minimallashtiradigan
tarmoqning og'irliklari va chegaralari uchun qiymatlarni topish kerak. Bu o'rganish
algoritmlari uchun. Yig'ilgan tarixiy ma'lumotlardan foydalanib, og'irliklar va
chegaralar ushbu xatoni minimallashtirish uchun avtomatik ravishda o'rnatiladi.
Asosan, bu jarayon tarmoq tomonidan amalga oshirilgan modelni mavjud o'quv
ma'lumotlariga moslashtirishdir. Muayyan tarmoq konfiguratsiyasi uchun xato
tarmoq orqali barcha mavjud kuzatuvlarni bajarish va haqiqiy chiqish qiymatlarini
kerakli (maqsadli) qiymatlar bilan taqqoslash orqali aniqlanadi. Bunday farqlarning
barchasi xato funktsiyasi deb ataladigan narsaga jamlanadi, uning qiymati tarmoq
xatosi hisoblanadi. Xato funktsiyasi ko'pincha kvadrat xatolar yig'indisi sifatida
qabul qilinadi, ya'ni. barcha kuzatishlar uchun chiqish elementlarining barcha
xatolari kvadratga aylantirilganda va keyin yig'ilganda.
An'anaviy modellashtirishda (masalan, chiziqli modellashtirish) belgilangan
xato uchun mutlaq minimumni ishlab chiqaradigan model konfiguratsiyasini
algoritmik tarzda aniqlash mumkin. Neyron tarmoqlarning kattaroq (chiziqli
bo'lmagan) modellashtirish imkoniyatlari uchun biz to'laydigan narx shundan
iboratki, biz tarmoqni xatolarni minimallashtirish uchun sozlaganimizda, biz bundan
ham kichikroq xatoga erisha olmasligimizga hech qachon ishonch hosil qila
olmaymiz.
Xato yuzasi tushunchasi bu mulohazalarda juda foydali. Tarmoq og'irliklari
va chegaralarining har biri (ya'ni, modelning erkin parametrlari; ularning umumiy
soni N bilan belgilanadi) ko'p o'lchovli makonda bitta o'lchamga mos keladi. N+1
o'lchovi tarmoq xatosiga mos keladi. Og'irliklarning barcha mumkin bo'lgan
kombinatsiyalari uchun mos keladigan tarmoq xatosi N+1 o'lchovli fazodagi nuqta
bilan ifodalanishi mumkin va bunday nuqtalarning barchasi u erda ma'lum bir sirtni
- xato sirtini hosil qiladi. Neyron tarmog'ini o'rgatishdan maqsad bu ko'p o'lchovli
sirtdagi eng past nuqtani topishdir.
Xato funktsiyasi sifatida kvadratlar yig'indisiga ega chiziqli modelda, bu xato
yuzasi paraboloid (kvadrik) bo'ladi - tekis sirt, shar yuzasining bir qismiga o'xshash,
bitta minimumga ega. Bunday vaziyatda ushbu minimumni mahalliylashtirish juda
oddiy.
Neyron tarmog'i holatida xato yuzasi ancha murakkab tuzilishga ega va bir
qator noxush xususiyatlarga ega, xususan, u mahalliy minimallarga ega bo'lishi
mumkin (ba'zi mahallalarda eng past nuqtalar, lekin global miqyosdan yuqorida
joylashgan nuqtalar). minimal), tekis joylar, egar nuqtalari va uzun tor jarliklar.
Xato yuzasida global minimumning o'rnini analitik usullar bilan aniqlash
mumkin emas, shuning uchun neyron tarmoqni o'rgatish mohiyatan xato sirtini
o'rganishdan iborat. Og'irliklar va chegaralarning tasodifiy boshlang'ich
konfiguratsiyasidan (ya'ni, xato yuzasidagi tasodifiy nuqta) boshlab, o'rganish
algoritmi asta-sekin global minimumni topadi. Odatda, bu ma'lum bir nuqtada xato
yuzasining gradientini (qiyalik) hisoblash va keyin bu ma'lumotlardan nishabdan
pastga siljish uchun foydalanish orqali amalga oshiriladi. Oxir-oqibat, algoritm
pastki nuqtada to'xtaydi, bu faqat mahalliy minimal bo'lishi mumkin (yoki
omadingiz bo'lsa, global minimum).
Xulosa
Sun'iy intellekt neyron tarmoqlar orqali inqilob qildi va kompyuterni ko'rish,
tabiiy tilni qayta ishlash, robototexnika, moliya, nutqni aniqlash, tavsiya qilish
tizimlari, sog'liqni saqlash va boshqalar kabi turli sohalarda ajoyib yutuqlarga
erishdi. Ularning arxitekturasi, o'qitish jarayoni va moslashuvchanligi ularni
nihoyatda kuchli vositalarga aylantiradi. murakkab muammolar uchun. Neyron
tarmoqlar doimiy ravishda takomillashib, ularni AI kelajagi uchun markaziy
o'ringa qo'yadi va bizga doimo o'zgarib turadigan texnologik dunyoda yangi
muammolarni hal qilish imkonini beradi.
1. Ma'lumotlar Tahlili: KNTlar, massiv ma'lumotlar tahlili uchun ishlab
chiqilgan. Ular, ma'lumotlardan tushuntirilgan qonunlar va munosabatlar
orqali o'rganib, yangi ma'lumotlarni tushunish va aniqlashga imkoniyat
beradi.
2. Rasm va Matn Analizi: Tasviriy ma'lumotlarni tahlil qilishda ham KNTlar
foydalaniiladi. Bu, rasm, videolar, matnlar va boshqa turdagi ma'lumotlarni
boshqa sohalar uchun moslashtirish uchun qulay bo'ladi.
3. Texnologiya va Avtomatlashtirish: KNTlar, avtomatlashtirilgan tizimlarni
yaratish va ulardagi vazifalarni bajarishda ishlatiladi. Bu, avtomatik
tilantirish, yozuvlarni tuzatish, tizimlarni optimallashtirish va boshqa
amallarga asoslangan.
4. Tibbi Sohalar: Tibbi sohalarda KNTlar, radiologiyada rontgen tasvirlarni
tahlil qilish, ma'lumotlardan foydalangan holda diagnoz qo'ymoq va boshqa
vazifalarni bajarishda foydalaniiladi.
5. Yuridik Sohalar: Huquqiy sohalarda KNTlar, huquqiy ma'lumotlar tahlili,
hujjatlar va qonun shakllari yaratishda qo'llaniladi.
Foydalanilgan adabiyotlar
https://uz.wikipedia.org/wiki/Sunʼiy_neyron_tarmoqlari
https://medium.com/@bunyodbekhusanov/neyron-tarmoqlari-3e903c748646
https://design-hero.ru/uz/articles/759834/
https://uz.fbcpasorobles.org/neural-networks-4155332-3315
https://nicola.top/uz/nejronnye-seti-prostymi-slovami-o-slozhnoj-tehnologii/
https://uz.eyewated.com/neyron-tarmoqlari-ular-nima-va-ular-hayotingizgaqanday-tasir-qilishadi/