Өмнөх үг
Эрхэм уншигч танд энэ өдрийн мэндийг хүргэе. Энэхүү нийтлэл нь өмнөх Гүн сургалтыг гүнээс нь сурцгаая №2 нийтлэлийн үргэлжлэл учир өмнөх 2 нийтлэлийг уншаагүй бол заавал уншаад эргэж ирээрэй.
Илүү хэцүү бодлого
Өмнөх нийтлэлээр бид жижиг хэмжээний нэмэх үйлдэл гүйцэтгэдэг сүлжээг персептроны жин болон байсыг ашиглан өөрсдөө зохиосон. Тэгвэл одоо хамгийн энгийн зураг танилтын бодлого болох гар бичмэлээс тоо таньдаг сүлжээг авч үзье. (Hello world программ гэдэг шиг гүн сургалтын хамгийн анхны бодлого).
Энэхүү бодлогийн зорилго юу вэ?
Мэдээж зураг дээрх тоог зөв тоотой нь харгалзуулах.
Энэхүү бодлогийн оролт нь юу вэ?
Пикселүүдийн цуваа буюу тухайн пикселүүдийн өнгөний утга нь тоогоор илэрхийлэгдсэн байж таарна. Дээрх зургийг авч үзвэл нийт 28*28 ширхэг пикселтэй.
Тиймээс бид нийтдээ 784 ширхэг персептроны жин болон байсыг тохируулж өгөх хэрэгтэй болж байгаа биз дээ. Бүх оролтын утгын жин болон байсыг тохируулна гээд бод доо. Бидний өмнөх нийтлэлээр хийсэн шиг аргаар энэхүү сүлжээг ажилладаг болгоно гэдэг ер нь л худлаа зүйл.
Энэхүү асуудлын гаргалгаа юу вэ?
Бид энэхүү нийтлэлээр суралцдаг алгоритм буюу оролтын жижигхэн утга бүрийг ажиглаж гаралт хэрхэн өөрчлөгдөж байгааг ажиглах замаар гаралтын оновчлолын сайжруулах аргыг ашиглах болно.
Суралцдаг алгоритм
Бидний сурах энэхүү аргын үндсэн санаа нь жин эсвэл байсын утгыг жижиг хэмжээгээр өөрчлөөд гаралт хэрхэн өөрчлөгдөж байгааг ажиглах. Хэрвээ энэ нь бидний хүсэж буй үр дүнтэй дөхөж байвал бид тэр утгыг дахин өөрчилж үр дүнг илүү сайжруулж болно гэсэн үг.
Жишээ нь:
За хэрвээ дээрх өгүүлбэрийн санааг ойлгоогүй бол жишээ авч үзье л дээ. Чи шөлтэй хоол хийж сурах гэж байна гэж бодоорой. Тэгвэл оролтын утгууд нь амтлагч болон орц материалууд болно. Харин гаралтын утга нь чиний хоолны амт болно. Давс тааруулах цаг боллоо. Чиний шөл тийм ч амттай болоогүй тул чи давсыг нь нэмж үзэхээр шийдлээ. Чи жоохон давс нэмээд тэр нь хоолыг чинь илүү амттай болгож байвал чи дахиад жоохон давс нэмж үзнэ. Гэх мэтээр чи хоолныхоо орцуудыг бага багаар өөрчилсөөр байгаад чиний шөл маш гоё амттай болж чи шөлөндөө аль орцноос хэр хэмжээтэй байвал гоё амттай болдгийг мэддэг болно. Чи шөл хийж сурсан гэсэн үг. Бидний сүлжээ ч бас энэ аргыг ашиглан сурдаг байж болно. Дээр дурдсан шиг жижиг оролтын утгыг өөрчлөөд гаралтын утгыг хэмжихэд болно гэсэн үг.
За тэгээд энэ зургыг хараад хоол бодоод явчихав аа .нийтлэл дуустал тэсээрэй XD
Персепроны сул тал
Бидний өмнөх нийтлэлээр сурсан персепртонуудаар энэхүү суралцдаг алгоритмыг хэрэгжүүлэхэд нэг дутагдалтай тал бий. Бид персептроны утгад жижиг өөрчлөлт хийхэд гаралт нь гэнэт бүрэн эргэж, таамаглахын аргагүй болдог.
Жишээ нь, нэг жинг бага зэрэг өөрчлөхөд тэр нейрон “0”-оос “1” рүү гэнэт шилжиж, сүлжээний бүх ажиллах зарчим буруу ажиллах боломжтой. Тэгээд тухайн тоог зөв таньсан ч, бусад бүх зурагт буруу хариу өгдөг болно. Иймээс персептронуудад дээр дурдсан суралцах алгоритмыг хэрэгжүүлэх боломжгүй болж байгаа юм.
Сигмоид нейрон
Дээрх асуудлыг шийдсэн шийдэл нь сигмоид нейрон буюу бидний үзсэн персептроны сайжруулсан хувилбар юм. Ерөнхий ажиллах зарчим нь персептронтой адилхан. Гэхдээ бид зөвхөн 0 1 ээр оролтын утгыг илэрхийлж байсан бол сигмойд нейроны хувьд бид 0 ээс 1 ийн хооронд бутархай тоон утга авч болох боломжтой болно. Энэ нь бидний өмнө нь дурдсан сурдаг алгоритмыг хэрэгжүүлэх боломжтой болгож байгаа юм.
Гаралтын утга…
Түүнчлэн бидний гаралт өмнөх шигээ 0 эсвэл 1 байж болохгүй болж байгаа юм. Бид жижиг өөрчлөлтөөр гаралтын утга сайжирч байгаа эсэхийг мэдэхийг хүсэж байгаа шүү дээ. Тиймээс бид гаралтын утгыг σ(w⋅x+b) томьёогоор тооцоолно.
Бид эхний нийтлэлээс гаралт нь w⋅x+b гэж тооцоологддогийг харсан үүний гадуур нэг функц нэмсэн нь сигмойд функц юм. Сигмойд функц нь хажуу зурагт харуулснаар томьёологдоно. Хэрвээ чи математикт дуртай биш бол томьёо нь жаахан адармаатай санагдаж магадгүй. Гэхдээ математик гаргалгааг нь ойлгох нь бидний зорилго биш юм.
Сигмойд функц
Хэрвээ чи математикт дуртай биш бол томьёо нь жаахан адармаатай санагдаж магадгүй. Гэхдээ математик гаргалгааг нь ойлгох нь бидний зорилго биш юм. Ерөнхийдөө энэ сигмойд функц юу хийж байна вэ? гэхээр гаралтын утгыг 0 ээс 1 хооронд болгож байгаа . Бидний w⋅x+b утга маш их тоо байсан ч сигмойд функцээр дамжаад нэгтэй ойрхон тоо болно. Эсрэгээрээ тухайн утга маш бага тоо байвал 0 тэй ойрхон гаралтын утга гарна гэсэн үг.
“Гаралт ≥ 0.5 бол энэ зураг 9 байна гэж үзье,
харин < 0.5 бол 9 биш.”
Дээр дурдсан суралцдаг алгоритмыг энэхүү сигмойд ньюрон хэрэгжүүлэх боломжтойг бид жингийн утгыг өөрчлөөд гаралтын утга хэрхэн өөрчлөгдөж байгаагаас ажиглаж болно.
Дүгнэлт
Энэхүү нийтлэлээр гүн сургалтын гол санаа болох суралцдаг алгоритмын үндсэн санаа, түүнчлэн персептроны санаан дээр тулгуурлан сигмойд хэрхэн тухайн алгоритмыг хэрэгжүүлж болох талаар тайлбарлалаа.Дараагийн нийтлэлээрээ мэдрэлийн сүлжээний архитектурыг тайлбарлах тайлбарлах болно. Дараагийн нийтлэлээрээ уулзахыг тэсэн ядан хүлээж байна.
