Transformer ( Олны анхаарал татсан анхаарлын механизм )
Сүүлийн хэдэн жилийн турш гүнзгий сургалтын салбарт Transformer архитектур нь маш их анхаарал татсан, хүчирхэг загвар болон хөгжсөн. Ялангуяа хэлний загварууд дээр гайхалтай үр дүн үзүүлж, Google-ийн “Attention is All You Need” (2017) paper-аас хойш AI-ийн түүхэнд эргэлт гаргасан. Энэхүү нийтлэлээр Transformer архитектур, блок болон attention-ий талаар өгүүлнэ. 1. Transformer архитектур Трансформерыг ялгаруулж чадсан нэг […]
Мултиагент систем гэж юу вэ ? (multiagent systems)
Өнөөдөр хиймэл оюун ухаан гэдэг үг бараг хүн бүрийн чихэнд хоногшсон байх. Chatgpt гээс эхлээд өөрөө явагч машин, нүүр царай танигч системүүд гээд бид хиймэл оюунтай төхөөрөмжүүдтэй өдөр бүр таардаг. Гэхдээ олон зүйлийг гүйцэтгэдэг сайн нэг агент байх боломжгүй юм. Тиймээс олон тооны ухаалаг төхөөрөмжүүд хамтран ажиллаж, нэг агенттай системээс хамаагүй илүү төвөгтэй асуудлыг зохицуулж […]
Randomized algorithms: Таны программ хэр сайн ажиллах нь таны азаас хамаарна.
Азад итгэн код бичнэ гэдэг утгагүй юм шиг. Гэхдээ та магадлалын онолыг мэддэг бол энэ нь тийм ч утга учиргүй зүйл биш болж таарна. Энэхүү нийтлэлээр детерминистик буюу тодорхой алгоритмын гүйцэтгэлийг давсан санамсаргүй алгоритмуудыг авч үзэх болно. Санамсаргүй алгоритм нь оролтын өгөгдлүүдээс гадна санамсаргүй тоон цувааг ашиглан шийдвэр гаргах процесстоо ашигладаг. Нэг үгээр хэлбэл оролтын […]
Компьютер дах хиймэл орон зай ( Virtual Memory буюу хийсвэр санах ой)
Таны ашиглаж байгаа программ бүр цаанаа шуурхай санах ойд өөрийн зай эзлэн байршидаг билээ. Түүнчлэн бид өдөр бүр олон төрлийн програм ашиглаж, интернетын олон хуудас нээж, тоглоом тоглож, бичиг баримт боловсруулдаг гээд компьютероо их ачааллуулдаг. Тэгвэл та олон программ зэрэг ажиллуулвал таны шуурхай санах ой дүүрэх нь тодорхой. Тэр үед юу болдог талаар та өмнө […]
Хүссэн өгөгдлөө интернэтээс цуглуулах уу? (web_scraping)
Өнөөгийн хурдацтай хөгжиж буй дижитал ертөнцөд өгөгдөл бол хамгийн үнэтэй баялаг юм. Онлайн орчинд асар их хэмжээний өгөгдөл байнга шинэчлэгдэж, нэмэгдэж байдаг. Гэсэн хэдий ч, энэ их мэдээллийг гараар цуглуулж, боловсруулах нь цаг хугацаа шаардсан, хоцрогдсон ажил билээ. Харин scraping ашиглавал хэдхэн минутын ажил болно. Вэб Скрапинг гэж юу вэ? Вэб скрапинг гэдэг нь вэб […]
Шинэ бичвэрүүд
Rust Хэлний Санах Ойн Ме 2025-07-13
TypeScript = Types + Javascript 2025-07-10
