Сүүлийн жилүүдэд DALL·E, Midjourney, ChatGPT зэрэг Generative AI загварууд нь технологийн салбарт жинхэнэ хувьсгал авчирч, зураг, видео зэрэг контентыг богино хугацаанд өндөр бүтээмжтэйгээр үүсгэх чадвараараа олны анхаарлыг татаж байна. Гэсэн хэдий ч эдгээр гайхалтай бүтээлүүдийн цаана нийгэмд өнөөг хүртэл тулгамдсаар байгаа нэгэн том асуудал болох ялгаварлан гадуурхалт илэрч, зарим тохиолдолд бүр хурцадмал нөхцөл байдал үүсгэдэг байна.
Иймээс энэхүү нийтлэлд Generative AI-ын ялгаварлан гадуурхлын шалтгаан, үр дагавар болон үүнийг бууруулах боломжит арга замуудыг авч үзье.
Ялгаварлан Гадуурхалтын (Bias) Эх Үүсвэр
Хиймэл оюун ухааны загварууд нь хүний тархи шиг бодож, ойлгодоггүй. Тэд зөвхөн сургалтын өгөгдөл дэх давтагддаг хэв маяг, мэдээллийг дагаж ажилладаг. Тиймээс ялгаварлан гадуурхалт нь дараах гурван гол шалтгаанаас үүснэ.
1.1. Өгөгдлийн хэв шинж (Data Bias)
Энэ нь хиймэл оюун ухаанд ялгаварлан гадуурхалт үүсэх хамгийн том шалтгаан юм. Хиймэл оюун ухааны загварууд ихэвчлэн интернэтээс цуглуулсан асар их хэмжээний зураг, текстэн мэдээлэл дээр суралцдаг.
Жишээ нь: Хэрэв сургалтын өгөгдөлд “гүйцэтгэх захирал” гэсэн үгтэй холбоотой зургуудын 90% нь цагаан арьст эрэгтэй хүмүүсийн дүрслэлтэй байвал, тухайн загвар дараа нь “гүйцэтгэх захирал”-ын дүр төрхийг үүсгэхдээ автоматаар ижил төрлийн буюу хүйсийн болон арьс өнгөний хэвшмэл ойлголтыг давтаж гаргах хандлагатай болдог.
1.2. Алгоритмын хэв шинж (Algorithmic Bias)
Заримдаа ялгаварлан гадуурхалт өгөгдлөөс биш, харин хиймэл оюун ухааны бүтцээс буюу алгоритмаас үүдэлтэй байдаг. Загвар мэдээллийг боловсруулахдаа зарим хэсгийг илүү чухалчилж, бусдыг нь бага анхаарснаар тодорхой бүлгийн мэдээлэл “орхигдож” болно.
Өөрөөр хэлбэл өгөгдөл тэнцвэртэй байсан ч, системийн ажиллах арга нь өөрөө нэг талыг барьж болдог.
1.3. Хэрэглээний хэв шинж (Usage Bias)
Ялгаварлал зөвхөн загвараас биш, хэрэглэгчийн оруулсан үг, хүсэлтээс (prompt) ч үүсэж болдог.
Жишээ нь: хэрвээ хэрэглэгч “амжилттай хүн”-ий зургийг зуруулахад, хиймэл оюун ухаан ихэнхдээ костюмтай эрэгтэй хүний дүр төрхийг гаргадаг.
Энэ нь мөн хэрэглэгчийн нэг талыг барьсан эсвэл тодорхой бус хүсэлт нь ялгаварлалыг улам гүнзгийрүүлж болдгийг харуулж байна.
Generative AI-ийн ялгаварлан гадуурхалтын үр дагавар
Хиймэл оюун ухаанаас үүдэлтэй ялгаварлан гадуурхалт (bias) нь зүгээр нэг буруу зураг гаргахаас илүү ноцтой бөгөөд нийгмийн олон салбарт сөргөөр нөлөөлөх боломжтой.
| 1. Хэвшмэл ойлголтыг бэхжүүлэх | Загварууд нийгмийн хэвшмэл ойлголтыг давтсаар байдаг. | Захирал – 90% эрэгтэй, Сувилагч – 90% эмэгтэй |
| 2. Төсөөлөл ба боломжийг хязгаарлах | Цөөнхийн хүмүүс өөрийгөө амжилттай хүнээр төсөөлөх боломж багасах эрсдэлтэй. | Амжилттай хүмүүсийг ихэвчлэн цагаан арьст хүмүүсээр төлөөлүүлдэг. |
| 3. Үл тоомсорлол | Зарим бүлэг хүмүүс огт дүрслэгдэхгүй эсвэл сөрөг байдлаар дүрслэгддэг. | Ямар нэг хөдөлмөр эрхэлж буй хүмүүсийг дүрслүүлэхэд ихэвчлэн дунд эргэм насны эрүүл чийрэг залуусыг гаргаж өгөх бол ахмад настай болон тусгай хэрэгцээт хүмүүсийг орхигдуулах гэх мэт. |
| 4. Мэдээллийн чанар ба бодит үнэнийг гажуудуулах | Түүх, соёл, ёс заншлыг буруу эсвэл хуучирсан байдлаар харуулдаг. | Үндэсний хувцасны зураг – орчин үеийн бус, хуучирсан эсвэл өөр үндэстэн, улсын үндэсний хувцасны зураг гаргаж өгөх. |
Хэрхэн шийдвэрлэх боломжтой вэ?
| Шийдвэрлэх арга | Зорилго |
|---|---|
| Өгөгдлийг төрөлжүүлэх | Хиймэл оюуныг сургах өгөгдлийг янз бүрийн соёл, үндэс угсаа, хүйс, нас, хөгжлийн бэрхшээлтэй хүмүүсийг тэнцвэртэй багтаасан байдлаар бүрдүүлэх. |
| Загварт хяналт суулгах | Ялгаварлан гадуурхалт үүсгэж буй хэв маягийг автоматаар илрүүлж, засах алгоритм нэвтрүүлэх боломжтой. |
| Нээлттэй ил тод байдал | Хэрэглэгчдэд тус Generative AI ямар өгөгдөл дээр суралцсаныг болон ямар ялгаварлал үүсгэж буйг мэдэх боломж олгох. |
| Оролцоог нэмэгдүүлэх | Generative AI хөгжүүлж буй багт янз бүрийн соёл, нийгмийн бүлгийн мэргэжилтнүүдийг хамруулах. |
Дүгнэлт
Хиймэл оюун ухаан нь орчин үеийн технологийн гайхамшиг бөгөөд бидний бүтээлч чадварыг эрс тэлж чадна. Гэхдээ түүний сурсан өгөгдөл нь нийгмийн тэгш бус байдлыг давтан, бэхжүүлэх эрсдэлтэй тул бид үүнийг зөвхөн боломжийн эх үүсвэр гэж хараад зогсохгүй, нийгмийн сүүдрийг ч харж, засах хариуцлагатай алхам хийх ёстой. Ингэснээр хиймэл оюун ухаан нь зөвхөн гайхамшигтай биш, шударга, хүмүүнлэг технологи болж чадна.
Боловсролыг инженерчлэв.
