Deepfake аудио технологи

ulziitugs

• 2025-04-30
• deepfake, deepfake audio, залилан, хиймэл оюун, хуурамч дуу хоолой

Бид өмнөх нийтлэл дээрээ Deepfake буюу хиймэл оюунаар үүсгэсэн хуурамч дүрс бичлэг болон түүний нөлөөлөл аюул заналын тухай ярилцсан. Тэгвэл өнөөдөр хиймэл оюун ухааны тусламжтайгаар хүний дуу хоолойг жинхэнэ мэт хуулбарлах арга буюу deepfake аудио гэж нэрлэгддэг шинэ технологийн тухай ярилцацгаая

Сүүлийн жилүүдэд хиймэл оюун ухааны хөгжлийн ачаар хүний хоолойг яг л амьд мэт дуурайх deepfake аудио технологи хурдтай хөгжиж байна. Энэ нь нэг талаасаа сонирхолтой мэт боловч нөгөө талаасаа аюул дагуулж эхэлжээ. Жишээ нь, хэн нэгний хоолойг дуурайлгаж банк руу залгавал? Эсвэл төрийн тэргүүний нэрийг барьж олон нийтэд худал мэдээлэл тараавал?

Deepfake аудио яг юуг хэлээд байна вэ?

Deepfake аудио гэдэг нь хүний хоолойг хиймлээр үүсгэж, тэр хүн яг хэлсэн мэт дуу авиа гаргадаг технологи юм. Товчхондоо, хэн нэгний дуу хоолойг “хулгайлж” өөр зорилгоор ашиглаж болно гэсэн үг. Энэ нь залилан мэхлэх, итгэлцэл алдагдуулах, мэдээллийн аюулгүй байдалд заналхийлэх зэрэг олон сөрөг нөлөөтэй. Үүний зэрэгцээ хиймэл дууг бий болгох нь улам хялбар болсоор байгааг судлаачид анхааруулж байна​.

Хүний амьдралыг сайжруулах зорилгоор анх аудио ном болгон нэвтрүүлсэн ч сүүлийн жилүүдэд нийгэм, хувь хүнийг дан ганц санхүүгийн хувьд гэлтгүй бие сэтгэл, эрүүл мэндийн хувьд ч мөн хохироох болсон билээ. Интернэт сүлжээн дэх DeepFake аргаар бүтээгдсэн хуурамч бичлэг контентын тоо 2020 онд  85,000 , 2023 он гэхэд энэ тоо 145,000 хүрч нэмэгдсэн ба тэдгээрийн 70%-аас илүү хувь нь YouTube, TikTok, Reddit зэрэг сошиал сувгууд дээр тархсан байдаг[1]. Бидний сайн мэдэх нэгэн том жишээ бол Украйн Орос хоёрын дайны үеэр Украйны ерөнхийлөгч Volodymyr Zelenskyy хуурамч бичлэг олон нийтийн сүлжээнд тархсан.

Deepfake audio төрлүүд

• Synthetic-based – Зорилтот хүний ярьж буй бичлэг болон бэлдсэн текстүүд дээр үндэслэн тухайн хүнийг бэлдсэн текстийн хэлж буй мэтээр хуурамч дуу хоолой үүсгэх
• Imitation-based – Зорилтот хүний ярьж буй бичлэг болон бэлдсэн текстийг ярьсан хураасан бичлэг дээр үндэслэн тухайн хүнийг бэлдсэн текстийн хэлж буй мэтээр хуурамч дуу хоолой үүсгэх

Бодит жишээнүүдээс…

Интернэтийн хамгийн том залилан

2024 оны наймдугаар сард Facebook, TikTok зэрэг сүлжээнд Elon Musk-тай адилхан дүр, дуу авиа бүхий залилангийн зар сурталчилгаанууд хурдацтай тархаж, Нью-Йорк Таймс сонинд “интернэтийн хамгийн том залилан” хэмээн нэрлэгджээ​. Тухайлбал, АНУ-д нэг буурай иргэн Steve Beauchamp deepfake Elon Musk-ийн зар сурталчилгаанд итгэж тэтгэврийн сангийнхаа 690,000 ам.долларыг алдаад байна​[2].

Сонгуулийн deepfake

АНУ-д 2024 оны эхээр New Hampshire мужид зарим сонгогчид Joe Biden-ийн дуу хоолойг дуурайлгасан AI-ээр үүсгэсэн робокалл хүлээн авсан байна​[3]. Энэ дуут мессеж нь сонгуульд явж санал өгөхгүй байхыг уриалсан бөгөөд америкчууд deepfake-тэй холбоотой сонгуулийн олон тохиолдолд санаа зовж зарим мужууд сонгуулийн үеэр deepfake ашиглавал эрүүгийн хариуцлага хүлээлгэх хуультай болсон байна.

Хуурамч дуунаас яаж хамгаалах вэ?

1. Дуу хоолойгоор ирсэн мэдээлэлд шууд итгэхээс зайлсхийх – Танил хүн шиг сонсогдсон ч шалгаж баталгаажуулах нь чухал.
2. AI илрүүлэгч технологи ашиглах – Зарим платформууд deepfake-г илрүүлэх чадвартай программууд санал болгодог. (жишээ нь: Deepware)
3. Энгийн логикоо ашиглах – Хэт хурдан ашиг амласан, эсвэл гэнэтийн гүйлгээ хүссэн дуудлага сэжигтэй байж болзошгүй.

Хууль, зохицуулалтын хувьд…

Олон улс deepfake-тэй тэмцэхэд идэвхтэй анхаарч байна:

• Хятад: deepfake контентыг “хиймлээр бүтээгдсэн” гэж заавал тэмдэглэх тухай хуультай.
• Европ: хиймэл контентыг ил тод болгох шаардлага бүхий AI Act батлагдаж байна.
• АНУ: зарим мужууд сонгуулийн үеэр deepfake ашиглавал эрүүгийн хариуцлага хүлээлгэх хуультай.

Монголд deepfake-д зориулсан тусгай хууль одоогоор байхгүй ч “Хувийн мэдээлэл хамгаалах тухай” болон “Эрүүгийн хууль”-ийн заалтууд ашиглан зохицуулах боломжтой.

Дүгнэж хэлэхэд…

Deepfake аудио нь зөв ашиглавал технологийн дэвшил ч, буруу ашиглавал ноцтой аюул юм. Хүн бүр энэ талаар мэдээлэлтэй байх, сэрэмжтэй хандах нь хамгийн үр дүнтэй хамгаалалт болж чадна. Таны бодлоор доорх гурваас аль нь жинхэнэ хүний хоолой вэ?

Итгэмээргүй адилхан сонсогдсон ч, шалгахад илүүдэхгүй!

Ном зүй

1. Bateman, J. (2022). Deepfakes and synthetic media in the financial system: Assessing threat scenarios. Carnegie Endowment for International Peace.
2. https://incode.com/blog/top-5-cases-of-ai-deepfake-fraud-from-2024-exposed/#:~:text=4,Death%20Threats%20in%20Maryland%2C%20USA
3. https://www.wired.com/story/biden-robocall-deepfake-elevenlabs/#:~:text=Last%20week%2C%20some%20voters%20in,cloning%20startup%20%2024