IEEE-754 : 0.1 + 0.2 = 0.30000000000000004 ?
Та компьютер дээр 0.1 + 0.2 гэж бичээд 0.300000004 гарч ирэхийг харсан уу? Энэ нь таны нүд буруу харж байна гэсэн үг биш, бас компьютерийн алдаа биш. Энэ бол floating point representation-ийн төвөгтэй үзэгдэл юм. Яагаад 0.1 + 0.2 яг 0.3 болдоггүй вэ? Компьютер дотор бүх тоо хоёртын систем (binary) дээр хадгалагддаг. Зарим арвантын бутархай […]
