floating-accuracy

10ısı

1cevap

Mysqli'de ondalık sayıları tutma

Bazı öğelerin fiyatlarını mysql tablosuna koymam gerekiyor. Tabloyu oluştururken, DECIMAL(10,2) kullanıyorum, çünkü virgülden sonra 2 basamaktan daha fazlasına ihtiyacım yok (örneğin: 123,45 bir girdi

php floating-point mysqli floating-accuracy floating-point-precision 2013-06-05

---

5ısı

2cevap

Onaltılık kayan nokta sabitini reddeden VC

CIL bayt kodunu makine tüketimi için C kaynak koduna dönüştüren bir program yazıyorum. Ondalıktan ve ondan dönüşüme bağlı olarak kayan nokta sabitlerindeki yanlışlıktan endişeliydim. Bazı araştırmalar

c visual-studio visual-studio-2008 floating-point floating-accuracy 2013-08-12

---

5ısı

1cevap

Yüzer nokta doğruluğu tekrar

Dün ben bir kayan noktalı aritmetik doğruluğunu kaybetme nedeni ile ilgili question istedi. X87 kayıtlarında tutulan ara sonuçlardan nasıl kaynaklandığına dair bir cevap aldım. Bu yardımcı oldu ama ba

c floating-point floating-accuracy ieee-754 floating-point-precision 2013-03-16

---

5ısı

3cevap

match() toleransla değerleri

Grafiksel bir çizim yapmadan önce veri kümesini alt yapıyorum, ancak anahtar sayısal olarak match() veya %in% katı eşitlik testini kullanamıyorum (birkaç değeri özlüyor). Aşağıdaki alternatifi yazdım,

r subset floating-accuracy 2015-10-20

---

2ısı

1cevap

Neden acos kullanarak karmaşık bir sayı alırım? İki vektörleri <code>x</code> ve <code>p</code> arasında açısını hesaplamak için aşağıdaki kodu kullanmak, örneğin

: x = [1 1 -1]; p = [-1 -1 1]; angle = acos(dot(x,p)/(norm(x) * norm(p))); bir karmaşık sayı olduğu angle = 3.141592653589793 - 0.000000021073424i gösterir. Ama hepimiz x ve p nokta ürünü -3 oldu

matlab trigonometry angle floating-accuracy 2016-03-18

---

6ısı

1cevap

[0,5, 0,5, 0,5] 'de bir kutu boyutunu 1 olan bir simülasyonu merkezlemek bir bozukluk mu?

Sayısal bir fizikçiyim ve topluluğumda, [0.5, 0.5, 0.5]'da bir merkez ve 1 normalleştirilmiş uzunluğu olan bir 3D simülasyon kutusu kullanan bazı simülasyon kodları gördüm (böylece kutu koordinatları

c++ floating-point precision floating-accuracy numerical-methods 2014-06-25

---

5ısı

2cevap

C++ cinsinden yüksek doğrulukta (10^19) güç hassasiyeti nasıl artırılır?

9^19 hesaplamak için arıyorum. Benim kodudur: cout.setf(ios::fixed, ios::floatfield); cout.setf(ios::showpoint); cout<<pow(9,19)<<endl; sonuç 0 eşit son 2 basamak: 1350851717672992000. Pyt

c++ floating-accuracy floating-point-precision 2015-05-13

---

30ısı

4cevap

Python kayan nokta keyfi hassas kullanılabilir mi?

Sadece eğlence için ve çok kolay olduğu için, Grafting numbers oluşturmak için kısa bir program yazdım, ancak kayan nokta hassaslığı sorunları nedeniyle daha büyük örneklerden bazılarını bulamıyor. de

python floating-point floating-accuracy 2012-07-17

---

5ısı

1cevap

Sonucu Aşağıdaki kodu çalıştırdığınızda belirsiz yuvarlama hatası çeşit var gibi görünüyor

yanlıştır. Bu noktada PriorityJob * 100.0 değerlendirildiğinde 140 verilir. Daha sonra roundedTotal = 139. Görünüşe göre, 140.0 139.99999 olarak yorumlanıyor. Bu kayan noktalı motorda bir eksiklik mid

c++ casting floating-accuracy 2012-09-14

---

8ısı

4cevap

Highcharts Pasta Grafiği yüzdeyi yok sayarDecimals araç ipucu ayarı ve kayan nokta hatası sorunu var

Highcharts 3.0, bir pasta grafiğinde araç ipuçlarını görüntülerken kayan nokta sayısı doğruluğu sorunu var gibi görünüyor. Ben highcharts demo pasta grafik - Pie with Legend birini kullanarak kesin ha

highcharts decimal percentage pie-chart floating-accuracy 2013-04-09

---