precision

7ısı

2cevap

çift eksi çift hassasiyet veren problemler

NET'te çifte hassasiyetle karşılaştığım bir konuyla karşılaştım. Bunun sadece yüzdelere uygulandığını düşündüm ama şimdi bu çiftin bir yüzdürme olduğunu görüyorum. double test = 278.97 - 90.46; Debug

c# double precision 2010-04-30

---

1ısı

1cevap

Matlab: Ben önümüzdeki atıfta am sayıda depolamak için Matlab

yılında çok sayıda saklama: 2.7182818284590455348848081484902650117874145507812500 Ben teşekkür ederiz double precision floating-point format (ieee754) ile bu tasarruf veremeyiz.

matlab floating-point precision double-precision 2010-11-19

---

6ısı

3cevap

C++, Python hassasiyet vs

(a,b) = modf(num*log10(num)) f_digits = pow(10,b+k-1) print f_digits Ben C aynı programı yazdığı bir num^num ilk k basamak bulma problemi çalışılıyor ++ ve Python C++ long double intpart,num,f_dig

c++ python floating-point precision floating-accuracy 2010-10-02

---

5ısı

1cevap

Python dizisinde kayan nokta hassaslığı

Gerçekten basit ve aptal bir soru için özür dilerim; Ancak, neden bu iki durum için gösterilen hassasiyette bir fark var? 1) >> test = numpy.array([0.22]) >> test2 = test[0] * 2 >> test2 0.44 2)

python numpy precision 2011-03-01

---

5ısı

2cevap

Python'da kayan nokta kesinliğini ne tanımlar?

Ben Erlang "tam olarak eşittir" operatörü, compares not only values öğrendim, ama aynı zamanda sayılar veri türlerini ve İşlerin Python ve yalnız çalışmak nasıl merak oldu operatörü "eşittir". Yani >>

python floating-point precision 2011-03-02

---

6ısı

1cevap

C# - çok küçük sayılarla ilgili sorun - çift veri türünde yeterli sayı yok

Çok küçük sayıları hesaplamayı düşünen C# programında yazıyorum. Ancak, tüm hesaplamalarm NaN değerini alıyor çünkü 'çift' veri türü için çok küçükler. Bu gibi durumlarla başa çıkmak için C# seçeneğin

c# double precision 2010-01-29

---

6ısı

1cevap

Float Precision Display (Android)

Bazı kullanıcı girişlerini alan, birkaç hesap çalıştırıp yanıtı veren bir program yapmaya çalışıyorum. Benim sorunum, bu cevabın, bazen, bazı estetik ve düzen sorunlarına neden olan, ondalık basamakla

android floating-point precision 2011-01-23

---

6ısı

2cevap

Bir kayan nokta türünün hassaslık kaybı olmadan işleyebileceği maksimum tamsayı boyutunu bulun

Çift, 64 bitlik bir tam sayıdan daha fazla bir aralığa sahiptir, ancak kesinliği, gösterim için daha az ücret demektir (çifte 64 bit olduğu için, daha fazla gerçek değer sığdırmak). Böylece, daha büyü

c++ floating-point double precision 2010-04-06

---

7ısı

3cevap

C# çift duyarlık sorunu

Bu düşüncenin a - b < c (a, b, c C# çiftleridir). a < b + c'un garantisi var mı? Teşekkürler! DÜZENLEME en aritmetik taşma aşağıdaki örnekte aksine oluşmaz diyelim: double a = 1L << 53; double b = 1;

c# double precision 2010-09-03

---

23ısı

3cevap

Java String.format değişken bir hassasiyetle nasıl?

Kullanıcı girişine bağlı olarak biçimlendirdiğim bir dizgedeki çift gösterimin kesinliğini değiştirmek istiyorum. String foo = String.format("%.*f\n", precision, my_double); ancak ben java.util.Unkn

java string rounding precision floating-accuracy 2010-02-20

---