floating-point

7ısı

1cevap

Java kayan nokta ilkelleri için herhangi bir IEEE 754 standart uygulaması var mı?

Java'nın kayan nokta aritmetiğini uygulamak için IEEE 754 standardını kullanmasıyla ilgilenirim. Here Ben belgelerinde bu tür şeyleri gördük: Ben IEEE 754 olumlu tarafı noktası Arithmetics yüzen kesin

java floating-point double bigdecimal ieee-754 2016-10-28

---

6ısı

2cevap

Float değerini 32-bit tamsayı olarak serileştirmenin taşınabilir yolu

Mikrodenetleyicilere ve bunlardan gönderilen C ve C++ 'daki 32-bit float değişkenlerini serileştirmek için taşınabilir bir yol bulmakla uğraşıyorum. Formatın yeterince iyi tanımlanmasını istiyorum, bö

c++ c floating-point embedded 2016-11-04

---

16ısı

2cevap

Logaritma neden Java'da Java'dan daha yavaş?

Ben Rust bu kriterleri çalıştırırsanız: #[bench] fn bench_rnd(b: &mut Bencher) { let mut rng = rand::weak_rng(); b.iter(|| rng.gen_range::<f64>(2.0, 100.0)); } #[bench] fn bench_ln(b: &

java floating-point rust microbenchmark jmh 2017-07-11

---

59ısı

4cevap

Bir şamandıra mümkün olan en küçük yüzüğü ekleme

Bir şamandıra için mümkün olan en küçük değeri bir kayan noktaya eklemek istiyorum. Yani, örneğin, I + mümkün olan en küçük şamandıra 1,0 almak için bunu denedi: float result = 1.0f + std::numeric_lim

c++ c++11 floating-point 2016-12-24

---

11ısı

1cevap

Çok küçük sayılarla Aritmetik R

Sorunlara neden olan çok küçük olan bazı olasılıklarla çalışmaya çalışıyorum. Örneğin probs <- c(4.225867e-03,3.463125e-04,2.480971e-05,1.660538e-06,1.074064e-07,6.829168e-09,4.305051e-10,2.702241e-11

r floating-point 2017-04-04

---

5ısı

2cevap

Hassasiyetini kaybetmeden, ikiye katlanabilir mi?

Bir C# float varsa, herhangi bir kesinlik kaybı olmadan double'a dönüştürebilir miyim? Bu double, float'a dönüştürülmüşse, tam olarak aynı değere sahip olur mu? koduyla

c# .net floating-point precision floating-point-conversion 2016-11-11

---

7ısı

1cevap

Kayan nokta sayısını Perl'deki bir hex dizesine nasıl dönüştürebilirim?

Hesaplamalarimin tüm durumlar için doğru olduğundan emin olmak için, sonucu (çift duyarlıklı bir sayı) hex veya binary string olarak görmek istiyorum. Bir hex/binary string veya Perl numaralı telefond

perl floating-point 2017-12-17

---

13ısı

1cevap

Neden 1 // 0.1 == 9.0?

Python 2.7 ve 3.x'da, tamsayı bölümü 0 < x < 1 numaralı bir numaraya bölünürken neden doğru olmayan bir sayı verir? Negatif sayılar -1 < x < 0 bile düzgün çalışması: >>> 1//.1 9.0 >>> 1//-.1 -10.0

python floating-point integer-division 2016-10-01

---

12ısı

1cevap

Neden 2^24'e kadar saymak hızlı bir şekilde çalışıyor, ancak 2^25'e kadar saymak daha uzun sürüyor?

Diğer bazı kodları/anlayışlarımı test etmek için sonsuz döngüler yapmakla uğraştım ve bu garip davranışa rastladım. 0'dan 2^24 sayma Aşağıdaki program içinde benim makinede < 100ms alır, ancak 2^25 sa

java floating-point 2017-01-12

---

9ısı

1cevap

bu yayının başlığında argüman için

documentation pandas.read_csv diyor: float_precision: C motorunu dönüştürücü dize, varsayılan Hiçbiri belirtir kullanmalıdır kayan noktalı değerler için. Seçenekler, sıradan dönüştürücü için Yok, yüks

python algorithm pandas floating-point ieee-754 2017-06-22

---