floating-point

8ısı

4cevap

Metin içinde kayan nokta biçimlerini (değerleri değil) yoksayan araç mı?

Metin dosyalarındaki kayan nokta değerlerini (bazı toleranslar dahilinde) karşılaştırabilen bir diff aracını arıyorum. Bu, normal metin karşılaştırma fark fonksiyonlarına ek olarak, boşlukları yok say

diff floating-point 2009-09-15

---

5ısı

4cevap

Float değerini 2 ondalık basamağa yazdırma

57.400002 değerine sahip bir kayan nokta var. GUI'mdeki değeri görüntülemek için sprintf_s kullanıyorum. sprintf_s(xPosition, 19, "%f", xPositionValue); o 57.40 olarak görüntüler, böylece nasıl şama

c++ winapi floating-point format printf 2009-08-13

---

8ısı

4cevap

MATLAB - taban soru

Ben MATLAB yeni başlayanıyım. İşte sorun şu: Sorun 1 olmalı, sağa mı? >> a = floor(7/2.5) a = 2.00 >> b = rem(7,2.5) b = 2.00 >> c = floor(b/2) c = 0 c 1 olmalıdır. Ne

matlab floating-point precision number-rounding 2009-06-26

---

7ısı

2cevap

Haskell minimum/maksimum Çift Sabit

Haskell'de, iki katına çıkarılabilecek sıfırdan büyük, mümkün olan en büyük ve en küçük pozitif rasyonel sayıyı elde etmek için herhangi bir yol var mı? -> (Orta, Orta) Kaynak sabit bir fonksiyonu, en

haskell floating-point constants 2009-11-23

---

6ısı

8cevap

Hassasiyet kaybı olmadan 64 bit bir sayıyı temsil etmek için iki katına çıkarılabilir

0 ile 2^64-1 arasında veya yuvarlama hatası yapamayan bir tamsayıyı temsil etmek için lua (yalnızca dahili olarak yalnızca çiftler kullanır) kullanmak istiyorum şeyler olacak. Bunu yapmak mümkün mü?

c floating-point lua double 2009-11-24

---

5ısı

4cevap

iphone'daki bir sqlite veritabanından yüzen sayıları (REAL) nasıl okuyorsunuz?

Ben INTEGER olarak veritabanında Değişken türü oluşturduk sqlite db nokta ondalık sayılar kayan okumaya gerek parçalarımda böylece değiştirmiş olması gerekir yüzer i okuyabilir NSInteger değişkenlere

iphone database sqlite3 floating-point 2009-10-08

---

9ısı

4cevap

Java'da String.format ("%. 2f", doubleValue) içinde yuvarlamayı önleme

String.format("%.2f", doubleValue);'u yalnızca kesmek yerine yuvarlamadan (yuvarlak yarım algoritma) nasıl önleyebilirim? örn. biçimlendirme sonrasında doubleValue = 123.459 , doubleValue = 123.46

java string floating-point format 2009-08-20

---

9ısı

3cevap

SQL Server: Sayısal değişmezlerle hesaplama

Hassas kaybı en aza indirmek için kayan nokta hesaplamaları ile bazı testler yaptım. Burada göstermek istediğim bir fenomenle karşılaştım ve umarım bir açıklama olsun. ben de aynı formülü yazıp float

sql-server-2005 floating-point precision 2009-07-02

---

5ısı

2cevap

Keyfi Kesinlik JavaScript'deki Float numaralar

Sitemde on basamaklı ondalık basamaklı (ondalık) kayan nokta sayılarını gösteren bazı girdiler var. Bir noktada, müşteri tarafındaki doğrulama kodunda, bu değerlerin bir çiftini eşit olup olmadığını g

gwt floating-point javascript 2010-01-21

---

8ısı

3cevap

Diğer NaN değerleri nelerdir?

documentation for java.lang.Double.NaN bu tip double sabit bir stok Not-a-numarası (NaN) değer olduğunu söyler. Double.longBitsToDouble(0x7ff8000000000000L) tarafından döndürülen değere eşdeğerdir. Bu

java floating-point ieee-754 nan 2010-01-28

---