rounding

5ısı

1cevap

C veya C++ 'da ondalık aritmetik?

IEEE-754 normu, onluk aritmetiği tanımlar ve onluk kayan nokta sayılarını kullanırken yuvarlama hatalarını önler (bkz. Örneğin, decimal64 on wikipedia). Bu ondalık aritmetiği C veya C++'da kullanmanın

c++ c floating-point rounding ieee-754 2013-07-06

---

7ısı

1cevap

Neden geri kalan (35,10) -5 oracle'de kalan (25,10) 5 iken?

Sql Developer'ı kullanarak oracle 11g'de aşağıdaki sorguyu çalıştırıyorum. diğer bir numara almak için +5 ve -5 dönüyor neden SELECT remainder(25,10),remainder(35,10) FROM dual; Çıktı REMAINDER(25,1

sql oracle oracle11g rounding 2015-04-16

---

5ısı

1cevap

ilk 3 basamağa yuvarlama (rakam ile başlayın! = 0)

Bir sayıyı ilk 3 basamağa yuvarlayan önceden tanımlanmış bir format fonksiyonu var mı? (Başlangıç ​​bir sayı olmalıdır = 0!) -0.02528498 to -0.0253 1.857403 to 1.86 2060943 to 2060000 0.00006513

r numbers rounding pretty-print 2015-04-16

---

5ısı

4cevap

Bir Python sayı listesi döndürün ve toplamı koruyun

Python'da bir liste veya ondalık sayı dizim var. Bunları parasal tutarlar olduğu için en yakın 2 ondalık basamağa yuvarlamaya ihtiyacım var. Ancak, korunacak toplam toplama ihtiyacım var, yani 2 ondal

python numpy sum rounding 2013-04-02

---

10ısı

1cevap

Bir çiftin en yakın tam sayıya yuvarlanması

Çifti bir int'ye nasıl dönüştürebilirim, ondalık değerden bağımsız olarak (ondalık değer 0 değilse) yuvarlandığından emin olun.

powershell rounding 2015-04-23

---

5ısı

1cevap

SQL Server 2005: Float değişkeni

kullanırsanız Round yanlış değerini döndürür SQL Server 2005'te, float değişkeninde depolanan bir değeri yuvarlamaya çalıştığımda hatalı değerler alıyorum. Aşağıdaki örnekte, ROUND işlevine yapılan he

sql sql-server rounding 2013-07-16

---

5ısı

2cevap

Java'da, bu tür numaralandırmalara nasıl ulaşılır?

Küçük bir fizik uygulaması yazıyorum. Yapmayı planladığım sayıyı yuvarlamak. Sorun, sabit bir yuvarlama değil, ondalık basamakların değerine bağlı olan değişken bir yuvarlamadır. Konuyla ilgili bir aç

java decimal rounding 2014-05-20

---

5ısı

2cevap

Oktav'da iki ondalık basamağa yuvarlama

Hesaplamadan sonra 32.073 aldım. Octave kullanarak 32.07'ye dönmem gerekiyor. Birisi bana yardım edebilir mi?

octave rounding 2014-07-11

---

5ısı

1cevap

yuvarlak Bu kodu vardır benim Smarty 3 şablonunda yanlış sonuç

gösterir 0,01 Ama bu alırsınız: 0,0099999999999998 mu Bunu nasıl düzelteceğini bilen var mı?

smarty rounding 2013-07-31

---

6ısı

3cevap

PHP'de bir float numarası için hassaslık ayarlayın

Veritabanından bir sayı alıyorum ve bu sayı float veya int olabilir. ben daha 5.020 veya 1518845.756 (ondalık ilişkin) uzun olmayan sayı yapar 3 e sayının ondalık hassasiyet ayarlamanız gerekir. Bu sa

php precision rounding 2013-11-09

---