floating-point

7ısı

3cevap

ERLANG - İkili dize tamsayı veya şeklinde

Ben ikili dizeleri yüzer ya: <<"5.7778345">> veya <<"444555">> Ben bir şamandıra veya tamsayı olup olmayacağı elden önce bilmiyorum . Tamsayı olup olmadığını görmek için bir kontrol yapmayı denedi

string erlang floating-point integer 2010-12-01

---

5ısı

3cevap

Lisp'de rasyonel sayıların uzun listeler listesi nasıl görüntülenir?

Lisp'i yeni öğrenmeye yeni başlıyorum ve rakamsal bir sayı ile ondalık sayı olarak rasyonel göstermeyi merak ediyorum. X'in bir rasyonel olduğu (x değeri) kullanırsam yaklaşık 8 basamak görüntülenir.

lisp floating-point 2010-07-23

---

6ısı

2cevap

Javascript'te tek duyarlıklı yüzdürme öykünmesi (float32)

Javascript'te tek duyarlıklı yüzdeyi bir şekilde taklit etmek mümkün mü? Doug Crockford'un bloguna göre "Number 64-bit kayan nokta" dır, fakat tek bir hassas float hatası hesaplayan C++ algoritmasını

javascript floating-point emulation 2010-10-31

---

9ısı

1cevap

C++/CLI: SIGFPE, _control87, _fpreset, eski yönetilmeyen Watcom C uygulamasını .NET'e taşıyor

SIGFPE'ye (sinyali() geçirilen bir işlev işaretçisi tarafından ele alınan birkaç bin satırlık bir uygulamaya sahibim. ve belirli kayan nokta koşulları gerçekleştiğinde kodun doğru şekilde çalışmasını

floating-point c++-cli dllimport sigfpe 2010-07-26

---

5ısı

2cevap

SQL 'float' veri türü, çıktı XML olarak, istenmeyen şamandıra sonucu

neden olduğunda Basitçe deneyebilirsiniz: table1: tip 'şamandıra' yerine SELECT column1 from Table1; tablosunda görüldüğü gibi değerleri verir bir column1 sahiptir. Eğer Select column1 from Table1 FO

sql-server xml floating-point 2010-11-16

---

24ısı

3cevap

For-loop vs while döngü içinde R

R. çalışırken ilginç bir şey fark ettim For döngüsü ve while-döngüsü kullanılarak uygulanan 1'den N'ye kadar kareleri hesaplayan basit bir programım olduğunda, davranış aynı. (Bu durumda vektörleştirm

r for-loop floating-point while-loop 2010-11-17

---

1ısı

1cevap

Matlab: Ben önümüzdeki atıfta am sayıda depolamak için Matlab

yılında çok sayıda saklama: 2.7182818284590455348848081484902650117874145507812500 Ben teşekkür ederiz double precision floating-point format (ieee754) ile bu tasarruf veremeyiz.

matlab floating-point precision double-precision 2010-11-19

---

0ısı

6cevap

PHP eşit olmak için iki eşit sayı bulamıyor? böcek?

Olası Çoğalt: o x az 0,3 eğer $ yalnızca echo 1 olacak if($x <= .3) echo 1; : compare floats in php i bir şartım var x EQUAL ila .3, ben bir 1. almıyorum i floatval() x işaretini sarma denedi,

php variables floating-point equals 2010-11-19

---

6ısı

3cevap

C++, Python hassasiyet vs

(a,b) = modf(num*log10(num)) f_digits = pow(10,b+k-1) print f_digits Ben C aynı programı yazdığı bir num^num ilk k basamak bulma problemi çalışılıyor ++ ve Python C++ long double intpart,num,f_dig

c++ python floating-point precision floating-accuracy 2010-10-02

---

8ısı

2cevap

Visual C++/Garip nokta özel durumları etkinleştirdikten sonra garip davranış (derleyici hata?)

Visual Studio (2005 veya 2008) altındaki kayan nokta özel durumlarını yakalamanın güvenilir bir yolunu bulmaya çalışıyorum. Varsayılan olarak, görsel stüdyo altında, kayan nokta istisnaları yakalanmaz

visual-c++ exception floating-point divide-by-zero 2010-11-26

---