floating-point

16ısı

3cevap

En Pythonic yolu * ondalık basamağa

Ben en çok, diyelim ki, 2 ondalık yerlerde birlikte kayan noktalı numaralarının bir listesini biçimlendirmek istediğiniz bazı sayısı. Fakat, sıfırları istemiyorum, ve ondalık noktaların peşinden gitme

python floating-point string-formatting 2013-02-21

---

6ısı

2cevap

Ne zaman CORDIC veya polinom yaklaşımı kullanmak daha verimli?

Kayan nokta donanımı içermeyen bir mimari üzerinde çalışıyorum, ancak yalnızca 16 bit ALU ve 40 bit MAC. Bu mimarideki yazılımlarda 32 bit tek kesinlikli kayan nokta toplama/çıkarma, çarpma, kosinüs,

c algorithm math assembly floating-point 2013-03-14

---

22ısı

1cevap

Mat nesnesinin türünü CV_32F'den CV_8U'ye değiştirin.

imshow işlevini kullanarak CV_32F tipi bir görüntü göstermeye çalıştım ancak BEYAZ görüntü gösterdi. Documentation yılında onun kayan nokta görüntüleri 0-255 eşleştirilir ve görüntüleneceğini verilen

opencv floating-point mat 2013-01-26

---

8ısı

1cevap

/fp arasındaki fark: Kesin ve/fp: Kesin mi?

Ne zaman fp: strict yerine fp kullanırsınız: kesin? "Daha kesin" hesaplamalar yapmak ve yuvarlama hatalarından kaçınmak gerekirse, eskiyi kullanmak daha mı iyidir? Ya da arkasında yatan buluşsal nedir

c++ visual-c++ floating-point floating-point-precision visual-studio-2010 2012-09-20

---

6ısı

2cevap

C Dinamik olarak çift baskı, hassaslık kaybı yok ve takip eden sıfır yok

C için yeni ve bir kitaptan/internetten öğreniyorum. Ben double herhangi bir int için bir printf("%.*lf" ...10 deyiminde döndürülen bir işlevi yazmaya çalışıyorum, int döndürülür ne kesinlik azaltmak

c floating-point printf 2013-03-04

---

30ısı

4cevap

Python kayan nokta keyfi hassas kullanılabilir mi?

Sadece eğlence için ve çok kolay olduğu için, Grafting numbers oluşturmak için kısa bir program yazdım, ancak kayan nokta hassaslığı sorunları nedeniyle daha büyük örneklerden bazılarını bulamıyor. de

python floating-point floating-accuracy 2012-07-17

---

10ısı

4cevap

Java dört bayt onaltılık sayıyı yazdır

Küçük bir sorunum var. , 1.2 gibi Ayrıca 5421 -> 0x0000152D -1 -> 0xFFFFFFFF 1 -> 0x00000001 , ben kayan var nokta sayıları 58.654: Ben gibi, dört bayt bunları yazdırmak gerekiyor 1. 5421 gibi num

java floating-point integer hex converter 2013-02-03

---

7ısı

1cevap

TypeError: Bir şamandıra

yüzden, görüntü sonrası Can not gereklidir: a[i]={(-1)^(i+1)*sin(x)*ln(x)}/{i^2*(i+1)!} görev: a1 bulmak gerekiyor, a2, ..., an. n doğaldır ve verilmiştir. Bunu yapmaya çalıştım yolu : Python 3.x sürü

python types floating-point 2013-02-21

---

11ısı

1cevap

"1.0f" ile "1.f" arasındaki fark nedir? John Carmack bir tapan olarak

, ben (eğer ilgilenirsen ftp://ftp.idsoftware.com/idstuff/doom3/source/CodeStyleConventions.doc at) İd Tech halka Kodlama mevcut Kuralları belgesini okuma ve kongre rastladım ben tamamen anlamadı edil

c++ floating-point conventions 2013-02-24

---

5ısı

1cevap

Yüzer nokta doğruluğu tekrar

Dün ben bir kayan noktalı aritmetik doğruluğunu kaybetme nedeni ile ilgili question istedi. X87 kayıtlarında tutulan ara sonuçlardan nasıl kaynaklandığına dair bir cevap aldım. Bu yardımcı oldu ama ba

c floating-point floating-accuracy ieee-754 floating-point-precision 2013-03-16

---