precision

7ısı

1cevap

Nokta Çokgen algoritmasında yanlış sonuçlar veriyor Bazen

StackOverflow üzerinde PHP kodumda uygulayacağım bir "çokgen noktalı" algoritması gördüm. Çoğu zaman, iyi çalışır, ancak bazı karmaşık durumlarda, karmaşık çokgenler ve kısır noktaları ile, başarısız

php polygon pip precision point 2013-02-11

---

11ısı

1cevap

Taşma olmadan çıkarma?

İki tam sayı olduğunu varsayalım (int x, y;). x, negatif ve y = 0x80000000'dir. x + (-y), (x - y) neden taşmıyor? Bilgisayar ekleyerek çıkarma yapmıyor mu?

c integer overflow precision 2012-06-08

---

12ısı

3cevap

MATLAB veri imlecinde sayıları nasıl daha yüksek hassasiyetle görüntüleyebilirim?

Hassas kayıplarla ilgili bir sorunum var. function importfile(fileToRead1) %#IMPORTFILE(FILETOREAD1) %# Imports data from the specified file %# FILETOREAD1: file to read DELIMITER = ','; HEADERL

matlab plot precision datatip 2011-05-11

---

7ısı

1cevap

java.awt.Point neden çiftleri ayarlamak ve almak için yöntemler sağlar, ancak x ve y'yi int's olarak depolar?

java.awt.Point için Oracle Documentation'da görebileceğiniz gibi, x ve y int olarak depolanır. Bununla birlikte, getX ve getY, double'u döndürür. 2 double türlerini kullanan bir setLocation yöntemi va

java awt precision point 2012-03-05

---

8ısı

2cevap

SQL, kayan nokta hassaslığını ayarlama

Bir float'a dönüştürülen bir SQL int için kayan nokta sayısının kesinliğini nasıl ayarlayabilirim? Bu iki ya da 3 ondalık basamağa kesmek istiyorum seçki: AVG(Cast(e.employee_level as Float))avg_level

sql floating-point precision truncate 2012-06-20

---

5ısı

1cevap

çıkış I sayılardır hassas bir sorun hassas

şamandıra numaralarını akışı a = 106,83; b = 106.83 a = 106.8296; İlk satırdaki sayılar gcc 4.1.2 (I 106.829 görmeyi bekliyordum) bu kadar kısa olmasının nedeni b = 106,8296 Yani, benim sorum da ben L

c++ stream numbers precision 2012-01-27

---

5ısı

3cevap

Varlık Çerçevem ​​neden '2.87' değerini '2' (ondalık alan) haline getiriyor?

Doğru olarak '2.87' değerinin servise geldiğini ve EF diyagramına göre 'Puan' alanının türü 'Ondalık' olduğunu kabul ettim ... Ama veritabanında sadece '2' yazıyor Ölçeklendirmeyi ondalık alana ayarla

sql tsql entity-framework decimal precision 2011-04-05

---

9ısı

3cevap

Sayılar eklerken python/numpy'de float hassas dökümü

Numpy ile kullanılan düşük sayılar nedeniyle bazı problemlerim var. Sayısal entegrasyon ile sürekli problemlerimi geri takip etmek bana birkaç hafta sürdü, float64 hassasiyeti bir fonksiyona kayarken,

python numpy precision 2013-01-11

---

8ısı

1cevap

Fortran - bir değişkenin çalışma zamanında hassas/hassas ayarlanması

Bir değişkenin kendi başına bir çalışma zamanında tanımlanacak bir değişken olması mümkün mü? SUBROUTINE FOO(VARIABLE, PRECISION_VALUE) IMPLICIT NONE INTEGER(4) :: PRECISION_VALUE

fortran precision 2012-05-10

---

5ısı

2cevap

Django DecimalField ve PostgreSql Sayısal alanıyla çıktı hassaslığını koruma

Verileri Django aracılığıyla bir PostgreSQL arka ucuna kaydediyorum. Modellerimdeki alanların birçoğu, DecimalFields'ın, veritabanı arka ucundaki sayısal sütunlara karşılık gelen, keyfi olarak yüksek

django postgresql precision 2011-09-06

---