floating-point

14ısı

2cevap

TypeError: 'float' nesnesi tekrarlanabilir değil

Windows 7 üzerinde python 3.2.2 kullanıyorum ve 7 sayıyı kabul eden bir program oluşturmaya çalışıyorum ve daha sonra ne kadar pozitif, kaç tane negatif olduğunu kullanıcıya bildirir kaç tanesi sıfırd

python for-loop floating-point python-3.x 2011-11-14

---

10ısı

2cevap

normal formda bir kayan sayı yazdırma, değil üstel biçim/bilimsel gösterim

ben var üstel formda yazdıran bir numara: >>> >>> a = 1/1221759 >>> print(a) 8.184920266599223e-07 >>> Nasıl normal formda baskı yapabilir?

python python-3.x floating-point 2011-10-18

---

7ısı

2cevap

OpenCL vektör türlerini kullanın SIMD

Şu anda OpenCL çekirdeğimde işlediğim geniş bir dizi float var. Bu diziyi bölüp ayırma ve işlemi hızlandıracak bir OpenCL vektör tipi dizisi kullanıp kullanmayacağımı merak ediyorum. Temelde, bir dizi

math vector floating-point opencl simd 2011-08-29

---

30ısı

5cevap

ValueError: yüzer dizeyi dönüştürmek olamazdı: id

aşağıdaki python komut çalıştırıyorum : ValueError: could not convert string to float: id Ben bundan karıştı: #!/usr/bin/python import os,sys from scipy import stats import numpy as np f=open(

python string floating-point 2011-12-07

---

6ısı

2cevap

Python'da Yuvarlama Floatlarıyla İlgili Sorunlar

Np.round, np.around ile düzgün bir şekilde yuvarlanmadığı bir sorun yaşıyorum. Ben eksik In [177]: a Out[177]: 0.0099999998 In [178]: np.round(a,2) Out[178]: 0.0099999998 In [179]: np.round(a,1

python types floating-point rounding 2011-08-31

---

5ısı

4cevap

Java'da verimli strtod?

Bu yüzden, birkaç terabayt veriyi karıştırmak için kullandığım bu Java programına sahibim. Performans bir endişe. Ben app profilli ettik ve tüm bellek ayırmalarını büyük bir bölümünün yanı sıra CPU za

java string performance memory floating-point 2011-09-07

---

5ısı

1cevap

Bu tek hassasiyetli işlemin sonucu nasıl yuvarlanır? [Ya da neden bu bit 1 ve değil 0?]

Ben çok özel koşullarda yakınsama başarısız bir fonksiyon optimizasyon rutin (Nelder-Mead algoritmasının bir varyantı) üzerinde çalışıyorum. Ben float değişken, kabul a diyelim belirledik, a ve biraz

c floating-point 2011-10-28

---

5ısı

3cevap

ValueError: Tümüne Python

olarak) (şamandıra için geçersiz literal: Birisi bana hatasını anlamasına yardımcı olabilir eğer merak var: ValueError: şamandıra için geçersiz değişmez(). Bir listeye bir metin dosyası aktardığımda b

python floating-point literals iterable 2011-11-02

---

14ısı

2cevap

Bir printf'de% d kullanıldığında float değişkenine ne olur?

Ben C Programming Language, 2nd Edition okuyarak C öğrenmeye çalışıyorum. Bazı programlama deneyimi var ama C ile ben 1. Bölümde şu anda değilim ben şu kodu var: A: 0.000000 B: 0.15 A: 1.100000 B: 1.

c floating-point printf 2011-09-20

---

7ısı

3cevap

SQL Server Management Studio'da kayan nokta türlerinin tam duyarlık çıktısı

float sütununda varsayılan hassasiyetle (53) kayıtlı 1555.4899999999998 değerine sahibim. Basit bir select yaptığımda, SSMS çıktıyı tüm kullanılabilir hassasiyetle yazdırmak yerine yuvarlar. Yazılan d

sql-server floating-point ssms 2011-11-11

---