Şimdi bir modeli eğitmek ve ihraç etmek için TensorFlow'u kullandık. Çıkarım hizmetini, bu modelle, tensorflow/serving'un nasıl yaptığı gibi uygulayabiliriz.Çıkarım servisinde tf.Session kullanırken thread güvenli midir?
tf.Session nesnesinin thread-safe olup olmadığına dair bir sorum var. Bu doğruysa, başlatıldıktan sonra nesneyi başlatabilir ve eşzamanlı istekleri işlemek için singleton nesnesini kullanabiliriz.
tf.Session nesnesi, çok satırdan gelen Session.run() numaralı çağrı için iş parçacığı için güvenlidir.
TensorFlow 0.10'dan önceki grafik modifikasyonu thread-safe değildi. Bu, 0.10 sürümünde düzeltildi, bu nedenle performans nedenleriyle tavsiye edilmese de, Session.run() çağrılarıyla eşzamanlı olarak grafiğe düğümler ekleyebilirsiniz; bunun yerine, yanlışlıkla bellek sızıntılarını önlemek için, oturumu birden çok ileti dizisinden kullanmadan önce sess.graph.finalize() numaralı telefonu çağırmanız önerilir.
Harika. Çok teşekkürler. Bunu belgeye eklemek gerekli mi? TensorFlow kullanan herhangi biri, modelleri için çıkarım servisini uygulayabilir ve bunu doğru şekilde yapmak önemlidir. – tobe