Tabanca ve Gevent

Question

ile Flask çalışırken istekleri olmayan bir istekte bulunmayan bir istek yapın Flask uygulamasına bir istek, biraz işlem yaptıktan sonra yanıt vermek için 5 saniye süren yavaş bir dış uç noktaya bir istekte bulunun. Gevent ile Gunicorn'un çalıştırılması, bu yavaş isteklerin çoğunun aynı anda ele alınmasına izin verecek gibi görünüyor. Aşağıdaki örnek, görünümü engellememek için nasıl değiştirebilirim?

import requests 

@app.route('/do', methods = ['POST']) 
def do(): 
    result = requests.get('slow api') 
    return result.content 

gunicorn server:app -k gevent -w 4 

Answer 1

Öncelikle biraz arka plan, Bir kilitleme soketi varsayılan türden bir yuvadır, bir kez uygulamanızı okumaya başladığınızda veya iş parçacığı gerçekten okunana kadar kontrole geri dönmez veya bağlantınız kesilir. python-requests, varsayılan olarak bu şekilde çalışır. Engelleme olmayan okumalar sağlayan grequests adı verilen bir sıkma var.

Önemli mekanik fark, herhangi bir şey yapmadan göndermek, yeniden bağlamak, bağlanmak ve kabul etmektir. Seçtiğiniz bir numaranız var. Dönüş kodunu ve hata kodlarını kontrol edebilir ve genellikle kendiniz çıldırırsınız. Bana inanmıyorsanız, denemek bazen

Kaynak: https://docs.python.org/2/howto/sockets.html

Ayrıca söylemeye devam ediyor:

en hızlı priz kod kullandığı şüphe yok engellenmeyen soketler ve onları çoğaltmak için seçin. 'u bir LAN bağlantısını, CPU'yu zorlamadan doyurabilecek bir şey koyabilirsiniz. Sorun şu ki, bu şekilde yazılmış bir uygulama 'dan başka bir şey yapamaz. Bu, tüm kez baytları karıştırmaya hazır olmalıdır.

ise kendi yumurtası onu alarak uygulama aslında parçacığı optimal çözüm

olduğunu, daha fazla bir şey yapmak gerekiyordu Ama görünümünüze karmaşıklık bir sürü eklemek ister misiniz olduğunu varsayarsak İş Parçacığı. Özellikle ne zaman guneycorn async workers?

Asenkron işçiler Greenlets'e dayanmaktadır ( Eventlet ve Gevent aracılığıyla). Greenlets, Python için kooperatif çoklu iş parçacığının bir uygulamasıdır. Genel olarak, bir uygulama bu işçi sınıflarını hiçbir değişiklik yapmadan kullanmak için yapmalıdır.davranış

ve

bazı örnekler asenkron işçi gerektiren: Uzun engelleme aramaları (Yani, dış web hizmetleri)

yapma Uygulamaları Yani kısa uzun bir hikaye kesmek için, Don' Bir şeyi değiştir! Sadece olsun. Herhangi bir değişiklik yaparsanız, önbelleğe almayı tanıtmak olsun. Python istek geliştiricileri tarafından önerilen bir uzantıyı Cache-control kullanmayı düşünün.

Answer 2

Sen grequests kullanabilirsiniz. İstek yapılırken diğer yeşilliklerin çalışmasına izin verir. requests kitaplığı ile uyumludur ve requests.Response nesnesini döndürür.

import grequests 

@app.route('/do', methods = ['POST']) 
def do(): 
    result = grequests.map([grequests.get('slow api')]) 
    return result[0].content 

Edit: kullanım aşağıdaki gibidir ben de test eklenmiş ve gunicorn en gevent işçisi zaten başlatılmış olan maymun-yama gerçekleştirir beri zaman grequests fayda görmediği gördü ettik: https://github.com/benoitc/gunicorn/blob/master/gunicorn/workers/ggevent.py#L65

Answer 3

Flask uygulamanızı tabanca ile dağıtıyorsanız, zaten engellenmiyordur. Bir müşteri, görüşlerinizden birinden yanıt beklerse, başka bir müşteri bir sorun olmadan aynı görünüme istekte bulunabilir. Birden çok isteği aynı anda işlemek için birden fazla işçi olacak. Bunun çalışması için kodunuzu değiştirmenize gerek yok. Bu aynı zamanda her Flask dağıtım seçeneği için de geçerli.