Kuyruk (queue) nasıl çalışır; istekler en fazla ne kadar bekler?

Kısa cevap

Kurum Servisinde Connection Limit tanımlıysa ve bütün sunucular limitlerine ulaşmışsa yeni istekler kuyrukta bekler; bir bağlantı kapandığında sıradaki istek sunucuya iletilir. Bir istek en fazla Timeouts profilindeki Queue Timeout kadar (varsayılan 60 saniye) bekler; süre aşılırsa istemci 503 alır. Connection limit tanımlı değilse kuyruk oluşmaz.

Nasıl Çalışır?

1. Algoritma, Connection limit'i dolmuş sunucuyu atlar ve istek diğer sunuculara gider.
2. Limiti dolmamış sunucu kalmazsa istek kuyruğa girer; persistence ile bir sunucuya bağlanmış istek o sunucunun kuyruğunda bekler.
3. Sunuculardan birinde bağlantı kapanınca sıradaki istek iletilir.
4. Queue timeout dolmadan sıra gelmezse istek işlenmeden sonlandırılır ve istemciye 503 döner (Queue timeout davranışı).

Kuyruk mekaniğinin Connection limit tarafı: Connection Limit nedir; limit dolunca yeni istekler ne olur?

İzleme

Ekran	Gösterge
Live Stats → Frontend	Queued Requests kartı; Backend Services grubundaki Wait/Connect kartının ipucunda ortalama Queue Wait
Live Stats → Backend Services	Kurum Servisi başına Queue Wait
Backend Services Dashboard	Queue Depth
vService Dashboard	Backend Queue Distribution
Debug Mode Logs	HTTP vService Debug mode'dayken kuyrukta süresi dolan isteklerde Termination State kuyruk aşamasını gösterir

TR7'de Kuyruk

• Ayar: Queue timeout 0–60.000 saniye arasında Load Balancer → Profiles → Timeouts ekranında ayarlanır ve vService'in Details → Timeout kutusunda seçilir (vService'e nasıl eklenir). Değişiklik açık bağlantılar kopmadan uygulanır. Cluster'da varsayılan auto-sync ile eş cihaza da gönderilir; Manual Sync Mode açıksa Synchronize ile gönderilir.
• vService tipi: Kuyruk HTTP ve L7 TCP vService'lerde oluşur; Network vService'te Queued requests kartı hep 0'dır.
• Farklı bekleme: vService Limits'teki Max. Total Connections dolduğunda bağlantılar bu kuyruğa girmez; vService'in girişinde kabul edilmeden bekletilir ve Queue timeout uygulanmaz (Bağlantı limitine ulaşıldığında ne olur?).

Sık Karıştırılan Noktalar

• "Kuyruk dolunca Backup service devreye girer." Backup service, ana sunucular kullanılamadığında devreye girer; limitlerin dolması bu durum değildir.
• "Queue timeout her isteğe uygulanır." Yalnızca kuyruğa giren istekler için geçerlidir.
• "Queue timeout'u büyütmek sorunu çözer." Kullanıcı daha uzun bekler; kalıcı çözüm kapasiteyi (sunucu sayısı ya da Connection limit) artırmaktır.

Dokümantasyonda nasıl yapılır

• Timeouts · Queue Timeout
• Backend Services · Connection Limit
• Live Stats · Frontend

İlgili sorular

• Connection Limit nedir; limit dolunca yeni istekler ne olur?
• Bağlantı limitine ulaşıldığında ne olur?
• Timeouts profilindeki değerler (HTTP Keepalive Timeout, HTTP Request Timeout, Connect, Server, Client, Queue, Tunnel(Websocket) Timeout, Client FIN, Server FIN) ne anlama gelir?