Lansman günü yavaş yavaş çökmez. Bir anda çöker.
Kapasite planlaması, trafiğin bir hızla geldiğini varsayar. Bilet satışının açıldığı an, kampanya lansmanı, sınav sonucu ve randevu penceresi bir hızla gelmez — bir anda gelir. Uygulama da kibarca yavaşlamaz: bağlantı havuzu dolar, veritabanı kuyruğa girer, yanıt süreleri tırmanır ve kullanıcılar sayfayı yeniler; bu da sorunu yaratan yükü ikiye katlar.
Alışılmış çareler durumu kötüleştirir. Otomatik ölçekleme, yeni örnekleri ani yük çoktan indikten ve veritabanı çoktan darboğaz olduktan sonra ekler. Hız sınırlama istekleri reddeder — konser bileti için sıraya girmiş bir müşteri için bu, sitenin bozuk olmasından ayırt edilemez. İkisi de aynı izlenimi bırakır: en hazır olmak istediğiniz anda hazır değildiniz.
Bekleme odası sorunun şeklini değiştirir. Kalabalık reddedilmez, düşürülmez; sıraya konur. Uygulama iyi hizmet verebileceği sayıya hizmet eder, geri kalan herkes sıra numarası ve tahmini süreyle yerini tutar, bir yer açıldığı anda platform sıradakini içeri alır.
Yaklaşımımız
Kuyruk, uygulamanın önünde, teslim platformunda çalışır; yani uygulama sınırına dayanmışken kuyruk hâlâ ayaktadır. Kimseyi içeri almak, tutmak ya da bırakmak için uygulama kodu devreye girmez.
Uygulamanın gerçekten hizmet verebileceği bir tavan
Yayımlanan bir servise aynı anda kaç ziyaretçinin girebileceğini belirleyin. Bu sayı, donanımın teorik olarak geçirebileceğinden değil, uygulamanın kanıtlanmış biçimde iyi taşıdığından gelir.
Yalnız kalabalığın boyutuna değil, geliş hızına da kapı
Ayrı bir tavan, dakikada kaç yeni ziyaretçinin girebileceğini sınırlar. Büyük ama istikrarlı bir nüfusu taşıyan, on bin kişi aynı saniyede geldiğinde ise çöken bir arka ucu koruyan denetim budur.
İzleme kipi — kapasite etkinlikten önce bulunur
Bekleme odasını izleme kipinde çalıştırın; kimseyi tutmadan, tutsaydı ne olacağını sayar. Kuyruğu kendi trafiğinizle, sıradan bir günde boyutlandırırsınız ve etkinliğe tahmin ettiğiniz bir sayıyla değil, güvendiğiniz bir sayıyla girersiniz.
Doğrulanmış botlar kuyrukta yer tutmaz
Doğrulanmış arama motorları ve izleme sondaları tanınır ve muaf tutulur; böylece etkinlik sırasında indeksleme ve erişilebilirlik kontrolleri sürer, zaten alışveriş yapmayacak trafiğe koltuk harcanmaz.
Yetenekler
Aşağıdakilerin tamamı, trafik politikasının geri kalanıyla aynı ekrandan, yayımlanan servis başına yapılandırılır ve her değişiklik sıcak yeniden yükleme ile — etkinlik sürerken bile — geçerli olur.
Yayımlanan servis başına azami eşzamanlı ziyaretçi
Farklı uygulamaların farklı sınırları vardır ve tek cihaz her biri için aynı anda farklı bekleme odaları çalıştırabilir. Tavan cihazın değil, servisin bir özelliğidir.
Dakika başına yeni ziyaretçi — ani yük koruması
Giriş kapısı, eşzamanlılık tavanından bağımsızdır. İçeride 20.000 kişiyle rahat çalışan bir havuz, 20.000 kişi aynı anda geldiğinde yine de yıkılabilir; bu iki durumu ayıran denetim budur.
Koşullu bekleme sayfaları — yalnız gereken yerde
Kuyruk koşula göre uygulanır; ödeme ve bilet yolları korunurken katalog, yardım sayfaları ve durum sayfası açık kalır. Ziyaretçi kıt olan şey için bekler, tüm site için değil.
Sıra numarası ve tahmini süre, ziyaretçiye gösterilir
Numarasız bir kuyruk, donmuş bir sayfadan ayırt edilemez. Bekleme sayfası ziyaretçinin nerede olduğunu ve ne kadar süreceğini gösterir; beklemekle ayrılmak arasındaki fark budur.
Yer korunur — yenilemek yerinizi götürmez
Sıra ziyaretçinin oturumuna bağlıdır; yenileme, kopan bağlantı ya da mobil veriden Wi-Fi'ye geçiş kimseyi kuyruğun sonuna göndermez. Yenileme fırtınası, kendi kendine açılan bir yara olmaktan çıkar.
Kendi bekleme sayfanız
Sayfa sizin denetlediğiniz bir şablondur — kendi markanız, kendi diliniz, kendi mesajınız — ve arkasındaki uygulama tamamen doluyken bile platform tarafından sunulur.
Yer açıldığı anda içeri alma
Oturumlar bittikçe sıradaki ziyaretçiler otomatik olarak bırakılır. Kimse, gerçekle bağını koparmış bir sayacı beklemez.
Etkinlik sürerken canlı görünürlük
Kuyruk derinliği, dakika başına içeri alınan, ortalama bekleme ve vazgeçme oranı etkinlik olurken ekranda durur; tavanı artırma ya da azaltma kararı telefonla değil kanıtla verilir.
Operasyonel derinlik
Bir bekleme odası, zor durumlardaki davranışı kadar iyidir — etkinliğin ortasında devralma, kuyruktaki bot filosu, kopuk bağlantıdaki ziyaretçi.
Kuyruk uygulamada değil, platformda
Ajan yok, kütüphane yok, kod değişikliği yok ve işletilecek ayrı bir kuyruk servisi yok. Uygulama bir bekleme odası olduğunu hiç öğrenmez; yalnızca hizmet verebileceğinden fazla trafik görmez.
Adil sıra, oturuma bağlı
İçeri alma ilk gelen ilk girer düzenindedir ve sıra, IP adresine değil ziyaretçinin oturumuna bağlıdır — böylece kurumsal NAT, mobil operatör CGNAT'ı ya da paylaşımlı bir ofis hattı herkesi arka arkaya dizmez.
Koruma setinin geri kalanıyla birlikte çalışır
Bot skorlaması kuyruktan önce çalışır; otomatik trafik kuyruğa alınmak yerine ele alınır. İçerideki herkese hız sınırlama uygulanmaya devam eder. Bekleme odası dürüst kalabalığı yönetir; ondan bir güvenlik denetimi olması istenmez.
Devralmayı atlatır
Kuyruk durumu küme genelinde çoğaltılır; bilet satışı sırasında bir düğümün düşmesi sırayı sıfırlamaz. Etkinlik, herkesin sırası yerinde dururken ayakta kalan düğümde sürer.
Yenileme, yeni sekme ve paylaşılan cihaz davranışı
İkinci bir sekme ikinci bir yer almaz, aynı yere katılır. Oturum süresi dolması ve vazgeçme için açık kurallar vardır; ayrılan ziyaretçilerin bıraktığı yerler sonsuza kadar tutulmaz, kuyruğa geri döner.
Etkinlik sırasında açılıp kapatılabilir
Özelliğin tamamı sıcak yeniden yükleme ile değişir. Bilet satışından dakikalar önce açılabilir, zirve geçer geçmez kapatılabilir; tek bir bağlantı düşmez, hiçbir şey yeniden başlatılmaz.
Hangi senaryolarda kullanılır
Bilet satışının açıldığı an
Konser, maç ve seyahat satışları bir yılın trafiğini doksan saniyeye sıkıştırır. Bekleme odası, hizmet verilemez bir ani yükü düzenli bir sıraya çevirir ve her ziyaretçi görebildiği bir yer tutar.
Ürün lansmanları ve kampanyalar
İşe yarayan bir kampanya, ağ katmanında saldırıdan ayırt edilemez. Bekleme odası, pazarlamanın başarılı olmasına izin verir; altyapıdan bu başarının tamamını tek saniyede emmesini istemez.
Kamu başvuru pencereleri
Sınav sonuçları, vergi son günleri ve randevu açılışları tüm bir nüfusa ilan edilmiş bir dakikada duyurulur. Görünür sıra numaralı bir kuyruk, vatandaşa verilebilecek en adil cevaptır.
Bankacılıkta maaş günü ve ay sonu zirveleri
Öngörülebilir ve tekrar eden zirveler, platformu ayın en yoğun saatine göre kalıcı olarak boyutlandırmayı haklı çıkarmaz. Bekleme odası zirveyi karşılar, platform sıradan güne göre boyutlanmış kalır.
Sık sorulanlar
Bunun hız sınırlamadan farkı ne?
Uygulamada değişiklik gerekiyor mu?
Doğru eşzamanlılık sayısını nasıl seçeriz?
Ziyaretçi sayfayı yenilerse ya da bağlantısı koparsa ne olur?
Arama motorları ve izleme sistemleri kuyrukta takılır mı?
Etkinlik sırasında bir küme düğümü düşerse kuyruğa ne olur?
Çeyreği belirleyen o dakikaya hazır olun
Eşzamanlılık tavanı, giriş kapısı ve markalı bir kuyruk — servis başına yapılandırılır, etkinlik öncesinde izleme kipiyle boyutlandırılır. Kendi trafiğiniz üzerinde birlikte kuralım.