CVE-2026-54234
Açıklama
vLLM, LLM'ler için yüksek throughput ve bellek verimliliğine sahip bir çıkarım ve sunum motorudur. 0.24.0 sürümünden önce, ön uç açısından geçerli olan çoklu istekli spekülatif kod çözme iş yükü, red örnekleyicisinin (rejection sampler) model sözlük boyutu sınır değerine eşit kurtarılmış bir belirteç üretmesine neden olabilir; bu değer, motor bir istek için bir sonraki canlı belirteci seçtiğinde eksi bire dönüştürülür ve taslak oluşturucunun (drafter) giriş kimliklerine geri yazılır; bu sözlük dışı değer daha sonra modelin gömme (embedding) ve dikkat (attention) yolu tarafından tüketilir ve GPU cihaz tarafı onayıyla (device-side assertion) motor çalışanını çökertir. Aynı tetikleyici istek dizisine genel gRPC Generate ve Abort uç noktaları üzerinden erişilebilir, dolayısıyla üretim istekleri gönderebilen uzak bir istemci, paylaşılan motor çalışanını çökerterek eşzamanlı istekleri iptal edebilir ve çalışan yeniden başlatılana kadar dağıtımın diğer istemcileri için servis genelinde hizmet reddine (DoS) neden olabilir. Bu sorun 0.24.0 sürümünde düzeltilmiştir.
Nasıl düzeltilir
- vllm vllm0.24.0 ya da sonraki bir sürüm
- vllm0.24.0 ya da sonraki bir sürüm
Etkilenen ürünler
| Ürün | Etkilenen sürümler | Düzeltildiği sürüm |
|---|---|---|
| vllm vllm | v < 0.24.0 | 0.24.0 |
| vllmPyPI | 0.17.1 ≤ v < 0.24.0 | 0.24.0 |
Sürümünüzü kontrol edin
Ürünü seçin ve kullandığınız sürümü yazın; sürümün etkilenen aralıkta olup olmadığını görün.
Attack Surface Management
Alan adlarınıza bağlı varlıkları, bu varlıklarda çalışan teknolojileri ve bilinen zafiyetleri tek listede görün.