CVE-2026-54234

vLLM, LLM-lər üçün yüksək məhsuldarlığa və yaddaş səmərəliliyinə malik bir inferensiya və servis mühərrikidir. 0.24.0 versiyasından əvvəl, frontend tərəfindən qanuni olan çoxlu sorğulu spekulyativ dekodlaşdırma iş yükü rəddedici nümunəçinin (rejection sampler) modelin lüğət ölçüsü sərhəd dəyərinə bərabər olan bərpa edilmiş token istehsal etməsinə səbəb ola bilər; bu dəyər daha sonra mühərrik növbəti canlı tokeni seçdikdə mənfi birə çevrilir və drafter-in giriş ID-lərinə geri yazılır. Bu lüğətdən kənar dəyər sonradan modelin embedding və attention yolu tərəfindən istifadə edilir və GPU cihaz tərəfli təsdiqləmə (assertion) ilə mühərrik işçisini (worker) çökdürür. Eyni tetikləyici sorğu ardıcıllığına ictimai gRPC Generate və Abort son nöqtələri vasitəsilə daxil olmaq mümkündür, buna görə də generasiya sorğuları göndərə bilən uzaq müştəri ortaq mühərrik işçisini çökdürə bilər ki, bu da paralel sorğuların ləğv edilməsinə və işçi yenidən başladılana qədər digər müştərilər üçün bütün servis miqyasında xidmətdən imtinaya (DoS) səbəb olar. Bu problem 0.24.0 versiyasında düzəldilmişdir.