vLLM on raskaan sarjan ajomoottori — se ohjelmisto, jolla suuria malleja ajetaan palvelimilla ja yhä useammin myös kotikoneen isommalla näytönohjaimella. Sen vakaa versio on heinäkuun lopun 0.26.0, ja nyt seuraava iso versio näkyy putkessa: 0.27.0:n ensimmäinen julkaisukandidaatti tuli torstaina 7. elokuuta ja toinen sunnuntaina 9. elokuuta.

Julkaisukandidaatti tarkoittaa versiota, jonka projekti uskoo olevan valmis mutta jota ei vielä uskalleta nimetä valmiiksi. Kaksi kandidaattia kolmessa päivässä kertoo kaksi asiaa: julkaisu on lähellä, ja ensimmäisestä kandidaatista löytyi vielä jotain korjattavaa. Kandidaattien julkaisumuistiot ovat tyhjät — muutoslista kirjoitetaan vasta valmiiseen versioon, joten sisällöstä ei tässä vaiheessa kannata väittää mitään.

Miksi tästä kertoo lehti, joka ei väitä tietävänsä version sisältöä? Koska 0.2x-sarjan isot versiot ovat vLLM:ssä olleet suuria: edellinen toi muun muassa laajennetun moni-GPU-tuen eri valmistajien raudalle. Ja koska julkaisukandidaatti on täsmälleen se hetki, jolloin tavallinen käyttäjä voi vaikuttaa: jos oma malli tai näytönohjain hajoaa kandidaatilla, nyt raportoitu vika ehtii korjaukseen ennen kuin miljoonat asentavat valmiin version.

Kokeilu on turvallista, kunhan sen tekee erillisessä ympäristössä. Komento pip install --pre vllm asentaa kandidaatin, ja virtuaaliympäristö pitää sen erossa tuotantoasennuksesta — tarkempi resepti on tämän numeron Kokeilemisen arvoista -laatikossa. Kun 0.27.0 valmistuu, tämä lehti kirjoittaa siitä muutoslistan kanssa.