Iltakooste

Tekoälyn päivälehti — mallit, työkalut ja hardware

Keskiviikko · 19. elokuuta 2026Iltapainos · klo 21Nro 47
← Takaisin etusivulle

llama.cpp · OpenVINO-taustaosa · 18.8.2026 · Alustat

llama.cpp:n Intel-polku päivittyi OpenVINO 2026.3:een — ja paljasti samalla rajansa

Eilinen build b10488 nosti llama.cpp:n OpenVINO-taustaosan Intelin tuoreimpaan ajokerrokseen ja päivitti CI:n laiteajurit. Samassa muutoksessa yksi testi jouduttiin kytkemään pois: taustaosa ei tue SSM-operaatiota, jota rekursiivisten mallien tilanpalautus vaatii.

Yksi moottori, monta taustaosaallama.cppCUDAVulkanMetalOpenVINO→ 2026.3Intelin polku päivittyi — mutta SSM-operaatio puuttuu yhä

llama.cpp:n vähemmän tunnettu Intel-reitti sai eilen vuosihuollon: build b10488 päivitti OpenVINO-taustaosan Intelin tuoreimpaan 2026.3-julkaisuun ja nosti samalla jatkuvan integraation laiteajurit ajan tasalle. OpenVINO on Intelin oma ajokerros, joka osaa jakaa työn prosessorin, näytönohjaimen ja NPU:n kesken — ja llama.cpp:ssä se on vaihtoehto SYCL-taustaosalle, jota lehti on seurannut tiiviimmin. Sama 2026.3-sukupolvi ehti Python-puolelle jo elokuun alussa openvino-genai-paketissa.

Päivityksen mielenkiintoisin yksityiskohta on se, mikä ei toimi. Muutoksen yhteydessä yksi testi jouduttiin kytkemään OpenVINOlla pois: Nemotron-H-tyyppisten rekursiivisten mallien tilanpalautus. Syy on täsmällinen — taustaosa ei tue SSM_SCAN-operaatiota, jota tilamallien vieritys vaatii, joten palautuksen laskentagraafi hajoaa kesken. Muilla taustaosilla testi jää päälle. Käytännössä tämä tarkoittaa, että hybridi- ja Mamba-tyyppisiä malleja ajava Intel-käyttäjä on edelleen SYCL- tai Vulkan-polun varassa; OpenVINO loistaa perinteisissä attention-malleissa ja NPU-jaossa.

Isompi kuva on lukijalle tuttu: llama.cpp:n taustaosat elävät kukin omaa tahtiaan, ja arkkitehtuuriuutuudet laskeutuvat niihin eri järjestyksessä. CUDA saa yleensä kaiken ensin, Metal ja Vulkan seuraavat, ja Intel-polut tulevat perässä mutta tasaisesti — SYCL sai omat optimointinsa viikonloppuna ja OpenVINO nyt uuden pohjakerroksen. Semanttisen versioinnin aikakaudella tällä on uusi merkitys: kun v-julkaisut alkavat, myös taustaosien tuki-erot muuttuvat versiokohtaisiksi lupauksiksi eivätkä liukuvaksi nykyhetkeksi.

Intel-koneen omistajalle ohje on entisellään, mutta astetta ajantasaisempana: Arc-näytönohjaimella kannattaa kokeilla ensin SYCL-käännöstä, NPU-painotteisessa kevytkäytössä OpenVINO-polkua, ja mittari kertoo loput. Kummankin polun takana on nyt vuoden 2026 kolmas Intel-ajokerros — eli väite, jonka mukaan llama.cpp olisi vain NVIDIA-projekti, vanhenee buildi buildilta.

Lisälähteet

Muut jutut tässä numerossa