llama.cpp:n julkaisusivulla on parin viikon ajan näkynyt rivi, joka koskettaa jokaista AMD-näytönohjaimella Linuxia ajavaa: Ubuntu x64 (ROCm 7.14) — DISABLED. Valmiiksi käännettyä Linux-pakettia AMD:n laskentapinoon ei toistaiseksi jaella, ja viikonlopun tuoreimmat buildit vahvistavat, ettei tilanne ole ohimenevä häiriö.

Syy on arkinen ja siksi kertova. Ylläpitäjä CISC kytki paketin pois muutoksella, jonka perustelu on kahden rivin mittainen: ccache-käännösvälimuisti ei toimi ROCm-rakennuksessa, joten jokainen julkaisu käänsi koko pinon alusta ja kesti yli kaksi tuntia. Projektin johtohahmo Georgi Gerganov hyväksyi muutoksen kommentilla, jonka mukaan resurssit ovat juuri nyt hyvin tiukoilla — ja jonossa olevia julkaisuajoja perutaan käsin. llama.cpp julkaisee kymmeniä buildeja viikossa, ja jokainen niistä käännetään yli kahdellekymmenelle alustayhdistelmälle; kahden tunnin lisä per julkaisu ei yksinkertaisesti mahdu budjettiin.

Käytännön seuraus Linux-käyttäjälle: ROCm-tuki ei kadonnut koodista mihinkään, mutta valmis paketti pitää nyt korvata itse käännetyllä. Vaihtoehtoja on kolme. Kääntää lähdekoodista, mikä on llama.cpp:ssä dokumentoitu ja kohtuullisen suoraviivainen operaatio. Käyttää Vulkan-pakettia, joka jaellaan yhä valmiina ja joka on AMD-raudalla usein yllättävän lähellä ROCm:n nopeutta — se on myös se taustaosa, jolla AMD itse ajoi illan pääjutun mittaukset. Tai ottaa käyttöön Lemonaden ROCm-taustaosa, joka paketoi saman moottorin valmiiksi ja sai perjantaina tuen myös vanhoille Instinct-korteille.

Windows-käyttäjän tilanne on toinen: ROCm 7.14 -paketti jaellaan siellä edelleen, samoin CUDA-paketit kahdelle versiolle ja jopa Windows-on-Arm-esiversio. Kontrasti kertoo, missä llama.cpp:n käyttäjät ovat — ja mihin niukat käännösminuutit priorisoidaan.

Isompi kuva on tämä: llama.cpp on koko paikallisen tekoälyn perustus, jonka päällä Ollama, LM Studio ja Lemonade seisovat, ja sen julkaisuinfra pyörii vapaaehtoisvoimin ja lahjoitetuilla CI-minuuteilla. Kun kahden tunnin käännös pakottaa karsimaan jakelupaketteja, se ei ole merkki projektin heikkoudesta vaan sen mittakaavasta — ja muistutus siitä, että ekosysteemin kivijalka kaipaisi samaa rahoitusta kuin sen päällä seisovat tuotteet.