koboldcpp on llama.cpp:n päälle rakennettu yhden tiedoston monitoimityökalu, joka on vuosien varrella oppinut kielimallien lisäksi kuvat, puheen ja äänen. Lauantaina julkaistu versio 1.119 lisäsi listaan videon: MiniMax H3 -videomalli tuottaa ohjelmassa nyt sekä tekstistä videota että kuvasta videota. Kyse on samasta kiinalaisesta avoimen painon mallista, jonka ympärille on tähän asti tarvittu ComfyUI:n solmugraafit tai tutkijoiden omat skriptit — nyt riittää yksi ohjelma, joka ajaa samalla myös keskustelumallisi.

Käytännön kynnystä on madallettu kahdella tavalla. Video vaatii neljä tiedostoa — itse mallin, tekstienkooderin, VAE:n ja apuverkon — ja ne on lueteltu dokumentaatiossa, mutta helpompi reitti on projektin jakama valmis .kcppt-asetuspohja, joka hakee oikeat tiedostot ja asetukset kerralla. Sama julkaisu toi myös Muse Glimmer -tuen, jinja-keskustelupohjat ja työkalukutsut, eli koboldcpp seuraa agenttiaikaa muidenkin ominaisuuksien osalta. H3 on asiantuntijasekoitus, jonka 118 miljardista parametrista laskee kerrallaan kuusi miljardia — siksi se ylipäätään taipuu kuluttajarautaan, kunhan kvantisoitu paketti ja osittainen siirto näytönohjaimelle ovat käytössä. Kevyt kone tämä ei silti ole: mitä vähemmän muistia, sitä lyhyempi ja pienempiresoluutioinen video kannattaa aloittaa. Lisenssistä on hyvä tietää, että H3:n painot jaetaan MiniMaxin omalla mallilisenssillä eikä standardilla avoimen lähdekoodin lisenssillä — kaupalliseen käyttöön aikovan kannattaa lukea ehdot itse.

Ekosysteemi liikkuu ympärillä samaa tahtia. Hugging Faceen ilmestyi sunnuntaina yhteisön tekemä latentti-skaalain, joka kasvattaa H3:n tuottaman videon tarkkuutta latenttiavaruudessa ennen lopullista purkua — sadan tykkäyksen viikkovauhti kertoo, että H3:n harrastajakunta on jo iso. Ja aiemmin kesällä sama yhteisö teki mallille nopeutetun Turbo-version. Kuvio on tuttu kuvamallien puolelta: kun painot ovat avoimet, työkalut ja parannukset tulevat joka suunnasta eikä kukaan kysy lupaa.

Paikallisen median vuosi on tässä pienoiskoossa. Tammikuussa videomallit olivat konesalien lajityyppi; nyt niitä ajetaan ohjelmalla, jonka ensisijainen yleisö on roolipeliharrastajat ja jonka asennus on yksi ladattava tiedosto. Laatu ei ole pilvipalvelun tasoa eikä nopeus hetkessä mitattavaa — mutta jokainen ruutu syntyy omalla koneella, eikä kehotteita tai kuvia lähetetä minnekään. Se on täsmälleen sama lupaus, jolla paikalliset kielimallit aikanaan perustelivat itsensä.