RedNoten eli Xiaohongshun dots-tiimi julkaisi dots3-note-mallinsa esiversion Hugging Faceen jo 14. elokuuta, mutta paikallisajajalle merkittävä hetki koitti eilen illalla: llama.cpp:n yökäännökseen sulautettiin multimodaalikerroksen eli mtmd:n tuki mallin näkö- ja äänipoluille. Käytännössä tämä tarkoittaa, että GGUF-kvantisoinnit ja koko llama.cpp-ekosysteemin työkalut aukeavat mallille lähipäivinä — ilman Pythonia ja ilman pilveä.

Malli itsessään on kookas ja rakenteeltaan kiinnostava. Konfiguraation mukaan kielimallissa on 256 reititettyä asiantuntijaa, joista jokainen token aktivoi 8 sekä yhden jaetun — kokonaisuus on 288 miljardia parametria, mutta kerrallaan laskentaan osallistuu vain noin 16 miljardin siivu. Harvinaisempaa on, että myös 42-kerroksinen näkötorni on itsessään asiantuntijarakenteinen, ja äänipolku pakkaa puheen erillisillä tiivistemerkeillä. Lisenssi on Apache 2.0, ja kiinalaisen IT之家-sivuston mukaan Huawei ilmoitti Ascend-kiihdytintuesta julkaisupäivänä.

Kokoluokka kannattaa sanoa ääneen: Q4-luokan kvantteina painot vievät karkeasti 170 gigatavua, joten tämä ei ole 16 gigatavun mini-PC:n malli. Asiantuntijarakenne kuitenkin muuttaa laskua — tokenia kohti luetaan vain aktiivinen siivu, joten iso keskusmuisti ja nopea SSD riittävät hitaaseen mutta toimivaan ajoon, ja monen näytönohjaimen kotilaboratorioissa malli on aidosti tavoitettavissa. Sama kaava on tehnyt DeepSeek- ja Kimi-luokan jättiläisistä yhteisön suosikkeja: kokonaiskoko pelottaa, aktiivinen osuus ei.

Tuen myötä llama.cpp:n mallikirjo laajeni samassa julkaisuputkessa muutenkin: Ling-perheen mallit (arkkitehtuurinimeltään bailingmoe3) saivat DSpark-luonnostelutuen, eli spekulatiivinen dekoodaus laajenee sielläkin. Ja dots3-note on jo toinen RedNoten avaus muutaman päivän sisään — tänään sama yhtiö julkaisi FireRedAudio-äänimallin, josta kerromme Media-palstalla. Sosiaalisen median jätti on hiljalleen noussut Kiinan aktiivisimpien avoimen painon julkaisijoiden joukkoon.

Varaus on paikallaan: kyse on esiversiosta, jonka lopullisia kykyjä ei ole vielä mitattu riippumattomasti, ja tämän illan tieto tuesta perustuu llama.cpp:n julkaisulokiin — ensimmäiset valmiit GGUF-paketit ilmestynevät yhteisön kvantisoijilta lähipäivinä. Silloin selviää myös, kuinka hyvin näkö- ja äänipolut säilyvät kvantisoinnissa, mikä on multimodaalimalleilla toistuvasti se kipein kohta.