Tekoälyn päivälehti — mallit, työkalut ja hardware
AMD · Ryzen 5 439 ja Ryzen 7 449 · Laitteisto
Saksalainen Notebookcheck huomasi, että uusissa kannettavien suorittimissa ei ole neuroprosessoria eikä tuotenimessä AI-kirjaimia. Paikallisajajalle uutinen on hyvä muistutus siitä, mitä NPU tekee ja mitä se ei tee.
Notebookcheckin saksankielinen uutispuoli nosti sunnuntaina esiin pienen mutta puhuvan yksityiskohdan: AMD toi markkinoille kaksi kannettavien suoritinta, Ryzen 5 439:n ja Ryzen 7 449:n, joista neuroprosessori on poistettu. Samalla poistui tuotenimestä Ryzen AI -etuliite, joka on läheisillä sisarmalleilla.
Uutisen arvo ei ole siruissa vaan siinä, mitä segmentointi kertoo. Kun NPU on ollut kaksi vuotta se ominaisuus, jolla kannettavia myydään, sen poistaminen edullisemmista malleista tarkoittaa, että AMD on päättänyt tehdä siitä hintaportaan eikä oletuksen. Se on markkinointipäätös, mutta sillä on lukijalle käytännön seuraus: halvimman koneen ostaja ei jatkossa voi olettaa NPU:n olevan mukana pelkän valmistajan nimen perusteella.
Mitä NPU sitten tekee paikallisen kielimallin kannalta? Vähemmän kuin mainoslause antaa ymmärtää. Neuroprosessori on suunniteltu jatkuvasti päällä oleviin, pienitehoisiin päättelytehtäviin: taustan sumennus videopuhelussa, kohinanpoisto, pienet konenäkömallit, sanelu. Suuren kielimallin generointivaihe on muistikaistarajoitteinen, ei laskentarajoitteinen — ja NPU ei kasvata muistikaistaa lainkaan. Siksi llama.cpp ja LM Studio ajavat mallisi näytönohjaimella tai suorittimella, eivät NPU:lla.
Poikkeuksia toki on. Esikäsittelyvaihe eli kehotteen lukeminen on laskentarajoitteista, ja siinä NPU voi auttaa, jos ohjelmisto osaa käyttää sitä. Intelin OpenVINO-polku ja Qualcommin QNN osaavat, ja AMD:n XDNA-polku on kehittymässä. Pienet erikoistuneet mallit — puheentunnistus, upotukset, luokittelu — ajautuvat NPU:lle luontevasti ja säästävät akkua. Yleiskäyttöistä kielimallia ne eivät korvaa.
Käytännön neuvo koneen ostajalle pysyy siis samana kuin ennenkin, ja tämä uutinen vain terävöittää sitä. Katso ensin muistin määrä, sitten muistikaista, ja vasta kolmantena TOPS-luku. Kone, jossa on 32 gigatavua nopeaa yhteismuistia ilman NPU:ta, ajaa isompia malleja kuin kone, jossa on kuusitoista gigatavua ja viidenkymmenen TOPS:n neuroprosessori. Illan mini-PC-taulukossa tämä näkyy suoraan: TOPS-rivi on mukana, mutta Algoritmi-luku ei käytä sitä lainkaan.