Tekoälyn päivälehti — mallit, työkalut ja hardware
Työkalut · kirjastot · mallituki · Työkalut
Hugging Facen peruskirjasto sai version 5.16.0, jossa on Qwenin uusi arkkitehtuuri ja kevyt puheentunnistin. Kolmetoista minuuttia myöhemmin ulos meni 5.16.1, ja julkaisumuistio aloittaa lauseella, joka kertoo illasta enemmän kuin mikään mittari: tämä on erikoisjulkaisu, koska mukana on GLM.
Hugging Facen transformers on se kirjasto, jonka kautta uusi mallirakenne yleensä ensimmäisenä leviää muualle ekosysteemiin — ja keskiviikkona se joutui tekemään sen kahdesti saman tunnin sisällä.
Versio 5.16.0 toi mukanaan Qwen4-Exp-arkkitehtuurin, eli sen rakenteen, jonka päälle illan pääjutun malli on tehty. Kirjaston oma kuvaus erittelee kolme osaa: Gated Residual sekoittaa useita jäännösvirtoja hienojakoisella portituksella ennen jokaista tarkkaavaisuus- ja asiantuntijalohkoa, Qwen Sparse Attention pisteyttää pakattuja avainlohkoja usealla kyselypäällä ja jättää keskeneräisen hännän pakkaamatta, ja Per-Layer Embedding rikastaa valittuja kerroksia tiivistetyistä merkkijaksoista johdetuilla piirteillä. Kirjasto sanoo tämän olevan ensimmäinen hybridiarkkitehtuuri, joka yhdistää lineaarisen ja harvan tarkkaavaisuuden.
Samassa versiossa tuli myös jotain aivan toisen kokoluokan: GraniteSpeech5, noin 470 miljoonan parametrin conformer-kooderi puheentunnistukseen. Se on pelkkä kooderi ilman autoregressiivistä purkajaa — yksi eteenpäinajo ja ahne CTC-purku, ei muuta. Aikaresoluutiota pudotetaan kahdeksankertaisesti kehysten pinoamisella ja lohkoittaisella harvennuksella. Tämä on juuri sen kokoinen malli, joka mahtuu kannettavaan ja mini-PC:hen ilman erillistä näytönohjainta.
Kolmetoista minuuttia myöhemmin ilmestyi 5.16.1, jonka koko olemassaolon syy on GLM-5.3-Flashin tuki. Mukana tuli lisäksi kaksi pientä korjausta: tensoriparallelismin rajapinnan taaksepäinyhteensopivuus palautettiin, ja yhden ytimen viittaus naulattiin tiettyyn versioon tietoturvasyistä.
Kirjastojen versionumeroista ei yleensä kannata tehdä uutista, mutta tässä tapauksessa aikaleimat kertovat jotain kentästä: kaksi suurta avoimen painon julkaisua osui samaan vuorokauteen, ja ekosysteemin peruskirjasto sopeutui molempiin ennen kuin päivä vaihtui.