Tekoälyn päivälehti — mallit, työkalut ja hardware
Mallit · Tencent WeMM-Embedding · monimuotoinen haku · Mallit
WeMM-Embedding julkaistiin tiistaiaamuna kolmessa koossa: 2,7, noin 4 ja 9,4 miljardia parametria. Pohjana on Qwen3.5, ja vektorin voi katkaista lyhyemmäksi ilman uudelleenkoulutusta. Ääntä malli ei ota vastaan.
Tencent julkaisi tiistaiaamuna kolme mallia nimellä WeMM-Embedding: 2,7 miljardin, noin neljän miljardin ja 9,4 miljardin parametrin versiot. Ne eivät tuota tekstiä vaan vektoreita — ne ovat hakukoneen puolikas, se osa joka muuttaa sisällön luvuiksi, jotta samankaltaisuutta voi mitata.
Erikoisuus on syötteiden kirjo. Malli ottaa vastaan tekstiä, kuvia, videoita, visuaalisia dokumentteja ja näiden sekoituksia samassa syötteessä, ja palauttaa yhden 4 096-lukuisen normalisoidun vektorin. Käytännössä tämä tarkoittaa, että saman haun voi tehdä yli aineiston, jossa on sekä kirjoitettua tekstiä että skannattuja sivuja ja videoklippejä, ilman erillisiä hakukoneita kullekin. Ääntä malli ei ota vastaan, ja se sanotaan mallikortissa suoraan.
Toinen käytännöllinen ominaisuus on matrjoškakoodaus: vektorin voi katkaista lyhyemmäksi ja normalisoida uudelleen ilman että mallia pitää kouluttaa uudestaan. Jos 4 096 lukua on liikaa tietokannalle, otetaan 256 ensimmäistä. Tämä on hakutietokannan koon kannalta iso asia — muistinkäyttö putoaa samassa suhteessa.
Pohjamalli on Qwen3.5, eli sama perhe jonka päällä kesän merkittävimmät kiinalaiset julkaisut ovat. Mallikortissa asennusohje naulaa versiot tarkasti: transformers 5.2.0, qwen-vl-utils 0.0.14 ja sentence-transformers vähintään 5.7.0. Malli toimii sekä suoraan transformersilla että sentence-transformers-rajapinnan `encode_query`- ja `encode_document`-kutsuilla, mikä tarkoittaa että se putoaa olemassa oleviin hakuputkiin melkein sellaisenaan.
Rautavaatimus on maltillinen. Pienin versio on kuudentoista bitin tarkkuudella noin 5,4 gigatavua, eli se mahtuu kahdeksan gigatavun näytönohjaimeen kevyellä pakkauksella ja pyörii suorittimellakin. Suurin, 9,4 miljardin parametrin versio vie noin 19 gigatavua kuudellatoista bitillä. Lisenssi on "other", ja lisenssitiedostossa viitataan Apache 2.0:aan — ehdot kannattaa lukea itse ennen kuin mallia laittaa tuotantoon.