Tekoälyn päivälehti — mallit, työkalut ja hardware
Päivän promptivinkki · Vinkit
Pieni paikallinen malli ei keksi vastauksia ilkeyttään. Se keksii niitä, koska mikään muu jatko ei ole sille tarjolla. Ratkaisu on antaa yksi tarkka merkkijono, joka kelpaa vastaukseksi.
Ongelma, jonka tämä ratkaisee: pieni malli vastaa aineistokysymykseen väärin silloinkin, kun aineistossa ei yksinkertaisesti lue vastausta. Ilmiö on tuttu jokaiselle, joka on rakentanut paikallisen hakupohjaisen kysymysvastausputken kolmen tai kahdeksan miljardin parametrin mallilla. Malli ei valehtele: se jatkaa tekstiä todennäköisimmällä tavalla, ja "tähän ei ole vastausta" on kehotteessa, jota ei ole kirjoitettu, epätodennäköinen jatko.
Korjaus on antaa se jatko itse. Nimeä täsmällinen merkkijono, joka on hyväksyttävä vastaus, ja vaadi sitä kirjaimelleen:
Vastaa vain alla olevan aineiston perusteella. Jos aineistossa ei ole vastausta, kirjoita täsmälleen: EI_TIETOA Älä arvaa äläkä täydennä yleistiedolla. AINEISTO: <<< {teksti} >>> KYSYMYS: {kysymys} VASTAUS:
Miksi tämä toimii: mallin on valittava jokin jatko, ja ilman pakotietä kaikki vaihtoehdot ovat sisällöllisiä arvauksia. Kun kehotteessa on nimetty lyhyt, kirjaimellinen merkkijono, siitä tulee kilpailukykyinen vaihtoehto juuri niissä tilanteissa, joissa mikään sisällöllinen jatko ei saa aineistosta tukea. Pienillä malleilla ero on suurempi kuin isoilla, koska pieni malli tukeutuu kehotteen muotoon enemmän.
Toinen etu on koneellinen. EI_TIETOA on tarkka merkkijono, joten sen voi tarkistaa yhdellä vertailulla ohjelmakoodissa. Sen jälkeen putki voi tehdä jotain järkevää: hakea lisää konteksstia, kysyä käyttäjältä tarkennusta tai siirtää kysymyksen isommalle mallille. Vapaamuotoinen "valitettavasti en löytänyt tietoa" ei kelpaa ehtolauseeksi.
Kolme käytännön sääntöä. Käytä merkkijonoa, jota aineistossa ei esiinny — alaviiva ja isot kirjaimet ovat siksi hyvä valinta. Älä pehmennä ohjetta sanoilla "jos mahdollista" tai "mieluiten", koska pieni malli lukee ne luvaksi olla noudattamatta. Ja rajaa aineisto näkyvillä erottimilla, jotta mallille on selvää, mihin asti "aineisto" ulottuu.
Mitä tämä ei ratkaise: se ei lisää mallin tietoa eikä estä sitä olemasta väärässä. Malli voi yhä vastata itsevarmasti väärin silloin, kun aineistossa on vastaus mutta se ymmärtää sen väärin — pakotie auttaa vain puuttuvan tiedon tapauksessa. Se voi myös laueta liian herkästi: malli, joka on saanut luvan kieltäytyä, kieltäytyy joskus kysymyksestä, joka olisi vaatinut kaksi päättelyaskelta aineiston sisällä. Jos näin käy, lisää ohjeeseen yksi virke siitä, että aineistosta saa päätellä, mutta sen ulkopuolelta ei.