Tekoälyn päivälehti — mallit, työkalut ja hardware
Päivän promptivinkki · Vinkit
Pieni paikallinen malli ei kysy tarkennusta. Se arvaa, ja arvaus näkyy vasta valmiissa vastauksessa. Yksi rivi kehotteeseen siirtää arvauksen näkyviin ennen kuin työ on tehty.
Ongelma. Pieni paikallinen malli ei kerro, jos se ymmärsi tehtävän väärin. Se ei kysy tarkennusta eikä epäröi — se valitsee tulkinnan ja kirjoittaa sen mukaisen vastauksen loppuun asti. Kun vastaus on pitkä, virhe huomataan vasta sen luettua, ja koko työ on tehty väärin perustein. Isot mallit selviävät tästä paremmin, koska ne osuvat todennäköisemmin oikeaan tulkintaan; pienessä mallissa tulkintavirhe on yleisin yksittäinen syy huonoon vastaukseen.
Vinkki. Lisää kehotteen loppuun rivi, joka pakottaa mallin sanomaan tehtävän omin sanoin ennen kuin se tekee sen:
”Ennen kuin vastaat, kirjoita rivi "TEHTÄVÄ:" ja kerro yhdellä virkkeellä omin sanoin, mitä sinun pitää tehdä ja mitä aineistoa käytät. Jos tehtävässä on kohta, jonka voi ymmärtää kahdella tavalla, kirjoita toiselle riville "OLETUS:" ja kerro kumman valitsit. Vasta sen jälkeen kirjoita rivi "VASTAUS:" ja tee tehtävä.”
Miksi toimii. Malli tuottaa tekstiä yksi sana kerrallaan, ja kaikki aiemmin kirjoitettu ohjaa loppua. Kun tulkinta kirjoitetaan ulos ensin, siitä tulee osa kontekstia, johon vastaus nojaa — malli ei enää voi ajautua kesken kirjoituksen toiseen tulkintaan. Lukijalle hyöty on kuitenkin suurempi kuin mallille: väärä tulkinta näkyy ensimmäisellä rivillä, ja kehotteen voi korjata ennen kuin odottaa kolmesataa tokenia turhaa tekstiä. Hitaalla koneella se on minuutteja päivässä.
Mitä se ei ratkaise. Tämä ei paranna vastauksen sisältöä eikä vähennä keksittyjä faktoja — malli voi kertoa tehtävän aivan oikein ja tehdä sen silti väärin. Se ei myöskään korvaa selkeää kehotetta: jos tehtävä on itsessään epämääräinen, malli toistaa epämääräisyyden takaisin. Ja jos kehote menee koneellisesti eteenpäin toiseen ohjelmaan, kaksi ylimääräistä riviä on karsittava pois ennen jatkokäsittelyä — tämä on ihmiselle luettavaksi tarkoitettu vinkki.