Tekoälyn päivälehti — mallit, työkalut ja hardware
Vinkit · päivän promptivinkki · työkalukutsut · Vinkit
Pieni paikallinen malli osaa kutsua työkalua yllättävän hyvin, kunhan se näkee miltä kutsu näyttää. Proosamuotoinen kuvaus jättää liikaa tilaa mielikuvitukselle: kentän nimi muuttuu, järjestys vaihtuu, tyyppi lipsahtaa. Kaksi konkreettista esimerkkiriviä korjaa tämän lähes kokonaan.
Ongelma, jonka tämä ratkaisee: pieni malli tuottaa työkalukutsun, joka on melkein oikein. Kenttä on nimeltään city eikä kaupunki, päivien määrä tulee merkkijonona eikä kokonaislukuna, tai kutsun ympärille ilmestyy selittävä virke, joka kaataa jäsentimen. Iso malli ei tee näin, koska se on nähnyt koulutuksessaan tuhansia esimerkkejä samasta rajapinnasta. Pieni malli ei ole, ja siksi sille pitää näyttää.
Vinkki on tämä: älä kuvaile työkalua lauseilla, vaan anna allekirjoitus ja kaksi valmista kutsua. Kehotemalli sanatarkasti:
Käytettävissä on yksi työkalu. hae_saa(kaupunki: str, paivat: int) -> str Näin sitä kutsutaan: hae_saa(kaupunki="Tampere", paivat=3) hae_saa(kaupunki="Oulu", paivat=1) Vastaa VAIN yhdellä tuon muotoisella rivillä. Älä selitä mitään. Kysymys: Millainen sää on Turussa ensi viikonloppuna?
Miksi tämä toimii? Koska malli ei päättele muotoa säännöistä vaan jatkaa kuviota. Kaksi esimerkkiriviä määrittelee yhtä aikaa kentän nimet, niiden järjestyksen, lainausmerkkien käytön, tyypin — merkkijono lainausmerkeissä, luku ilman — ja sen, että rivin ympärillä ei ole mitään muuta. Yksi esimerkki ei riitä, koska siitä ei näe mikä osa on vakio ja mikä vaihtuu. Kaksi riittää lähes aina; kolme kannattaa, jos parametreja on yli neljä.
Kaksi tarkennusta. Käytä esimerkeissä eri arvoja kuin varsinaisessa kysymyksessä — jos esimerkissä lukee Turku ja kysymyskin koskee Turkua, malli kopioi rivin sellaisenaan yllättävän usein. Ja pidä esimerkit lyhyinä: pitkät, realistiset esimerkit vievät kontekstia ja houkuttelevat mallia jäljittelemään sisältöä muodon sijaan.
Mitä tämä ei ratkaise: se ei tee mallista sen viisaampaa siinä, milloin työkalua kannattaa kutsua. Jos työkaluja on kymmenen, oikean valitseminen on eri ongelma, ja siihen auttaa vain vähentäminen tai kaksivaiheinen kehote, jossa ensin valitaan työkalu ja vasta sitten kirjoitetaan kutsu. Se ei myöskään korvaa jäsentimen validointia — malli voi yhä keksiä kaupungin, jota ei ole. Muoto on tässä ratkaistu, sisältö ei.