Tekoälyn päivälehti — mallit, työkalut ja hardware
Päivän promptivinkki · Vinkit
Paikallinen agenttimalli jää jumiin virheilmoitukseen tai keksii tuloksen, jota ei saanut. Kolme riviä kehotteessa muuttaa käytöksen: nimeä virhetilanne, kerro yksi uudelleenyritys ja määrää, mitä sanotaan jos sekin epäonnistuu.
Ongelma tulee vastaan heti, kun paikalliselle mallille antaa työkaluja. Haku ei palauta mitään, tiedostoa ei ole, komento päättyy virheeseen — ja pieni malli tekee jomman kumman kahdesta huonosta asiasta. Joko se pysähtyy ja selittää virheilmoituksen sinulle, vaikka tehtävä oli sen tehtävä, tai se jatkaa kuin mitään ei olisi tapahtunut ja keksii tuloksen, jota työkalu ei antanut. Jälkimmäinen on vaarallisempi, koska se näyttää onnistumiselta.
Syy on rakenteellinen. Suuret mallit ovat nähneet koulutuksessaan valtavasti esimerkkejä siitä, miten epäonnistuneesta yrityksestä toivutaan, ja ne yleistävät sen uusiin tilanteisiin. Pienessä mallissa tätä varantoa on vähemmän, ja virheilmoitus on sille pelkkää outoa tekstiä kontekstissa. Se ei tiedä, onko virhe tehtävän loppu vai sen välivaihe — ellei sitä kerrota.
Vinkki on siis kirjoittaa toipumisohje kehotteeseen sanatarkasti. Lisää järjestelmäkehotteeseen kolme riviä, tässä muodossa:
"Jos työkalu palauttaa virheen tai tyhjän tuloksen, älä lopeta ja älä täytä puuttuvaa tietoa itse. Yritä samaa työkalua täsmälleen yhden kerran uudelleen muutetuilla parametreilla ja kirjoita ensin yhdellä lauseella, mitä muutit. Jos toinenkin yritys epäonnistuu, vastaa täsmälleen näin: EI TULOSTA, ja luettele sen jälkeen kokeilemasi parametrit."
Miksi tämä toimii? Kolmesta syystä. Ensimmäinen: kielto täyttää puuttuva tieto itse osuu suoraan siihen käytökseen, joka on vaarallisin, ja se on ilmaistu tekona eikä kieltona olla hallusinoimatta. Toinen: yksi uudelleenyritys on numero. Ilman numeroa malli joko luovuttaa heti tai jää silmukkaan; luku yksi katkaisee molemmat. Kolmas: kiinteä lopputulos, jonka malli saa antaa — EI TULOSTA — tekee epäonnistumisesta hyväksytyn vastauksen. Malli, jolla ei ole lupaa epäonnistua, keksii mieluummin.
Käytännön hienosäätöä kannattaa tehdä kaksi. Aseta ohje järjestelmäkehotteeseen eikä käyttäjäviestiin, jotta se pysyy voimassa koko keskustelun ajan eikä vain ensimmäisellä kierroksella. Ja käytä isoja kirjaimia siinä yhdessä merkkijonossa, jonka haluat tunnistaa ohjelmallisesti — se on helppo poimia vastauksesta ja se erottuu mallin muusta tekstistä.
Mitä tämä ei ratkaise? Se ei korjaa rikkinäistä työkalua eikä väärää skeemaa: jos malli kutsuu funktiota väärillä kentillä, ohje vain saa sen ilmoittamaan asiasta siististi. Se ei myöskään auta, jos konteksti on jo täynnä ja mallin muisti alkuperäisestä tehtävästä on hävinnyt. Ja se on kehote, ei koulutus — päivän pääuutinen Muse Glimmer on koulutettu toipumaan virheestä painojen tasolla, ja se on eri asia kuin kehotteessa annettu ohje. Kehote on silti se, jonka voi ottaa käyttöön tänä iltana millä tahansa mallilla.