Automoitu Kehotesuunnittelu
Kuvan lähde: Zhou ym. (2022) (opens in a new tab)
Zhou ym. (2022) (opens in a new tab)-artikkelissa käsitellään automoitua kehotesuunnittelua (Automatic Prompt Engineer, APE). Ohjeiden luomisen haasteena on luonnollisen kielen synteesi, joka ratkaistaan mustan laatikon optimointiongelmana käyttäen LLM:ää ehdokasratkaisujen luomiseen ja etsimiseen.
Ensimmäinen vaihe sisältää suuren kielimallin (tulkintamallina), jolle annetaan esimerkkejä ohje-ehdokkaiden luomiseksi tehtävää varten. Nämä ehdokasratkaisut ohjaavat etsintäprosessia. Ohjeet toteutetaan kohdemallilla ja sopivin ohje valitaan laskettujen arviointipisteiden perusteella.
APE löytää paremman nollaohjauksen CoT:n kuin ihmisen suunnittelema "Let's think step by step" -ohjaus (Kojima ym., 2022 (opens in a new tab)).
Kehote "Käydään tämä läpi askel askeleelta, jotta olemme varmoja oikeasta vastauksesta." herättää ajatusketjun kautta rationalisoinnin, ja parantaa suorituskykyä MultiArith- ja GSM8K-arviointimittareissa:
Kuvan lähde: Zhou ym., (2022) (opens in a new tab)
Tämä artikkeli käsittelee tärkeää aihetta kehotesuunnittelussa, eli automaattisesti optimoitavia ohjeita. Vaikka emme käy tätä aihetta läpi syvällisesti tässä oppaassa, tässä on muutamia keskeisiä artikkeleita, jos olet kiinnostunut aiheesta:
- AutoPrompt (opens in a new tab) - esittää lähestymistavan automaattisten kehotteiden luomiseksi monipuolisille tehtäville gradientti-ohjatun haun avulla.
- Prefix Tuning (opens in a new tab) - kevyempi vaihtoehto hienosäädölle, joka lisää koulutettavan jatkuvan etuliitteen NLG-tehtäviin.
- Prompt Tuning (opens in a new tab) - esittelee mekanismin pehmeiden kehotteiden oppimiseen taaksepäin suuntautuvan vastavirta-algoritmin (backpropagation) avulla.