Automatic Prompt Engineer (APE)
Image Source: Zhou et al., (2022) (opens in a new tab)
Zhou et al., (2022) (opens in a new tab) propose Automatic Prompt Engineer (APE), un cadre pour la génération et la sélection automatiques d'instructions. Le problème de génération d'instructions est présenté comme une synthèse de langage naturel abordée comme un problème d'optimisation en boîte noire en utilisant des LLM pour générer et rechercher des solutions candidates.
La première étape implique l'utilisation d'un modèle de langage (en tant que modèle d'inférence) auquel on fournit des démonstrations de sortie pour générer des candidats d'instructions pour une tâche donnée. Ces solutions candidates guideront la procédure de recherche. Les instructions sont exécutées à l'aide d'un modèle cible, puis l'instruction la plus appropriée est sélectionnée en fonction des scores d'évaluation calculés.
APE découvre une meilleure prompt CoT sans prise de vue que le prompt « Pensons étape par étape » conçue par l'homme (Kojima et al., 2022 (opens in a new tab)).
Le prompt "Travaillons cela étape par étape pour être sûr que nous avons la bonne réponse" suscite un raisonnement en chaîne et améliore les performances des modèles sur les benchmarks MultiArith et GSM8K.
Image Source: Zhou et al., (2022) (opens in a new tab)
Ce document aborde un sujet important lié au prompt engineering, qui est l'idée d'optimiser automatiquement les prompts. Bien que nous n'approfondissions pas ce sujet dans ce guide, voici quelques documents clés si vous êtes intéressé par le sujet:
- AutoPrompt (opens in a new tab) - propose une approche pour créer automatiquement des prompt pour un ensemble diversifié de tâches basées sur la recherche guidée par gradient.
- Prefix Tuning (opens in a new tab) - une alternative légère au réglage fin qui ajoute un préfixe continu entraînable pour les tâches NLG.
- Prompt Tuning (opens in a new tab) - propose un mécanisme d'apprentissage des prompts logicielles par rétropropagation.