What Is Prompt Engineering? A Guide.

N'importe qui peut fournir une entrée à un grand modèle de langage. La question est la suivante : le résultat du LLM atteint-il l'objectif prévu ou répond-il à la question posée ? Cela dépend en grande partie de la façon dont l'entrée a été conçue, ce qui est l'endroit où l'ingénierie rapide intervient. Une bonne requête augmente considérablement les chances qu'un LLM produise exactement ce dont le projet a besoin ; elle génère également des avantages secondaires qui peuvent s'accumuler pour les projets futurs.

Qu'est-ce que l'ingénierie rapide ?

L'ingénierie des invites est la pratique consistant à créer des instructions ou des invites pour guider un modèle d'IA générative afin de générer les sorties souhaitées. Ce processus utilise des efforts itératifs pour améliorer la façon dont les différents formats, expressions, appels de fonction des LLM vers d'autres systèmes et éléments variables supplémentaires d'une invite d'IA fonctionnent. L'objectif est de fournir au LLM une spécificité et un contexte optimaux.

Voici quelques-uns des éléments les plus importants de l'ingénierie rapide :

• Format : en raison de la façon dont les LLM sont développés et entraînés, le format et la structure des invites sont importants pour la sortie. Les meilleures sorties commencent par une compréhension du format préféré pour le LLM utilisé dans le modèle.
• Appels de fonction : l'intégration de données provenant de sources externes peut améliorer la qualité et la précision d'une sortie. Les invites peuvent lancer des appels de fonction pour l'extraction dynamique des données, ce qui renvoie des résultats tant que les données souhaitées sont accessibles.
• Spécificité : l'ambiguïté de la formulation des invites peut créer des réponses inexactes, mal orientées ou ouvertes, même absurdes. L'accent mis sur la spécificité dans le choix des mots augmente la qualité et la profondeur des réponses de sortie. En termes simples, c'est la différence entre dire "Je veux un chien" et "Je veux un chien de sauvetage de moins de trois ans qui est entraîné en caisse et bon avec les jeunes enfants".
• Audience utilisateur : Les invites produisent les résultats les plus précis lorsqu'elles intègrent la sensibilisation à l'audience. Une personne très technique est très différente d'un étudiant ou d'un enfant, et cela devrait être reflété dans l'invite afin que la sortie réponde aux attentes du public à la fois pour le ton et le détail.

Bien que le terme ingénierie des invites reflète la science générale de l'amélioration des invites pour obtenir des résultats, il agit également comme une étape du processus de développement d'applications. Dans leur rôle, les ingénieurs d'invite créent des modèles et des scripts, appelés invites de base, dans l'application qui relient les entrées de l'utilisateur final au modèle tout en étant invisibles pour l'utilisateur. L'objectif d'une invite de base est de fournir une méthode évolutive et automatisée de pontage des demandes tout en travaillant dans les limites de ressources du projet. Une infrastructure qui prend en charge intrinsèquement les fonctionnalités d'IA et d'apprentissage automatique et les ressources évolutives peut simplifier et optimiser ces types de projets.

Points à retenir

• L'ingénierie rapide est le processus d'élaboration, d'évaluation et d'amélioration des invites pour obtenir des résultats plus précis à partir d'un modèle d'IA.
• Les facteurs qui améliorent les invites incluent le format préféré du LLM, la spécificité du langage, l'identification appropriée des attentes du public et l'exécution d'appels de fonction pour les données externes.
• Dans le processus de développement d'applications, les ingénieurs d'invite créent un modèle de base qui répond aux facteurs nécessaires pour des sorties précises afin de combler les entrées utilisateur potentiellement vagues avec le LLM de l'application.
• Le développement d'applications fonctionne mieux lorsque les services d'IA et d'apprentissage automatique sont fournis par l'infrastructure sous-jacente, ce qui permet aux ingénieurs de se concentrer rapidement sur la tâche à accomplir.

Invite - Explication de l'ingénierie

Le secteur de l'IA considère l'ingénierie des invites dans deux contextes, la deuxième définition étant une extension de la première. La première définition fait référence à l'ensemble de compétences lui-même : la possibilité de concevoir et d'affiner une invite d'IA pour obtenir la sortie la plus souhaitable possible. Un processus d'essai et d'erreur entre en jeu au fur et à mesure que les ingénieurs expérimentent, avec le format, le choix du mot, des données contextuelles supplémentaires, telles que les appels de fonction tirés en externe via des API et d'autres variables, pour obtenir le résultat souhaité. Les ingénieurs rapides versés dans les modèles d'IA standard les plus populaires auront plus de chances de comprendre les formats spécifiques qui fournissent des résultats solides. En outre, les ingénieurs d'invite utilisent souvent des outils qui suivent l'historique de construction des invites, fournissent un espace d'expérimentation Sandbox et offrent des tests A/B des invites.

Une qualité utile pour les ingénieurs rapides est une connaissance approfondie du sujet du projet. Ce n'est pas une exigence absolue pour le rôle ; les ingénieurs rapides peuvent certainement être amenés à acquérir une expertise en IA technique plutôt qu'une compréhension contextuelle. Cependant, en commençant un projet avec une certaine compréhension de son objectif global, les ingénieurs rapides peuvent vérifier plus efficacement la précision et l'efficacité des résultats.

Cependant, il est impossible de s'attendre à ce que chaque utilisateur connaisse la stratégie d'un ingénieur rapide lors de l'utilisation d'une application. La deuxième définition de l'ingénierie rapide consiste donc à intégrer une invite de base créée de manière stratégique dans le cycle de développement d'une application. Cette invite de base fournit toute l'expertise de l'ingénieur d'invite dans un modèle invisible. Lorsque les utilisateurs placent leurs requêtes d'entrée, ces données augmentent les invites de base plutôt que d'être complètement froides. Il s'agit d'un élément clé du développement d'applications alimentées par l'IA, car il permet d'assurer la plus grande flexibilité des capacités des utilisateurs tout en fournissant une norme de sortie établie.

Pourquoi l'ingénierie rapide est-elle importante ?

L'ingénierie rapide est importante car elle optimise l'efficacité des initiatives d'IA à tous les niveaux, en termes de ressources, d'efforts et d'expérience utilisateur. Les invites de qualité permettent de réduire les coûts de traitement des requêtes et d'accroître la satisfaction des utilisateurs. Cela fait de l'ingénierie rapide un investissement intéressant pour les développeurs d'applications, même si cela prend du temps et des ressources supplémentaires pendant le cycle de développement.

A un niveau plus granulaire, l'ingénierie rapide peut aider à réduire les risques suivants pour les développeurs :

• Préjugé du développeur : dans le contexte de l'ingénierie des invites, le préjugé fait référence à l'introduction intentionnelle ou involontaire de points de vue, d'hypothèses ou de préférences par les ingénieurs qui créent des invites, ce qui peut fausser la sortie du modèle d'IA. Pour éviter ce problème, le processus d'ingénierie d'invite peut fournir de l'espace pour examiner l'algorithme, les données d'entraînement et les résultats de sortie sous différents angles. Cela facilite la prévention des biais, à la fois en fournissant une révision interne supplémentaire lors de la génération des invites et en créant des invites de base d'une manière qui peut potentiellement compenser ou corriger les biais d'un utilisateur.
• Vidange de ressources inattendue : au cours du processus d'essai et d'erreur, les ingénieurs d'invite peuvent déterminer quelles informations contextuelles (telles que l'historique des utilisateurs, les bases de données internes ou les systèmes externes) sont nécessaires pour fournir une sortie pertinente. En identifiant les données nécessaires pour les invites de base fortes, les développeurs peuvent examiner l'impact pratique (accès aux données internes) et technique (drainage des ressources des appels de fonction via des API) sur les ressources avant d'entrer trop loin dans le cycle de développement.
• Limites et paramètres non identifiés : l'ingénierie rapide fournit une autre couche d'examen qui aide l'ensemble de l'équipe de développement à établir des limites et des limites pertinentes. Il s'agit notamment des paramètres de conservation contextuelle par rapport à l'utilisation des ressources, des limites d'interaction utilisateur par rapport à la cognition logicielle et des problèmes inattendus liés aux paramètres d'entrée, tels que le format et la sémantique.
• Requêtes utilisateur imprévisibles : en créant des invites de base qui définissent la base des entrées, l'ingénierie des invites peut fournir une norme de qualité pour les requêtes, même si les entrées utilisateur sont vagues et générales.

Fonctionnement de l'ingénierie rapide

Les ingénieurs débutent généralement par des considérations de projet avant d'entreprendre un processus d'essai et d'erreur qui établit une invite réussie, avant de finalement l'intégrer dans l'application.

Vous trouverez ci-dessous une vue d'ensemble du fonctionnement général de ce processus :

1. Comprendre l'objectif et le public du modèle et de l'application : avant toute étape technique, les ingénieurs prennent généralement du recul et prennent en compte les nuances contextuelles du projet. Les données démographiques de l'audience, la complexité des modèles et les attentes en matière de résultats en fonction de variables, telles que l'industrie ou les connaissances attendues, doivent être comprises pour une génération rapide efficace. Sans cette connaissance, même une production techniquement précise peut ne pas fonctionner pour les besoins du public.

2. Comprendre le problème ou la question à explorer : une fois le contexte plus large de la situation établi, l'ingénieur peut accéder au problème spécifique. Les facteurs à prendre en compte comprennent l'objectif souhaité, le niveau de détail, les suivis prévus, les étapes ou les segments utilisés et les appels de fonction potentiels pour d'autres données.

3. Comprendre les tendances et les préférences des LLM : les LLM individuels présentent leurs propres particularités en termes de formats, de sémantique et de complexité. D'autres facteurs comprennent les limitations de ressources liées à l'infrastructure sous-jacente du modèle.

4. Concevoir l'invite initiale : Toutes les étapes ci-dessus doivent établir suffisamment d'informations sur le contexte, la finalité, le public et les limites pour créer une invite initiale.

5. Evaluer les résultats : une fois l'invite utilisée, les résultats doivent être évalués en fonction de leur succès. La façon dont cette réussite est mesurée dépend des objectifs du projet. Bien que la précision soit primordiale, les situations individuelles peuvent également nécessiter de mettre l'accent sur le ton, la voix, la longueur, le niveau de détail et l'engagement continu en utilisant la mémoire conservée.

6. Affiner selon les besoins : l'affinage d'une invite inclut l'ajustement du langage, l'ajout de contexte, l'intégration de fonctions via des appels d'API et d'autres possibilités de ce type. Les ingénieurs d'invite peuvent également utiliser divers outils pour faciliter le processus d'affinement. Ces outils peuvent enregistrer l'historique des invites, afficher les résultats via des tests A/B et gérer l'analyse des résultats pour un affinement accéléré.

7. Test de l'exportabilité : l'exportabilité offre deux avantages organisationnels. En testant l'invite par rapport à différents LLM, l'équipe de développement peut trouver qu'un LLM convient mieux au projet. En outre, les ingénieurs d'invite peuvent examiner les éléments contextuels de l'invite pour voir s'ils peuvent être exportés pour être utilisés dans d'autres projets.

8. Intégrer dans un modèle d'IA pour le déploiement : avec une invite de base réussie conçue, l'équipe de développement peut commencer les intégrations pour l'automatisation et l'évolutivité au sein du projet, de préférence sur une infrastructure cloud avec des services d'IA/ML gérés pour des performances optimisées. L'objectif est d'avoir une invite de base efficace qui peut ensuite être augmentée par la saisie utilisateur.

Prenons l'exemple d'un assistant sur une application météo. L'invite de base peut identifier les informations suivantes avant même qu'une personne ne saisisse une requête :

• Emplacement, extrait de l'adresse IP du périphérique
• Heure de la journée, également déterminée par l'adresse IP
• Données démographiques, extraites du profil d'application de l'utilisateur
• Rechercher dans l'historique les types de données typiques demandés, tels que le trafic ou les activités de plein air
• Objet de l'application, pour l'encadrement des réponses
• Ton de l'application, pour le choix du mot

Toutes ces pièces peuvent être mises en place à l'aide d'une invite de base, puis être intégrées à la question d'un utilisateur pour une sortie qui fournit une plus grande précision et personnalisation et le ton et la langue appropriés.

Avantages de l'ingénierie rapide

L'ingénierie rapide crée l'avantage clé de résultats plus spécifiques et précis. La façon dont cela est réalisé dépend des deux formes différentes d'ingénierie rapide, à la fois la pratique qualifiée réelle de l'ingénierie rapide et l'intégration dans un modèle en tant que modèles de base pour les requêtes publiques.

Voici quelques-uns des avantages les plus courants de l'ingénierie rapide dans son ensemble :

• Sortie et efficacité optimisées de l'IA : les grands modèles de langage peuvent fonctionner avec n'importe quelle entrée ou requête générale, mais cela représente souvent une perte de ressources car un affinement et un effort supplémentaire sont nécessaires. En tant qu'ensemble de compétences, l'ingénierie des invites ignore les invites génériques pour obtenir des réponses plus précises. Lorsqu'elle est intégrée à un modèle d'IA, l'ingénierie rapide oriente l'utilisateur dans une direction pertinente et colore efficacement les détails sans effort supplémentaire de la part de la personne qui effectue la requête.
• Amélioration de la flexibilité et de la personnalisation : une fois exécutées correctement, les premières étapes d'une approche d'ingénierie rapide peuvent offrir une plus grande flexibilité et une personnalisation à un projet. En créant un contexte neutre par domaine, des efforts d'ingénierie rapides peuvent être importés vers d'autres applications ou modèles. Les exemples de contexte neutre par domaine incluent l'identification des données démographiques des utilisateurs, des données de temps et de saison, ainsi que de la fonction et du ton de l'application. Ces éléments peuvent fonctionner avec presque tous les modèles tout en réduisant les sorties vagues et généralisées.
• Expérience utilisateur et satisfaction améliorées : souvent, les personnes abordent un LLM ou une application en sachant ce qu'elles veulent, mais sans possibilité d'articuler la demande d'une manière qui renvoie la réponse souhaitée. Prenons l'analogie d'aller à l'épicerie. Sans ingénierie rapide, c'est comme marcher dans le magasin, se tenir à l'entrée et dire : "J'ai faim." Dans ce scénario, l'ingénierie rapide peut affiner cette demande en fonction d'éléments tels que le budget, les préférences et les capacités pour vous conduire à la bonne allée. Lorsqu'elle est intégrée au modèle, l'ingénierie rapide permet une meilleure compréhension immédiate de l'utilisateur et de l'objectif, ce qui permet une meilleure expérience globale avec des résultats plus précis.

Défis techniques rapides

En tant que science, l'ingénierie rapide est relativement jeune. Les praticiens comprennent les développeurs de logiciels qui créent des invites pour ajouter des fonctionnalités basées sur l'IA à leurs applications pour des tâches telles que la génération de contenu, la synthèse, la traduction et les aides au code ; les communicateurs techniques qui cherchent à créer des systèmes tels que les chatbots du service client ; et les professionnels spécialisés de l'ingénierie rapide qui se concentrent sur la conception, les tests et l'optimisation des invites pour des cas d'utilisation très spécifiques et spécialisés.

Voici quelques-uns des défis les plus courants auxquels sont confrontées les personnes qui font de l'ingénierie rapide :

• Équilibrer la spécificité et la créativité : l'objectif de l'ingénierie rapide est de soutenir la liberté créative sans encombrer ni les résultats ni les ressources. Il s'agit d'un équilibre difficile. En revenant à l'analogie de l'épicerie, l'ingénierie rapide déséquilibrée est comme répondre à un utilisateur affamé avec un seul choix de spaghettis congelés. La spécificité contribue à garantir l'efficacité, mais les LLM ont besoin d'une flexibilité appropriée pour fournir des résultats précis et de haute qualité.
• Gestion de l'ambiguïté : lorsqu'une application ou un modèle d'IA produit des résultats ambiguës, ce qui impose une charge plus lourde à l'utilisateur. Plus un humain a besoin d'itérer et d'affiner une requête, plus le processus utilise de ressources. En tant qu'ensemble de compétences, une facette clé de l'ingénierie rapide minimise l'ambiguïté des résultats. Le défi consiste donc à affiner l'invite à établir une norme de spécificité sans créer trop de limites dans les résultats.
• Adaptation aux limites du modèle : Selon l'objectif et la fonction d'une application, son modèle peut avoir une audience et un ton très spécifiques à l'esprit. Pour les ingénieurs rapides, cette direction connue peut faciliter la mise en route. Cependant, cela peut également les amener à tomber dans un piège, en construisant des sorties qui ont une capacité limitée à intégrer des entrées inattendues ou diverses. Les développeurs d'applications peuvent travailler avec des ingénieurs d'invite pour discuter d'une plage acceptable d'entrées et sélectionner des modèles d'invite de base qui peuvent équilibrer les requêtes créatives et la fonction spécifique de l'application.
• Raffinement itératif : les ingénieurs d'invite peuvent tomber dans un piège en supposant qu'une invite efficace est une et effectuée. Cependant, étant donné que les modèles d'IA apprennent en permanence et que les applications sont en développement continu, une invite efficace peut bientôt être obsolète. Une fois l'invite construite, les ingénieurs doivent aller de l'avant avec conscience pour s'adapter à la nature dynamique de l'environnement. Lorsqu'une invite a été intégrée au flux de travail d'une application, le perfectionnement et l'évaluation continus sont particulièrement essentiels pour fournir des résultats de qualité.
• Conservation du contexte : au cours du processus de développement d'une application, toute l'équipe doit réfléchir à la manière d'équilibrer les fonctions et les performances. Du point de vue de l'expérience utilisateur, la conservation du contexte est essentielle pour créer une sortie précise. Cependant, chaque couche de rétention consomme plus de ressources, de sorte que le défi auquel les équipes de développement et leurs ingénieurs rapides doivent faire face est de comprendre quel contexte doit faire partie d'une invite interne établie et ce qui est requis des utilisateurs externes pour les invites suivantes. Tout comme les limitations des modèles, le choix de l'infrastructure sous-jacente et ses capacités à fournir un support intégré pour les projets d'IA peuvent optimiser considérablement les ressources pour augmenter la flexibilité lors de l'examen de la rétention du contexte.
• Gestion des requêtes longues et complexes : à terme, les modèles d'IA seront probablement en mesure de gérer des requêtes extrêmement complexes. Pour l'instant, la plupart d'entre eux ne peuvent pas - un point de basculement existe généralement où la sortie devient inefficace. Les développeurs peuvent utiliser l'ingénierie rapide pour réduire les variables liées à ce type de résultat en préchargant le contexte clé et en affectant des paramètres.
• Alignement de l'intention utilisateur : l'ingénierie rapide peut augmenter l'efficacité et donner une longueur d'avance, mais que se passe-t-il s'il est orienté dans la mauvaise direction ? La spécificité est une caractéristique clé dans les sorties d'ingénierie d'invite, mais seulement si elle fonctionne. Ainsi, les équipes de développement doivent vérifier que l'ingénierie rapide n'est pas si spécifique qu'elle contourne les véritables intentions d'un utilisateur.

Pour remédier à ces limitations de ressources et à d'autres, de nombreuses entreprises déploient leurs LLM sur une infrastructure cloud avec des services gérés intégrés qui sont réglés pour prendre en charge l'IA.

Compétences requises pour l'ingénierie rapide

Le concept d'ingénierie rapide n'étant à l'avant-garde qu'au cours de la dernière décennie, il reste un rôle en constante évolution. Un ingénieur rapide a besoin d'un ensemble de compétences de base et d'une compréhension de l'endroit où la fonction s'intègre dans le processus de formation et de développement d'applications d'algorithmes plus importants.

À la base, l'ingénierie rapide nécessite un mélange de solides compétences en communication, d'expertise en la matière et de sens de la programmation. Il existe un langage précis, des structures sémantiques et grammaticales nécessaires pour obtenir les réponses souhaitées des modèles d'IA, et l'ingénieur doit également comprendre la logique et les modèles sous-jacents utilisés par le LLM de l'entreprise. En outre, ils doivent être en mesure d'évaluer l'exactitude et la pertinence de la production générée.

Lorsqu'il est intégré à un workflow de développement, les compétences d'un ingénieur rapide doivent être plus techniques. Parce qu'une invite peut avoir besoin de faire des demandes externes, par exemple, une compréhension de la façon dont les API et les appels de fonction fonctionnent et la compétence dans les langages de programmation standard sont précieux. En outre, une formation technique permet aux ingénieurs rapides de prendre en compte les coûts de calcul des différentes stratégies d'invite afin qu'ils puissent trouver un équilibre entre performance et rentabilité.

Invite - Cas d'utilisation d'ingénierie

L'ingénierie rapide peut être un outil essentiel pour améliorer à la fois l'efficacité de l'utilisation des ressources d'IA et la satisfaction des utilisateurs. En intégrant une invite de base dans le flux de travail d'une application, les applications peuvent générer des résultats meilleurs et plus précis, même lorsque les humains fournissent des entrées vagues.

Voici quelques-unes des façons dont l'ingénierie rapide peut bénéficier à des cas d'utilisation spécifiques.

• Enseignement : Les modèles d'IA ont plusieurs utilisations dans les salles de classe et les laboratoires, et l'ingénierie rapide aide à créer un chemin personnalisé et efficace. Envisagez d'implémenter un assistant numérique personnalisé pour améliorer l'expérience des étudiants, avec des invites personnalisées pour répondre aux questions avec des informations en temps réel. Une école peut utiliser l'IA pour développer des plans d'apprentissage personnalisés, avec des invites qui peuvent extraire des données des objectifs des élèves et des plans de leçon tout en effectuant des appels de fonction vers les enregistrements et les classes précédents. Ou un développeur d'applications de tutorat peut concevoir des invites afin que les réponses soient appropriées pour l'âge et le niveau de compétence de chaque élève.
• Finances : les applications peuvent vous aider dans les aspects financiers internes et orientés client, notamment la génération de rapports, l'analyse des tendances du marché et le service client. Dans chacun de ces cas, l'ingénierie rapide peut créer des démarrages en tête pour l'utilisateur. Pour les rapports internes, les invites peuvent extraire les données des appels de fonction vers les données du marché externe ou les métriques internes. Pour le service client, les invites peuvent extraire des données de l'historique d'un client et de facteurs externes, tels que l'heure, la saison et le type de demande. En interne, les invites peuvent être personnalisées pour faciliter le travail de prévention de la fraude.
• Santé : l'IA peut aider à diagnostiquer les conditions médicales, à résumer les dossiers des patients et à générer des rapports médicaux. Ces systèmes peuvent également soutenir les professionnels de santé. Pour atteindre tout cela, les invites peuvent être conçues pour refléter un ton approprié pour les publics des patients ou des praticiens tout en tirant le contexte requis via des appels de fonctions externes vers des dossiers supplémentaires, des systèmes des employés et les dernières recherches médicales connexes.
• Fabrication : Les entreprises de fabrication ont adopté l'IA pour prendre en charge une gamme de fonctions, y compris le suivi du statut de la chaîne d'approvisionnement, le contrôle de la qualité et les outils en libre-service client. Chacun de ces cas d'utilisation nécessite un accès à des sources internes et externes pour répondre aux différents besoins de l'audience. Par exemple, pour optimiser les calendriers de production, les invites peuvent être conçues pour aller au-delà de l'utilisation des délais internes établis et des facteurs tels que le statut du fournisseur, les données du cycle de vie des outils et les problèmes en temps réel qui peuvent affecter la livraison, tels que les jours fériés ou les intempéries.
• Marketing : Les campagnes de marketing digital génèrent beaucoup de données. Le contenu marketing généré par l'IA bénéficie grandement des invites conçues pour exploiter ces données. Les ingénieurs peuvent préparer des invites de base qui s'affichent, par exemple des publications sur les réseaux sociaux faisant référence à la marque. Pour optimiser l'engagement, les campagnes publicitaires pourraient alors cibler des données spécifiques sur les sentiments des utilisateurs et les données démographiques.
• Biens immobiliers : le secteur de l'immobilier tire ses données d'un large éventail de sources : registres des ventes publiques, taux d'intérêt et tendances financières, même données météorologiques et saisonnières. Mais les applications de l'industrie ont tendance à se concentrer sur une chose : faire correspondre ceux qui recherchent des maisons avec les bonnes propriétés. Pendant ce temps, les entreprises immobilières ont des défis uniques en matière de gestion des RH que l'IA peut aider. L'ingénierie rapide peut orienter une application dans la bonne direction en fonction des besoins et des données actuels tout en préparant les appels de fonction appropriés dans les invites de base pour fournir ce dont les utilisateurs ont besoin.
• Vente au détail : les applications d'assistant d'achat basées sur l'IA peuvent augmenter la satisfaction client et les taux de conversion en personnalisant les recommandations et en ajoutant l'automatisation aux workflows client. Une grande partie des données à l'origine de ces améliorations provient des données client, y compris les historiques d'achat, de recherche et de service. En créant une invite de base qui utilise de manière proactive les personas des clients et saisit les données appropriées, les chatbots et d'autres applications peuvent mieux interagir avec les acheteurs.
• Voyages : Les applications de voyage basées sur l'IA peuvent améliorer les recommandations et les itinéraires personnalisés, grâce à une ingénierie rapide. Par exemple, lorsqu'un utilisateur demande une réservation de restaurant au cours d'un voyage planifié, l'invite peut aller au-delà de l'emplacement général et du facteur dans l'historique de l'utilisateur, par exemple si les enfants sont impliqués, tout en faisant des appels de fonction pour la cuisine, la disponibilité de la table et le coût. Tous ces facteurs peuvent être atteints en explorant les résultats, mais l'ingénierie rapide peut fournir un point de départ pour faciliter la charge de travail des requêtes tout en fournissant une sortie plus rapide et plus précise. Des invites bien conçues peuvent également permettre aux assistants numériques alimentés par l'IA d'aider les clients et le personnel à répondre à des questions urgentes.

Techniques d'ingénierie rapide

Diverses techniques d'ingénierie rapide viennent avec des forces et des faiblesses. La détermination de la bonne pour un projet dépend des objectifs, des capacités de traitement et de l'infrastructure de support sous-jacente, du LLM utilisé, de l'audience et d'autres paramètres uniques.

Voici quelques-unes des techniques d'ingénierie rapide les plus populaires utilisées aujourd'hui :

• Chaîne de pensée : diriger le LLM pour identifier et répertorier les étapes intermédiaires vers l'objectif final est un moyen d'améliorer la précision et la transparence. Les techniques de chaîne de pensée peuvent être déclenchées en demandant au modèle de répertorier les étapes, y compris des exemples de listes d'étapes pratiques, ou en offrant des options à choix multiples tout en demandant un raisonnement pour une sélection.
• Stimulus directionnel : la sortie du LLM peut être améliorée en fournissant des conseils et des directions avec l'invite. Le stimulus directionnel incitant fonctionne en fournissant des indices, des paramètres et un contexte spécifiques aux questions générales dans le texte suivant la question de base. En ajoutant le mot "conseil" et une liste de détails, comme la façon dont une publication sur les médias sociaux peut ajouter des hashtags pour fournir du contexte, la sortie peut être définie pour incorporer ces éléments et générer un résultat de meilleure qualité.
• De moins à plus : cela implique de décomposer une invite en sous-problèmes, puis de les exécuter dans une séquence définie. Le moins à la plus grande incitation ressemble à l'approche de la chaîne de pensée en ce sens qu'elle voit une invite sur un niveau granulaire, mais son utilisation d'étapes intermédiaires pour construire progressivement une réponse permet une exécution plus complexe. Comme les invites de chaîne de pensée, les invites les moins à la plupart sont appliquées de manière plus efficace aux problèmes complexes qui peuvent être décomposés en une série de sous-problèmes plus simples et séquentiels.
• Maieutique : Il s'agit d'invites progressives et ouvertes qui s'appuient sur les réponses en guidant le modèle pour qu'il réfléchisse à son raisonnement. L'incitation maieutique est basée sur la méthode socratique du dialogue, qui commence généralement par une question ouverte, puis se penche plus loin sur le raisonnement derrière chaque réponse. Dans la pratique, cela se fait en commençant par une question, puis en demandant successivement au modèle d'expliquer sa réponse plus en profondeur.
• Auto-affiner : l'amélioration progressive de la sortie d'un LLM peut être obtenue en renvoyant la réponse précédente au modèle tout en demandant une amélioration. L'auto-incitation est une technique itérative qui donne au modèle la possibilité de réévaluer sa sortie pour d'éventuelles modifications et ajouts ; elle est mieux utilisée pour examiner les problèmes dans lesquels l'objectif est d'optimiser une solution particulière, telle que la génération de code. Comme il s'agit d'une technique basée sur des instructions, les ingénieurs doivent vérifier que le modèle a la capacité et les ressources nécessaires pour conserver les réponses et s'appuyer sur celles-ci de manière itérative.
• Séquentiel : Il s'agit d'une série d'étapes liées et séquentielles permettant de terminer un workflow ou un profil. L'invite séquentielle fonctionne mieux dans deux situations : lorsqu'une séquence spécifique est impliquée, telle que des instructions ou des procédures, et lorsqu'on commence par une approche plus large d'un sujet particulier, puis construit la réponse comme un dialogue guidé jusqu'à ce qu'un point satisfaisant soit atteint. L'invite séquentielle est reconnue à l'aide de mots-clés clairs qui délimitent la séquence, tels que "étape 1" ou "partie 2".

Meilleures pratiques pour l'ingénierie rapide

Les ingénieurs rapides travaillent souvent sur de nombreux projets différents avec des objectifs différents, sur différentes plates-formes de LLM avec différents niveaux de ressources de calcul. Néanmoins, il existe quelques considérations communes pour obtenir le meilleur résultat possible.

1. Considérez la "personnalité" de votre LLM
En plus des limites standard de tous les LLM, comme les hallucinations, chaque plate-forme présente des avantages et des inconvénients. Par exemple, actuellement GPT-4 peut prendre en charge à la fois le texte et les images, mais utilise beaucoup de ressources de calcul. BERT est open source et offre une compréhension puissante, mais nécessite plus d'efforts pour affiner les tâches spécifiques. Chaque LLM a également son propre format et sa sémantique préférés pour les entrées, et les modèles évoluent constamment. Ce qui fonctionne pour un projet maintenant ne peut pas être dans six mois ou un an.

2. Précision et concision de l'équilibre
Des invites vagues et ouvertes conduisent les modèles à produire des résultats vagues ou répétitifs. La spécificité est la clé d'une bonne ingénierie rapide, y compris des éléments techniques et pratiques. Sur le plan technique, les invites précises prennent en compte les formats préférés et les paramètres connus du LLM et de l'application. Sur le plan pratique, les facteurs clés comprennent le public cible, la fonction app/modèle, les connaissances de base attendues et les instructions précises, ainsi que les échantillons ou paramètres appropriés, tels que le nombre de points ou d'exemples demandés.

3. Ajouter des indices contextuels
Dans les requêtes complexes, le contexte peut faire toute la différence. Les ingénieurs d'invite prêtent donc attention à informer l'invite et fournissent un motif d'encadrement pour la demande. Réfléchissez à la question : "Est-ce que le temps est beau aujourd'hui ?" Lors de l'élaboration d'une invite pour une IA, un ingénieur rapide reconnaît que la définition de "bon" est subjective. En ajoutant stratégiquement du contexte à l'invite, l'ingénieur peut obtenir des réponses plus utiles. Par exemple, au lieu de simplement poser la question à l'IA, une invite peut être structurée pour inclure le contexte :

• Contraintes de l'utilisateur : La personne souffre-t-elle d'asthme ou d'allergies au pollen ? Un ingénieur pourrait programmer l'IA pour tenir compte des conditions locales et des problèmes de santé spécifiques.
• Intention de l'utilisateur : Est-ce un agriculteur qui espère la pluie ou un étudiant qui espère une journée ensoleillée pour une sortie ? L'IA peut fournir un contexte saisonnier et basé sur les activités.
• Spécificité temporelle et géographique : quel est le pays, la ville, la saison et le jour de la semaine ?

La fourniture d'un contexte stratégique aide le LLM à générer des réponses plus utiles et personnalisées. Les ingénieurs d'invite peuvent choisir d'identifier divers appels de fonction externe via des API qui peuvent générer une partie de ce contexte à l'avance.

4. Soyez patient avec des tests itératifs et des améliorations
L'ingénierie rapide est un processus d'essai et d'erreur. Heureusement, les praticiens ont accès à divers outils qui peuvent prendre en charge les tests itératifs et l'affinement en fournissant des éléments tels que l'historique des invites, les environnements de simulation pour différents LLM, les évaluations et suggestions de performance et les tests A/B. En utilisant un outil de gestion des invites, le raffinement devient plus efficace et traçable, ce qui permet une vue plus complète du chemin vers une invite optimisée. Cette visibilité peut également constituer une base pour l'exportation des invites de base de contexte neutre reproductibles.

Avenir de l'ingénierie rapide

Le parcours évolutif de l'ingénierie rapide sera probablement lié aux progrès techniques de l'IA et des LLM. La plupart des ingénieurs rapides s'attendent à ce que la compréhension des LLM continue de croître, les invites peuvent devenir de plus en plus sophistiquées, ce qui permet d'inclure des informations plus détaillées, spécifiques et contextuelles. Actuellement, les LLM ont tendance à avoir un point de rupture où des invites longues et complexes entraînent des sorties absurdes.

Une tangente à l'augmentation de la complexité rapide est la capacité d'adaptation rapide. En d'autres termes, les ingénieurs en IA cherchent des moyens pour que les LLM génèrent des invites qui peuvent s'auto-adapter en fonction du contexte, de l'historique et des spécifications d'une conversation. De même, les développeurs cherchent à faire fonctionner les LLM avec plusieurs types d'entrée. Dans un monde parfait, les LLM seraient en mesure de prendre une entrée multimodale de texte, d'audio et d'imagerie pour créer une sortie.

Une version de celle-ci existe actuellement sous la forme de génération augmentée de récupération (RAG). La RAG chevauche l'objectif général de l'ingénierie rapide en ce sens qu'elle s'efforce de fournir un contexte plus profond qui donne des résultats plus précis. Cependant, la RAG est effectuée via une extraction de données autopropagée, en fonction d'indices dans l'invite. Dans un monde parfait, un ingénieur d'invite construit une invite de base, puis RAG ajoute un contexte supplémentaire grâce à la récupération de données plus pertinentes, résultant en une sortie très précise. Les outils RAG fonctionnent mieux à l'aide de bases de données vectorielles pour une récupération rapide et une puissance de traitement suffisante. Alors que les fournisseurs de cloud abordent ces problèmes et d'autres pour les projets d'IA et de machine learning, les fonctionnalités inhérentes et la conception évolutive de ces services fourniront une meilleure base pour prendre en charge les fonctionnalités des LLM.

La mission d’Oracle : vous aider à...

Oracle Cloud Infrastructure (OCI) Generative AI fournit des services gérés qui peuvent aider à libérer du temps pour que les ingénieurs rapides expérimentent leurs requêtes sans se soucier de l'accès à plusieurs choix de LLM, à des ressources évolutives et à une sécurité de niveau entreprise. L'expérience de discussion OCI fournit une interface prête à l'emploi avec les modèles Cohere et Meta tout en préservant la confidentialité des données.

Les ingénieurs rapides sont en partie traducteurs, détectives et codeurs, utilisant leur créativité et leurs compétences linguistiques pour élaborer des mots et des instructions précis pour taquiner le résultat souhaité des LLM extrêmement complexes. Les invites d'artisanat sont une compétence humaine unique, et le gain est ce moment où la modification d'une phrase transforme la réponse de l'IA du générique, même hallucinogène, au génie.

FAQ sur l'ingénierie des invites

Qu'est-ce que l'ingénierie rapide dans l'IA ?

L'ingénierie rapide fait référence à deux éléments différents dans l'IA. Le premier est l'ensemble de compétences de l'ingénierie rapide, qui est le processus d'affinage d'une invite d'entrée pour obtenir le meilleur résultat, le plus précis. La seconde est l'intégration dans un workflow d'IA d'invites de base répétables, automatisées et évolutives qui ont été conçues par un ingénieur d'invite pour aider à générer des sorties même si les utilisateurs ne fournissent que des requêtes vagues.

Comment l'ingénierie des invites améliore-t-elle les sorties des modèles d'IA ?

Sans l'ingénierie rapide, les sorties de modèle d'IA ne fournissent souvent qu'une réponse très générale à une requête de base typique. Les ingénieurs d'invite s'engagent dans un processus d'essai et d'erreur pour identifier des modèles, composés de choix de mot, de format, d'appels de fonction et d'autres éléments, qui peuvent ensuite être intégrés dans l'application en tant qu'invite de base, ce qui peut aider à fournir des réponses détaillées à des requêtes utilisateur même vagues.

Quels outils sont couramment utilisés pour l'ingénierie rapide ?

Les outils qui peuvent aider les ingénieurs à effectuer leurs tâches de manière plus efficace et plus rapide permettent de créer un modèle d'environnement restreint d'évaluation et d'erreur pour les invites tout en fournissant des outils de gestion et la possibilité d'examiner les résultats avec des analyses détaillées, un historique et une évaluation des invites, des tests A/B et un chaînage. Les outils d'invite prennent en charge une variété de modèles et de sorties d'IA de base : certains sont de type texte uniquement, tandis que d'autres prennent en charge des images et du texte.

En quoi l'ingénierie rapide est-elle différente de la programmation traditionnelle ?

La programmation traditionnelle fonctionne avec un ensemble strict de règles suivant un format de code spécifique, le tout pour obtenir une réponse reproductible. L'ingénierie rapide suit un flux d'entrée/sortie similaire, mais dans un chemin beaucoup plus lâche. Les entrées d'ingénierie rapides utilisent le langage naturel, mais fonctionnent également mieux lorsque vous respectez les formats et la sémantique préférés par un modèle d'IA spécifique. En raison de cette nature ouverte, les modifications peuvent être plus rapides dans l'ingénierie rapide en raison de modifications du langage d'essai et d'erreur plutôt que d'affiner ou de déboguer le code. Cependant, ces modifications peuvent ne pas obtenir les résultats précis trouvés avec les processus de code reproductibles.