What Is Prompt Engineering? A Guide.

Jeder kann einen Input für ein großes Sprachmodell bereitstellen. Die Frage ist, ob die resultierende Ausgabe des LLM das beabsichtigte Ziel erfüllt oder die gestellte Frage beantwortet? Das hängt weitgehend davon ab, wie gut der Input gemacht wurde, wo Prompt Engineering ins Spiel kommt. Eine gute Abfrage erhöht die Wahrscheinlichkeit, dass ein LLM genau das produziert, was das Projekt benötigt; sie generiert auch Nebenvorteile, die sich auf zukünftige Projekte auswirken können.

Was ist Prompt Engineering?

Prompt Engineering ist die Praxis, Anweisungen oder Prompts zu erstellen, um ein generatives KI-Modell anzuleiten, um die gewünschten Ausgaben zu generieren. Dieser Prozess nutzt iterative Bemühungen, um die Performance verschiedener Formate, Phrasen, Funktionsaufrufe von LLMs zu anderen Systemen und zusätzlicher variabler Elemente eines AI-Prompts zu verbessern. Ziel ist es, dem LLM eine optimale Spezifität und einen optimalen Kontext zu bieten.

Im Folgenden sind einige der wichtigsten Elemente des Prompt Engineering aufgeführt:

• Format: Aufgrund der Art und Weise, wie LLMs entwickelt und trainiert werden, ist das Format und die Struktur von Prompts für die Ausgabe wichtig. Die besten Ausgaben beginnen mit einem Verständnis des bevorzugten Formats für das im Modell verwendete LLM.
• Funktionsaufrufe: Die Integration von Daten aus externen Quellen kann die Qualität und Genauigkeit einer Ausgabe erhöhen. Prompts können Funktionsaufrufe für dynamische Datenabrufe starten, die Ergebnisse zurückgeben, solange auf die gewünschten Daten zugegriffen werden kann.
• Spezifität: Mehrdeutigkeit bei Prompt-Phrasierungen kann zu ungenauen, fehlgeleiteten oder unbefristeten (auch unsinnigen) Nachwirkungen führen. Ein Fokus auf die Spezifität bei der Wortwahl erhöht die Qualität und Tiefe der ausgegebenen Antworten. Einfach ausgedrückt, es ist der Unterschied zwischen "Ich will einen Hund" und "Ich will einen Rettungshund unter drei Jahren, der kistentrainiert und gut mit kleinen Kindern ist".
• Benutzerzielgruppe: Prompts erzeugen die genauesten Ergebnisse, wenn sie die Aufmerksamkeit der Zielgruppe integrieren. Eine hochtechnische Person unterscheidet sich viel von einem Schüler oder einem Kind, und das sollte sich in der Aufforderung widerspiegeln, damit die Ausgabe die Erwartungen des Publikums sowohl an Ton als auch an Details erfüllt.

Während der Begriff "Prompt Engineering" die allgemeine Wissenschaft der Verbesserung von Prompts zum Erreichen von Ergebnissen widerspiegelt, fungiert er auch als Schritt im Anwendungsentwicklungsprozess. In ihrer Rolle erstellen Prompt-Ingenieure Vorlagen und Skripte, die als Basis-Prompts bezeichnet werden, in der App, die Endbenutzereingaben mit dem Modell verbinden, während sie für den Benutzer unsichtbar sind. Ziel eines Basis-Prompts ist es, eine skalierbare und automatisierte Methode zur Überbrückung von Anfragen während der Arbeit innerhalb der Ressourcengrenzen des Projekts bereitzustellen. Eine Infrastruktur, die von Natur aus KI- und ML-Funktionen und skalierbare Ressourcen unterstützt, kann diese Projekttypen vereinfachen und optimieren.

Wichtige Erkenntnisse

• Prompt Engineering ist der Prozess der Erstellung, Bewertung und Verbesserung von Eingabeaufforderungen, um genauere Ergebnisse aus einem KI-Modell zu erhalten.
• Zu den Faktoren, die Prompts verbessern, gehören das bevorzugte Format des LLM, die Spezifität der Sprache, die angemessene Identifizierung der Erwartungen der Zielgruppe und die Durchführung von Funktionsaufrufen für externe Daten.
• Im Anwendungsentwicklungsprozess erstellen Prompt-Ingenieure eine Basisvorlage, die die notwendigen Faktoren für genaue Ausgaben berücksichtigt, um potenziell vage Benutzereingaben mit dem LLM der App zu überbrücken.
• Die App-Entwicklung funktioniert am besten, wenn KI- und ML-Services von der zugrunde liegenden Infrastruktur bereitgestellt werden, sodass sich prompte Ingenieure auf die aktuelle Aufgabe konzentrieren können.

Prompt-Engineering erklärt

Die KI-Branche sieht schnelles Engineering in zwei Kontexten, wobei die zweite Definition eine Erweiterung der ersten ist. Die erste Definition bezieht sich auf den tatsächlichen Skill selbst: die Fähigkeit, einen KI-Prompt zu erstellen und zu verfeinern, um die wünschenswerteste Ausgabe zu erzielen. Ein Trial-and-Error-Prozess kommt ins Spiel, wenn Prompt-Ingenieure – mit Format, Wortwahl, zusätzlichen kontextbezogenen Daten, wie Funktionsaufrufen, die extern über APIs abgerufen werden, und anderen Variablen – experimentieren, um die gewünschte Ausgabe zu erzielen. Prompt-Ingenieure, die mit den beliebtesten Standard-KI-Modellen vertraut sind, haben eine stärkere Chance, die spezifischen Formate zu verstehen, die starke Ergebnisse liefern. Darüber hinaus verwenden Prompt-Ingenieure häufig Tools, die den Prompt-Bauverlauf verfolgen, Sandbox-Experimentationsraum bereitstellen und A/B-Tests von Prompts anbieten.

Eine hilfreiche Qualität für prompte Ingenieure ist ein starkes Wissen im Projektthema. Dies ist keine absolute Anforderung für die Rolle; prompte Ingenieure können sicherlich eher auf technisches KI-Know-how als auf kontextbezogenes Verständnis gebracht werden. Wenn Sie jedoch ein Projekt mit einem gewissen Verständnis für seinen Gesamtzweck beginnen, können Prompt-Ingenieure die Ergebnisse effizienter auf Genauigkeit und Effizienz überprüfen.

Es ist jedoch unmöglich zu erwarten, dass jeder Benutzer die Strategie eines prompten Ingenieurs kennt, wenn er eine App verwendet. Die zweite Definition von Prompt Engineering besteht also darin, einen strategisch erstellten Basis-Prompt in den Entwicklungszyklus einer App zu integrieren. Dieser Basis-Prompt bietet alle Kenntnisse des Prompt-Ingenieurs in einer nicht angezeigten Vorlage. Wenn Benutzer ihre Eingabeabfragen eingeben, erweitert diese Datenbasis die Eingabeaufforderungen, anstatt völlig kalt zu werden. Dies ist ein wichtiger Bestandteil einer erfolgreichen KI-gestützten App-Entwicklung, da es dazu beiträgt, die größtmögliche Flexibilität der Benutzerfähigkeit zu gewährleisten und gleichzeitig einen etablierten Ausgabestandard bereitzustellen.

Warum ist Prompt Engineering wichtig?

Schnelles Engineering ist wichtig, weil es die Effizienz von KI-Initiativen auf der ganzen Linie maximiert – in Ressourcen, im Aufwand, in der Benutzererfahrung. Qualitäts-Prompts führen zu niedrigeren Abfrageverarbeitungskosten und einer höheren Benutzerzufriedenheit. Das macht schnelles Engineering zu einer lohnenden Investition für App-Entwickler, auch wenn es während des Entwicklungszyklus zusätzliche Zeit und Ressourcen benötigt.

Auf einer detaillierteren Ebene kann das prompte Engineering dazu beitragen, die folgenden Risiken für Entwickler zu verringern:

• Entwicklerneigung: Im Kontext von Prompt Engineering bezieht sich Bias auf die absichtliche oder unbeabsichtigte Einführung von Standpunkten, Annahmen oder Vorlieben durch Ingenieure, die Prompts erstellen, was die Ausgabe des KI-Modells verzerren kann. Um dieses Problem zu vermeiden, kann der Prompt-Engineering-Prozess Platz bieten, um den Algorithmus, die Trainingsdaten und die Ausgabeergebnisse aus einer Vielzahl von Perspektiven zu untersuchen. Dies hilft bei der Verhinderung von Voreingenommenheit, sowohl durch die Bereitstellung einer zusätzlichen internen Überprüfung während der Prompt-Generierung als auch durch die Erstellung von Basis-Prompts in einer Weise, die möglicherweise kompensieren oder die eigenen Vorurteile eines Benutzers adressieren kann.
• Unerwarteter Ressourcenverbrauch: Während des Trial-and-Error-Prozesses können Prompt-Ingenieure bestimmen, welche kontextbezogenen Informationen wie Benutzerhistorie, interne Datenbanken oder externe Systeme erforderlich sind, um relevante Ausgaben zu liefern. Durch die Identifizierung der Daten, die für starke Basis-Prompts erforderlich sind, können Entwickler die praktischen (Zugang zu internen Daten) und technischen (Ressourcenabfluss von Funktionsaufrufen über APIs) Auswirkungen auf Ressourcen untersuchen, bevor sie zu weit in den Entwicklungszyklus gelangen.
• Nicht identifizierte Grenzen und Parameter: Das Prompt-Engineering bietet eine weitere Untersuchungsebene, mit der das gesamte Entwicklungsteam relevante Grenzen und Einschränkungen festlegen kann. Dazu gehören Parameter für die kontextbezogene Aufbewahrung im Vergleich zur Ressourcennutzung, Grenzen für die Benutzerinteraktion im Vergleich zur Softwareerkennung und unerwartete Probleme mit Eingabeparametern, wie Format und Semantik.
• Unvorhersehbare Benutzerabfragen: Durch die Erstellung von Basis-Prompts, die das Fundament für Eingaben bilden, kann das Prompt Engineering einen Qualitätsstandard für Abfragen bereitstellen – auch wenn die Benutzereingabe vage und allgemein ist.

Wie Prompt Engineering funktioniert

Prompt-Ingenieure beginnen in der Regel mit Projektüberlegungen, bevor sie einen Trial-and-Error-Prozess durchführen, der einen erfolgreichen Prompt festlegt, bevor er schließlich in die App integriert wird.

Im Folgenden finden Sie eine allgemeine Übersicht über die Funktionsweise dieses Prozesses:

1. Verständnis des Zweckes und der Zielgruppe des Modells und der Anwendung: Bevor technische Schritte durchgeführt werden, gehen Ingenieure in der Regel einen Schritt zurück und berücksichtigen die kontextbezogenen Nuancen des Projekts. Demografie der Zielgruppe; Modellkomplexität; und Erwartungen an Ergebnisse, die auf Variablen wie Industrie oder erwartetem Wissen basieren, müssen für eine effektive schnelle Generierung verstanden werden. Ohne dieses Wissen kann auch eine technisch korrekte Ausgabe nicht für die Bedürfnisse des Publikums funktionieren.

2. Verstehen Sie das zu untersuchende Problem oder die zu untersuchende Frage: Sobald der breitere Kontext der Situation festgelegt wurde, kann der Techniker einen Drilldown zu dem spezifischen Problem durchführen. Zu den Faktoren, die berücksichtigt werden müssen, gehören das gewünschte Ziel, die Detailebene, erwartete Folgeaktivitäten, verwendete Schritte oder Segmente und potenzielle Funktionsaufrufe für weitere Daten.

3. Verstehen Sie die Tendenzen und Präferenzen des LLM: Einzelne LLMs haben ihre eigenen Eigenheiten in Formaten, Semantik und Komplexität. Weitere Faktoren sind Ressourcenbeschränkungen, die mit der zugrunde liegenden Infrastruktur des Modells verbunden sind.

4. Ersten Prompt erstellen: Alle oben genannten Schritte sollten genügend Informationen zu Kontext, Zweck, Zielgruppe und Einschränkungen enthalten, um einen ersten Prompt zu erstellen.

5. Ergebnisse bewerten: Sobald der Prompt verwendet wurde, müssen die Ausgaben erfolgreich ausgewertet werden. Wie dieser Erfolg gemessen wird, hängt von den Zielen des Projekts ab. Während Genauigkeit von größter Bedeutung ist, können einzelne Situationen auch eine Betonung auf Ton, Stimme, Länge, Detaillierungsgrad und kontinuierliches Engagement mit beibehaltenem Speicher erfordern.

6. Nach Bedarf verfeinern: Das Verfeinern einer Eingabeaufforderung umfasst das Optimieren der Sprache, das Hinzufügen von Kontext, das Integrieren von Funktionen über API-Aufrufe und andere solche Möglichkeiten. Prompt-Ingenieure können auch verschiedene Tools verwenden, um den Verfeinerungsprozess zu unterstützen. Solche Tools können die Prompt-Historie aufzeichnen, Ergebnisse über A/B-Tests anzeigen und die Ausgabeanalyse zur beschleunigten Verfeinerung verwalten.

7. Auf Exportierbarkeit testen: Die Exportierbarkeit bietet zwei organisatorische Vorteile. Durch das Testen der Prompt anhand verschiedener LLMs kann das Entwicklungsteam feststellen, dass ein LLM besser für das Projekt geeignet ist. Darüber hinaus können Prompt-Ingenieure die kontextneutralen Teile des Prompts untersuchen, um zu sehen, ob sie zur Verwendung in anderen Projekten exportiert werden können.

8. Integration in ein KI-Modell für die Bereitstellung: Mit einem erfolgreichen Basis-Prompt kann das Entwicklungsteam Integrationen zur Automatisierung und Skalierbarkeit innerhalb des Projekts beginnen, vorzugsweise in einer Cloud-Infrastruktur mit verwalteten KI/ML-Services für eine optimierte Performance. Dadurch wird das Ziel erreicht, einen effektiven Basis-Prompt zu haben, der dann durch Benutzereingaben erweitert werden kann.

Betrachten Sie das Beispiel eines Assistenten in einer Wetter-App. Die Basis-Eingabeaufforderung kann die folgenden Informationen identifizieren, bevor eine Person überhaupt eine Abfrage eingibt:

• Standort, aus der IP-Adresse des Geräts abgerufen
• Uhrzeit, auch bestimmt durch die IP-Adresse
• Stammdaten aus dem App-Profil des Benutzers
• Suchverlauf für typische angeforderte Datentypen, wie Verkehr oder Outdoor-Aktivitäten
• Zweck der Anmeldung, zur Ausarbeitung von Antworten
• Ton der App, für Wortwahl

Alle diese Teile können mit einem Basis-Prompt platziert werden und dann mit der Frage eines Benutzers für eine Ausgabe integriert werden, die eine höhere Genauigkeit und Personalisierung sowie den entsprechenden Ton und die entsprechende Sprache bietet.

Vorteile von Prompt Engineering

Schnelles Engineering schafft den Hauptvorteil spezifischerer, genauerer Ergebnisse. Wie dies erreicht wird, hängt von den beiden verschiedenen Formen des Prompt Engineerings ab – sowohl von der tatsächlichen qualifizierten Praxis des Prompt Engineerings als auch von der Integration in ein Modell als Basisvorlagen für öffentliche Abfragen.

Im Folgenden sind einige der häufigsten Vorteile von Prompt Engineering als Ganzes aufgeführt:

• Optimierte KI-Ausgabe und -Effizienz: Große Sprachmodelle können mit jeder allgemeinen Eingabe oder Abfrage funktionieren. Dies ist jedoch oft eine Verschwendung von Ressourcen, da Verfeinerung und zusätzlicher Aufwand erforderlich sind. Als Skillset umgeht Prompt Engineering allgemeine Prompts, um genauere Antworten zu erhalten. Bei der Integration in ein KI-Modell weist das Prompt Engineering den Benutzer in eine relevante Richtung und färbt Details effizient ein, ohne dass der Benutzer die Abfrage erstellt.
• Verbesserte Flexibilität und Anpassung: Bei ordnungsgemäßer Ausführung können die ersten Schritte eines Prompt-Engineering-Ansatzes einem Projekt mehr Flexibilität und Anpassung bieten. Durch den Aufbau eines domänenneutralen Kontexts können zeitnahe Engineering-Bemühungen in andere Apps oder Modelle importiert werden. Beispiele für domänenneutralen Kontext sind die Identifizierung von demografischen Benutzerdaten, Zeit- und Saisondaten sowie App-Funktion und -Ton. Diese Elemente können mit fast jedem Modell arbeiten und gleichzeitig vage und verallgemeinerte Ausgaben reduzieren.
• Verbesserte Benutzererfahrung und Zufriedenheit: Oft nähern sich Menschen einem LLM oder einer Anwendung, die wissen, was sie wollen, aber nicht in der Lage sind, die Anforderung so zu formulieren, dass die gewünschte Antwort zurückgegeben wird. Nehmen wir die Analogie, zum Lebensmittelgeschäft zu gehen. Ohne prompte Technik gleicht es dem Gehen in den Laden, Stehen am Eingang und sagen: "Ich bin hungrig." In diesem Szenario könnte das Prompt Engineering diese Anforderung basierend auf Budget, Präferenzen und Funktionen verfeinern, um Sie zum richtigen Gang zu führen. Wenn das Prompt-Engineering in das Modell integriert ist, bietet es ein besseres sofortiges Verständnis des Benutzers und des Ziels, was zu einer besseren Gesamterfahrung mit genaueren Ergebnissen führt.

Schnelle Engineering-Herausforderungen

Als Wissenschaft ist prompte Technik relativ jung. Zu den Praktikern gehören Softwareentwickler, die Prompts erstellen, um ihren Anwendungen KI-gestützte Funktionen für Aufgaben hinzuzufügen, einschließlich Inhaltsgenerierung, Zusammenfassung, Übersetzung und Code-Unterstützung; technische Kommunikatoren, die Systeme wie Kundenservice-Chatbots erstellen möchten; und spezialisierte Prompt-Engineering-Experten, die sich auf das Entwerfen, Testen und Optimieren von Prompts für sehr spezifische, spezialisierte Anwendungsfälle konzentrieren.

Im Folgenden sind einige der häufigsten Herausforderungen aufgeführt, vor denen Menschen beim prompten Engineering stehen:

• Ausgleich von Spezifität und Kreativität: Das Ziel von Prompt Engineering ist es, kreative Freiheit zu unterstützen, ohne entweder die Ausgabe oder die Ressourcen zu belasten. Das zu erreichen, ist eine schwierige Balance. Zurück zur Analogie des Lebensmittelgeschäfts, unausgewogenes Prompt-Engineering ist wie auf einen hungrigen Benutzer mit einer einzigen Wahl von gefrorenen Spaghetti zu reagieren. Spezifität trägt zur Gewährleistung der Effizienz bei, aber LLMs benötigen eine angemessene Flexibilität, um genaue und qualitativ hochwertige Ergebnisse zu liefern.
• Mehrdeutigkeit verwalten: Wenn eine Anwendung oder ein KI-Modell mehrdeutige Ergebnisse liefert, belastet dies den Benutzer stärker – und je mehr ein Mensch eine Abfrage iterieren und verfeinern muss, desto mehr Ressourcen verwendet der Prozess. Als Fähigkeitsset ist ein wesentlicher Aspekt des Prompt Engineering die Minimierung der Mehrdeutigkeit der Ergebnisse. Die Herausforderung besteht also darin, die Aufforderung zu verfeinern, einen Standard der Spezifität festzulegen, ohne zu viele Einschränkungen in den Ergebnissen zu schaffen.
• Anpassung an Modelleinschränkungen: Je nach Zweck und Funktion einer App kann ihr Modell eine sehr spezifische Zielgruppe und einen ganz bestimmten Ton berücksichtigen. Für prompte Ingenieure kann diese bekannte Richtung einen einfacheren Weg zum Einstieg bieten. Es kann jedoch auch dazu führen, dass sie in eine Falle fallen, Gebäudeausgänge, die nur begrenzte Fähigkeit haben, unerwartete oder verschiedene Eingänge zu integrieren. App-Entwickler können mit Prompt-Ingenieuren zusammenarbeiten, um eine akzeptable Reihe von Eingaben zu diskutieren und Basis-Prompt-Vorlagen auszuwählen, die zwischen kreativen Abfragen und der spezifischen Funktion der App ausgleichen können.
• Iterative Verfeinerung: Prompt-Ingenieure können in eine Falle geraten, wenn davon ausgegangen wird, dass ein effektiver Prompt eine ist und erledigt ist. Da KI-Modelle jedoch kontinuierlich lernen und Apps ständig weiterentwickelt werden, kann ein effektiver Prompt bald veraltet sein. Sobald ein Prompt erstellt ist, müssen Ingenieure mit Bewusstsein vorankommen, um sich an die dynamische Natur der Umwelt anzupassen. Wenn ein Prompt in den Workflow einer App integriert wurde, sind kontinuierliche Verfeinerung und Bewertung besonders wichtig, um qualitativ hochwertige Ausgaben zu liefern.
• Kontextaufbewahrung: Während des Entwicklungsprozesses einer App muss das gesamte Team überlegen, wie Funktion und Performance ausgeglichen werden können. Aus Sicht der Benutzererfahrung ist die Kontextaufbewahrung der Schlüssel zur Erstellung einer genauen Ausgabe. Jede Ebene der Bindung verbraucht jedoch mehr Ressourcen. Daher besteht die Herausforderung, mit der Entwicklungsteams und ihre prompten Ingenieure konfrontiert sind, darin zu verstehen, welcher Kontext Teil einer etablierten internen Eingabeaufforderung sein sollte und was von externen Benutzern für nachfolgende Eingabeaufforderungen erforderlich ist. Ähnlich wie bei Modellbeschränkungen kann die Auswahl der zugrunde liegenden Infrastruktur – und ihre Fähigkeit, integrierte Unterstützung für KI-Projekte bereitzustellen – Ressourcen erheblich optimieren, um die Flexibilität bei der Prüfung der Kontextbindung zu erhöhen.
• Lange und komplexe Abfragen verarbeiten: Schließlich können KI-Modelle höchstwahrscheinlich extrem komplexe Abfragen verarbeiten. Im Moment können die meisten von ihnen nicht - ein Wendepunkt existiert normalerweise dort, wo die Ausgabe unwirksam wird. Entwickler können das Prompt-Engineering verwenden, um Variablen zu reduzieren, die sich auf diese Art von Ergebnis beziehen, indem sie den Schlüsselkontext vorab laden und Parameter zuweisen.
• Ausrichtung von Benutzer-Intents: Prompt-Engineering kann die Effizienz steigern und einen Vorsprung bieten. Aber was ist, wenn es in die falsche Richtung zeigt? Spezifität ist eine wichtige Funktion in Prompt-Engineering-Ausgaben, aber nur, wenn sie funktioniert. Daher müssen Entwicklungsteams sicherstellen, dass Prompt Engineering nicht so spezifisch ist, dass es die wahren Absichten eines Benutzers ignoriert.

Um diese und andere Ressourcenbeschränkungen zu beheben, stellen viele Unternehmen ihre LLMs in einer Cloud-Infrastruktur mit integrierten verwalteten Services bereit, die auf die Unterstützung von KI abgestimmt sind.

Erforderliche Skills für Prompt Engineering

Da das Konzept der prompten Technik erst in den letzten zehn Jahren in den Vordergrund gerückt ist, bleibt es eine sich entwickelnde Rolle. Ein erfolgreicher Prompt-Ingenieur benötigt eine Kernkompetenz und ein Verständnis dafür, wo die Funktion in den größeren Algorithmus-Schulungs- und App-Entwicklungsprozess passt.

Im Kern erfordert zeitnahes Engineering eine Mischung aus starken Kommunikationsfähigkeiten, Fachwissen und Programmierkenntnis. Es gibt präzise sprachliche, semantische und grammatikalische Strukturen, die erforderlich sind, um die gewünschten Antworten von KI-Modellen zu erhalten, und der Ingenieur muss auch die zugrunde liegende Logik und Muster verstehen, die vom LLM der Organisation verwendet werden. Darüber hinaus müssen sie in der Lage sein, die Genauigkeit und Relevanz des erzeugten Outputs zu bewerten.

Bei der Integration in einen Entwicklungsworkflow sollten die Fähigkeiten eines Prompt-Ingenieurs technischer sein. Da ein Prompt beispielsweise externe Anforderungen stellen muss, sind ein Verständnis der Funktionsweise von APIs und Funktionsaufrufen sowie die Kompetenz in Standardprogrammiersprachen wertvoll. Darüber hinaus ermöglicht ein technischer Hintergrund es prompten Ingenieuren, die Rechenkosten verschiedener Prompting-Strategien zu berücksichtigen, damit sie ein Gleichgewicht zwischen Leistung und Kosteneffizienz erreichen können.

Prompt für technische Anwendungsfälle

Schnelles Engineering kann ein wichtiges Instrument sein, um sowohl die Effizienz bei der Nutzung von KI-Ressourcen als auch die Benutzerzufriedenheit zu verbessern. Durch die Integration einer Basis-Prompt in den Workflow einer App können Apps bessere und genauere Ergebnisse erzielen, selbst wenn Menschen vage Eingaben bereitstellen.

Im Folgenden sind nur einige der Möglichkeiten aufgeführt, wie schnelles Engineering spezifische Anwendungsfälle nutzen kann.

• Bildung: KI-Modelle haben mehrere Einsatzmöglichkeiten in Klassenzimmern und Labors, und Prompt Engineering hilft, einen personalisierten, effektiven Weg zu schaffen. Betrachten Sie eine Universität, die einen benutzerdefinierten digitalen Assistenten implementiert, um die Studentenerfahrung zu verbessern. Dabei werden Prompts verwendet, die auf die Beantwortung von Fragen mit Echtzeitinformationen zugeschnitten sind. Eine Schule könnte KI verwenden, um personalisierte Lernpläne zu entwickeln, mit Prompts, die Daten aus Schülerzielen und Unterrichtsplänen abrufen können, während Funktionsaufrufe zu früheren Datensätzen und Kursen durchgeführt werden. Oder ein Tutoring-App-Entwickler kann Prompts erstellen, so dass Antworten für das Alter und die Qualifikation jedes Schülers angemessen sind.
• Finanzen: Apps können sowohl auf der internen als auch auf der kundenorientierten Seite des Finanzwesens helfen, einschließlich Berichterstellung, Markttrendanalyse und Kundenservice. In jedem dieser Fälle kann Prompt Engineering für den Benutzer Head Starts aufbauen. Für interne Berichte können Prompts Daten aus Funktionsaufrufen zu externen Marktdaten oder internen Metriken abrufen. Beim Kundenservice können Prompts Daten aus der Historie eines Kunden und externen Faktoren wie Zeit, Saison und Abfragetyp abrufen. Intern können Prompts angepasst werden, um bei der Betrugsprävention zu helfen.
• Gesundheitswesen: KI kann dabei helfen, medizinische Bedingungen zu diagnostizieren, Patientenakten zusammenzufassen und medizinische Berichte zu erstellen. Diese Systeme können auch Mitarbeiter im Gesundheitswesen unterstützen. Um all dies zu erreichen, können Eingabeaufforderungen so konzipiert sein, dass sie einen geeigneten Ton für das Patienten- oder Praxispublikum widerspiegeln, während der erforderliche Kontext über externe Funktionsaufrufe zu zusätzlichen Aufzeichnungen, Mitarbeitersystemen und der neuesten damit verbundenen medizinischen Forschung abgerufen wird.
• Fertigung: Fertigungsunternehmen haben KI eingeführt, um eine Reihe von Funktionen zu unterstützen, darunter Lieferkettenstatusverfolgung, Qualitätskontrolle und Selfservice-Tools für Kunden. Jeder dieser Anwendungsfälle erfordert Zugriff auf interne und externe Quellen, um unterschiedliche Zielgruppenanforderungen zu erfüllen. Beispiel: Um Produktionspläne zu optimieren, können Eingabeaufforderungen so konzipiert werden, dass sie über die Verwendung festgelegter interner Fristen hinausgehen und Elemente wie Lieferantenstatus, Lebenszyklusdaten von Tools und Echtzeitprobleme berücksichtigen, die sich auf die Lieferung auswirken können, wie z.B. Feiertage oder schlechtes Wetter.
• Marketing: Digitale Marketingkampagnen generieren viele Daten. KI-generierte Marketinginhalte profitieren stark von Aufforderungen, die zur Nutzung dieser Daten entwickelt wurden. Ingenieure können Basis-Prompts vorbereiten, die z. B. Social-Media-Posts auf die Marke verweisen. Um das Engagement zu optimieren, könnten Werbekampagnen dann auf bestimmte Sentiment- und Demografiedaten der Benutzer abzielen.
• Immobilien: Die Immobilienbranche nutzt Inputs aus einer Vielzahl von Quellen: öffentliche Verkaufsunterlagen, Zinssätze und Finanztrends, sogar Wetter- und Saisondaten. Aber Industrie-Apps neigen dazu, sich auf eine Sache zu konzentrieren: diejenigen, die nach Häusern mit den richtigen Eigenschaften suchen. Inzwischen haben Immobilienunternehmen einzigartige Herausforderungen im Personalmanagement, bei denen KI helfen kann. Prompt-Engineering kann eine App basierend auf den aktuellen Anforderungen und Daten in die richtige Richtung weisen und gleichzeitig entsprechende Funktionsaufrufe in Basis-Prompts vorbereiten, um das bereitzustellen, was Benutzer benötigen.
• Einzelhandel: KI-fähige Einkaufsassistenten-Apps können die Kundenzufriedenheit und die Konversionsraten erhöhen, indem sie Empfehlungen personalisieren und Kundenworkflows Automatisierung hinzufügen. Ein Großteil der Daten, die diese Verbesserungen bewirken, stammen aus Kundendaten, einschließlich Kauf-, Such- und Servicehistorien. Durch die Erstellung eines Basis-Prompts, das proaktiv Kunden-Personas verwendet und entsprechende Daten erfasst, können Chatbots und andere Apps die Käufer besser ansprechen.
• Reise: KI-gestützte Reise-Apps können dank promptem Engineering personalisierte Empfehlungen und Reiserouten verbessern. Beispiel: Wenn ein Benutzer während einer geplanten Reise nach einer Restaurantreservierung fragt, kann die Eingabeaufforderung über den allgemeinen Standort und den Faktor der Benutzerhistorie hinausgehen, z. B. ob Kinder beteiligt sind, während Funktionsaufrufe für Küche, Tischverfügbarkeit und Kosten getätigt werden. Dies sind alles Faktoren, die durch einen Drilldown in die Ergebnisse erreicht werden können. Das Prompt Engineering kann jedoch einen Vorsprung bieten, um die Abfrage-Workload zu vereinfachen und gleichzeitig eine schnellere und genauere Ausgabe zu liefern. Gut entwickelte Prompts können KI-gestützte digitale Assistenten auch dabei unterstützen, sowohl Kunden als auch Mitarbeiter bei der Beantwortung zeitkritischer Fragen zu unterstützen.

Prompt-Techniken

Verschiedene schnelle Technik kommen mit Stärken und Schwächen. Die Ermittlung des richtigen Projekts hängt von den Zielen, den Verarbeitungsfunktionen und der zugrunde liegenden Supportinfrastruktur, dem verwendeten LLM, der Zielgruppe und anderen eindeutigen Parametern ab.

Im Folgenden werden einige der beliebtesten Prompt-Engineering-Techniken behandelt, die heute verwendet werden:

• Denkkette: Das LLM zu leiten, um zwischengeschaltete Schritte zum endgültigen Ziel zu identifizieren und aufzulisten, ist ein Mittel zur Verbesserung der Genauigkeit und Transparenz. Chain-of-Thought-Techniken können ausgelöst werden, indem das Modell aufgefordert wird, Schritte aufzulisten, einschließlich Beispielen von How-to-Schrittlisten, oder indem Optionen mit Mehrfachauswahl angeboten werden, während nach einer Begründung für eine Auswahl gefragt wird.
• Direktionaler Stimulus: Die Ausgabe des LLM kann verbessert werden, indem Hinweise und Richtungen mit dem Prompt bereitgestellt werden. Richtungsstimulus veranlasst Arbeiten, indem spezifische Hinweise, Parameter und Kontext zu allgemeinen Fragen im Text nach der Basisfrage bereitgestellt werden. Durch das Hinzufügen des Wortes "Hinweis" und einer Liste von Details, ähnlich wie ein Social-Media-Post Hashtags hinzufügen kann, um Kontext bereitzustellen, kann die Ausgabe so eingestellt werden, dass diese Elemente einbezogen werden und ein qualitativ hochwertiges Ergebnis generiert wird.
• Least to most: Dies bedeutet, dass ein Prompt in Unterprobleme unterteilt und diese dann in einer definierten Reihenfolge ausgeführt werden. Am wenigsten aufzufordern ähnelt dem Ansatz der Denkkette, da es eine Eingabeaufforderung auf granularer Ebene anzeigt, die Verwendung von Zwischenschritten zum schrittweisen Erstellen einer Antwort jedoch eine komplexere Ausführung ermöglicht. Wie Ketten-of-Thought-Prompts werden am effektivsten auf komplexe Probleme angewendet, die in eine Reihe einfacherer, sequenzieller Unterprobleme unterteilt werden können.
• Maieutisch: Dazu gehören schrittweise Eingabeaufforderungen mit offenem Ende, die auf Antworten aufbauen, indem sie das Modell anleiten, über seine Argumentation nachzudenken. Maieutic Prompting basiert auf der sokratischen Methode des Dialogs, die in der Regel mit einer offenen Frage beginnt und dann weiter auf die Argumentation hinter jeder Antwort gründet. In der Praxis wird dies erreicht, indem man mit einer Frage beginnt und dann das Modell nacheinander auffordert, seine Antwort ausführlicher zu erklären.
• Selbstfein: Eine schrittweise Verbesserung der Ausgabe eines LLM kann erreicht werden, indem die vorherige Antwort an das Modell zurückgegeben und gleichzeitig um Verbesserungen gebeten wird. Die selbstdefinierte Eingabeaufforderung ist eine iterative Technik, die dem Modell die Möglichkeit gibt, seine Ausgabe auf mögliche Verbesserungen und Ergänzungen neu zu bewerten. Sie wird am besten für die Berücksichtigung von Problemen verwendet, bei denen das Ziel darin besteht, eine bestimmte Lösung zu optimieren, wie z. B. die Codegenerierung. Da es sich um eine anweisungsbasierte Technik handelt, müssen Ingenieure überprüfen, ob das Modell über die Fähigkeit und die Ressourcen verfügt, Antworten beizubehalten und iterativ darauf aufzubauen.
• Sequenziell: Hierbei handelt es sich um eine Reihe zusammenhängender und sequenzieller Schritte, um einen Workflow oder eine Gliederung abzuschließen. Sequenzielles Prompting funktioniert am besten in zwei Situationen: Wenn eine bestimmte Sequenz involviert ist, z. B. Anweisungen oder Verfahren, und wenn man mit einem breiteren Ansatz für ein bestimmtes Thema beginnt, dann baut man die Antwort als geführten Dialog auf, bis ein zufriedenstellender Punkt erreicht ist. Die sequenzielle Eingabeaufforderung wird durch klare Schlüsselwörter erkannt, die Sequenz angeben, wie "Schritt 1" oder "Teil 2".

Best Practices für Prompt Engineering

Prompt-Ingenieure arbeiten häufig an vielen verschiedenen Projekten mit unterschiedlichen Zielen über verschiedene LLM-Plattformen mit unterschiedlichen Ebenen von Rechenressourcen hinweg. Dennoch gibt es einige gemeinsame Überlegungen, um die bestmögliche Leistung zu erzielen.

1. Betrachten Sie die "Persönlichkeit" Ihres LLM
Zusätzlich zu den Standardbeschränkungen aller LLMs, wie Halluzinationen, bietet jede Plattform Vor- und Nachteile. Zum Beispiel kann GPT-4 derzeit sowohl Text als auch Bilder unterstützen, verwendet jedoch viele Rechenressourcen. BERT ist Open Source und bietet ein leistungsstarkes Verständnis, erfordert jedoch mehr Aufwand bei der Feinabstimmung für bestimmte Aufgaben. Jedes LLM hat auch sein eigenes bevorzugtes Format und seine Semantik für die Eingabe, und Modelle entwickeln sich ständig weiter. Was jetzt für ein Projekt funktioniert, könnte nicht in sechs Monaten oder einem Jahr sein.

2. Ausgewogene Präzision und Kürze
Vage, unbestimmte Eingabeaufforderungen führen dazu, dass Modelle vage oder repetitive Ergebnisse liefern. Spezifität ist der Schlüssel für ein gutes zeitnahes Engineering, das sowohl technische als auch praktische Elemente umfasst. Auf der technischen Seite berücksichtigen präzise Prompts die bevorzugten Formate und bekannten Parameter des LLM und der App. Praktisch sind unter anderem die Zielgruppe, die App/Modell-Funktion, das erwartete Hintergrundwissen und genaue Anweisungen sowie entsprechende Samples oder Parameter, wie die Anzahl der angeforderten Punkte oder Beispiele.

3. Kontextbezogene Hinweise hinzufügen
In komplexen Abfragen kann Kontext den Unterschied ausmachen, sodass Prompt-Ingenieure darauf achten, den Prompt zu informieren, und einen Rahmen für die Anforderung angeben. Die Frage: "Ist das Wetter heute gut?" Beim Erstellen einer Aufforderung für eine KI erkennt ein prompter Ingenieur, dass die Definition von "gut" subjektiv ist. Durch strategisches Hinzufügen von Kontext zur Eingabeaufforderung kann der Techniker nützlichere Antworten liefern. Beispiel: Anstatt der KI nur die Frage zu stellen, könnte ein Prompt so strukturiert werden, dass er Kontext enthält:

• Benutzerbeschränkungen: Leidet die Person an Asthma oder hat Pollenallergien? Ein Ingenieur kann die KI programmieren, um lokale Bedingungen und spezifische Gesundheitsbedenken zu berücksichtigen.
• User Intent: Ist es ein Bauer, der auf Regen hofft oder ein Student, der auf einen sonnigen Tag für einen Ausflug hofft? Die KI kann saisonalen und aktivitätsbasierten Kontext bereitstellen.
• Zeitliche und geografische Spezifität: Was ist das Land, die Stadt, die Jahreszeit und der Wochentag?

Die strategische Bereitstellung von Kontext hilft dem LLM, nützlichere und personalisiertere Antworten zu generieren. Prompt-Ingenieure können verschiedene externe Funktionsaufrufe über APIs identifizieren, die einen Teil dieses Kontexts im Voraus generieren können.

4. Geduld mit iterativen Tests und Verfeinerungen
Die Eingabeaufforderungstechnik ist ein Prozess der Prüfung und des Fehlers. Glücklicherweise haben Praktiker Zugriff auf verschiedene Tools, die iterative Tests und Verfeinerungen unterstützen können, indem sie Elemente wie Prompt History, Sandbox-Umgebungen für verschiedene LLMs, Leistungsbewertungen und Vorschläge sowie A/B-Tests bereitstellen. Durch die Verwendung eines Prompt-Management-Tools wird die Verfeinerung effizienter und nachvollziehbarer und ermöglicht so einen umfassenderen Überblick über den Pfad zu einer optimierten Eingabeaufforderung. Diese Sichtbarkeit kann auch eine Grundlage für den Export wiederholbarer, kontextneutraler Basis-Prompts bilden.

Zukunft von Prompt Engineering

Der Evolutionsweg von Prompt Engineering wird wahrscheinlich an die technischen Fortschritte von KI und LLMs gebunden sein. Die meisten prompten Ingenieure erwarten, dass, wenn das Verständnis von LLMs weiter wächst, Prompts immer ausgefeilter werden können, was eine Aufnahme von detaillierteren, spezifischeren und kontextbezogenen Informationen ermöglicht. Derzeit haben LLMs tendenziell eine Bruchstelle, bei der lange und komplexe Eingabeaufforderungen zu unsinnigen Ausgaben führen.

Eine Tangente zu einer erhöhten zeitnahen Komplexität ist die Fähigkeit zur schnellen Anpassungsfähigkeit. Mit anderen Worten, KI-Ingenieure suchen nach Möglichkeiten für LLMs, Prompts zu generieren, die sich basierend auf dem Kontext, der Geschichte und den Spezifikationen eines Gesprächs selbst anpassen können. In ähnlicher Weise versuchen Entwickler, LLMs mit mehreren Eingabearten arbeiten zu lassen. In einer perfekten Welt könnten LLMs eine multimodale Eingabe von Text, Audio und Bildern vornehmen, um eine Ausgabe zu erstellen.

Eine Version davon ist derzeit in Form einer retrieval-augmented generation (RAG) vorhanden. RAG überschneidet sich mit dem allgemeinen Zweck der Prompt-Engineering, da es darum bemüht ist, einen tieferen Kontext bereitzustellen, der zu genaueren Ausgaben führt. RAG wird jedoch über einen selbstpropagierten Datenabruf basierend auf Hinweisen innerhalb der Eingabeaufforderung durchgeführt. In einer perfekten Welt erstellt ein Prompt-Ingenieur einen Basis-Prompt, dann fügt RAG durch das Abrufen relevanterer Daten weiteren Kontext hinzu, was zu einer hochgenauen Ausgabe führt. RAG-Tools arbeiten am besten mit Vektordatenbanken für einen schnellen Abruf und bei ausreichender Rechenleistung. Da Cloud-Provider diese und andere Probleme für KI- und ML-Projekte angehen, werden die inhärenten Funktionen und das skalierbare Design dieser Services eine bessere Grundlage bieten, um die Funktionen von LLMs zu unterstützen.

Unterstützung durch Oracle

Oracle Cloud Infrastructure (OCI) Generative AI bietet verwaltete Services, die dazu beitragen können, Zeit zu gewinnen, damit Ingenieure ihre Abfragen ausprobieren können, ohne sich Gedanken über den Zugriff auf mehrere LLM-Auswahlmöglichkeiten, skalierbare Ressourcen und Sicherheit der Unternehmensklasse machen zu müssen. Die OCI-Chat-Erfahrung bietet eine sofort einsatzbereite Schnittstelle mit Cohere- und Meta-Modellen und hilft gleichzeitig, Daten privat zu halten.

Prompt-Ingenieure sind Teilübersetzer, Teildetektiv und Teilcodierer und nutzen ihre Kreativität und Sprachkenntnisse, um die genauen Wörter und Anweisungen zu erstellen, um das gewünschte Ergebnis aus immens komplexen LLMs herauszuholen. Das Erstellen von Prompts ist eine einzigartige menschliche Fähigkeit, und die Auszahlung ist der Moment, in dem eine Phrase die Reaktion der KI von generischen, sogar halluzinogenen, zu Genies transformiert.

Prompt Engineering - Häufig gestellte Fragen

Was ist Prompt Engineering in der KI?

Prompt Engineering bezieht sich auf zwei verschiedene Elemente in der KI. Der erste ist der Skillsatz des Prompt-Engineering, bei dem eine Eingabeaufforderung verfeinert wird, um das beste und genaueste Ergebnis zu erhalten. Die zweite ist die Integration in einen KI-Workflow mit wiederholbaren, automatisierten und skalierbaren Basis-Prompts, die von einem Prompt-Techniker erstellt wurden, um Ausgaben zu generieren, auch wenn Benutzer nur vage Abfragen bereitstellen.

Wie verbessert das Prompt Engineering die KI-Modellausgaben?

Ohne Prompt Engineering liefern KI-Modellausgaben oft nur eine sehr allgemeine Antwort auf eine typische grundlegende Abfrage. Prompt-Ingenieure arbeiten an einem Trial-and-Error-Prozess, um Muster zu identifizieren, die aus Wortwahl, Format, Funktionsaufrufen und anderen Elementen bestehen, die dann als Basis-Prompt in die App integriert werden können, was dazu beitragen kann, detaillierte Antworten auf sogar vage Benutzeranfragen zu liefern.

Welche Tools werden häufig für das Prompt Engineering verwendet?

Tools, mit denen Ingenieure ihre Arbeit besser und schneller erledigen können, ermöglichen eine Sandbox für Test- und Fehlerzwecke, während sie Managementtools bereitstellen und Ergebnisse mit detaillierten Analysen, Prompt-History und -Evaluierung, A/B-Tests und Verkettung untersuchen können. Prompt-Tools unterstützen eine Vielzahl von KI-Kernmodellen und -Ausgaben – einige sind nur Text, während andere Bilder und Text unterstützen.

Wie unterscheidet sich promptes Engineering von herkömmlicher Programmierung?

Die traditionelle Programmierung arbeitet mit einem strengen Regelsatz, der einem bestimmten Codeformat folgt, um eine wiederholbare Antwort zu erreichen. Prompt-Engineering folgt einem ähnlichen Eingabe-/Ausgabefluss, jedoch in einem viel lockeren Pfad. Prompt-Engineering-Inputs verwenden natürliche Sprache, funktionieren aber auch am besten, wenn sie Formate und Semantik einhalten, die von einem bestimmten KI-Modell bevorzugt werden. Aufgrund dieser unbefristeten Natur können Änderungen im Prompt-Engineering aufgrund von Trial-and-Error-Sprachverbesserungen schneller sein als beim Verfeinern oder Debuggen von Code. Diese Änderungen erzielen jedoch möglicherweise nicht die genauen Ergebnisse, die bei wiederholbaren Codeprozessen gefunden werden.