What Is Prompt Engineering? A Guide.

누구나 대규모 언어 모델에 입력을 제공할 수 있습니다. 질문은 LLM의 결과물이 의도한 목표를 달성합니까, 아니면 질문한 질문에 답변합니까? 이는 주로 입력이 얼마나 잘 작성되었는지에 따라 달라지며, 이는 신속한 엔지니어링이 들어오는 곳입니다. 좋은 쿼리는 LLM이 프로젝트에 필요한 것을 정확히 생산할 확률을 크게 높여줍니다. 또한 향후 프로젝트에 발생할 수 있는 부작용도 발생합니다.

프롬프트 엔지니어링이란?

프롬프트 엔지니어링은 생성형 AI 모델이 원하는 출력을 생성하도록 안내하는 지침 또는 프롬프트를 작성하는 관행입니다. 이 프로세스는 반복적인 노력을 통해 LLM에서 다른 시스템으로의 다양한 형식, 문구, 함수 호출, AI 프롬프트의 추가 가변 요소 등을 개선합니다. 목표는 LLM에 최적의 특성과 컨텍스트를 제공하는 것입니다.

다음은 프롬프트 엔지니어링의 가장 중요한 요소 중 일부입니다.

• 형식: LLM의 개발 및 학습 방식 때문에 프롬프트의 형식과 구조가 출력에 중요합니다. 최상의 출력은 모델에서 사용되는 LLM의 선호 형식을 이해하는 것으로 시작됩니다.
• 함수 호출: 외부 소스의 데이터를 통합하면 출력의 품질과 정확성이 향상될 수 있습니다. 프롬프트는 동적 데이터 인출에 대한 함수 호출을 실행할 수 있으며, 원하는 데이터에 액세스할 수 있는 한 결과를 반환합니다.
• 특정성: 프롬프트 구문의 모호성은 부정확하거나, 잘못 지시되거나, 개방형(비의미적) 응답이 생성될 수 있습니다. 단어 선택의 특이성에 초점을 맞추면 출력 응답의 품질과 깊이가 증가합니다. 간단히 말해서, 그것은 "나는 개를 원한다"와 "나는 크레이트 훈련 된 세 살 미만의 구조 개를 원하고 어린 아이들과 잘 어울린다"는 차이입니다.
• 사용자 대상: 프롬프트는 대상자에 대한 인식을 통합할 때 가장 정확한 결과를 생성합니다. 고도의 기술적 인 사람은 학생이나 어린이와 많이 다르며, 출력이 어조와 세부 사항에 대한 청중의 기대에 부합하도록 프롬프트에 반영되어야합니다.

프롬프트 엔지니어링이라는 용어는 결과 달성을 위한 프롬프트 개선의 일반적인 과학을 반영하는 반면, 애플리케이션 개발 프로세스의 한 단계 역할을 합니다. 해당 역할에서 프롬프트 엔지니어는 기본 프롬프트라고 하는 템플리트 및 스크립트를 앱 내에서 생성하여 일반 사용자 입력을 사용자에게 보이지 않는 동안 모델과 연결합니다. 기본 프롬프트의 목표는 프로젝트의 리소스 범위 내에서 작업하면서 조회를 연결하기 위한 확장 가능하고 자동화된 방법을 제공하는 것입니다. 기본적으로 AI 및 ML 기능과 확장 가능한 리소스를 지원하는 인프라는 이러한 유형의 프로젝트를 단순화하고 최적화할 수 있습니다.

핵심 요점

• 프롬프트 엔지니어링은 AI 모델에서 보다 정확한 결과를 얻기 위해 프롬프트를 작성, 평가 및 개선하는 프로세스입니다.
• 프롬프트를 개선하는 요인으로는 LLM의 선호 형식, 언어의 특이성, 잠재 고객의 기대치를 적절하게 식별, 외부 데이터에 대한 기능 호출 등이 있습니다.
• 앱 개발 프로세스에서 프롬프트 엔지니어는 앱의 LLM과 잠재적으로 모호한 사용자 입력을 연결하기 위해 정확한 출력에 필요한 요인을 해결하는 기본 템플리트를 생성합니다.
• 앱 개발은 기본 인프라에서 AI 및 ML 서비스를 제공할 때 가장 잘 작동하므로 엔지니어가 당면한 작업에 집중할 수 있습니다.

프롬프트 엔지니어링 설명

AI 산업 견해는 두 가지 맥락에서 엔지니어링에 프롬프트를 표시하고, 두 번째 정의는 첫 번째 정의의 확장입니다. 첫 번째 정의는 실제 기술 세트 자체를 의미합니다. 즉, 가능한 가장 바람직한 출력을 유도하기 위해 AI 프롬프트를 제작하고 세분화하는 기능입니다. 시험 및 오류 프로세스는 신속한 엔지니어가 형식, 단어 선택, API를 통해 외부적으로 풀링된 함수 호출과 같은 추가 컨텍스트 데이터, 원하는 출력을 달성하기 위한 추가 컨텍스트 데이터 등 실험을 수행합니다. 가장 인기 있는 표준 AI 모델을 사용하는 프롬프트 엔지니어는 강력한 결과를 제공하는 특정 형식을 이해할 가능성이 더 높습니다. 또한 프롬프트 엔지니어는 프롬프트 시공 기록을 추적하고 샌드박스 실험 공간을 제공하며 프롬프트의 A/B 테스트를 제공하는 도구를 자주 사용합니다.

신속한 엔지니어에게 유용한 품질은 프로젝트의 주제에 대한 강력한 지식입니다. 이는 해당 역할에 대한 절대적인 요구 사항이 아닙니다. 프롬프트 엔지니어는 상황에 맞는 이해가 아닌 기술적 AI 전문 지식을 활용할 수 있습니다. 그러나 프로젝트의 전체적인 목적에 대한 이해를 바탕으로 프로젝트를 시작함으로써 프롬프트 엔지니어는 결과물의 정확성과 효율성을 보다 효율적으로 확인할 수 있습니다.

그러나 모든 사용자가 앱을 사용할 때 프롬프트 엔지니어의 전략을 알 것이라고 기대하는 것은 불가능합니다. 프롬프트 엔지니어링의 두 번째 정의는 전략적으로 생성된 기본 프롬프트를 앱의 개발 주기에 통합하는 것입니다. 이 기본 프롬프트는 보이지 않는 템플릿에서 프롬프트 엔지니어의 모든 전문 지식을 제공합니다. 유저가 입력 query를 입력하면 데이터가 완전히 콜드 상태가 아닌 기본 프롬프트를 보강합니다. 이는 설정된 출력 표준을 제공하면서 사용자 기능의 가장 광범위한 유연성을 보장하는 데 도움이 되므로 성공적인 AI 기반 앱 개발의 핵심 부분입니다.

프롬프트 엔지니어링이 중요한 이유는 무엇입니까?

프롬프트 엔지니어링은 리소스, 노력, 사용자 경험 등 전반에서 AI 이니셔티브의 효율성을 극대화하기 때문에 중요합니다. 품질 프롬프트는 쿼리 처리 비용을 절감하고 사용자 만족도를 높입니다. 이로써 신속한 엔지니어링은 개발 주기 동안 추가 시간과 리소스가 필요하더라도 앱 개발자에게 가치 있는 투자를 할 수 있습니다.

보다 세분화된 수준에서 프롬프트 엔지니어링은 개발자에게 다음과 같은 위험을 개선하는 데 도움이 될 수 있습니다.

• 개발자 편향: 프롬프트 엔지니어링의 맥락에서 편향은 AI 모델의 출력을 왜곡할 수 있는 프롬프트를 생성하는 엔지니어가 의도적이거나 의도하지 않은 관점, 가정 또는 선호도를 도입하는 것을 의미합니다. 이 문제를 방지하기 위해 프롬프트 엔지니어링 프로세스는 다양한 관점에서 알고리즘, 학습 데이터 및 출력 결과를 검사할 수 있는 공간을 제공할 수 있습니다. 이는 프롬프트 생성 중에 추가적인 내부 검토를 제공하고 잠재적으로 사용자의 편향을 상쇄하거나 해결할 수 있는 방식으로 기본 프롬프트를 생성하여 편향 방지를 지원합니다.
• 예기치 않은 리소스 배출량: 시험판 및 오류 프로세스 중에 엔지니어가 관련 결과를 제공하는 데 필요한 상황별 정보(예: 사용자 기록, 내부 데이터베이스 또는 외부 시스템)를 결정할 수 있습니다. 개발자는 강력한 기본 프롬프트에 필요한 데이터를 식별하여 개발 주기에 너무 가까이 도달하기 전에 리소스에 미치는 실제(내부 데이터에 대한 액세스 확보) 및 기술(API를 통한 함수 호출에서 리소스 비우기) 영향을 조사할 수 있습니다.
• 확인되지 않은 경계 및 매개 변수: 프롬프트 엔지니어링은 전체 개발 팀이 관련 경계 및 제한을 설정하는 데 도움이 되는 또 다른 검사 계층을 제공합니다. 여기에는 상황별 보존과 리소스 사용을 위한 매개 변수, 사용자 상호 작용과 소프트웨어 인식의 경계, 형식 및 의미와 같은 입력 매개 변수에 대한 예기치 않은 문제가 포함됩니다.
• 예측할 수 없는 사용자 쿼리: 입력의 기반을 설정하는 기본 프롬프트를 생성함으로써 프롬프트 엔지니어링은 사용자 입력이 모호하고 일반적이더라도 쿼리의 품질 표준을 제공할 수 있습니다.

프롬프트 엔지니어링 작동 방식

프롬프트 엔지니어는 일반적으로 성공적인 프롬프트를 설정하는 시험 및 오류 프로세스를 수행하기 전에 프로젝트 고려 사항부터 시작하여 최종적으로 앱에 통합합니다.

다음은 이 프로세스가 일반적으로 작동하는 방식에 대한 상위 레벨 뷰를 제공합니다.

1. 모델 및 애플리케이션의 목적과 잠재고객 이해: 기술 단계가 발생하기 전에 엔지니어는 일반적으로 한 걸음 물러서서 프로젝트의 상황별 뉘앙스를 고려합니다. 잠재 고객 인구 통계, 모델 복잡성, 업계 또는 예상 지식과 같은 변수에 기반한 결과에 대한 기대치는 효과적인 프롬프트 생성을 위해 이해되어야 합니다. 이 지식이 없다면 기술적으로 정확한 결과조차도 청중의 요구에 적합하지 않을 수 있습니다.

2. 탐색할 문제 또는 질문 이해: 상황의 광범위한 컨텍스트가 설정되면 엔지니어가 특정 문제로 드릴다운할 수 있습니다. 고려해야 할 요소에는 원하는 목표, 세부 수준, 예상 후속 조치, 사용된 단계 또는 세그먼트, 추가 데이터에 대한 잠재적 함수 호출이 포함됩니다.

3. LLM의 경향 및 선호도 이해: 개별 LLM에는 형식, 의미, 복잡성 등의 고유한 쿼리가 함께 제공됩니다. 다른 요인으로는 모델의 기본 인프라와 관련된 리소스 제한이 있습니다.

4. 초기 프롬프트 초안 작성: 위의 모든 단계는 컨텍스트, 목적, 대상자 및 제한 사항에 대한 충분한 정보를 설정하여 초기 프롬프트를 작성해야 합니다.

5. 결과 평가: 프롬프트가 사용되면 성공을 위해 출력을 평가해야 합니다. 성공을 측정하는 방법은 프로젝트의 목표에 따라 달라집니다. 정확성이 가장 중요하지만 개별 상황에서는 유지된 메모리를 사용하여 음색, 음성, 길이, 세부 수준 및 지속적인 참여에 중점을 둘 수도 있습니다.

6. 필요에 따라 세분화: 프롬프트 세분화에는 언어 수정, 컨텍스트 추가, API 호출을 통한 함수 통합 및 기타 가능성 등이 포함됩니다. 프롬프트 엔지니어는 또한 다양한 도구를 사용하여 세분화 프로세스를 지원할 수 있습니다. 이러한 도구는 프롬프트 기록을 기록하고, A/B 테스트를 통해 결과를 표시하고, 신속한 세분화를 위해 출력 분석을 관리할 수 있습니다.

7. 수출 가능성 테스트: 내보내기 기능은 두 가지 조직의 이점을 제공합니다. 개발 팀은 서로 다른 LLM에 대한 프롬프트를 테스트함으로써 하나의 LLM이 프로젝트에 더 적합하다는 사실을 발견할 수 있습니다. 또한 프롬프트 엔지니어는 프롬프트의 컨텍스트 중립 부분을 검사하여 다른 프로젝트에서 사용하도록 내보낼 수 있는지 확인할 수 있습니다.

8. 배포를 위한 AI 모델에 통합하기: 개발 팀은 성공적인 기반 프롬프트를 바탕으로 프로젝트 내에서 자동화 및 확장성을 위한 통합을 시작할 수 있습니다. 최적화된 성능을 위해 관리형 AI/ML 서비스가 포함된 클라우드 인프라를 사용하는 것이 바람직합니다. 이렇게 하면 사용자 입력으로 증강할 수 있는 효과적인 기본 프롬프트가 생성되도록 할 수 있습니다.

날씨 앱에서 조수의 예를 고려하십시오. 기본 프롬프트는 사용자가 질의를 입력하기 전에 다음 정보를 식별할 수 있습니다.

• 장치 IP 주소에서 가져온 위치
• IP 주소에 의해 결정되는 시간
• 사용자의 앱 프로파일에서 가져온 인구 통계
• 트래픽 또는 실외 활동과 같이 요청된 일반적인 데이터 유형에 대한 검색 기록
• 응답 프레임을 위한 응용 프로그램의 목적
• 앱의 톤, 단어 선택

기본 프롬프트를 사용하여 이러한 모든 부분을 배치한 다음 더 높은 정확성과 개인화 및 적절한 어조와 언어를 제공하는 출력에 대한 사용자의 질문과 통합할 수 있습니다.

프롬프트 엔지니어링의 이점

프롬프트 엔지니어링은 보다 구체적이고 정확한 결과의 주요 이점을 창출합니다. 이를 달성하는 방법은 프롬프트 엔지니어링의 실제 숙련된 관행과 공개 쿼리의 기본 템플릿으로 모델에 통합되는 두 가지 형태의 프롬프트 엔지니어링에 따라 달라집니다.

다음은 프롬프트 엔지니어링의 가장 일반적인 장점 중 일부입니다.

• 최적화된 AI 출력 및 효율성(Optimized AI Output and Efficiency): 대규모 언어 모델은 모든 일반 입력 또는 쿼리에서 작동할 수 있지만, 세분화 및 추가 노력이 필요하기 때문에 리소스 낭비가 발생하는 경우가 많습니다. 기술 세트로서 프롬프트 엔지니어링은 일반 프롬프트를 무시하여 보다 정확한 응답을 얻습니다. AI 모델에 통합되면 프롬프트 엔지니어링은 사용자가 쿼리를 작성하는 사람의 추가 작업 없이 관련 방향을 제시하고 세부 사항을 효율적으로 채색합니다.
• 확장된 유연성 및 커스터마이제이션: 프롬프트 엔지니어링 접근 방식의 첫 번째 단계를 제대로 실행하면 프로젝트에 더 큰 유연성과 커스터마이제이션을 제공할 수 있습니다. 도메인 중립적 컨텍스트를 구축함으로써 프롬프트 엔지니어링 작업을 다른 앱이나 모델로 가져올 수 있습니다. 도메인 중립적 컨텍스트의 예로는 사용자 인구 통계 데이터, 시간 및 계절 데이터, 앱 기능 및 어조 식별이 있습니다. 이러한 요소는 모호하고 일반적인 출력을 줄이면서 거의 모든 모델에서 작동할 수 있습니다.
• 향상된 사용자 경험 및 만족도: 사람들이 원하는 것을 알고 있지만 원하는 응답을 반환하는 방식으로 요청을 명시할 수 있는 능력이 없는 경우가 많습니다. 식료품 가게에가는 비유를 보자. 신속한 엔지니어링이 없으면 상점으로 걸어 들어가서 입구에 서서 "나는 배고프다"고 말하는 것과 비슷합니다. 이 시나리오에서 프롬프트 엔지니어링은 예산, 선호도 및 기능과 같은 항목을 기반으로 요청을 세분화하여 올바른 통로로 안내할 수 있습니다. 모델에 내장된 프롬프트 엔지니어링은 사용자와 목표에 대한 즉각적인 이해를 제공하므로 보다 정확한 결과를 통해 전반적인 경험을 개선할 수 있습니다.

프롬프트 엔지니어링 과제

과학으로서 신속한 엔지니어링은 비교적 젊습니다. 실무자는 콘텐츠 생성, 요약, 번역, 코드 어시스트 등의 작업을 위해 애플리케이션에 AI 기반 기능을 추가하기 위한 프롬프트를 제작하는 소프트웨어 개발자, 고객 서비스 챗봇과 같은 시스템을 만들려는 기술 의사 소통자, 매우 구체적이고 전문적인 사용 사례에 대한 프롬프트를 설계, 테스트 및 최적화하는 데 중점을 둔 전문 프롬프트 엔지니어링 전문가 등을 포함합니다.

다음은 프롬프트 엔지니어링을 수행하는 사람들이 직면하는 가장 일반적인 과제 중 일부입니다.

• 특정성과 창의성 균형 조정: 프롬프트 엔지니어링의 목표는 출력이나 리소스를 차단하지 않고 창의적인 자유를 지원하는 것입니다. 그것을 성취하는 것은 어려운 균형입니다. 식료품점 비유로 돌아가는 불균형한 프롬프트 엔지니어링은 단 한 번의 냉동 스파게티를 선택하여 배고픈 사용자에게 응답하는 것과 같습니다. 특이성은 효율성을 보장하는 데 도움이 되지만, LLM은 정확하고 고품질의 결과를 제공할 수 있는 적절한 유연성을 필요로 합니다.
• 모호성 관리: 앱 또는 AI 모델이 모호한 결과를 생성하면 사용자에게 부담이 커지고, 쿼리를 반복 및 세분화하는 데 필요한 사람이 많을수록 프로세스에서 사용하는 리소스가 늘어납니다. 프롬프트 엔지니어링의 핵심적인 측면은 결과의 모호성을 최소화하는 것입니다. 그런 다음 과제는 결과에 너무 많은 제한을 두지 않고 특이성 표준을 설정하라는 프롬프트를 미세 조정하는 것입니다.
• 모델 제한에 적응하기: 앱의 목적과 기능에 따라 해당 모델은 매우 구체적인 대상과 어조를 염두에 두고 있을 수 있습니다. 신속한 엔지니어의 경우 이 알려진 방향은 시작하기 쉬운 경로를 제공할 수 있습니다. 그러나 예상치 못하거나 다양한 입력을 통합할 수 있는 능력이 제한적인 출력을 구축하여 함정에 빠지게 할 수도 있습니다. 앱 개발자는 프롬프트 엔지니어와 협력하여 허용 가능한 입력 범위에 대해 논의하고 창의적인 쿼리와 앱의 특정 기능 간의 균형을 맞출 수 있는 기본 프롬프트 템플릿을 선택할 수 있습니다.
• 반복 세분화: 프롬프트 엔지니어는 효과적인 프롬프트가 하나이고 완료되었다고 가정하는 함정에 빠질 수 있습니다. 그러나 AI 모델은 지속적으로 학습하고 있으며 앱은 지속적으로 개발되고 있기 때문에 효과적인 프롬프트가 곧 구식이 될 수 있습니다. 프롬프트가 생성되면 엔지니어는 환경의 동적 특성에 적응하기 위해 인식을 가지고 앞으로 나아가야 합니다. 프롬프트가 앱의 워크플로에 통합된 경우 품질 결과를 제공하는 데 도움이 되는 지속적인 개선 및 평가가 특히 중요합니다.
• 상황 유지: 앱의 개발 프로세스 동안 전체 팀은 기능과 성능의 균형을 맞추는 방법을 고려해야 합니다. 사용자 경험의 관점에서 볼 때 컨텍스트 보존은 정확한 출력을 생성하는 데 중요합니다. 그러나 각 보유 계층은 더 많은 리소스를 소모하므로 개발 팀과 엔지니어가 직면한 과제는 확립된 내부 프롬프트의 일부가 되어야 하는 컨텍스트와 후속 프롬프트를 위해 외부 사용자에게 필요한 컨텍스트를 이해하는 것입니다. 모델 제한 사항과 마찬가지로 기본 인프라의 선택과 AI 프로젝트에 대한 기본 지원을 제공하는 능력은 컨텍스트 유지를 검토할 때 유연성을 높이기 위해 리소스를 크게 최적화할 수 있습니다.
• 긴 복잡한 쿼리 처리: 결국 AI 모델은 매우 복잡한 쿼리를 처리할 수 있게 될 것입니다. 현재 대부분의 경우 출력이 비효율적인 위치에 티핑 포인트가 존재합니다. 개발자는 프롬프트 엔지니어링을 사용하여 주요 컨텍스트를 미리 로드하고 파라미터를 할당함으로써 이러한 결과와 관련된 변수를 줄일 수 있습니다.
• 사용자 의향 조정: 프롬프트 엔지니어링은 효율성을 높이고 헤드 스타트를 제공할 수 있지만 잘못된 방향을 가리키면 어떨까요? 특이성은 프롬프트 엔지니어링 출력의 핵심 기능이지만 작동 중인 경우에만 해당됩니다. 따라서 개발 팀은 프롬프트 엔지니어링이 사용자의 진정한 의도를 좌우할 만큼 구체적이지 않은지 확인해야 합니다.

이러한 한계 및 기타 리소스 제한을 해결하기 위해 많은 기업이 AI를 지원하도록 조정된 내장형 관리형 서비스를 통해 클라우드 인프라에 LLM을 배포합니다.

프롬프트 엔지니어링에 필요한 기술

프롬프트 엔지니어링의 개념은 지난 10년 동안만 최전선에 이르렀기 때문에 여전히 진화하는 역할입니다. 성공적인 프롬프트 엔지니어는 핵심 스킬 세트와 기능이 더 큰 알고리즘 교육 및 앱 개발 프로세스에 적합한 위치에 대한 이해가 필요합니다.

그 핵심에서 프롬프트 엔지니어링은 강력한 통신 기술, 주제 전문 지식 및 프로그래밍 어큐멘을 혼합해야합니다. AI 모델에서 원하는 응답을 도출하는 데 필요한 정확한 언어, 의미 및 문법 구조가 있으며, 엔지니어는 조직의 LLM에서 사용하는 기본 로직 및 패턴을 이해해야 합니다. 또한 생성된 출력의 정확성과 관련성을 평가할 수 있어야 합니다.

개발 워크플로우에 통합된 프롬프트 엔지니어의 기술 세트는 더 많은 기술을 활용해야 합니다. 예를 들어, 프롬프트는 API 및 함수 호출의 작동 방식과 표준 프로그래밍 언어의 역량에 대한 이해와 같은 외부 요청을 생성해야 할 수도 있기 때문입니다. 또한 기술 배경을 통해 신속한 엔지니어는 다양한 프롬프트 전략의 계산 비용을 고려하여 성능과 비용 효율성 간의 균형을 맞출 수 있습니다.

프롬프트 엔지니어링 사용 사례

프롬프트 엔지니어링은 AI 리소스 사용 효율성과 사용자 만족도를 모두 개선하는 데 중요한 도구가 될 수 있습니다. 앱의 워크플로에 기본 프롬프트를 통합하면 인간이 모호한 입력을 제공하더라도 앱이 더 효과적이고 정확한 결과를 생성할 수 있습니다.

다음은 프롬프트 엔지니어링이 특정 사용 사례에 도움이 될 수 있는 몇 가지 방법입니다.

• 교육: AI 모델은 교실과 실험실에서 몇 가지 용도로 사용되며, 프롬프트 엔지니어링은 개인화되고 효과적인 경로를 만드는 데 도움이 됩니다. 학생 경험을 개선하기 위해 맞춤형 디지털 어시스턴트를 구현하는 대학을 고려해 보십시오. 실시간 정보로 질문에 답변하도록 맞춤화된 프롬프트가 제공됩니다. 학교는 AI를 사용하여 개인화된 학습 계획을 개발할 수 있으며, 학생 목표 및 단원 계획에서 데이터를 가져올 수 있는 프롬프트를 표시하고 이전 레코드 및 클래스에 대한 함수 호출을 수행할 수 있습니다. 또는 튜터링 앱 개발자는 각 학생의 연령 및 기술 수준에 맞는 답변을 제공하도록 프롬프트를 설계할 수 있습니다.
• 재무: 앱은 보고서 생성, 시장 동향 분석, 고객 서비스 등 재무의 내부 및 고객 대면 측면을 모두 지원합니다. 이러한 각각의 경우에, 프롬프트 엔지니어링은 사용자에 대한 헤드 스타트를 구축 할 수 있습니다. 내부 보고서의 경우 프롬프트는 함수 호출에서 외부 시장 데이터 또는 내부 측정지표로 데이터를 소싱할 수 있습니다. 고객 서비스의 경우 프롬프트는 고객 이력 및 외부 요소(예: 시간, 계절 및 조회 유형)의 데이터를 소싱할 수 있습니다. 내부적으로 프롬프트는 사기 방지 작업에 도움이 되도록 조정할 수 있습니다.
• 의료: AI는 의료 질환 진단, 환자 기록 요약, 의료 보고서 생성을 지원합니다. 이러한 시스템은 보건의료 전문가를 지원할 수도 있습니다. 이 모든 것을 달성하기 위해 프롬프트는 추가 기록, 직원 시스템 및 최신 관련 의료 연구에 대한 외부 기능 호출을 통해 필요한 컨텍스트를 가져오는 동시에 환자 또는 실무자 대상자에게 적합한 어조를 반영하도록 설계될 수 있습니다.
• 제조: 제조 기업은 공급망 상태 추적, 품질 관리, 고객 셀프 서비스 도구 등 다양한 기능을 지원하기 위해 AI를 도입했습니다. 이러한 각 사용 사례는 다양한 대상 고객 요구를 해결하기 위해 내부 및 외부 소스에 대한 액세스가 필요합니다. 예를 들어 생산 일정을 최적화하기 위해 공급업체 상태, 도구 수명 주기 데이터, 배송에 영향을 미칠 수 있는 실시간 문제(예: 휴일 또는 심한 날씨) 등 기존 내부 기한 및 요소 사용을 넘어설 수 있도록 프롬프트를 설계할 수 있습니다.
• 마케팅: 디지털 마케팅 캠페인은 많은 데이터를 생성합니다. AI 생성 마케팅 콘텐츠는 이 데이터를 활용하도록 설계된 프롬프트를 통해 큰 이점을 제공합니다. 엔지니어는 브랜드를 참조하는 소셜 미디어 게시물과 같은 기본 프롬프트를 준비할 수 있습니다. 그런 다음 광고 캠페인은 참여를 최적화하기 위해 특정 사용자 정서 및 인구 통계 데이터를 타겟팅할 수 있습니다.
• 부동산: 부동산 산업은 공공 영업 기록, 이자율 및 재무 동향, 심지어 날씨 및 계절 데이터 등 광범위한 출처로부터 정보를 수집합니다. 그러나 업계 앱은 한 가지에 초점을 맞추는 경향이 있습니다. 즉, 주택을 찾는 사람들과 적절한 부동산을 찾는 사람들을 매칭하는 것입니다. 한편, 부동산 기업은 AI가 지원할 수 있는 고유한 HR 관리 과제를 가지고 있습니다. 프롬프트 엔지니어링은 현재 요구 사항 및 데이터를 기반으로 앱을 올바른 방향으로 가리키고, 기본 프롬프트에서 적절한 함수 호출을 준비하여 사용자에게 필요한 기능을 제공할 수 있습니다.
• 소매: AI 지원 쇼핑 어시스턴트 앱은 권장 사항을 개인화하고 고객 워크플로에 자동화를 추가하여 고객 만족도와 전환율을 높일 수 있습니다. 이러한 개선을 주도하는 대부분의 데이터는 구매, 검색 및 서비스 이력을 포함하여 고객 데이터에서 가져옵니다. 고객 페르소나를 사전에 사용하고 적절한 데이터를 확보하는 기본 프롬프트를 구축함으로써 챗봇 및 기타 앱은 구매자의 참여를 개선할 수 있습니다.
• 여행: AI 기반 여행 앱은 프롬프트 엔지니어링 덕분에 개인화된 추천 및 일정을 개선할 수 있습니다. 예를 들어, 사용자가 계획된 여행 중에 레스토랑 예약을 요청할 경우 프롬프트는 일반 위치 및 사용자 기록 요소(예: 어린이 참여 여부)를 넘어 요리, 테이블 가용성 및 비용에 대한 함수 호출을 수행할 수 있습니다. 이러한 요소들은 모두 결과로 드릴다운하여 달성할 수 있지만 프롬프트 엔지니어링은 보다 빠르고 정확한 출력을 제공하는 동시에 쿼리 워크로드를 용이하게 하기 위한 헤드 스타트 기능을 제공할 수 있습니다. 또한 잘 설계된 프롬프트는 AI 기반 디지털 어시스턴트가 고객과 직원 모두가 시간에 민감한 질문에 답할 수 있도록 지원합니다.

프롬프트 설계 기법

다양한 신속한 엔지니어링 기술에는 강점과 약점이 있습니다. 프로젝트에 적합한 것을 결정하는 것은 목표, 처리 기능 및 기본 지원 인프라, 사용 중인 LLM, 대상자 및 기타 고유한 매개변수에 따라 달라집니다.

다음은 오늘날 사용되는 가장 인기 있는 프롬프트 엔지니어링 기술을 다룹니다.

• 생각의 근원: LLM이 최종 목표를 향한 중간 단계를 식별하고 나열하도록 지시하는 것은 정확성과 투명성을 개선하는 수단입니다. 생각 체인 기법은 모델에게 단계 목록(방법 단계 목록의 샘플 포함)을 나열하도록 요청하거나 선택에 대한 추론을 요청하는 동안 다중 선택 옵션을 제공하도록 요청하여 트리거할 수 있습니다.
• 방향 자극: 프롬프트에 힌트와 방향을 제공하여 LLM의 출력을 향상시킬 수 있습니다. 방향 자극 프롬프트는 기본 질문에 따라 텍스트의 일반적인 질문에 특정 단서, 매개 변수 및 컨텍스트를 제공하여 작동합니다. "힌트"라는 단어와 특정 목록(소셜 미디어 게시물이 해시태그를 추가하여 컨텍스트를 제공할 수 있는 방식과 유사)을 추가함으로써, 해당 항목을 통합하고 더 높은 품질의 결과를 생성하도록 출력을 설정할 수 있다.
• 최소값: 프롬프트를 하위 문제로 분할한 다음 정의된 순서로 실행해야 합니다. 최소한의 프롬프트는 세분화된 수준에서 프롬프트를 볼 수 있다는 생각의 체인 접근 방식과 유사하지만, 점진적으로 답변을 구축하기 위해 중간 단계를 활용하면 실행이 더 복잡해집니다. 생각의 연속 프롬프트와 마찬가지로, 최소-최소 프롬프트는 일련의 단순하고 순차적인 하위 문제로 나눌 수 있는 복잡한 문제에 가장 효과적으로 적용됩니다.
• 의료: 모델에서 추론을 반영하도록 안내함으로써 답변을 기반으로 하는 점진적인 개방형 프롬프트가 여기에 포함됩니다. Maieutic 프롬프트는 일반적으로 개방형 질문으로 시작하는 Socratic 대화 방법을 기반으로하며, 각 답변 뒤에있는 추론에서 더 자세히 설명합니다. 실제로 이 작업은 질문으로 시작한 다음 모델에 보다 깊이 있는 답변을 설명하도록 연속적으로 요청함으로써 수행됩니다.
• 자체 세분화: LLM의 출력은 점진적으로 개선할 수 있습니다. 개선할 것을 요청하면서 이전 답변을 모델에 다시 입력하면 됩니다. 자체 세분화 프롬프트는 모델에 가능한 미세 조정 및 추가에 대한 출력을 재평가할 수 있는 기회를 제공하는 반복 기법입니다. 코드 생성과 같은 특정 솔루션을 최적화하는 것이 목표인 문제를 고려하는 데 가장 적합합니다. 이는 명령 기반 기술이기 때문에 엔지니어는 모델에 답변을 유지하고 반복적으로 작성할 수 있는 기능과 리소스가 있는지 확인해야 합니다.
• 순차적: 여기에는 워크플로우 또는 아웃라인을 완료하는 수단으로 일련의 관련 및 순차적 단계가 포함됩니다. 순차적 프롬프트는 지침이나 절차와 같은 특정 시퀀스가 관련된 경우와 특정 주제에 대한 보다 광범위한 접근 방식으로 시작할 때 만족스러운 점을 얻을 때까지 답변을 안내식 대화로 작성하는 두 가지 상황에서 가장 효과적입니다. 순차적 프롬프트는 "1단계" 또는 "2부"와 같이 순서를 구분하는 명확한 키워드를 통해 인식됩니다.

프롬프트 엔지니어링을 위한 모범 사례

프롬프트 엔지니어는 종종 서로 다른 수준의 컴퓨팅 리소스를 갖춘 서로 다른 LLM 플랫폼에서 서로 다른 목표를 가진 다양한 프로젝트에서 작업합니다. 그래도 가능한 최상의 출력을 얻기 위해 몇 가지 일반적인 고려 사항이 있습니다.

1. LLM의 "개인성" 고려
환각과 같은 모든 LLM의 표준 제한 사항 외에도 각 플랫폼에는 장단점이 함께 제공됩니다. 예를 들어, 현재 GPT-4는 텍스트와 이미지를 모두 지원할 수 있지만 많은 계산 리소스를 사용합니다. BERT는 오픈 소스이며 강력한 이해를 제공하지만 특정 작업에 대한 미세 조정에 더 많은 노력이 필요합니다. 또한 각 LLM은 자체적으로 선호하는 입력 형식 및 의미를 갖고 있으며, 모델은 항상 진화하고 있습니다. 현재 프로젝트에 사용되는 작업은 6개월 또는 1년 이내에 수행되지 않을 수 있습니다.

2. 정확성과 간결함의 균형
모호한 개방형 프롬프트는 모델을 리드하여 모호하거나 반복적인 결과를 산출합니다. 특이성은 기술적 및 실용적 요소를 포함하여 좋은 프롬프트 엔지니어링의 열쇠입니다. 기술 측면에서 LLM 및 앱의 선호 형식 및 알려진 매개 변수의 정확한 프롬프트 계수가 결정됩니다. 실질적인 측면에서 핵심 요소에는 대상 오디언스, 앱/모델 기능, 예상 배경 지식 및 정확한 지침, 요청된 포인트 수 또는 예제와 같은 적절한 샘플 또는 매개변수가 포함됩니다.

3. 상황별 단서를 추가합니다.
복잡한 쿼리에서 컨텍스트는 모든 차이를 만들 수 있으므로 엔지니어가 프롬프트를 알리는 데 주의를 기울이고 요청에 대한 프레임 지정 사유를 제공해야 합니다. 질문: "오늘 날씨가 좋은가요?" AI에 대한 프롬프트를 작성할 때 프롬프트 엔지니어는 "좋은"의 정의가 주관적이라는 것을 인식합니다. 프롬프트에 컨텍스트를 전략적으로 추가하면 엔지니어가 보다 유용한 응답을 유도할 수 있습니다. 예를 들어, AI에 질문을 하는 대신 컨텍스트를 포함하도록 프롬프트를 구성할 수 있습니다.

• 사용자 제약 조건 : 사람이 천식으로 고통 받고 있습니까, 아니면 꽃가루 알레르기가 있습니까? 엔지니어는 AI가 지역 조건과 특정 건강 문제를 고려하도록 프로그래밍 할 수 있습니다.
• 사용자 의도 : 비가 오기를 희망하는 농부입니까, 아니면 외출을 희망하는 학생입니까? AI는 계절 및 활동 기반 컨텍스트를 제공할 수 있습니다.
• 임시 및 지리적 특이성 : 국가, 도시, 계절 및 요일은 무엇입니까?

맥락을 전략적으로 제공하면 LLM이 보다 유용하고 개인화된 응답을 생성할 수 있습니다. 프롬프트 엔지니어는 이 컨텍스트 중 일부를 미리 생성할 수 있는 API를 통해 다양한 외부 함수 호출을 식별하도록 선택할 수 있습니다.

4. 반복 테스트 및 개선에 인내하십시오.
프롬프트 엔지니어링은 시행 착오 과정입니다. 다행히도, 실무자들은 프롬프트 이력, 다양한 LLM을 위한 샌드박스 환경, 성능 평가 및 제안, A/B 테스트 등 다양한 요소를 제공함으로써 반복 테스트 및 개선을 지원할 수 있는 다양한 도구에 액세스할 수 있습니다. 프롬프트 관리 도구를 사용하면 세분화가 더 효율적이고 추적 가능해지므로 최적화된 프롬프트에 대한 경로를 보다 포괄적으로 볼 수 있습니다. 이 가시성은 반복 가능한 중립 컨텍스트 기반 프롬프트를 익스포트하기 위한 기반을 구축할 수도 있습니다.

프롬프트 엔지니어링의 미래

신속한 엔지니어링의 진화 경로는 AI 및 LLM의 기술적 발전과 관련이 있을 것입니다. 대부분의 프롬프트 엔지니어들은 LLM에 대한 이해가 계속 증가함에 따라 프롬프트가 점점 더 정교해져 세부 정보, 특이성 및 상황별 정보를 포함할 수 있다고 기대합니다. 현재 LLM은 길고 복잡한 프롬프트로 인해 비의미한 출력이 발생하는 단점이 있는 경향이 있습니다.

신속한 유연성 향상을 위한 탄젠트는 신속한 적응 능력입니다. 즉, AI 엔지니어들은 대화의 맥락, 역사, 사양을 기반으로 자체 적응할 수 있는 프롬프트를 생성하는 방법을 찾고 있습니다. 마찬가지로 개발자들은 LLM이 여러 유형의 입력으로 작동하도록 만들고자 합니다. 완벽한 환경에서 LLM은 텍스트, 오디오 및 이미지의 멀티모달 입력을 통해 출력을 생성할 수 있습니다.

해당 버전은 현재 검색 증강 생성(RAG) 형식으로 존재합니다. RAG는 프롬프트 엔지니어링의 범용과 겹치며, 보다 정확한 출력을 제공하는 보다 심층적인 컨텍스트를 제공하기 위해 노력합니다. 그러나 RAG는 프롬프트 내의 단서를 기반으로 자체 전달된 데이터 검색을 통해 수행됩니다. 완벽한 환경에서 프롬프트 엔지니어는 기본 프롬프트를 작성한 다음 RAG는 보다 관련성이 높은 데이터를 검색하여 컨텍스트를 더 추가하여 매우 정확한 출력을 생성합니다. RAG 도구는 빠른 검색을 위해 벡터 데이터베이스를 사용하고 충분한 처리 능력을 제공할 때 가장 잘 작동합니다. 클라우드 제공업체가 AI 및 머신 러닝 프로젝트의 이러한 문제 및 기타 문제를 해결함에 따라 이러한 서비스의 고유 기능과 확장 가능한 설계는 LLM의 기능을 지원하는 더 나은 기반을 제공할 것입니다.

오라클의 유용한 기능

Oracle Cloud Infrastructure(OCI) Generative AI는 엔지니어가 여러 LLM 선택 항목, 확장 가능한 리소스, 엔터프라이즈급 보안에 대한 액세스 걱정 없이 쿼리를 실험할 수 있는 시간을 확보할 수 있도록 지원하는 관리형 서비스를 제공합니다. OCI 채팅 경험은 Cohere 및 Meta 모델과 함께 즉시 사용 가능한 인터페이스를 제공하는 동시에 데이터를 비공개로 유지할 수 있도록 지원합니다.

프롬프트 엔지니어는 부품 번역가, 부품 탐정 및 부품 코더로, 창의력과 언어 기술을 사용하여 매우 복잡한 LLM에서 원하는 결과를 설명하는 정확한 단어와 지침을 작성합니다. 공예 프롬프트는 독특한 인간의 기술이며, 그 상환은 문구를 조정하면 AI의 반응이 일반적, 심지어 환각성, 천재성으로 변하는 순간입니다.

프롬프트 엔지니어링 FAQ

AI에서 프롬프트 엔지니어링이란 무엇입니까?

프롬프트 엔지니어링은 AI의 두 가지 요소를 의미합니다. 첫 번째는 가장 정확한 결과를 얻기 위해 입력 프롬프트를 세분화하는 프로세스인 프롬프트 엔지니어링 기술 세트입니다. 두 번째는 반복 가능하고, 자동화되고, 확장 가능한 기본 프롬프트가 포함된 AI 워크플로로의 통합입니다. 프롬프트 엔지니어는 사용자가 모호한 쿼리만 제공하더라도 결과물을 생성할 수 있도록 지원합니다.

프롬프트 엔지니어링은 AI 모델 출력을 어떻게 개선합니까?

프롬프트 엔지니어링이 없으면 AI 모델 출력은 일반적인 기본 쿼리에 대한 매우 일반적인 응답만 제공하는 경우가 많습니다. 프롬프트 엔지니어는 테스트 및 오류 프로세스에 참여하여 단어 선택, 형식, 함수 호출 및 기타 요소로 구성된 패턴을 식별한 다음 앱에 기본 프롬프트로 통합하여 모호한 사용자 쿼리에 대한 상세한 응답을 제공할 수 있습니다.

프롬프트 엔지니어링에 일반적으로 사용되는 도구는 무엇입니까?

엔지니어가 작업을 더 빠르고 효율적으로 수행할 수 있도록 지원하는 도구를 사용하면 프롬프트에 대한 시험판 및 오류 샌드박스를 제공하는 동시에 관리 도구와 세부 분석, 프롬프트 이력 및 평가, A/B 테스트 및 체인화를 통해 결과를 검사할 수 있습니다. 프롬프트 도구는 다양한 핵심 AI 모델 및 출력을 지원합니다. 일부는 텍스트 전용이고 다른 도구는 이미지 및 텍스트를 지원합니다.

프롬프트 엔지니어링은 기존 프로그래밍과 어떻게 다릅니까?

전통적인 프로그래밍은 특정 코드 형식을 따르는 엄격한 규칙 집합과 함께 작동하며, 모두 반복 가능한 응답을 달성합니다. 프롬프트 엔지니어링은 비슷한 입출력 흐름을 따르지만 훨씬 느슨한 경로를 따릅니다. 프롬프트 엔지니어링 입력은 자연어를 사용하지만 특정 AI 모델이 선호하는 형식 및 의미를 준수할 때 가장 효과적입니다. 이러한 개방형 특성으로 인해 코드를 세분화하거나 디버깅하는 대신 시험 및 오류 언어 미세조정으로 인해 신속한 엔지니어링이 변경될 수 있습니다. 그러나 이러한 변경은 반복 가능한 코드 프로세스로 발견되는 정확한 결과를 달성하지 못할 수 있습니다.