AI 에이전트를 제작하는 7가지 단계

기업들은 생성형 AI를 일상적인 비즈니스 프로세스에 통합하여 그 가치를 극대화하기 위해 노력하고 있습니다. 기업들은 AI 에이전트라는 소프트웨어를 다양한 애플리케이션에 배포하기 시작했습니다. AI 에이전트 소프트웨어는 상황별 진행 방식을 사전에 프로그래밍해 두지 않더라도 사용자와 서면 및 음성으로 대화를 나누고 데이터베이스를 쿼리해 다단계 작업을 실행하도록 설계되어 있습니다.

에이전틱 인공지능 애플리케이션은 컴퓨터 사용자 및 사용자의 일정과 상호작용하고, 로컬 시스템과 클라우드 시스템에서 정보를 활용하고, 검색 엔진이나 기타 웹 사이트를 사용해 질문에 답변하거나 작업을 실행함으로써 필요한 정보를 단계별로 수집할 수 있습니다 해당 애플리케이션은 기본 AI 대규모 언어 모델(LLM)을 사용해 예측 기능 및 인간 사용자와의 자연어 상호작용 기능을 제공합니다.

생산성, 고객 관리, 백오피스 애플리케이션 제공업체는 AI 에이전트를 커스터마이징, 교육, 활성화하거나 자체 에이전트를 제작할 수 있는 디자인 스튜디오를 고객에게 제공하기 시작했습니다. 본 문서에서는 AI 에이전트를 구축하고 현장에 배치하는 7가지 단계를 비롯해 기업용 AI 에이전트를 직접 제작하는 방법에 대한 유용한 지침을 소개합니다.

AI 에이전트란 무엇인가요?

AI 에이전트 소프트웨어는 방대한 양의 데이터를 학습한 LLM을 활용해 개념 간의 관계를 찾고 연관성을 만듭니다. 그리고 이를 기반으로 컴퓨터 사용자가 의도한 의미에 대해 자연어로 소통하며 관련 예측을 수행합니다. 에이전트는 사용자와 언어 모델을 중재하도록 설계되어 있으며, 여러 영역에서 적극적으로 문제 해결 조치를 취합니다.

이를 통해 기업은 재무 예측, 인사팀의 다단계 채용 프로세스 지원, 영업 담당자의 고객 정보 요약과 상향판매 기회 식별 등의 반복적인 프로세스를 자동화할 수 있습니다.

AI 에이전트를 제작하는 7가지 단계

AI 에이전트는 사용자의 조직 내 역할을 이해하고, 비즈니스 문서에서 데이터를 가져와 워크플로가 관련성을 유지하도록 하고, 사전 코딩된 지침 대신 자연어 프롬프트에 응답하도록 설계되었습니다. 기업은 상황 변화에 대응할 수 있는 유연성을 제공하는 에이전트를 활용하기 위해 몇 가지 준비 작업을 거쳐야 합니다.

1. 에이전트 구축 전략을 선택합니다. 기업은 소프트웨어 공급업체가 프로세스 자동화를 지원하고자 제공하는 사전 구축된 에이전트를 커스터마이징할지, 아니면 자체 에이전트를 처음부터 구축할지를 먼저 결정해야 합니다. 업계별 AI 에이전트의 테스트 및 출시는 아직 초기 단계이므로 대부분의 기업은 사전 구축된 에이전트를 커스터마이징하는 것이 가장 빠른 가치 창출로 이어질 가능성이 높습니다. 에이전트 구축 전략 수립 과정에서는 다음을 고려해야 합니다.

• 보유 중인 AI 인재: 커스텀 에이전트를 직접 설계하려면 AI 개발자, 데이터 과학자, 사용자 인터페이스 전문가가 필요한 프로그래밍 및 시스템 통합을 수행해야 합니다. 애플리케이션 관리자는 디자인 스튜디오 환경에서 작업해 기성품 에이전트를 커스터마이징할 수 있습니다.
• 모델 훈련 전문 지식: 대부분의 기업은 AI 에이전트를 처음부터 개발할 때 필요한 LLM을 선택하는 지식, 처음부터 개발한 모델이 시간이 흐르며 부정확해지지 않도록 미세 조정하는 데 필요한 지식을 보유하고 있지 않습니다.
• 비용: 에이전트를 처음부터 구축하려면 개발을 위한 선행 투자를 늘려야 합니다. LLM에 대한 API 호출 수수료도 이에 포함됩니다. Oracle과 같은 공급업체가 사전 구축한 AI 에이전트를 커스터마이징하면 기업이 이미 지불 중인 SaaS 애플리케이션 구독료 외의 비용은 발생하지 않습니다.
• 고품질 데이터: 에이전트가 사용하는 비즈니스 데이터는 AI용으로 준비되어야 합니다. 준비 과정에는 데이터를 벡터 임베딩으로 변환하는 작업이 포함되는 경우가 많습니다. 벡터 임베딩으로 변환하면 개념 간의 관계를 수학적으로 볼 수 있으므로 사용자가 질문하는 의도를 추론하는 데 도움이 됩니다. 에이전트를 처음부터 구축하는 기업은 '과적합'에 주의해야 합니다. 과적합은 LLM이 학습한 데이터에 지나치게 맞춰짐으로써 새로운 지식 분야를 처리하는 능력이 저하되는 현상입니다.
• 거버넌스 및 감독: 기업은 업무를 문서화하고, IT 전문가가 아닌 분야별 관리자에게 투명성을 부여할 수 있는 에이전트를 원할 수 있습니다. IT 부서는 공개되면 안 되거나 특정 직원에게 보이면 안 되는 민감한 데이터에 에이전트가 액세스하지 못하도록 하고 싶어 할 수도 있습니다.

2. LLM을 선택하거나 기성 LLM을 이용합니다. SaaS 고객이 디자인 스튜디오에서 에이전트를 세분화할 수 있도록 지원하는 애플리케이션 공급업체는 소프트웨어와 상호 작용할 LLM을 사전 선택하거나 관리자에게 제한된 선택을 제공할 수 있습니다. 처음부터 구축하려는 조직은 Anthropic, Cohere, Google, IBM, Meta(유명한 Llama 모델을 개발한 기업), Microsoft, Mistral, OpenAI 등이 제공하는 LLM을 취사 선택해야 합니다. 이러한 접근 방식을 통해 기업은 기본 모델을 포함한 에이전트 소프트웨어 스택의 모든 계층을 제어할 수 있습니다. 이는 기성 에이전트를 사용자 정의하는 경우에 비해 더 많은 소프트웨어 구성 요소를 유지 관리해야 한다는 뜻이기도 합니다.

3. 워크플로를 설계하고 도구를 정의합니다. 사전 구축된 에이전트를 맞춤화하는 작업 또한 일반 비즈니스 사용자가 아닌 애플리케이션 관리자의 작업입니다. 관리자는 사전 설계된 워크플로 템플릿(카탈로그 뷰 형식으로 제공되는 코드가 포함된 사용 사례)을 사용하거나 새로운 맞춤형 워크플로를 생성할 수 있습니다. 관리자는 사전 제작 에이전트의 워크플로를 정의하기 위해 에이전트 디자인 스튜디오의 필드에 구체적인 자연어 지침을 입력할 수도 있고, 리스트에서 에이전트와 사용자 간의 상호작용, 데이터 표시, 일정 예약 등의 작업 수행 방식을 지정하는 활동을 선택할 수도 있습니다 관리자는 에이전트가 질문에 답변하는 데 사용할 도구를 선택할 수도 있고, 직원이 요청할 만한 샘플 질문을 제공할 수도 있습니다.

이와 같은 프로세스는 에이전트의 역할을 정의하는 데 도움을 주고, 작업 수행 방식 및 액세스해야 하는 정보를 명확히 규정해 줍니다. 예를 들어, HR 애플리케이션을 이용하는 사원에게 의료 복리후생 관련 정보를 설명해 주는 에이전트에게는 포괄적 의료보험, 안과, 치과 및 기타 분야별 의료 보험 문서에 대한 접근 권한이 필요한 반면, 재무 복리후생 에이전트에게는 기업이 지원하는 퇴직연금 및 자사주 매입 프로그램에 대한 정보가 필요할 수 있습니다(아래에서 자세히 설명).

4. RAG용 문서를 업로드합니다. 에이전트에게 적합한 지침 및 도구를 제공한 관리자가 수행해야 하는 다음 단계는 문서 업로더를 사용해 검색 증강 생성(RAG)에 필요한 기업 문서를 준비하는 것입니다. 검색 증강 생성이란 런타임 시 추가적인 비즈니스 문서와 데이터를 제공해 LLM 모델이 학습한 내용을 보강하는 AI 기술입니다. 관리자는 에이전트가 문서를 사용하는 방법에 관한 자연어 지침을 제공합니다. 효과적인 에이전트 빌더 소프트웨어는 벡터 데이터베이스를 추상화해 런타임 시 컴퓨터 사용자가 찾으려는 사항과 관련성이 높은 결과를 제공합니다.

5. 클릭하여 제작합니다. 지침, 주제, 문서로 에이전트의 토대를 마련한 관리자는 이제 디자인 스튜디오에서 이름을 지정하고 UI 버튼을 클릭하는 것만으로 원하는 에이전트를 제작할 수 있습니다. 자연어 지침을 사용하면 워크플로(또는 다른 에이전트)가 해당 기능을 이해할 수 있습니다. AI 에이전트는 실행되는 동안 강화 학습이라는 수학적 시행착오 및 보상 과정을 통해 성능을 개선하는 방법을 학습하도록 설계되어 있습니다.

디자인 스튜디오 없이 에이전트를 처음부터 구축한 기업은 재무, HR, 고객 관리 및 기타 애플리케이션과 사용자의 데이터베이스 및 문서에 통합을 추가해야 할 수도 있습니다. AI 에이전트 프레임워크는 소프트웨어 아키텍처, 통신 프로토콜, 클라우드 및 로컬 데이터 소스에 대한 커넥터, 모니터링 도구를 제공해 기업이 새로운 에이전트를 구축하는 과정을 지원함으로써 모든 코드를 처음부터 작성하지 않아도 되는 대안을 제시합니다. 인기 있는 오픈 소스 프레임워크로는 LangChain, LlamaIndex, Microsoft Research의 AutoGen 등이 있습니다.

에이전트 스튜디오 환경에는 관리자가 직접 액세스할 필요가 없는 프레임워크가 포함될 수도 있습니다.

6. 경계를 설정합니다. 이제 에이전트가 정확성을 유지하고 작업을 수행하기에 앞서 승인을 받아야 하는 시점을 파악할 수 있도록 가드레일을 설치해야 합니다. 예를 들어 에이전트를 설정하는 관리자는 이메일을 보내거나 레코드를 업데이트하기 전에 직원의 승인을 얻어야 한다는 요구사항을 추가할 수 있습니다.

에이전트가 질문에 답변할 수 있는 조건을 설정할 수도 있고, 기본 LLM이 답을 지어내는(생성형 AI의 단점인 '환각' 현상) 대신 기업의 IT 시스템에서 정보를 가져오거나 사용자에게 설명을 요청하도록 지시하는 지침을 추가할 수도 있습니다. 예를 들어, 관리자는 다음과 같이 입력할 수 있습니다. '사용자에게 질문하거나 시스템에 쿼리해 부양가족 수에 관한 정보를 반드시 확보해야 합니다. 해당 정보를 모르는 상태에서 응답해서는 안 됩니다.'

에이전트는 자신이 실행 중인 클라우드 서비스에서 콘텐츠 조정 기능을 상속받도록 설계될 수도 있습니다.

7. 테스트하고, 배포하고, 모니터링합니다. 관리자는 스튜디오의 테스트 영역에서 샘플 상호 작용을 실행해 에이전트 응답의 유용성 및 관련성을 측정하고 어떤 소스가 인용되는지 확인할 수 있습니다 조직에서 에이전트의 지침이나 기본 LLM을 변경한 경우 사용자 상호 작용이 어떻게 변경되는지 확인할 수도 있습니다. 확인 과정이 끝나면 관리자는 디자인 스튜디오에서 바로 에이전트를 배포할 수 있습니다.

에이전트는 어떤 RAG 데이터와 사용자 프롬프트의 조합이 가장 유용한 결과를 도출하는지 측정함으로써 시간이 흐를수록 성능을 개선할 수 있습니다. 이후 비즈니스 관리자는 에이전트의 성과를 평가해 관련 피드백을 사용자와의 상호 작용에 반영할 수 있습니다.

Oracle AI Agent Studio for Fusion Applications를 사용해 Oracle Applications에서 에이전트 사용자 정의하기

IT 관리자는 Oracle AI Agent Studio를 사용해 Oracle Fusion Cloud Applications 사용자의 유급 휴가 잔여 일수 호출, 고객의 구매 이력 가져오기, 제품 반품 처리, 제조 장비 사진 분석 등의 다양한 작업을 지원하는 AI 에이전트를 설정할 수 있습니다.

Fusion 관리자는 작업 영역에 타일로 표시되며 시작하는 데 필요한 코드가 포함되어 있는 사전 작성된 템플릿으로 설정 작업을 시작합니다. 배포하려는 에이전트의 기능 범위 및 한계, 정보를 찾기 위해 검색해야 하는 문서 및 데이터 소스 등을 직접 지시합니다. 또는 새로운 에이전트를 처음부터 생성할 수도 있습니다. 에이전트는 고객의 Fusion 구독에 포함되어 있으며 추가 비용 없이 사용 가능합니다.

AI 에이전트 제작 방법 FAQ

AI 에이전트는 어떤 작업을 수행하나요?

AI 에이전트는 비즈니스 애플리케이션 또는 개인 생산성 소프트웨어에 배포된 가상 어시스턴트로서 컴퓨터 사용자의 질문을 해결하거나 작업을 완료하는 데 도움을 줍니다. 사전 코딩된 규칙과 워크플로에 의존하는 이전의 소프트웨어 어시스턴트와는 달리, AI 에이전트는 자연어 프롬프트 및 컨텍스트를 이해하도록 설계되었으며 새로운 상황에 적응할 수 있습니다.

AI 에이전트는 미래를 위한 핵심 기술인가요?

현재 다양한 비즈니스 애플리케이션에 배포되고 인간에 대한 의존도가 줄어들고 있는 AI 에이전트는 비즈니스 사용자 및 소비자와의 상호작용을 통해 지속적으로 학습하고 갈수록 더욱 유용해질 것입니다