RAG Agent, Tool 설계 역할 및 설명

하나의 질의에 대해 의도를 분석하고, 그 결과에 따라

• Document RAG,
• Personalized RAG,
• Tool Calling

등 적절한 처리 방식을 선택하는 로직을 설계하는 역할은 일반적으로 다음과 같은 포지션 또는 역할명으로 정의됩니다:

---

적절한 역할명

역할명설명

AI 오케스트레이션 엔지니어 (AI Orchestration Engineer)	사용자 질의의 의도 분석 → 적절한 처리 루트 (RAG, Tool 사용 등)로 분기하는 전체 흐름 제어 로직 설계
AI 에이전트 설계자 (AI Agent Architect)	질의 기반으로 agent의 행동 전략을 결정 (예: Retrieval vs. Tool use 등)
프롬프트 플로우 설계자 (Prompt Flow Designer)	복합 질의 흐름에서 프롬프트·컨텍스트 분기 및 조합 전략 수립
Intent 라우팅 엔지니어 (Intent Routing Engineer) 또는 Router Designer	질의의 intent를 분류하여 RAG/Tool/Personal 기능에 자동으로 연결하는 분기 로직 설계
LLM 워크플로우 디자이너 (LLM Workflow Designer)	LLM 기반 서비스의 흐름을 설계: 입력 → 분기 판단 → 적절한 처리 선택 → 응답 생성까지

 

---

핵심 스킬

• 의도 분석 모델 설계 (Classifier, Prompt 기반 분기 등)
• Tool calling or RAG 기반 판단 로직 설계
• LangChain / Semantic Router 등 Agent Framework 활용 능력
• 프롬프트 설계 및 컨텍스트 최적화

---

예시 업무 설명 (Job Description 형태)

사용자 질의를 분석하여 Document 기반 RAG, 개인화된 RAG, 외부 Tool 연동 중 어떤 처리가 적절할지 판단하는 라우팅 및 처리 흐름을 설계하고 구현합니다. 이를 위해 프롬프트 설계, LLM 응답 제어, 의도 분류 모델 운영 경험이 요구됩니다.

---

필요하시다면 이 역할을 포함하는 WBS 템플릿도 만들어드릴 수 있습니다. 원하시나요?

 

Tool 설계자 역할 명

 

각 Tool을 설계하는 역할이 의미하는 것이 다음 중 어디에 가까운지에 따라 다소 달라지지만, 일반적인 관점에서 보면 **"Tool"이 LLM Agent가 호출하는 기능 단위(예: DB 조회, 메일 전송, 사용자 정보 가져오기 등)**라고 할 때 다음과 같이 정리할 수 있습니다:

---

 Tool을 설계하는 역할의 적절한 포지션 정리

역할명Tool 설계 포함 여부설명

LLM 엔지니어	✅ 포함됨	LLM이 Tool을 어떻게 호출할지 프롬프트나 function spec, tool schema 등을 설계함
백엔드 엔지니어	✅ 포함됨	실제 Tool의 로직(API, DB 연동, 외부 시스템 호출 등)을 구현
검색 엔지니어	🔸 부분 포함	"검색 Tool" (예: 벡터 검색, 키워드 검색)을 설계할 때는 포함되지만, 일반적인 외부 Tool은 범위에서 벗어남
AI 오케스트레이션 엔지니어	✅ 포함됨	어떤 상황에서 어떤 Tool을 언제 호출할지를 결정하는 정책과 흐름 설계를 담당
Tool 디자이너 (또는 Function Designer)	✅ 핵심 역할	명확한 명세(schema), 입력/출력, validation 등을 포함한 Tool 스펙 정의 중심

 

---

🔍 예시: Tool 설계 작업 항목

• 툴 호출 명세 설계 (OpenAI function spec 또는 LangChain tool interface)
• 입력 파라미터 및 반환 형식 설계
• LLM 프롬프트 상에서 툴 사용 여부 제어 (예: tool_choice=auto)
• 툴별 로깅, 오류 처리, 시간 제한 등 설계
• Tool calling ↔ RAG ↔ 직접 응답 간의 적절한 선택 흐름 설계

---

결론

• 검색 Tool은 → "검색 엔지니어"가 설계해도 자연스럽습니다.
• 일반적인 기능 Tool은 → "LLM 엔지니어"와 "백엔드 엔지니어"의 협업이 일반적입니다.
• Tool 호출 정책 및 흐름 설계는 → "AI 오케스트레이션 엔지니어" 또는 "Agent 설계자"가 담당하는 게 이상적입니다.

---