프롬프트 엔지니어가 하는일

프롬프트 엔지니어는 단순히 문장 하나 잘 쓰는 사람이 아니라, LLM을 제대로 다루는 ‘전문가’ 영역이다.

즉, 기술과 문해력, 실험 능력, 최적화까지 겸비해야 하며, 실제 AI 시스템 성능과 비용에 직접적인 영향을 주는 포지션이라는 뜻이다.

1. 프롬프트 작성 능력

프롬프트 구조화, API 비용 최소화

• 프롬프트 작성이 단순한 "질문"이 아님
• 구조화된 형식, 시스템 메시지 설계, 조건 분기 등을 포함
• LLM 사용 비용(API 토큰)과 응답 품질을 동시에 고려해야 함
  예: "당신은 친절한 요약가입니다. 아래 문서를 3줄로 요약해줘" → 불필요한 토큰 낭비 없음

2. 프롬프트 문해력

좋은 답변을 고르는 능력, 기준을 세우는 능력

• 다양한 응답 중에서 가장 적절한 정답을 식별할 수 있는 능력
• 예: A/B 테스트에서 어느 프롬프트가 "더 정확하거나 유익한가"를 판단해야 함
• 이와 함께 정답 기준(Labelling Guide)을 명확히 설정할 수 있어야 함

 3. 프롬프트 연구 능력

프롬프트 실험 설계, 분석, 개선 평가

• 같은 질문이라도 다양한 형태의 프롬프트 실험을 기획하고
• 실험 결과를 정량적·정성적으로 분석해서 개선 방향을 찾아야 함
  (예: 정확도, 퍼플렉서티, 길이, 생성 품질 비교 등)
• 논문 기반 기법 (CoT, ReAct, RAG 등)도 실제로 실험하여 검증할 수 있어야 함

4. 프롬프트 엔지니어링 능력

코드 기반 LLM 활용 능력

• LLM을 단순히 "입력창에 질문하는" 수준을 넘어, 코드로 직접 연결해서 사용할 수 있는 개발 능력이 요구됨
  • 예: OpenAI API 사용, function calling 구성, LangChain 활용 등
• 특히 파이프라이닝 능력 (예: 문서 요약 → 분류 → JSON화 등)은 실무에서 필수
  • 데이터 라벨링 자동화 (요약 → 감정 분류 → 라벨링 저장)
  • 문서 처리 자동화 (PDF → 요약 → 항목 추출 → 보고서 작성)
  • 챗봇 QA 자동화 (질문 → 유사 질문 검색 → 답변 생성 → 근거 반환)
  • 커머스 자동화 (상품 설명 생성 → 카테고리 분류 → 광고 문구 생성)