AI Agent와 Cloud Native 인프라를 연결하는 백엔드 개발자입니다.
Kubernetes, Knative 기반 서버리스 DevOps 플랫폼 Serengeti Functions를 기획부터 상용화까지 주도했으며,
이후 Function Calling 기반 AI Agent Builder인 AAS(AI Agent Studio)를 신규 설계·개발했습니다.
Node.js 백엔드 개발을 중심으로 온프레미스/폐쇄망 환경의 CI/CD, LLM Serving, RAG, Multi-Agent 운영 환경 구축 경험이 있습니다.
기존 시스템 개선이 아닌 신규 플랫폼 구축 프로젝트에서 요구사항 정의, 기술 검증, 아키텍처 설계, 백엔드 개발,
Kubernetes 배포 구조, 고객사 납품까지 전 과정을 주도해 왔습니다.
Key Highlights
AI Agent Builder 신규 구축
Function Calling, RAG, Multi-Agent 실행 구조를 결합한 AI Agent Studio 설계 및 개발
Serverless DevOps Platform 0→1 구축
Knative 기반 Function/Web Application 배포 플랫폼을 기획부터 상용화까지 주도
On-Premise / 폐쇄망 AI 플랫폼 경험
Local LLM, Vector DB, Agent Runtime, CI/CD를 보안 요구가 높은 고객사 환경에 맞춰 구성
B2B 상용 납품 경험
금융/손해보험, 공공 보건/의료, 공공/방산 등 보안 요구가 높은 환경에 플랫폼 납품
Tech Stack
Cloud Native
Kubernetes
Knative
Docker
Istio
CI/CD & GitOps
GitLab CI/CD
GitHub Actions
ArgoCD
Harbor
Database
MySQL
MariaDB
Chroma DB
Weaviate
AI / LLM
Function Calling
RAG
Multi-Agent
vLLM
Local LLM
llama.cpp
Dify
DevOps / Infra
Prometheus
cert-manager
Nexus
Linux
PoC / Project Experience
Stable Diffusion
LLaVA
OpenAI API
Vector DB 기반 RAG 챗봇
Private LLM 기반 사내 챗봇
AI Focus
| 시기 |
기술 포커스 |
주요 경험 |
| 2022 ~ 2023 |
Prompt Engineering / Generative AI |
GPT API, Stable Diffusion 기반 서비스 개발 및 AI 파이프라인 구성 |
| 2024 1H |
RAG / Vector DB |
Vector DB 기반 RAG 챗봇, Chunking 전략, Embedding 기반 검색 구조 구축 |
| 2024 2H |
Function Calling / Serverless |
Function Calling과 서버리스 실행 환경을 결합한 Agent Tool 실행 구조 설계 |
| 2025 ~ 현재 |
Agentic AI / Local LLM |
Multi-Agent, vLLM, AgentOps, Private LLM 기반 AI Agent 플랫폼 개발 |
Experience
(주)에이프리카 · 연구개발본부 개발 1팀 · 대리
2022.12 ~ 재직 중
Backend / Platform / AI Agent
사내 핵심 솔루션의 백엔드 개발 및 유지보수를 시작으로, 신규 플랫폼인
Serengeti Functions와 AAS(AI Agent Studio)의 기획, 아키텍처 설계,
백엔드 개발, Kubernetes 기반 배포 구조, 고객사 납품까지 전 과정을 주도하고 있습니다.
AAS(AI Agent Studio)
Function Calling 기반 AI Agent Builder 신규 구축
2025.02 ~ 현재
Role 기획, 아키텍처 설계, 백엔드 개발, Agent 실행 구조 설계, Kubernetes 배포 구조 설계
Tech Node.js · Kubernetes · Knative · vLLM · RAG · Vector DB · Function Calling · Multi-Agent
기존 서버리스 플랫폼 경험을 바탕으로 Function Calling, RAG, Multi-Agent 실행 구조를 결합한 AI Agent Builder를 신규 설계·개발했습니다.
사용자가 내부 API, RAG 검색, 사용자 정의 Function을 Agent Tool로 연결하고, 폐쇄망 환경에서도 운영할 수 있도록 백엔드 및 Kubernetes 기반 실행 인프라를 구축했습니다.
- 사용자 정의 Function, 내부 API, RAG 검색을 Agent가 호출 가능한 Tool로 등록·실행하는 Function Calling 기반 Tool 구조 설계
- Master Agent가 사용자 의도를 분석하고 여러 Worker Agent 및 Tool을 조율하는 Multi-Agent(A2A) 실행 아키텍처 구현
- Agent의 Tool 선택, RAG 참조, 응답 생성 과정을 추적하기 위한 AgentOps Tracing API 및 대시보드용 백엔드 설계
- Reranker와 Parent-Child Chunking 전략을 적용한 RAG 파이프라인 구성
- RAG 검색 자체를 Agent가 호출 가능한 Function Call Tool로 추상화
- vLLM 기반 Local LLM Serving 및 외부망 접근이 제한된 폐쇄망 Kubernetes 배포 구조 설계
- Python, Node.js, Java, Go 런타임을 지원하는 Multi-Runtime 빌드/배포 구조 설계
- Dify, vLLM 등 오픈소스를 검증하고 자체 Agent Builder 요구사항에 맞게 통합
- MCP(Model Context Protocol) 및 내/외부 API 연동 구조 검토 및 플랫폼 반영
Serengeti Functions
Knative 기반 서버리스 DevOps 플랫폼 신규 구축
2024.02 ~ 2025.01
Role 기획, 아키텍처 설계, 백엔드 개발, CI/CD 파이프라인 설계, Kubernetes 배포 구조 설계
Tech Kubernetes · Knative · Istio · GitLab CI/CD · Harbor · ArgoCD · Prometheus · Node.js
개발자가 인프라 설정 없이 Function과 Web Application을 배포할 수 있는 서버리스 DevOps 플랫폼을 기획부터 개발, 상용화까지 주도했습니다.
- Knative 기반 서버리스 실행 환경을 설계하고 Function 단위 배포 모델 구현
- Web Application과 개별 API Function의 배포 방식을 분리하여 다양한 워크로드를 수용하는 플랫폼 구조 설계
- GitLab CI, Harbor, ArgoCD를 연동한 Git Push 기반 이미지 빌드 및 Kubernetes 배포 파이프라인 구축
- Prometheus 기반 서버리스 리소스 상태 및 Scale-to-Zero 모니터링 구조 구성
- 개발자가 인프라 세부 설정 없이 코드 중심으로 서비스를 배포할 수 있는 DevOps 흐름 설계
- 이후 AAS에서 Agent Tool 실행 인프라로 확장 가능한 서버리스 기반 제공
사내 인프라 개선 및 운영
개발/운영 인프라 안정화
2023.01 ~ 2024
- cert-manager와 Let's Encrypt를 연동하여 TLS 인증서 발급/갱신 자동화 체계 구축
- 인증서 수동 갱신 누락으로 인한 장애 리스크를 제거하고 운영 관리 부담 완화
- 사내 Nexus Repository를 구축해 Maven/npm 패키지 저장소를 표준화
- 내부 라이브러리 빌드·배포 파이프라인을 정리하고 개발팀의 패키지 관리 환경 개선
B2B Commercial Projects
기획 및 개발에 참여한 Serengeti Functions 기반 서버리스/AI 플랫폼과 AAS 계열 AI Agent 플랫폼은
금융, 공공, 방산 등 보안 요구가 높은 고객사 환경에 납품되었습니다.
아래 프로젝트는 연도 기준 최신순으로 정리했습니다. 고객사 보안 정책에 따라 상세 기관명과 내부 시스템명은 일부 일반화했습니다.
공공 보건/의료 평가 기관 Private LLM 기반 RAG / Agent 플랫폼 구축
2026
민감 공공 데이터 유출을 방지하기 위한 Private LLM 기반 RAG 및 Agent 플랫폼 구축에 참여했습니다.
- 외부 API 의존도를 최소화한 Private LLM 기반 RAG 파이프라인 구성
- Vector DB 기반 문서 검색 구조 및 Agent Tool 연동 구조 설계
- 내부 문서와 지식을 Agent가 활용할 수 있도록 RAG 검색을 Function Call 구조로 추상화
- 보안 요구사항이 높은 공공 환경에 맞춘 폐쇄망 배포 구조 구성
금융/손해보험 그룹사 On-Premise AI Agent / CI/CD 플랫폼 구축
2025
- 고객사 보안 정책에 맞춘 On-Premise Kubernetes 기반 플랫폼 구성
- 외부망 접근 없이 동작 가능한 이미지 저장소, 배포 파이프라인, 인증서 관리 구조 설계
- 내부 API 및 사내망 연동을 고려한 Agent Tool / API 연계 구조 구성
- 폐쇄망 환경에서 운영 가능한 AI Agent 실행 기반 및 배포 체계 제공
공공/방산 기관 폐쇄망 AI Pilot 및 서버리스 Agent 운영 플랫폼 공급
2025
- 폐쇄망 환경에서 AI Agent 및 Function 실행이 가능한 Kubernetes 기반 운영 구조 구성
- 서버리스 실행 환경과 CI/CD 파이프라인을 결합한 Agent 운영 기반 제공
- 고객사 내부 인프라 환경에 맞춘 배포 및 운영 방식 설계
- 보안이 중요한 환경에서도 AI 기능을 실험·운영할 수 있는 기반 마련
SI / AI Integration Projects
인천 스타트업 파크 SI
2023.05 ~ 2024.06
Tech Node.js · Chroma DB · RAG · OpenAI API · Stable Diffusion
- Vector DB(Chroma)를 활용한 실증망 RAG 챗봇 구축
- Stable Diffusion과 ChatGPT를 결합한 AI 동화책 서비스 백엔드 개발
- 프롬프트 기반 이미지 생성 및 텍스트 생성 파이프라인 연동
- 사용자 요청 처리, AI API 호출, 결과 저장 및 조회를 위한 백엔드 API 개발
광주 테크노파크 SI
2023.08 ~ 2024.07
Tech Node.js · LLaVA · Vision-Language Model
- Vision-Language Model 기반 스마트 냉장고 사물 인식 PoC 검증
- 이미지 입력 기반 객체 인식 및 설명 생성 흐름 검토
- SI 서비스 연동을 위한 백엔드 API 개발
- AI 모델 추론 결과를 서비스 요구사항에 맞게 가공 및 제공
사내 AI 프로젝트
2022.12 ~ 2023.10
Tech Stable Diffusion · Local LLM · RAG · Vector DB
- Stable Diffusion 기반 이미지 생성 서비스 ‘그리다’ 개발 참여
- Local LLM 기반 사내 RAG 챗봇 개발
- 문서 임베딩, Vector DB 검색, LLM 응답 생성을 연결하는 RAG 파이프라인 구성
- GPT API 및 이미지 생성 모델을 활용한 사내 AI 서비스 PoC 및 백엔드 개발
