AI Engineer 손성준 · LLM Serving, RAG, Rust, K8shttps://infoedu.co.kr/ 손성준https://github.com/SonAIengineko Sat, 13 Jun 2026 15:29:11 -0000 Sat, 13 Jun 2026 15:29:11 -0000 1440 MkDocs RSS plugin - v1.19.0 None https://infoedu.co.kr/ Docker Compose FastAPI TLS XGEN nginx 멀티테넌트 인프라 트러블슈팅 프로비저닝 이메일 신청 한 건으로 XGEN 전체 스택을 격리해 자동 발급하는 셀프서비스 체험존(Trial Zone) 프로비저너를 설계하고 운영한 과정을 정리한다. Docker Compose per-tenant 격리, AWS 엣지 TLS 종료, nginx 동적 서브도메인 라우팅, 비동기 발급, TTL 회수까지 실전 트러블슈팅 중심으로 다룬다. https://infoedu.co.kr/devops/infra/trial-zone-provisioner-self-service-multitenant-compose-edge-tls/ Sat, 13 Jun 2026 00:00:00 +0000 SON BLOGhttps://infoedu.co.kr/devops/infra/trial-zone-provisioner-self-service-multitenant-compose-edge-tls/ AI Agent LLMOps MCP OpenAPI Plan and Execute Python Tool Calling graph-tool-call graph-tool-call v0.19의 tool result 압축 이후, v0.20 방향으로 진행한 RPC 패턴 감지, 동적 prefix 탐지, intent parser, graph 기반 path synthesizer, runner, response synthesizer, zero-vector retrieval까지의 설계 변화를 정리한다. 아직 릴리스 전 브랜치 기준의 개발기다. https://infoedu.co.kr/ai/agent/graph-tool-call-v020-rpc-detection-plan-execute-compiler/ Tue, 09 Jun 2026 00:00:00 +0000 SON BLOGhttps://infoedu.co.kr/ai/agent/graph-tool-call-v020-rpc-detection-plan-execute-compiler/ AI Agent Canvas Full Stack Harness LLMOps ReAct Workflow XGEN 대화로 만든 Canvas 워크플로우를 Harness 노드와 Compile 버튼으로 실행 가능한 에이전트 파이프라인으로 전환하면서 겪은 설계 판단을 정리한다. stage 로그, tool 입출력, LLM narration, 권한 전파, system prompt 주입, UI 재실행 버그까지 다룬다. https://infoedu.co.kr/ai/agent/xgen-canvas-chat-harness-compile-agent-workflow/ Tue, 09 Jun 2026 00:00:00 +0000 SON BLOGhttps://infoedu.co.kr/ai/agent/xgen-canvas-chat-harness-compile-agent-workflow/ AI Agent Docker MCP Node.js Python Tauri XGEN 폐쇄망 MCP 서버를 인터넷이 막힌 폐쇄망 XGEN 환경에서 설치하고 실행하기 위해 외부망 번들 빌드, 업로드, 세션 복원, 마켓 카탈로그, 데스크톱 앱 UX를 하나의 흐름으로 연결한 구현 과정을 정리한다. stdio JSON-RPC 응답 correlation 버그와 웹/데스크톱 공통 API 설계까지 다룬다. https://infoedu.co.kr/ai/agent/xgen-mcp-airgap-bundle-market-desktop-ux/ Tue, 09 Jun 2026 00:00:00 +0000 SON BLOGhttps://infoedu.co.kr/ai/agent/xgen-mcp-airgap-bundle-market-desktop-ux/ DevOps GPU KVM Kubernetes LLMOps MLOps Workbench XGEN XGEN의 LLMOps/MLOps 워크벤치를 단일 Pod 실행에서 KVM 컴퓨트 풀과 GPU 워커 기반 분산 실행 구조로 확장한 과정을 정리한다. Workbench 컨트롤러, SandboxExec, Prompt Studio, 학습 Job, headless worker, GPU 메트릭, PriorityClass, NetworkPolicy, anti-affinity 설계까지 다룬다. https://infoedu.co.kr/devops/infra/xgen-workbench-kvm-gpu-distributed-dispatch-infra/ Tue, 09 Jun 2026 00:00:00 +0000 SON BLOGhttps://infoedu.co.kr/devops/infra/xgen-workbench-kvm-gpu-distributed-dispatch-infra/ Desktop App Docker Full Stack MCP Ollama RAG Tauri XGEN 기존 웹 기반 XGEN 프론트엔드를 Tauri 데스크톱 앱으로 감싸는 수준을 넘어, 로컬 Ollama 자동 기동, Docker Compose 백엔드 자동 시작, MCP 라이브러리 UX, 로컬 모델 서빙 패널, RAG 문서 API 절대경로화를 하나의 앱 경험으로 묶은 과정을 정리한다. https://infoedu.co.kr/full-stack/desktop/xgen-desktop-local-ollama-backend-auto-start-mcp-rag/ Tue, 09 Jun 2026 00:00:00 +0000 SON BLOGhttps://infoedu.co.kr/full-stack/desktop/xgen-desktop-local-ollama-backend-auto-start-mcp-rag/ Auto Trading Finance KIS OpenAPI NautilusTrader PoC Python Risk Control System Design 국내 주식 자동매매 프로젝트 sontrader를 공개 가능한 범위에서 정리한다. synaptic memory, NautilusTrader, KIS OpenAPI를 연결할 때 전략 수익률보다 먼저 주문 경계, 리스크 제어, 상태 복원, 감사 로그, 실거래 전환 절차를 어떻게 나눠야 하는지 다룬다. https://infoedu.co.kr/full-stack/poc/sontrader-korean-stock-autotrading-risk-control-architecture/ Tue, 09 Jun 2026 00:00:00 +0000 SON BLOGhttps://infoedu.co.kr/full-stack/poc/sontrader-korean-stock-autotrading-risk-control-architecture/ IAM MSA Python Refactoring XGEN 권한 모델 마이그레이션 XGEN 2.0 백엔드의 권한 모델을 group 기반에서 role 기반으로 옮기면서, 6개 마이크로서비스에 걸쳐 share_group→share_roles, require_perm 통합, 공통 SDK 추출을 한 브랜치로 일관성 있게 굴린 마이그레이션 전략과 트레이드오프를 정리한다. https://infoedu.co.kr/ai/XGEN/xgen-2-0-group-to-role-permission-migration-msa-refactor/ Mon, 13 Apr 2026 00:00:00 +0000 SON BLOGhttps://infoedu.co.kr/ai/XGEN/xgen-2-0-group-to-role-permission-migration-msa-refactor/ Agent LLM MCP OpenAPI Python Swagger Tool Calling api-to-tools OpenAPI/Swagger/HAR/GraphQL/gRPC/AsyncAPI/WSDL/Nexacro까지, 스펙이 있든 없든 임의의 API를 LLM이 호출 가능한 Tool 정의로 자동 변환하는 라이브러리를 4일 만에 v0.3에서 v0.16까지 진화시킨 과정과 5단계 Fallback 디스커버리 전략을 정리한다. https://infoedu.co.kr/ai/agent/api-to-tools-universal-llm-tool-discovery-5-stage-fallback/ Mon, 13 Apr 2026 00:00:00 +0000 SON BLOGhttps://infoedu.co.kr/ai/agent/api-to-tools-universal-llm-tool-discovery-5-stage-fallback/ Agent Context Manager LLM MCP Python Tool Calling graph-tool-call 토큰 최적화 LLM 에이전트의 컨텍스트 폭주 주범인 tool 응답을 타입별로 지능형 압축한다. JSON list/dict, HTML, Error, Text 5종 압축기와 HTTP 응답 자동 감지, ToolGraph/MCPProxy/MCP server/LangChain 게이트웨이 4개 통합 지점을 zero-dependency로 구현한 v0.19의 설계와 측정치. https://infoedu.co.kr/ai/agent/graph-tool-call-v019-tool-result-compression-97-percent-token-saving/ Mon, 13 Apr 2026 00:00:00 +0000 SON BLOGhttps://infoedu.co.kr/ai/agent/graph-tool-call-v019-tool-result-compression-97-percent-token-saving/ Agent Autonomy HITL LLM MS Graph Python sonlife synaptic-memory 라이프로그/메일/Teams를 자율 답신하는 에이전트 루프를 만들면서 도입한 안전장치 — 예산 150% hard-stop, max_age 뒷북 가드, L03 permission HITL, MS Graph Change Notifications로 폴링 30분→초 단위 단축, synaptic 그래프 preflight까지 — 의 설계를 정리한다. https://infoedu.co.kr/ai/agent/sonlife-autonomy-loop-budget-hardstop-hitl-graph-push/ Mon, 13 Apr 2026 00:00:00 +0000 SON BLOGhttps://infoedu.co.kr/ai/agent/sonlife-autonomy-loop-budget-hardstop-hitl-graph-push/ Cohere HuggingFace Korean Python STT faster-whisper sonlife 음성인식 sonlife 라이프로그 STT 백엔드를 faster-whisper에서 Cohere Transcribe로 교체했다. WER 7.44%→5.42% 개선, HF Gated Repo의 HF_TOKEN 자동 로그인, return_timestamps 제거 후 문장 단위 세그먼트 분할, 한국어/영어 코드스위칭 대응까지 — STTProvider 추상화로 한 env 변수만 바꾸면 교체되는 pluggable 백엔드 설계와 시행착오를 정리한다. https://infoedu.co.kr/ai/model-serve/cohere-transcribe-stt-provider-korean-english-codeswitching-hf-token/ Mon, 13 Apr 2026 00:00:00 +0000 SON BLOGhttps://infoedu.co.kr/ai/model-serve/cohere-transcribe-stt-provider-korean-english-codeswitching-hf-token/ Configuration as Code DevOps JCasC Jenkins Kubernetes Secret 보안 Jenkins JCasC 설정에 박혀 있던 admin 자격증명을 K8s Secret으로 분리하고 JCasC 변수 참조로 주입하는 보안 전환을 정리한다. 함께 묶어서 처리한 Fuseki Recreate strategy, JCasC TARGET_ENV 파라미터 오버라이드, SSE 스트리밍 라우트 수정도 함께 다룬다. https://infoedu.co.kr/devops/infra/jenkins-credentials-k8s-secret-jcasc-variable-reference-hardcoding-removal/ Mon, 13 Apr 2026 00:00:00 +0000 SON BLOGhttps://infoedu.co.kr/devops/infra/jenkins-credentials-k8s-secret-jcasc-variable-reference-hardcoding-removal/ APNs Agent AppIntents Apple Watch SSE Siri Shortcuts SwiftUI iOS sonlife 음성 녹음 앱이었던 sonlife-app을 자율 에이전트 컨트롤 타워로 진화시켰다. SwiftUI 작업 인박스, SSE 실시간 라이브 카드, 오프라인 큐, APNs 인라인 승인(Face ID), Apple Watch 앱, Siri Shortcuts, 위젯까지 — Phase A부터 M1a까지 9일 만에 40+ 커밋으로 쌓아 올린 iOS 네이티브 클라이언트의 설계와 결정을 정리한다. https://infoedu.co.kr/full-stack/desktop/sonlife-app-ios-agent-control-tower-swiftui-sse-watch-siri/ Mon, 13 Apr 2026 00:00:00 +0000 SON BLOGhttps://infoedu.co.kr/full-stack/desktop/sonlife-app-ios-agent-control-tower-swiftui-sse-watch-siri/ AI Agent Hive Corp Knowledge Graph Multi-Agent Python Tool Retrieval graph-tool-call synaptic-memory AI 에이전트 회사 자율운영 플랫폼 Hive Corp에서 자체 구현된 메모리 시스템과 도구 레지스트리를 synaptic-memory, graph-tool-call 두 라이브러리로 전면 교체한 과정을 정리한다. PostgreSQL tsvector 기반 검색을 SynapticGraph의 resonance 기반 검색으로, 정적 role mapping을 ToolGraph의 지능형 retrieval로 대체했다. https://infoedu.co.kr/ai/agent/hive-corp-synaptic-memory-graph-tool-call-integration/ Mon, 23 Mar 2026 00:00:00 +0000 SON BLOGhttps://infoedu.co.kr/ai/agent/hive-corp-synaptic-memory-graph-tool-call-integration/ FastAPI GPU MinIO Python XGEN vLLM 모델서빙 아키텍처 XGEN 플랫폼의 모델 서빙 서비스를 4-Tier 아키텍처로 리팩토링한 과정을 정리한다. MinIO 기반 중앙 모델 저장소 + PV 캐시, vLLM 0.17.0 업그레이드, LLM/임베딩 자동 라우팅 Inference Proxy, GPU Fallback Chain, zombie 프로세스 처리까지. https://infoedu.co.kr/ai/XGEN/xgen-model-v2-minio-hub-vllm-017-inference-proxy-architecture/ Sun, 22 Mar 2026 00:00:00 +0000 SON BLOGhttps://infoedu.co.kr/ai/XGEN/xgen-model-v2-minio-hub-vllm-017-inference-proxy-architecture/ BM25 LLM Agent MCP Python Tool Retrieval Workflow graph-tool-call wRRF 그래프 검색 벤치마크 graph-tool-call을 v0.7에서 v0.15까지 진화시키며 겪은 기술적 의사결정을 정리한다. 6개 retrieval 전략 경쟁 벤치마크로 Graph의 실제 가치를 검증하고, BM25보다 나쁜 결과를 내던 Graph를 candidate injection 아키텍처로 전환한 과정, 그리고 LLM Agent의 왕복 호출을 줄이는 워크플로우 체인 API를 구현한 경험을 다룬다. https://infoedu.co.kr/ai/agent/graph-tool-call-v015-workflow-chain-competitive-benchmark/ Sun, 22 Mar 2026 00:00:00 +0000 SON BLOGhttps://infoedu.co.kr/ai/agent/graph-tool-call-v015-workflow-chain-competitive-benchmark/ AI Agent GTM MCP Python devhub-social gwanjong 소셜 미디어 스팸 방지 운영 자동화 AI 소셜 에이전트 gwanjong-mcp를 4개에서 9개 플랫폼으로 확장하고, 캠페인 기반 GTM 시스템, 연속 실패 자동 차단, 에이전트 캐릭터 시스템, 자동 대댓글, 저자 중복 방지까지 실제 운영하며 겪은 문제와 해결 과정을 정리한다. https://infoedu.co.kr/ai/agent/gwanjong-mcp-operations-campaign-spam-defense-multi-platform-scaling/ Sun, 22 Mar 2026 00:00:00 +0000 SON BLOGhttps://infoedu.co.kr/ai/agent/gwanjong-mcp-operations-campaign-spam-defense-multi-platform-scaling/ AutoARIMA Chronos LightGBM Rolling CV StatsForecast Time Series 데이터 분석 시계열 예측 앙상블 현금흐름 48개월 월별 데이터로 기업 현금흐름을 예측하는 프로젝트. 256개 피처 ML이 평균 예측기에 불과하다는 사실을 발견하고, 순수 시계열(AutoARIMA, Chronos-Bolt) + 역MAE 앙상블로 전환하기까지의 과정을 정리한다. Rolling CV, data leakage 수정, 구간 예측까지. https://infoedu.co.kr/full-stack/poc/cashflow-prediction-timeseries-ml-ensemble-rolling-cv/ Sun, 22 Mar 2026 00:00:00 +0000 SON BLOGhttps://infoedu.co.kr/full-stack/poc/cashflow-prediction-timeseries-ml-ensemble-rolling-cv/ LLM 기반 AI 에이전트 설계, 도구 호출, 파이프라인 구성 등 에이전트 시스템 구축 경험을 다루는 기술 글 모음 https://infoedu.co.kr/ai/agent/ Sun, 15 Mar 2026 19:42:38 +0000 SON BLOGhttps://infoedu.co.kr/ai/agent/