본문 바로가기

Databricks/MLflow2

Databricks LLMOps ③ MLflow Tracing — LangGraph 관측·한국어 PII 마스킹 📚 시리즈 — Databricks LLMOps① AI Gateway — LLM 폴백·게이트웨이 프록시② Prompt Registry — 프롬프트 버전·alias 관리③ MLflow Tracing — LangGraph 관측·PII 마스킹 — 현재 글 본 가이드는 Databricks 위에서 동작하는 LangGraph 기반 RAG agent 의 모든 호출 (LLM·도구·노드) 을 MLflow Tracing 으로 자동 캡처하고, 클라이언트 단에서 한국어 PII 를 마스킹한 뒤 trace 백엔드로 전송하는 표준 절차를 정의합니다. 데이터 평면 외부로 원본 PII 가 나가지 않도록 mlflow.tracing.configure(span_processors=...) hook 을 사용하며, MLflow Trace UI.. 2026. 7. 6.
Databricks LLMOps ② Prompt Registry — UC 기반 프롬프트 버전·alias 관리 📚 시리즈 — Databricks LLMOps① AI Gateway — LLM 폴백·게이트웨이 프록시② Prompt Registry — 프롬프트 버전·alias 관리 — 현재 글③ MLflow Tracing — LangGraph 관측·PII 마스킹 1. 개요Managed MLflow Prompt Registry는 MLflow 3 기반에서 LLM 프롬프트를 Unity Catalog 에 등록·버전 관리하고, alias(예: dev)로 운영에 연결하는 기능입니다.프롬프트를 애플리케이션 코드 안에 하드코딩하지 않고 중앙에서 관리하는 것이 핵심 가치입니다.버전(version) 은 불변(immutable) 스냅샷으로 쌓이고, alias 는 특정 버전을 가리키는 가변(mutable) 포인터라서, 운영 중에도 재.. 2026. 7. 6.