Agentic AI Engineering
AI 에이전트를 안전하게 운영·확장하기 위한 정체성·보안·격리·컨텍스트 인프라
개요
AI 에이전트가 챗 인터페이스에서 네트워크·자격증명·도구·메모리를 가진 자율 workload로 진화하면서, 리스크 모델이 근본적으로 바뀌었다. 행동하는 에이전트는 “어떻게 똑똑하게 만드나”보다 “어떻게 안전하게 운영하나”가 더 어려운 문제다. 이 토픽은 AI in Data Engineering(AI를 분석·품질에 활용)과 달리, 에이전트 자체를 프로덕션에서 운영하는 인프라 — 정체성·보안·격리·감사·컨텍스트 — 를 다룬다.
에이전트 정체성과 provenance
기존 IAM은 human/workload(NHI)를 중심으로 설계됐으나, 에이전트는 “타인을 대신해(agency) 행동”하며 다단계로 일한다. 핵심 과제는 “누가·무엇을·왜” 했는지를 hop 간 추적하는 것.
- AI Agent Identity and Security — Uber STS(SPIRE + per-hop 단명 JWT + actor chain provenance), Grab Palana(namespace 격리 + proxy-only secret), Least-Privilege Gateway
- Solving the Identity Crisis for AI Agents at Uber · Palana Part 1 - Why Grab Built a Secure Platform for AI Agents · Palana Part 2 - Architecting Isolation Identity and Auditability
두 가지 상보적 접근
| 측면 | Uber STS | Grab Palana |
|---|---|---|
| 초점 | provenance 전파(actor chain) | 실행 격리(namespace + proxy) |
| 자격증명 | per-hop scoped JWT | proxy-only secret(placeholder) |
| 기반 | SPIRE/SPIFFE | Kubernetes-native + SPIFFE(로드맵) |
| north star | ”agents on behalf of users with cut-down permissions” 공유 |
보안 — 트러스트 경계에 control 배치
prompt-level 가드레일만으론 부족하다. 에이전트가 도구를 호출하고, 도구가 서비스를 호출하고, 서비스가 자격증명을 쓰므로, action이 트러스트 경계를 넘는 지점(identity·egress·secret·ingress·Git·API)에 control을 둬야 한다.
- proxy-only secret: “credential 읽기”와 “credentialed 요청 유발”의 분리가 high-leverage(prompt injection·의존성 침해 시 노출 방지)
- egress as control point: 금지가 아닌 observable·policy-mediated(L3/L4 containment + L7 audit)
- control plane은 에이전트 밖에: kill switch가 요청이 아닌 네트워크 경로 제거(safety control)
멀티에이전트 오케스트레이션과 도구
- AI Agent — Meta REA·Analytics Agent, Informatica CLAIRE(50-60 모델 콜 조율), Agent Format 표준
- MCP (Model Context Protocol) — Pinterest MCP 생태계, Teads(48h 200+ 실험), Uber MCP Gateway(정책 집행점)
- Informatica Multi-Agent AI System — 오케스트레이터 + 전문 에이전트 + 검증 체크포인트
컨텍스트가 에이전트 신뢰성을 좌우
에이전트 실패의 핵심 원인은 SQL 생성 능력이 아니라 컨텍스트 부재. 에이전트 하니스는 컨텍스트 관리에서 50년 컴퓨팅 메모리 관리와 동일한 패턴으로 수렴.
- Context Engineering — 4개 하니스(Pi/OpenClaw/Claude Code/Letta)의 수렴, Context Anchoring
- AI Self-Serve Analytics — Anthropic agentic 분석 스택(data foundations → sources of truth → skills → validation), 3가지 실패 모드
- AI-Ready Data — 에이전트가 신뢰성 있게 추론하는 데이터 상태
거버넌스와 리스크
- Data Governance — Least-Privilege Gateway, LLM 기반 PII 탐지
- AI 에이전트 보험 리스크: 비결정적 출력으로 커버리지 축소 — 거버넌스된 AI만 보험 가능
공통 원칙
- isolation이 trust의 단위: 에이전트당 namespace·자격증명 scope. 프레임워크의 내부 isolation을 가정 안 해도 안전
- safe path = easy path: 안전한 경로가 self-service·ergonomic하지 않으면 팀이 우회
- provenance를 끝까지 전파: 전체 actor chain 기반 정책·감사(immediate caller만으론 불충분)
- boring한 autonomy: north star는 “에이전트가 무엇이든 하게”가 아니라 attributable·inspectable·revocable·recoverable
- 컨텍스트·검증이 정확성의 핵심: 코드 생성이 아닌 컨텍스트·검증 문제
관련 위키
- AI Agent Identity and Security
- AI Agent
- MCP (Model Context Protocol)
- Context Engineering
- AI Self-Serve Analytics
- Data Governance
- LLM Platform Engineering — 에이전트 플랫폼의 velocity·reliability·trust
- World Models — planner = 에이전트 의사결정의 미래
관련 이슈: DEW #257, #258, #260, #261, #262, #263, #266, #267, #269, #271, #272, #274, #276