The life and times of a data team in the AI era
Author: Katie Bauer (Head of Data, Hex) | Source: hex.tech/blog | Published: 2026-07-17
한 줄 요약
데이터 팀의 임무(데이터를 사람들 손에 쥐여주기)는 그대로지만 이제 대부분의 데이터 접근이 에이전트에 의해 매개되고, 그 결과 예전에는 훨씬 큰 회사에서나 보던 문제들(지표 거버넌스 붕괴, 비용 폭발, 컴플라이언스)이 훨씬 일찍 나타난다.
핵심 주장/내용
- 데이터 세계는 몇 년마다 정체성 위기를 겪는다 — 새 기술이 나오고, 옛 방식이 낡았다고 선언하고, 새 이름이나 직함으로 아름다운 미래를 그린다. 처음 겪으면 에너지가 나지만 몇 번 겪으면 눈을 굴리기 쉽다. 그래도 냉소로 얻을 수 있는 건 제한적이다 — 직업은 결국 진짜로 유용한 것으로 수렴하고, 그것이 주는 레버리지가 일하는 방식을 근본적으로 바꾼다
- 데이터 팀 일의 두 갈래 (스킬셋이 아니라 마인드셋의 구분):
- Platform work — 조직의 데이터 수요에 맞는 데이터 공급을 확보하는 것. 한곳으로 ingest·통합, 일관성·품질을 위한 모델링, 관련 소비 표면(Salesforce, BI 도구, 웨어하우스 직접)에서 이용 가능하게 만들기. 추상화·조합성·장기를 생각하는 모드
- Distribution work — 라스트 마일. 이해관계자와 깊이 얽힌 고노력 작업(분석 수행, 정기 비즈니스 리뷰 진행)부터 탈중개적인 것(canonical 대시보드, 프로그램 생성 리포트)까지. 직접 적용·특정 맥락에서의 관련성·시의성을 생각하는 모드
- 어느 쪽도 본질적으로 낫지 않다. 둘 다 있어야 데이터가 조직의 심장 박동이 된다. 팀을 만드는 사람은 각 버킷에 얼마나 책임이 있는지, 지금 어느 쪽에 기여하고 있는지 알아야 한다
- AI가 distribution에서 바꾼 것: 예전에는 상당한 기술적 장벽이 있었지만 (text-to-SQL이든 MCP든 전용 에이전트든) 더 이상 없다. self-service가 실제로 가능해졌고, 좋든 싫든 이해관계자들은 AI로 조직 데이터를 뽑고 분석하고 해석할 것이다
- 해방적인 면: 과거의 distribution 작업 상당 부분이 고역이었다. 남을 위해 쿼리를 쓰거나 대시보드를 또 하나 조립하는 것이 기분 좋게 기계적인 순간도 있지만, 그것이 다른 모든 것을 밀어내면 빠르게 사기가 꺾인다. 이제 에이전트가 원하는 걸 얻기까지 여러 번 반복해야 하는 이해관계자와 직접 작업할 수 있다
- 진짜로 개인화된 distribution이 열린다: 잘 스코프된 대시보드를 만들려다 작은 요청들이 쌓여 로드할 때마다 노트북에 불이 붙는 경험은 누구나 해봤다. 각자가 비즈니스에 대한 자기만의 뷰를 갖는 데는 엄청난 가치가 있지만 AI 이전에는 실제로 만드는 것이 전혀 실현 불가능했다
- 동시에 불안: 매개가 우리를 여러 면에서 자유롭게 하지만 데이터 팀이 루프에서 잘려나간다는 뜻이기도 하다. 이건 늘 어느 정도 있었지만 이제 감독이 불가능해 보이는 완전히 새로운 규모다. 무한한 vibe-coded 대시보드·분석은 곧 두 숫자가 안 맞을 무한한 기회이고 그 작업이 결국 데이터 팀에게 담 너머로 던져진다
- platform에서 바뀐 것: 거의 보편적인 데이터 접근성으로 훨씬 큰 회사의 문제가 예상보다 훨씬 일찍 나타나기 시작했다 — 비효과적 지표 거버넌스, 폭발하는 벤더 비용, 컴플라이언스 골칫거리. 데이터가 모두에게 열리면 다 전면에 나온다
- 사용 대부분이 에이전트 매개이므로 observability와 접근 관리가 사실상 시작부터 1급 관심사가 되어야 한다. 누구나 데이터를 뽑아 LLM에 던질 수 있다는 건 원하지 않는 온갖 곳으로 파이프할 수 있다는 뜻이다. 어느 부분이 민감한지 판단해 RBAC를 설정하고 뭔가 잘못될 때 탐지할 시스템을 갖춰야 한다
- 널리 쓰이면 더 많은 사람이 정의된 개념의 가장자리를 더 빨리 발견한다. AI가 데이터 작업에 많이 채택되고 있다면 회사의 다른 모든 부분에서도 속도가 붙고 있을 가능성이 높고, 끊임없이 변형되는 새 엔티티·비즈니스 프로세스가 만드는 모델링 수요를 따라잡기가 더 어려워진다
- 여전히 같은 것 3가지:
- 데이터 품질은 여전히 중요하다. 에이전트는 무차별 쿼리로 많은 걸 알아낼 수 있지만 사람처럼 잘 설계되고 명확히 문서화된 데이터셋을 다룰 때 더 효율적이고 효과적이다. AI 분석 배포에서 가장 빨리 가치에 도달하는 팀은 웨어하우스의 데이터 모델이든 시맨틱 모델 같은 더 형식적인 것이든 데이터 품질에 시간을 투자한 팀이다. 프론티어 모델을 분석에 쓰는 법을 이야기할 때 큰 랩들조차 데이터 품질을 강조한다는 점이 눈에 띈다
- 인센티브는 여전히 중요하다. 민주화된 접근의 꿈이 이뤄져도 모두가 자기 관점과 편향을 데이터 해석에 가져온다는 사실은 변하지 않는다. 비전문가들이 악의적으로 오독한다는 게 아니라 중립적 관점을 가져올 능력이 항상 있지는 않고, 흔한 함정을 알아보거나 같은 정보를 더 명확히 보는 방법을 식별할 경험이 없을 수 있다는 것. 데이터 팀은 객관성을 유지하는 연습을 많이 했고 그건 곧 낡을 것 같지 않다
- 비즈니스를 아는 것은 여전히 중요하다. 어차피 어느 문제에 사람의 귀한 주의를 쓸지 선택해야 한다. 이해관계자와 관계를 쌓고, 로드맵에서 뭐가 되고 뭐가 안 되는지 주시하고, 남이 생각하는 “데이터”를 하는 데 밀려나지 말고 비즈니스가 직면한 가장 중요한 문제를 집요하게 풀어야 한다
- 팀 빌딩 조언:
- 가능한 한 전문화를 미뤄라. 데이터 역할이 지난 몇 년 고도로 전문화되면서 다음 단계 작업을 맡을 적임자를 기다리는 유휴 사이클이 생겼다. 이미 팀에 있는 사람들의 크로스 트레이닝과 업스킬링에 집중해 end-to-end 라이프사이클의 더 많은 부분에 기여할 수 있게 하라. 스스로를 unblock할 새 기술을 갖는 건 사람에게 매우 힘이 되고, 팀의 bus factor를 크게 줄여 영웅적 행위의 필요를 낮추고 PTO가 방해받지 않을 가능성을 높인다
- 다만 뉘앙스가 있다 — 기술적 스킬셋은 언제 그것을 적용할지에 대한 지식과 다르다. 팀원이 프로젝트·작업 전반에 완전히 대체 가능하다고 가정하지 말고 이해관계자도 그렇게 가정하게 두지 마라. 보안을 전혀 모르는 분석가에게 웨어하우스 RBAC 설정을 단독으로 맡기지 말고, 추론 통계를 모르는 데이터 엔지니어를 A/B 테스트를 설계하는 PM의 유일한 접점으로 두지 마라
- AI가 역할 간 기술적 경계를 침식해도 팀원들이 명확한 1차 초점을 갖게 하라. 문제가 풀 가치가 있으면 풀타임 오너를 두고, AI가 메워줄 수 있는 구체적 기술 격차는 덜 걱정하라
- 무엇보다 기본값이 “어떻게 yes라고 할 수 있을까”를 생각하는 것이어야 한다. 데이터 팀은 chaotic-lawful 축에서 확실히 lawful 쪽이고 그것이 역사적으로 고집스럽고 느리다는 평판을 얻게 했다. 일관성·품질·컴플라이언스를 걱정하는 건 옳지만, 그 어느 때보다 데이터에 굶주린 동료들이 기본적으로 좋은 선택을 하도록 허용하는 방법을 찾아내야 한다. 이는 에이전트 행동을 이해하는 데 투자하고, 모든 에이전트 상호작용이 완벽하지는 않으리라는 것을 받아들이는 것을 요구한다
- 에이전트는 (올바른 컨텍스트가 주어지면) 데이터 검색을 꽤 잘하고 대다수 상호작용은 고위험이 아니므로 항상 내가 했을 선택을 하지 않아도 괜찮다. 무엇이 중요한지 파악하고, 나쁜 행동을 잡을 올바른 체크를 갖추고, 팀원에게 따르길 바랄 절차와 정책을 에이전트가 따르도록 조종하는 기법을 배워라
- 새 임무: 이제 모두가 데이터를 쓴다. 데이터 팀의 새 목표는 그것이 이뤄지는 방식을 격상시키는 것(elevate how it’s done) — 데이터를 모두의 손에 쥐여주는 걱정에서 더 야심찬 것으로, 우리가 데이터를 더 잘 쓰고 있는지 확인하는 것으로
관련 위키
- Data Team Operations
- AI Self-Serve Analytics
- Data Governance
- Data Quality and Validation
- Semantic Layer
- AI-Ready Data
- Data Scientist Role in AI Era
Source: 원문 보기