데이터브릭스, 유니티 게이트웨이로 AI 코딩 비용 최대 90% 절감했다고 밝혀
데이터브릭스는 작업을 분배하고 지출을 통제하며 더 저렴한 모델로 작업을 넘기는 내부 시스템 '유니티 게이트웨이'를 통해 내부 AI 코딩 비용을 최대 90%까지 줄였다고 밝혔다.
한 줄 답
데이터브릭스는 AI 코딩 도구 비용 절감에 대해 무엇을 발표했는가?
데이터브릭스는 작업을 처리 가능한 가장 저렴한 모델로 분배하고, 하드 캡 대신 단계적 지출 통제를 적용하며, 엔지니어들에게 자신의 사용량을 확인할 수 있도록 하는 시스템 '유니티 게이트웨이'를 통해 내부 AI 코딩 비용을 최대 90%까지 절감했다고 밝혔다. 복잡한 문제에는 비용이 더 높은 아스트라 같은 모델을 따로 남겨둔다.
핵심 요약
- 데이터브릭스는 도구 요금이 좌석 단위가 아니라 사용량 기준으로 매겨지기 때문에 전면 도입 이후 내부 AI 코딩 비용이 기하급수적으로 늘었지만, 사용량과 창출 가치가 늘어나는 와중에도 엔지니어 1인당 토큰 지출은 현재 거의 평탄한 수준이라고 밝혔다.
- 데이터브릭스는 하드 지출 한도를 폐지하고 경고, 필수 승인, 더 저렴한 모델로의 자동 전환을 단계적으로 적용한 뒤에야 접근을 차단하는 내부 시스템 유니티 게이트웨이를 도입했으며, 이를 통해 작업이 중간에 끊기는 문제를 피할 수 있다고 밝혔다.
- 데이터브릭스는 더 저렴한 모델을 기본값으로 쓰는 것, 작업 단위 분배, 지출 가시성 확보, 토큰 오버헤드 축소라는 네 가지 지렛대로 단위 AI 비용을 최대 90%까지 줄였으며, 그중 더 저렴한 모델로의 전환만으로도 50% 이상의 절감 효과를 냈다고 밝혔다.
- 자사 프로덕션 코드베이스의 실제 풀 리퀘스트로 구축한 벤치마크를 적용한 결과, 오픈소스 모델 GLM 5.2가 Opus 4.8과 동등한 품질을 내면서도 작업당 비용은 약 3분의 1에 그쳤다고 데이터브릭스는 밝혔다.
- 데이터브릭스는 '아스트라'라는 모델을 약 3,500명의 엔지니어에게 배포했으며 이런 배포를 공개적으로 공유한 것은 자사가 처음이라고 밝혔다. 지출이 약 60% 늘어나자 회사는 유니티 게이트웨이 내에 별도 예산을 두어 아스트라의 사용을 제한했다.
치솟던 비용, 그리고 평탄화
2026년 10월 22일 게시된 블로그 글에서 데이터브릭스는 AI 코딩 도구를 엔지니어들에게 전면 도입한 이후 내부 지출이 기하급수적으로 늘었다고 밝혔다. 이는 도구 요금이 좌석 단위가 아니라 사용량에 따라 매겨지기 때문이다. 회사의 AI 제품을 총괄하는 공동창업자 패트릭 웬델은 비용 증가가 도구 도입으로 얻은 생산성 이득을 상쇄할 조짐을 보였다고 말했다. 데이터브릭스에 따르면 현재 엔지니어 1인당 토큰 지출은 전체 사용량과 창출된 가치가 계속 늘어나는 와중에도 거의 평탄한 수준을 유지하고 있다.
하드 캡에서 게이트웨이로
웬델은 비용 통제를 위한 첫 시도였던 하드 지출 한도가 작업을 중간에 끊어버리는 문제를 일으켰고, 특히 가장 활발하게 도구를 쓰는 사용자들에게 영향을 미쳐 일부가 회사가 더 이상 모니터링할 수 없는 개인 계정으로 옮겨가는 결과를 낳았다고 말했다. 데이터브릭스는 하드 캡을 폐지하고 그 자리에 접근을 차단하기 전 단계적 조치를 적용하는 내부 시스템 '유니티 게이트웨이'를 도입했다고 밝혔다. 먼저 경고를 보내고, 다음으로 승인을 요구하며, 마지막으로 더 저렴한 모델로 자동 전환하는 식이다. 데이터브릭스는 접근 차단을 최후의 수단으로 취급한다고 밝혔다. 회사는 또한 엔지니어들에게 각자의 AI 지출 내역을 정기적으로 전달하고 있으며, 이 조치만으로도 약 10%의 비용 절감 효과가 있다고 설명했다.
네 가지 지렛대와 그 효과
데이터브릭스는 단위 비용을 낮추기 위해 네 가지 방법을 쓴다고 설명했다. 새롭고 더 저렴한 모델이 나올 때마다 기본값을 그쪽으로 전환하는 것, 개별 작업을 처리 가능한 가장 저렴한 모델로 분배하는 것, 개발자들에게 자신의 지출을 보여주는 것, 그리고 토큰 오버헤드를 줄이는 것이다. 웬델은 더 낫고 더 저렴한 모델이 나올 때마다 트래픽을 옮기는 작업이 단일 요인으로는 가장 큰 효과를 냈으며, 그것만으로 비용을 50% 이상 줄였다고 말했다. 나머지 세 가지 지렛대를 함께 적용하면 경우에 따라 단위 비용이 최대 90%까지 떨어졌다고 데이터브릭스는 밝혔다. 유니티 게이트웨이의 일부인 '스마트 라우터'는 평균 작업 비용을 30% 넘게 줄이면서도 결과물의 품질은 가장 비싼 모델에 근접하게 유지한다고 회사는 설명했다.
자체 벤치마크
데이터브릭스는 공개된 벤치마크가 대규모 기업 코드베이스에서 도구가 어떻게 작동하는지를 반영하지 못한다고 보고, 수백만 줄에 달하는 자사 코드베이스의 실제 풀 리퀘스트를 바탕으로 자체 벤치마크를 만들었다고 밝혔다. 평가는 다른 AI 모델을 심판으로 쓰는 대신 실제 테스트를 돌려 채점했다. 이 벤치마크를 적용한 결과, 오픈소스 모델 GLM 5.2가 품질 면에서 Opus 4.8과 동등하면서도 작업당 비용은 약 3분의 1 수준이었다고 밝혔다. 또한 토큰당 가격이 1.7배 더 저렴한 어떤 모델은 더 많은 토큰을 사용해 오히려 작업당 비용이 더 높게 나왔다고 설명했다. 회사는 또한 모델을 감싸는 코딩 도구, 즉 '하니스'가 모델 선택만큼이나 비용에 큰 영향을 미쳐 같은 모델로도 비용이 2배 넘게 차이 났으며, 하니스와 캐싱 설정을 조정하는 것만으로 거의 50%의 비용을 절감했다고 밝혔다.
아스트라 도입
데이터브릭스는 '아스트라'라는 모델을 약 3,500명의 엔지니어에게 배포했으며, 이런 전사 배포 결과를 공개적으로 공유한 것은 자사가 처음이라고 밝혔다. 회사는 아스트라가 시스템 설계처럼 복잡한 작업에서는 더 나은 성과를 냈지만, 일상적인 작업에서는 뚜렷한 이점이 없으면서 지출을 약 60% 늘렸다고 설명했다. 이에 따라 데이터브릭스는 유니티 게이트웨이 안에서 아스트라에 별도의 예산을 배정하고 사용 범위를 더 어려운 문제로 제한했다.
클로드 코드, 코덱스, 커서, 그리고 자체 개발한 '옴니에이전트' 하니스를 포함해 데이터브릭스의 모든 코딩 도구 트래픽은 유니티 게이트웨이를 거친다. 데이터브릭스는 이 게이트웨이가 원래 자사의 AI 지출 문제를 해결하기 위한 내부 해법에서 시작해 지금의 형태로 발전했다고 밝혔다.
출처: 데이터브릭스 블로그, "The AI Bill is coming", 2026년 10월 22일 게시.
자주 묻는 질문
- 유니티 게이트웨이란 무엇인가?
- 유니티 게이트웨이는 모든 AI 코딩 도구 트래픽을 분배하고 접근 권한, 모델 라우팅, 지출 예산, 추적을 관리하는 데이터브릭스의 내부 시스템이다. 데이터브릭스는 이 시스템이 원래 자사의 치솟는 AI 비용을 해결하기 위한 내부 해법에서 시작됐다고 밝혔다.
- 데이터브릭스는 AI 코딩 비용을 얼마나 줄였는가?
- 데이터브릭스는 더 저렴한 모델을 기본값으로 쓰는 것, 작업 분배, 지출 가시성, 토큰 오버헤드 축소를 결합해 경우에 따라 단위 AI 비용을 최대 90%까지 줄였다고 밝혔다.
- 데이터브릭스가 하드 지출 한도를 시도했을 때 무슨 일이 있었는가?
- 데이터브릭스는 하드 캡이 작업을 중간에 끊어버렸고, 가장 활발하게 도구를 쓰는 일부 사용자들을 회사가 모니터링할 수 없는 개인 계정으로 밀어냈다고 밝혔다. 이에 하드 캡을 폐지하고 단계적 경고와 자동 모델 전환 방식으로 대체했다.
- 데이터브릭스가 아스트라 모델을 전사적으로 도입했을 때 무엇을 발견했는가?
- 데이터브릭스는 아스트라를 약 3,500명의 엔지니어에게 배포했으며 지출이 약 60% 늘었다고 밝혔다. 시스템 설계 같은 복잡한 작업에서는 분명한 이점이 있었지만 일상적인 업무에서는 뚜렷한 효과가 없어, 아스트라에 별도의 제한된 예산을 배정했다.
출처
- The AI Bill is coming | Databricks Blog — Databricks