SÊNIOR DATA ENGINEER
DATABRICKS
Vaga - Sênior Data Engineer - Databricks
TECNOLOGIA – SÃO PAULO / SP
Sobre a vaga:
Estamos em busca de um(a) Engenheiro(a) de Dados Sênior com domínio em Databricks, capaz de atuar no desenho, desenvolvimento e otimização de pipelines de dados em escala, dentro de uma arquitetura moderna baseada em lakehouse. O(a) profissional será responsável por garantir que os dados fluam de forma confiável, segura e performática entre múltiplas fontes e camadas da plataforma.
Responsabilidades:
- Desenvolver pipelines de dados eficientes, utilizando PySpark, Delta Lake e Databricks Notebooks.
- Projetar e implementar soluções de ingestão, transformação e orquestração de dados em Databricks.
- Criar e manter estruturas bronze, silver, gold conforme boas práticas de Lakehouse.
- Participar da definição da arquitetura da plataforma de dados e da governança dos dados.
- Colaborar com engenheiros de software, analistas de dados e cientistas de dados para entregar soluções integradas.
- Atuar com CI/CD para dados, versionamento de notebooks e automações com Databricks Repos ou Git.
- Monitorar, otimizar e garantir a qualidade dos dados processados em larga escala.
- Contribuir com documentação, padrões técnicos e disseminação de boas práticas.
Requisitos obrigatórios:
- Experiência com engenharia de dados, preferencialmente em ambientes cloud.
- Domínio de Databricks, com uso avançado de PySpark, Delta Lake e Databricks Workflows.
- Experiência com orquestração de pipelines (Databricks Jobs, Airflow ou similar).
- Conhecimento em SQL avançado, modelagem dimensional, performance tuning.
- Experiência em GCP, AWS ou Azure com Databricks (preferencialmente Azure Databricks ou Databricks on AWS).
- Experiência com versionamento de código (Git) e automação com CI/CD (Azure DevOps, GitHub Actions, etc.).
- Familiaridade com boas práticas de arquitetura de dados, particionamento, catalogação e gerenciamento de metadados (Unity Catalog ou Hive Metastore).
Diferenciais:
- Certificações Databricks (ex: Databricks Certified Data Engineer Associate / Professional).
- Experiência com integração entre Databricks e ferramentas como Power BI, Tableau, Looker ou Apache Superset.
- Vivência com Delta Live Tables, Unity Catalog, MLflow, ou Feature Store.
- Conhecimento de práticas de governança de dados, segurança, mascaramento e controle de acesso (ABAC/RBAC).
- Experiência com ambientes regulados (LGPD, HIPAA, PCI, etc.).
Informações adicionais:
- Localização: São Paulo – SP;
- Modelo de trabalho 100% home office.
Se interessou pela vaga? Preencha o formulário ao lado ou envie seu currículo atualizado para: rh@hvarconsulting.com.br com a pretensão salarial e mencionando no título “Sênior Data Engineer – Databricks.”