ENGENHEIRO(A) DE DADOS PLENO – BIG DATA / SPARK
grupo-data
Full-timemid
Job description
Engenheiro(a) de Dados Pleno – Big Data / Spark
Sobre a oportunidade
Buscamos um(a) Engenheiro(a) de Dados Pleno para atuar no desenvolvimento, manutenção e otimização de soluções de processamento de dados na plataforma Client Contribution . O profissional será responsável por construir pipelines escaláveis, garantir a qualidade dos dados e contribuir para a evolução da arquitetura de Big Data em um ambiente ágil e orientado por boas práticas de engenharia.
Responsabilidades
•
Desenvolver, manter e otimizar soluções de processamento de dados;
•
Projetar e desenvolver processos de ETL e transformação de dados;
•
Implementar e manter pipelines utilizando Apache Spark ;
•
Apoiar iniciativas de integração de dados entre diferentes sistemas;
•
Analisar e solucionar incidentes relacionados a dados;
•
Garantir a qualidade, performance e confiabilidade das soluções de dados;
•
Trabalhar em conjunto com equipes multidisciplinares em ambiente Agile .
Requisitos obrigatórios
•
Mínimo de 3 anos de experiência em Engenharia de Dados e desenvolvimento;
•
Conhecimento sólido em SQL , incluindo:
•
ANSI SQL;
•
Hive SQL;
•
Spark SQL;
•
Experiência com Apache Spark ;
•
Conhecimento em pelo menos uma das seguintes linguagens:
•
Scala ;
•
Python ;
•
Java ;
•
Experiência com plataformas Big Data , como:
•
Azure Databricks ;
•
Amazon EMR ;
•
Hive ;
•
Cloudera ;
•
ou outro ambiente baseado em Spark;
•
Experiência com Qlik Sense para desenvolvimento de relatórios e dashboards;
•
Vivência em ambientes de Integração Contínua (CI) , DevOps e metodologias ágeis;
•
Conhecimento em ferramentas como:
•
Git ;
•
GitHub ;
•
SonarQube ;
•
Nexus ;
•
Capacidade de análise de requisitos e trabalho colaborativo;
•
Inglês nível B2 ou superior .
• Espanhol nível B2 ou superior.
Diferenciais
•
Interesse ou experiência no uso de ferramentas de Inteligência Artificial aplicadas à Engenharia de Dados;
•
Conhecimento em automação de processos utilizando IA;
•
Interesse em utilizar assistentes de desenvolvimento para aumentar produtividade, qualidade do código e eficiência das soluções analíticas.
Condições da posição
•
Atuação 100% remota ;
•
É obrigatória a disponibilidade para mudança futura para Portugal ou Espanha , caso seja necessário por questões de projeto, estratégia da empresa ou requisitos legais;
•
Enquanto estiver no Brasil, o trabalho será realizado integralmente em regime remoto;
•
Os currículos deverão ser apresentados em inglês .
Skills
SQLANSI SQLHive SQLSpark SQLApache SparkScalaPythonJavaAzure DatabricksAmazon EMRHiveClouderaQlik SenseGitGitHubSonarQubeNexus