Waterloo, ON, N2L 3J7, CAN
1 day ago
Lead Data Engineer
Manulife is embarking on replacing and building new data capabilities to help fuel our bold ambition to become a digital customer leader! We are seeking a skilled and motivated Lead Data Engineer to join our diverse team and play a key role in implementing, optimizing, and maintaining assets that deliver these capabilities! The ideal candidate possesses a solid background in data engineering, ETL processes, and data integration, with a passion for understanding data to drive strategic business decisions. **Position Responsibilities:** + **Data Pipeline Development:** Design, develop, and manage data pipelines that facilitate the detailed extraction, transformation, and loading of data from diverse sources. + **Data Mapping & Integration:** Collaborate closely with multi-functional teams to understand and design schemas for data from various source systems and other transactional or application databases, ensuring accuracy and reliability. + **ETL Optimization:** Continuously improve and optimize ETL processes to enhance data flow efficiency, minimize latency, and support real-time and batch processing requirements. + **Data Transformation:** Implement data cleansing, enrichment, and transformation processes to ensure high-quality data is available for analysis and reporting. + **Data Quality Assurance:** Design testing plans, develop and implement data quality checks, validation rules, and supervising mechanisms to maintain data accuracy and integrity. + **Platform Improvement:** Collaborate with various technical resources from across the organization to identify and implement improvements to the infrastructure, integrations, and functionalities. + **Data Architecture:** Work closely with business leads and data architects to design, implement, and lead end-to-end architecture based on business requirements. + **User Documentation:** Develop and maintain detailed documentation for data pipelines, processes, and configurations to support seamless onboarding. + **Teamwork:** Partner with other data engineers, data analysts, business collaborators, and data scientists to understand data requirements and translate them into effective data engineering solutions. + **Performance Monitoring:** Monitor data pipeline performance and solve issues to ensure efficient data flow and proactively find opportunities for improvement. + **Data Governance and Compliance:** Ensure consistency with data privacy and compliance standards throughout the data lifecycle. **Required Qualifications:** + Bachelor’s Degree in Computer Science, Information Technology, or a related field. Master's degree is a plus. + 12+ years of experience as a Data Engineer, with a track record of efficiently implementing and maintaining data pipelines, scheduling, monitoring, notification, and ETL processes using Azure Data Factory, Databricks, Python\Pyspark, Java, Scala. + Understanding of Azure infrastructure; subscriptions, resource groups, resources, access control with RBAC (role-based access control), integrations with Azure AD and Azure security principles (user group, service principal, managed identity), network concepts (VNet, Subnet, NSG rules, private endpoints), password\credential\key management and data protection. + Experience deploying and integrating Azure Data Services (ADF, Databricks) using DevOps tools and principles: GitHub Repository, Jenkins CI\CD pipelines, integrated unit tests, etc. + Knowledge of Azure Data Lake Storage (ADLS Gen2) and its topology on blob storage with file hierarchy, storage account, containers, and folders. + Proficient in data mart fact and dimension design concepts, ETL\ELT logic to perform upsert and type-2, and applying\implementing with Python\PySpark\store proc\SQL in ADLS (with Lakehouse architecture using Databricks) or in Azure Synapse (with Dedicated SQL pool). **Preferred Qualifications:** + Experience using Power BI to connect to sources with ADLS (including Delta Lake), Databricks SQL, Azure Synapse (SQL pool), design semantic layer\data models, create\publish reporting content (data sets\paginate report\interactive dashboard), and manage workspaces. + Solid understanding of data privacy and compliance regulations and standard methodologies. + Excellent problem-solving skills and the ability to solve technical issues efficiently. + Effective communication skills to collaborate with technical and non-technical partners. + Thorough approach with a commitment to delivering high-quality work in a fast-paced environment. **When you join our team:** + We’ll empower you to learn and grow the career you want. + We’ll recognize and support you in a flexible environment where well-being and inclusion are more than just words. + As part of our global team, we’ll support you in shaping the future you want to see. \#LI-Hybrid **Acerca de Manulife y John Hancock** Manulife Financial Corporation es un importante proveedor internacional de servicios financieros que ayuda a las personas a tomar decisiones de una manera más fácil y a vivir mejor. Para obtener más información acerca de nosotros, visite http://www.manulife.com . **Manulife es un empleador que ofrece igualdad de oportunidades** En Manulife/John Hancock, valoramos nuestra diversidad. Nos esforzamos por atraer, formar y retener una fuerza laboral tan diversa como los clientes a los que prestamos servicios, y para fomentar un entorno laboral inclusivo en el que se aprovechen las fortalezas de las culturas y las personas. Estamos comprometidos con la equidad en las contrataciones, la retención de talento, el ascenso y la remuneración, y administramos todas nuestras prácticas y programas sin discriminación por motivos de raza, ascendencia, lugar de origen, color, origen étnico, ciudadanía, religión o creencias religiosas, credo, sexo (incluyendo el embarazo y las afecciones relacionadas con este), orientación sexual, características genéticas, condición de veterano, identidad de género, expresión de género, edad, estado civil, estatus familiar, discapacidad, o cualquier otro aspecto protegido por la ley vigente. Nuestra prioridad es eliminar las barreras para garantizar la igualdad de acceso al empleo. Un representante de Recursos Humanos trabajará con los solicitantes que requieran una adaptación razonable durante el proceso de solicitud. Toda la información que se haya compartido durante el proceso de solicitud de adaptación se almacenará y utilizará de manera congruente con las leyes y las políticas de Manulife/John Hancock correspondientes. Para solicitar una adaptación razonable en el proceso de solicitud, envíenos un mensaje a recruitment@manulife.com . **Referenced Salary Location** Waterloo, Ontario **Modalidades de Trabajo** Híbrido **Salary range is expected to be between** $110,530.00 CAD - $205,270.00 CAD Si se está postulando para este puesto fuera de la ubicación principal, póngase en contacto con recruitment@manulife.com para conocer el rango salarial de su ubicación. El salario real variará según las condiciones locales del mercado, la geografía y los factores relacionados con el trabajo pertinentes, como conocimiento, habilidades, calificaciones, experiencia y educación/capacitación. Los empleados también tienen la oportunidad de participar en programas de incentivos y obtener una compensación de incentivos vinculada al desempeño comercial e individual. Manulife ofrece a los empleados aptos una amplia variedad de beneficios personalizables, entre ellos, beneficios de salud, odontológicos, de salud mental, oftalmológicos, por discapacidad a corto y a largo plazo, cobertura de seguro de vida y por muerte accidental y desmembramiento, adopción/subrogación y bienestar, y planes de asistencia al empleado/familiar. También ofrecemos a los empleados admisibles varios planes de ahorro para la jubilación (incluidos planes de pensiones y un plan mundial de propiedad de acciones con contribuciones equivalentes del empleador) y recursos de asesoramiento y educación financiera. Nuestro generoso programa de tiempo libre remunerado en Canadá incluye feriados, vacaciones, días personales y días por enfermedad, y ofrecemos la gama completa de ausencia laboral reglamentaria. Si se está postulando para este puesto en los EE. UU., póngase en contacto con recruitment@manulife.com para obtener más información sobre las disposiciones relativas al tiempo libre remunerado específicas de EE. UU.
Por favor confirme su dirección de correo electrónico: Send Email