DL System Software Engineer - Toronto, Ontario
1 day ago

Job description
We are seeking highly motivated and skilled systems engineers to join our team to help in developing an AI Platform that offers an efficient infrastructure for inference and training large scale models. As a systems engineer, you will play a crucial role in building a unified solution that brings our innovative NVIDIA technologies such as high-performance, inference/training frameworks, ML compilers, performance predictor, and cluster scheduler into a single, cohesive platform.
What You Will Be Doing
- Taking part in the development of the NVIDIA's AI platform for training, fine-tuning and serving latest and greatest AI models with the best performance and efficiency.
- Designing and building solutions for scheduling large scale AI training and inference workloads on GPU clusters over many cloud infrastructure.
- Exploring and finding solution for open problems like industry-scale resource management, GPU scheduling, performance prediction, and live workload migration.
- Work with and contribute to adjacent teams like TensorRT/Dynamo inference engine, ML compiler, KAI/Grove scheduler, Lepton cloud etc.
What We Need To See
- Bachelor's degree or equivalent experience in Computer Science, Computer Engineering, relevant technical field.
- 5+ years of experience.
- Experience building large scale systems from scratch. Prior experience in container-based deployment systems like Kubernetes is beneficial.
- Strong coding skills in programming languages like Python, Go, Rust and/or C/C++.
- Solid foundation in other computer science and computer engineering topics: algorithms and data structures, operating systems, computer architecture, etc. Strong understanding of AI and related technologies is a huge plus.
- Most importantly, ability to quickly grasp new concepts and thrive in evolving situations.
Ways To Stand Out From The Crowd
- Graduate-level education or relevant practical background, particularly in research, is beneficial.
- Practical experience in building and optimizing AI applications is highly desired.
- Proficiency in container software such as containerd, CRI-O, Linux namespace, CRIU, and NVIDIA GPU technology such as CUDA graphs, Driver/runtime is greatly advantageous.
Your base salary will be determined based on your location, experience, and the pay of employees in similar positions. The base salary range is 135,000 CAD - 185,000 CAD.
You will also be eligible for equity and benefits.
Applications for this job will be accepted at least until February 7, 2026.
This posting is for an existing vacancy.
NVIDIA uses AI tools in its recruiting processes.
, , JR2002456
Similar jobs
+Job summary · Aidez les studios à donner vie à des environnements naturels saisissants en travaillant sur la technologie de végétation d'une division de Unity Technologies.+,+ResponsibilitiesMettre en œuvre des fonctionnalités bien définies et corriger des bogues dans les systèm ...
1 month ago
· Collaborer avec les équipes interfonctionnelles (produit, conception, opérations, infrastructure) pour créer des expériences d'application innovantes | Collaborer avec les équipes interfonctionnelles (produit, conception, opérations , infrastructure) pour créer des expériences ...
1 month ago
+MÂtia recherche des ingénieurs pour rejoindre ses Équipes afin de crêer des produits de pointe qui connectent des milliards de personnes à travers le monde. · +Collaborer avec des équipes interfonctionnelles (produit, conception, opérations, infrastructure) pour créer des e ...
1 month ago
· ...
1 month ago
· ...
1 month ago
L'ingénieur logiciel en informatique est un membre clé de notre équipe d'ingénierie informatique. Ce rôle est responsable de la traduction des exigences système et des histoires d'utilisateur en un design de code robuste et supportable pour le produit ou l'application. · ...
1 month ago
· ...
1 month ago
+ Produire des conceptions fonctionnelles, techniques et de l'interface utilisateur de haute qualité. · + Participer au développement complexes des applications et systèmes, à la planification des projets , les estimations , le codage et les mises à jour du statut pour s'assurer ...
1 month ago
META busca ingenieros talentosos para unirse a nuestras equipos en Toronto. Los candidatos tendrán la oportunidad de trabajar en problemas técnicos complejos y desarrollar nuevas características. · ...
1 month ago
Autodesk est à la pointe de la transformation du secteur AEC, en intégrant la technologie IA à ses produits. · ...
1 month ago
L'ingénieur logiciel II contribue à la conception de solutions technologiques pour répondre aux besoins des clients. En tant que membre de l'équipe du développement, il travaille en collaboration avec d'autres ingénieurs pour concevoir et mettre en œuvre de nouvelles fonctionnali ...
2 weeks ago
Meta recherche des ingénieurs talentueux pour rejoindre ses équipes afin de créer des produits qui connectent les gens. En tant que membre de l'équipe, vous aurez la possibilité de travailler sur des problèmes techniques complexes et améliorer les produits existants. Nous recherc ...
1 month ago
++L'équipe de développement Crypto (Dev-Crypto) est responsable des services cryptographiques, du développement de la sécurité, du soutien produit et de la gestion des clés pour plusieurs canaux et applications consommatrices. Nous fournissons des solutions de conception et de dé ...
1 month ago
+ Meta recherche des ingénieurs talentueux pour rejoindre nos équipes afin de créer des produits de pointe qui connectent des milliards de personnes à travers le monde. · Implémenter des interfaces utilisateur personnalisées en utilisant les dernières techniques et technologies d ...
1 month ago
+Job summary · Vous rejoignez l'easyweb team en tant que développeur frontend. Vous assisterez au développement de nouvelles solutions pour les programmes et projets dans votre domaine. · +ResponsibilitiesDévelopper de nouvelles solutions pour les programmes et projets assignés. ...
1 week ago
+L'ingénieur logiciel III – Développeur Power BI est responsable de diriger la création d'une solution complète et globale pour divers projets et plateformes. · +Titre universitaire ou diplôme technique en informatique, génie ou domaine connexe (diplôme avancé une fois terminée). ...
3 weeks ago
Sysco est le leader mondial de la distribution alimentaire. Nous recherchons un ingénieur logiciel principal pour rejoindre notre équipe. · Favoriser et diriger l'adoption des normes d'architecture et des pratiques de développement. · Rédiger des récits utilisateurs techniques ef ...
4 days ago
Produce diseños funcionales, técnicos y de interfaz usuario sobresalientes. · Participa en el desarrollo complejo de aplicaciones y sistemas, · planificación de proyectos, · cupos estimados, · programación · y actualización del estado asegurando · diligencias por proyecto con ent ...
1 week ago
L'ingénieur logiciel en informatique est un membre clé de notre équipe d'ingénierie informatique. · SAP S/4 HANA Implementation and Support: · Diriger la mise en œuvre et le support continu des solutions SAP S/4 HANA Embedded BW et Integrated Planning,Mise en œuvre du développeme ...
1 month ago
Produce top-notch functional, technical and user interface designs. · Participer Î des applications complexes et systømes de dùveloppement, la planification des projets, les estimations, le programme et l'mise ê jour garantissant que les rultats des projets sont en temps opportu ...
1 month ago
Askuity recherche un ingénieur principal logiciel backend hautement motivé qui peut effectuer les tâches relatives au développement de logiciels backend ainsi qu'au développement et à l'exploitation. Le titulaire de cet important poste hybride axé sur le développement et l'exploi ...
3 weeks ago