engenheiro de pesquisa em ia sênior - otimização de kernel e inferência

Sobre a vaga

Buscamos um engenheiro de pesquisa sênior para atuar na otimização de kernels e inferência de modelos de IA. O time trabalha com técnicas de ponta em paralelismo (tensor, pipeline, expert), pruning, quantização e decodificação especulativa para maximizar a eficiência em GPUs.

Responsabilidades

• Desenvolver e otimizar kernels GPU usando Metal Shading Language (MSL) e outras linguagens de baixo nível.
• Implementar estratégias de paralelismo (tensor, pipeline, expert) para acelerar inferência de modelos grandes.
• Trabalhar com modelos de difusão e Vision Transformers, aplicando técnicas como Flash Attention e KV Cache.
• Realizar pruning e quantização para reduzir latência e consumo de memória.
• Colaborar com a equipe de pesquisa para integrar novos algoritmos de inferência.

Requisitos

• Experiência comprovada em otimização de kernels GPU e inferência de modelos de deep learning.
• Conhecimento profundo em paralelismo de modelos (tensor, pipeline, expert).
• Familiaridade com técnicas de compressão de modelos (pruning, quantização).
• Experiência com Diffusion Models e Vision Transformers.
• Domínio de Metal Shading Language (MSL) ou CUDA.
• Inglês avançado para comunicação técnica.

Diferenciais

• Experiência com Flash Attention, KV Cache e decodificação especulativa (Eagle).
• Publicações em conferências de alto impacto (NeurIPS, ICML, CVPR).
• Contribuições para projetos open source de inferência.

Benefícios

• Remoto global com flexibilidade de horário.
• Participação em equity (opções de ações).
• Orçamento para equipamentos e cursos.
• Viagens para conferências e encontros do time.