NVIDIA está dando un paso audaz para revolucionar la forma en que desarrollamos para sus GPUs. Anunciaron CUDA Rust, una iniciativa que busca convertir a Rust en un lenguaje de primera clase para escribir kernels de GPU. Si bien ya era posible ejecutar código Rust en CUDA, el corazón del kernel solía requerir otros lenguajes. Ahora, con dos proyectos de código abierto de NVlabs, cuda-oxide para el modelo SIMT (Single Instruction, Multiple Threads) y cutile-rs para el más nuevo modelo Tile, NVIDIA cierra esa brecha.
Seguridad por Diseño: El Poder del Borrow Checker de Rust
La gran promesa aquí es la seguridad en tiempo de compilación. Tanto cuda-oxide como cutile-rs compilan kernels de Rust de forma nativa y aprovechan las reglas de propiedad de Rust para detectar y rechazar errores de aliasing (acceso concurrente a memoria no seguro) antes de que el código llegue a ejecutarse. Esto es un cambio de paradigma significativo, especialmente en el mundo de la programación de alto rendimiento donde los errores de memoria pueden ser notoriamente difíciles de depurar y tener consecuencias devastadoras.
El modelo SIMT, familiar para quienes trabajan con CUDA C++ o Numba-CUDA, consiste en describir la acción de un solo hilo y luego lanzar miles de ellos. Por otro lado, el modelo Tile, más reciente y recomendado por NVIDIA, se enfoca en describir la operación sobre un bloque de datos (un ‘tile’), dejando que el compilador se encargue de la distribución de hilos y la organización de la memoria. La interoperabilidad planificada entre lenguajes significa que elegir Rust no te aislará de C++ o Python, lo cual es una gran noticia para la flexibilidad del desarrollo.
Dos Caminos Hacia la Eficiencia y la Seguridad
cuda-oxide actúa como un backend de compilación personalizado para rustc, procesando funciones marcadas con #[kernel] a través de MIR (Mid-level Intermediate Representation) de Rust, el framework Pliron y LLVM IR hasta llegar a PTX (Parallel Thread Execution). Requiere un entorno Linux, GPUs con capacidad de cómputo 8.0 o superior, CUDA 12.x+, clang y una versión específica de Rust nightly. La seguridad se manifiesta en las firmas de los kernels, donde tipos como DisjointSlice garantizan acceso exclusivo a cada hilo, y el manejo de accesos fuera de rango se convierte en una rama controlada.
cutile-rs opera a un nivel superior, integrando el kernel en el binario host y compilándolo Just-In-Time (JIT) a través de CUDA Tile IR. Sus requisitos son más livianos: CUDA 13.3, Rust estable 1.89+ y Linux, sin necesidad de nightly ni LLVM personalizado. La magia ocurre en llamadas como .partition([128]), que asigna propiedad exclusiva a cada tile y define la estructura de la ejecución. La garantía de propiedad de Rust en cutile-rs se extiende a través del límite de lanzamiento, ofreciendo lo que NVIDIA considera una protección aún más robusta.
Si bien cutile-rs ya está impulsando proyectos como el motor de inferencia Grout de Hugging Face y mistral.rs, es crucial recordar que ambos proyectos se encuentran en fase alfa. Aún no están confirmados para producción. Sin embargo, la dirección es clara: NVIDIA apuesta por la seguridad y la productividad que Rust puede aportar al desarrollo de kernels de GPU, allanando el camino para un futuro de computación más robusto y confiable.