SCAO — Optimizer
I built a 2nd-order optimizer for LLMs.
¿Qué es SCAO — Optimizer?
54% faster LLM training. SCAO is a sparse, second-order PyTorch optimizer designed as a high-throughput, drop-in replacement for AdamW. - whispering3/scao
Capturas de pantalla
?
Aún no hay comentarios. ¡Sé el primero!
Conversaciones reales sobre SCAO — Optimizer en X
Publicar en X