跳到正文
Hugging Face Blog·· 7 天前精选AI 评分75

Hugging Face发布TorchNeuron,简化在AWS Trainium上运行模型

TorchNeuron: running HF models on AWS Trainium is easier than ever

AI 导读

Hugging Face发布TorchNeuron,为PyTorch提供AWS Trainium的新原生后端。从2026年10月20日起,研究人员和开发者可通过pip install torch-neuronx安装使用。TorchNeuron使Transformers、Diffusers等库直接支持Trainium,文本生成模型支持率从Optimum Neuron的46%提升至89%。

推荐理由

TorchNeuron让AWS Trainium支持PyTorch原生接口,模型支持率从46%提升至89%,降低了AI芯片的使用门槛。

来源:Hugging Face Blog · huggingface.co