Amazon, TorchNeuron 발표 — 기존 PyTorch 코드를 Trainium 칩에서 실행하도록 지원
Amazon은 10월 19일 AWS 자체 AI 가속기 Trainium을 위한 네이티브 PyTorch 백엔드 TorchNeuron 을 발표했다. 기존 PyTorch 학습·추론 코드에서 실행 장치를 지정하는 설정을 바꾸는 방식으로 Trainium2·Trainium3를 사용할 수 있도록 하는 것이 목표다. eager 실행과 torch.compile, 분산학습·커스텀 커널 관련 기능을 지원한다. Amazon은 30개 이상의 초기 고객이 활용 중이라고 설명했다. Apache-2.0 오픈소스 공개와 퍼블릭 베타는 10월 20일 예정 으로 안내됐으며, 발표 시점부터 모든 모델·연산이 동일하게 동작한다는 의미는 아니다.
자세히 읽기출처 3개