핵심 내용

East China Normal University 연구진은 thin-film lithium niobate를 이용한 signed incoherent optical matrix multiplier를 공개했다. 9월 23일 arXiv에 제출된 프리프린트에서 연구진은 16×16 광자 코어에서 forward computation, nonlinear operation, error propagation, gradient computation을 포함하는 closed-loop in-situ backpropagation을 시연했다고 보고했다. arXiv

논문에 따르면 이 코어는 256개 채널에서 8-bit multiplication과 10-bit accumulation precision을 달성했고, tiled 방식의 256×256 행렬 계산에서도 10-bit 정확도를 유지했다. BERT-mini workload의 Transformer linear operation도 실행했다. 중요한 점은 실제 광소자의 측정값이 학습에 직접 참여해 디바이스의 비이상적 특성까지 optimization loop에 포함된다는 것이다. arXiv

배경

광자 기반 AI 연산은 전자식 GPU보다 matrix multiplication을 높은 병렬성과 낮은 에너지로 처리할 가능성이 있지만 실제 시스템에서는 음수 weight 표현, analog 오차, ADC·DAC 변환, 소자 편차와 학습과정 구현이 큰 과제였다. 이번 연구는 signed value와 실제 하드웨어를 포함한 backpropagation을 한 architecture 안에서 다뤘다는 점에 의미가 있다.

산업·시장에 미치는 영향

광컴퓨팅이 상업용 AI accelerator를 단기간에 대체하는 단계는 아니다. 특히 이번 결과는 동료평가가 완료되지 않은 프리프린트이고 실제 서버 수준의 end-to-end 전력, 메모리, IO 비용은 검증되지 않았다. 다만 추론 전용 광가속기에서 학습 가능한 hardware로 연구범위가 넓어지면 장기적으로 GPU 보조 accelerator나 특정 matrix workload용 특화칩의 설계공간이 커질 수 있다.

실무에서 바로 활용할 수 있는 시사점

광자 AI 하드웨어를 평가할 때 core TOPS만 비교하지 말고 ADC·DAC, laser, memory movement, calibration, thermal drift, fabrication yield를 포함한 system-level energy per operation을 봐야 한다. 현재 단계에서는 구매후보라기보다 AI hardware roadmap에서 추적할 연구축으로 보는 것이 적절하다.

arXiv — A native signed incoherent photonic matrix core on thin-film lithium niobate supporting in situ backpropagation