GeekNews 최신에는 IEEE Spectrum의 유휴 PC·홈서버 compute를 AI inference용으로 임대하는 시장도 올라왔습니다. Far AI, Evolving Edge, Salad, Gradient Network 등 여러 업체가 소규모·오픈모델 inference를 중앙 데이터센터가 아닌 가정·소기업 PC로 분산하려는 서비스를 구축하고 있습니다. (GeekNews)
아이디어 자체는 SETI@home 시절부터 있었지만, 차이는 이제 상업적 inference workload라는 점입니다. Frontier model 학습에는 적합하지 않지만 독립적인 이미지 생성·STT·소형 LLM inference처럼 task를 잘게 분할할 수 있는 workload에서는 경제성이 생길 가능성이 있습니다. (IEEE Spectrum)
다만 실제 시장으로 커지려면 데이터 프라이버시, 악성 workload, node 신뢰도, 결과 검증, heterogeneous GPU orchestration 문제가 해결돼야 합니다. 현 단계에서는 대형 cloud를 대체한다기보다 distributed spot compute 실험으로 보는 편이 적절합니다.