GeekNews에서 발견 · 원문 발표 약 6일 전
Netflix의 GenRec은 수천 개의 수작업 피처 대신 사용자 이력·콘텐츠 정보·상황을 자연어 문맥으로 변환해 LLM이 후보 콘텐츠의 순위를 평가하도록 설계됐습니다. Netflix는 약 10%의 트래픽을 대상으로 4주간 시험했으며, 기존 추천 모델보다 적은 학습 데이터로 오프라인 및 온라인 지표에서 개선을 확인했다고 밝혔습니다. news.hada.io, netflixtechblog.com
비용을 줄이기 위해 작은 증류 모델, 문맥 압축, 토큰 생성 없이 후보를 한 번에 점수화하는 prefill-only 추론을 사용했습니다. netflixtechblog.com
분석
추천 시스템도 전통적인 피처 엔지니어링에서 컨텍스트 엔지니어링으로 이동할 가능성이 있습니다. 다만 실시간 추천에 곧바로 범용 LLM을 붙이는 것이 아니라, 후보 생성은 기존 시스템이 담당하고 LLM은 최종 순위화에 사용하는 혼합 구조가 현실적입니다.
실무 시사점
마케팅 콘텐츠 추천 시스템에서도 고객 업종, 브랜드 말투, 과거 승인 이력, 최근 성과를 자연어 문맥으로 구성해 LLM 랭커에 제공하는 방식을 시험할 수 있습니다.