OpenAI, 재귀적 자기개선까지 포함한 글로벌 프런티어 AI 기술표준 제안 — 미·중 사고 통보 채널 논의와 연결
OpenAI가 9월 21일 미국이 프런티어 AI에 관한 국제 기술표준 수립을 주도해야 한다는 공식 제안을 내놨다. 회사가 특히 별도 위험영역으로 명시한 것은 AI가 다음 세대 AI 연구를 점점 더 맡아 스스로 발전 속도를 높이는 recursive self-improvement(RSI) 다. OpenAI는 완전히 자율적인 RSI가 현재 일어나고 있는 것은 아니며, 인간의 실질적인 통제와 충분한 안전성을 확보하기 전에는 이를 추구해서는 안 된다고 밝혔다. 제안 대상은 폐쇄형 모델뿐 아니라 open-weight 모델도 포함한다.
자세히 읽기출처 3개