인프라
초당 750토큰의 프론티어: 세레브라스 웨이퍼스케일이 GPT-5.6 Sol을 가속하는 법
오픈AI와 세레브라스가 GPT-5.6 Sol을 초당 최대 750토큰으로 가속하는 'Ultrafast' 티어를 공개했다. 웨이퍼스케일 아키텍처가 GPU의 고질적인 메모리 병목을 어떻게 돌파하는지, 그리고 공개된 수치 뒤에 남은 과제는 무엇인지 짚어본다.
단일 프론티어 모델을 넘어: 네모트론 3.5 라이트닝과 라우팅 계층
토큰당 3B 파라미터만 활성화하는 목적형 MoE 실행기와 NeMo Switchyard 라우팅이 에이전트 워크로드의 비용 구조를 다시 쓰고 있다. 다만 속도 향상 수치는 아직 공급업체 자체 측정치에 머물러 있다.