Marvell, 차세대 AI 메모리 인프라 솔루션 포트폴리오 발표로 토큰 효율성 향상

PANews 8월 4일 소식, 데이터 인프라 반도체 거인 Marvell Technology가 AI 인프라를 위한 차세대 메모리 솔루션 포트폴리오를 발표했다. 서버급 AI 스토리지, 랙 수준의 CXL 메모리 확장 및 풀링, 멀티 랙 광 상호연결 공유 메모리를 아우르며, 에이전틱 AI 추론 과정에서 증가하는 메모리 용량과 대역폭 병목 현상을 해결하는 것을 목표로 한다.

Marvell은 AI 모델 규모가 커지고, 컨텍스트 윈도우가 길어지며, KV 캐시 수요가 증가함에 따라 기존의 컴퓨팅-메모리 간 긴밀한 결합 아키텍처가 AI 추론 효율성을 제한하고 있다고 밝혔다. 메모리 디스어그리게이션(memory disaggregation)을 통해 메모리 자원을 컴퓨팅 자원과 보다 독립적으로 확장할 수 있어 GPU 활용률을 높이고 데이터 이동 지연 시간을 줄일 수 있다.

이번에 발표된 제품은 다음과 같다:

Bravera SC6 PCIe 6.0 SSD 컨트롤러: AI 추론 스토리지 시나리오를 위해, 클라우드 서비스 제공업체가 더 많은 KV 캐시를 고성능 SSD로 이전할 수 있도록 지원하여 인프라 효율성을 높인다. 이 제품은 다양한 공급업체의 NAND와 호환되는 아키텍처를 채택했으며, 2026년 4분기부터 샘플 출하를 시작할 예정이다.

Marvell Structera X 메모리 확장 솔루션: CXL 기술을 기반으로, 랙 수준의 메모리 확장과 자원 풀링을 지원하여 데이터센터가 메모리 자원을 보다 유연하게 공유하고 할당할 수 있도록 해, AI 인프라 비용을 절감한다.

Marvell Photonic Fabric 광 상호연결 메모리 솔루션: 광 상호연결 기술을 통해 여러 랙에 걸친 공유 메모리 아키텍처를 구축하여 최대 32TB의 웜/핫 KV 캐시 오프로드를 지원하고, AI 추론 클러스터의 처리량을 향상시킨다.

공유하기:

작성자: PA一线

이 내용은 시장 정보 제공만을 목적으로 하며, 투자 조언을 구성하지 않습니다.

PANews 공식 계정을 팔로우하고 함께 상승장과 하락장을 헤쳐나가세요
PANews APP
PayPal 신임 CEO가 사업 재편을 시작: 3대 핵심 사업을 최초로 분할하고 수익 목표를 설정
PANews 속보