PANews는 12월 2일 테더 데이터(Tether Data)가 대규모 언어 모델(LLM) 추론을 위한 새로운 종합 런타임 환경이자 미세 조정 프레임워크인 QVAC Fabric LLM을 출시했다고 보도했습니다. 이 프레임워크는 소비자용 GPU, 노트북, 심지어 스마트폰과 같은 일상적인 하드웨어에서 대규모 언어 모델을 직접 실행, 학습 및 맞춤 설정할 수 있도록 지원합니다. 이전에는 고성능 클라우드 서버나 전용 NVIDIA 시스템이 필요했던 작업들을 이제 사용자의 기존 기기에서 로컬로 수행할 수 있습니다.

QVAC Fabric LLM은 LLama3, Qwen3, Gemma3와 같은 최신 모델에 대한 미세 조정 지원을 추가하여 llama.cpp 생태계의 기능을 확장합니다. AMD, Intel, NVIDIA, Apple 칩 및 모바일 칩을 포함한 다양한 GPU에서 학습을 지원하는 QVAC Fabric LLM은 의미 있는 AI 개발에는 단일 공급업체의 특수 하드웨어가 필요하다는 오랜 고정관념을 깨뜨립니다. Tether Data는 Apache 2.0 라이선스에 따라 QVAC Fabric LLM을 오픈소스 소프트웨어로 출시했으며, Hugging Face에서 다중 플랫폼 바이너리와 바로 사용 가능한 어댑터를 제공합니다. 개발자는 몇 가지 명령만으로 미세 조정을 시작할 수 있어 AI 사용자 지정의 장벽을 낮춥니다.