Tag: LLM
All the articles with the tag "LLM".
-
AirLLM: 4GB GPU에서 70B 모델을 돌리는 놀라운 기술
양자화 없이 단일 4GB GPU로 70B LLM 추론을 가능하게 하는 AirLLM의 핵심 기술과 활용법을 깊이 파헤친다.
All the articles with the tag "LLM".
양자화 없이 단일 4GB GPU로 70B LLM 추론을 가능하게 하는 AirLLM의 핵심 기술과 활용법을 깊이 파헤친다.