Tag: LLM

All the articles with the tag "LLM".

• 12-Factor Agents: 에이전트를 프로덕션 소프트웨어로 만드는 12가지 원칙

  2025년 4월 3일

  HumanLayer의 12-Factor Agents는 프롬프트가 아니라 경계, 상태, 제어 흐름을 소유하라고 말하는 프로덕션 에이전트 설계도다.

• AirLLM: 4GB GPU에서 70B 모델을 돌리는 놀라운 기술

  2023년 11월 20일

  양자화 없이 단일 4GB GPU로 70B LLM 추론을 가능하게 하는 AirLLM의 핵심 기술과 활용법을 깊이 파헤친다.