'sLLM' 태그의 글 목록

1. 개요 (Overview)sLLM은 수천억 개의 매개변수(Parameter)를 가진 대형 언어 모델(LLM)과 달리, 대략 수십억 개에서 수백억 개(주로 1B~30B 사이)의 매개변수를 가진 경량화된 언어 모델입니다. '작지만 강력한' 모델을 지향하며, 특정 도메인이나 산업군에 특화된 학습을 통해 특정 작업에서 LLM에 준하는 성능을 내는 것이 목적입니다.배경비용 문제: GPT-4와 같은 초대형 모델은 운영 및 추론 비용이 막대함.보안 이슈: 민감한 데이터를 외부 클라우드 AI에 보내지 않고 내부적으로 처리하려는 수요 증가.속도 요구: 실시간 응답이 필요한 서비스나 단말기 자체(On-device) 처리가 필요함.2. 핵심 기술 스택 (Tech Stack)sLLM은 단순히 크기만 줄인 것이 아니라, 효..

IT용어 2026. 3. 10. 11:32

이전 1 다음