[AI] 가성비 좋은 소형 모델(SLM)의 부상: 특정 도메인에서의 반란

처음에는 다들 큰 모델부터 붙여보려고 합니다. 그런데 특정 도메인 업무에서는 모델이 클수록 무조건 좋은 결과가 나오는 게 아니더군요. 오히려 분류, 태깅, 요약, FAQ 응답처럼 문제 범위가 좁은 작업은 SLM이 더 다루기 편한 경우가 많습니다. 원문도 그런 문제의식에서 출발하고 있었는데, 중간부터 운영 이야기와 구현 예시가 너무 길어지면서 정작 주제인 SLM과 LLM 비교가 흐려졌습니다.SLM, LLM 비교에서 먼저 봐야 하는 것은 모델 크기가 아니다SLM과 LLM을 비교할 때 많은 팀이 먼저 보는 것은 파라미터 수나 벤치마크 점수입니다. 그런데 실무에서는 그보다 먼저 확인해야 할 것이 있습니다. 우리 서비스가 정말 범용 추론이 필요한지, 아니면 범위가 좁은 도메인 작업인지입니다.예를 들어 고객 문의 ..