Llama 70B와 7B의 실제 답변 품질, 10배 비싼 만큼 10배 좋을까
“70B 모델이 진짜 그렇게 좋아? 월 수백만 원 들여가면서까지 써야 하나?” 지난 몇 년간 오픈소스 LLM 시장은 정말 빠르게 변했다. 특히 메타의 라마 시리즈는 개발자 커뮤니티에서 엄청난 반응을 얻었는데, 여기서 가장 큰 이슈는 항상 같았다. 70B 모델이 정말 필요한 건지 아니면 13B나 7B로도 충분한지 하는 문제였다. 실제로 비용과 성능 사이에서 고민하는 팀들이 정말 많다. 급부상한 … Read more
