▲ AWS 비용 및 운영 최적화 스마일샤크는 파트너십을 체결한 지 단 2주 만에 해피문데이를 위한 최적화 보고서를 제공했습니다. 기존 인프라에서 비용을 절약할 수 있는 부분 혹은 도입하면 좋을 보완 포인트를 제시했고, 그 결과 데이터베이스 마이너 버전을 업그레이드하고, Amazon EBS를 최신 세대로 변경해 비용을 추가적으로 절감할 수 있었습니다.
스마일샤크 블로그 | SageMaker : QLora 기법으로 프라이빗 LLM 강화하기(Fine-tuning with SageMaker HuggingFace DLC)
인공지능 모델에 데이터 셋을 활용, 이를 학습함으로써 특정 도메인을 강화하는 방법을 파인튜닝이라고 부르죠. 이러한 파인튜닝 방법을 활용하여 한국어 미지원 모델인 Mistral 모델을 한국어 데이터 셋을 사용하여 훈련을 진행, 한국어를 사용할 수 있도록 진행하는 과정을 살펴보겠습니다.