지난번에 KorQuAD 1.0 데이터셋을 사용해서 llama 3.1 8B 기본 모델을 파인튜닝 해봤었는데..
근데 이제 input 받아서 print만 해주면 멋이 없으니..깐? 😅
그래서 Fast API로 배포해서 사용하는 방법을 로컬에서 실험해봤다.
귀찮?아서 디자인은 안하고,, 그냥 GPT로 기본 웹 템플릿 하나 뚝딱해서 연결해봤다.
배포랑 API 사용 둘 다 혼자 연습해본다고 ngrok 계정 하나 더 만든건 안비밀..
간단하게 질문이랑 보기를 input 폼 두개에 입력하고 전송 버튼을 눌러주면,
받은 내용을 바탕으로 정답을 찾아서 아래에 출력해주는 형식이다.
질문이랑 보기는 그냥 별 생각없이..
질문: 국내 음원 시장이 초토화된 이유는?
보기: BIGBANG은 2000년대 초반 불법 음원 파일 공유 서비스의 유행으로 국내 음악 시장이 초토화되었을 당시, 음반에서 디지털 싱글로의 산업구조 변화의 패러다임을 제시하고 선도하여 한국에서 아이돌 산업, 더 나아가 대중 가수가 나아가야 할 방향성을 제시했고 '거짓말'의 범국민적 히트는 당시 아이돌 시장에 대한 대중의 회의와 의심을 잠식시킬 뿐 아니라 가요계 역사상 유례없는 아이돌 전성시대의 시작을 알리는 케이팝 역사의 가장 위대한 신호탄이자 주제가였다.
요로코롬 입력을 해줬다.
정답으로 불법 음원 파일 공유 서비스의 유행이 나오면 되시겄다.
그리고 결과는...
짜잔.
원하는대로 보기에서 정답을 잘 찾아서 출력해주셨다.
근데.. css 건드려서 좀 꾸며주실분 ㅋㅋ
아무튼.. 조금 꾸미고 다듬어서 그럴듯?하게 만들면 되겄다!!
이상.. 별거 없으니 끗.
