LM Studio LLM RAG 실습

LM Studio 실행 후 클립 모양의 “attach a file” 버튼을 누른다.

파일 첨부를 통해 RAG를 하는 방법에 대한 설명이 나온다.

• 파일은 최대 5개까지, 합쳐서 최대 30메가까지 한 번에 첨부할 수 있음.
• 지원하는 파일 포맷은 PDF, DOCX, TXT, CSV.
• LLM에 질문할 때, 어떤 파일을 이용해서 답해야 하는지 최대한 상세하게 질의할 것. 예를 들면, “전화번호부에서 OOO 해 줘”, “공사 사규에서 OOO 해 줘“와 같은 식
• 다양하게 질문해서 어떻게 질문해야 가장 좋은 답이 나오는지 확인할 것.

여기서 “Upload File” 버튼을 누르고 파일을 찾아 파일을 첨부한다.

여기서는 전화번호부-utf8.csv 파일을 첨부한다.

첨부한 엑셀 파일의 내용

실습 1 - 전화번호부(CSV) 파일 내용 질의

Upload file 을 하면 위와 같이 표시된다.

• 질문: 전화번호부에서 연봉이 가장 높은 사람의 연봉과 전화번호 알려줘

• 답: 전화번호부에서 연봉이 가장 높은 사람은 한지적님이며, 연봉은 10000만원입니다. 전화번호는 010-1234-6666 입니다.

실습 2 - PDF 파일 내용 질의

나라장터에서 측량 관련 발주 문서를 검색해서 사전규격공개 문서를 다운로드 받는다.

hwp 문서를 pdf로 변환해 사용한다.(LM Studio는 hwp 문서를 읽지 못한다)

• 질문: 과업지시서의 용역을 수주하고 싶어. 수주하기 위한 전략 세워줘.