산학프로젝트(RAG 기반의 온프레미스 개발 문서 QnA 시스템)
-
파이썬 3.12.x 버전 다운로드
-
가상 환경 설치 및 요구 패키지 설치
# 가상환경 생성
python3.12 -m venv venv
# 가상환경 활성화
source venv/bin/activate
# 가상환경 내 요구 패키지 설치
pip install -r requirements.txt
(윈도우 환경에서는, .\venv\Scripts\activate.bat 명령어로 가상환경 활성화)
-
Ollama 설치 https://ollama.com/
-
mistral:latest, nomic-embed-text 모델 설치
ollama run mistral:latest
ollama run nomic-embed-text
- 웹페이지 생성
streamlit run RAGOUT.py
-
파일 업로드
-
파일의 내용에 대해 질문 가능
- langsmith 디버깅 환경 변수는 .streamlit/secrits.toml 파일에서 수정