반응형 전체 글282 Microsoft에서 공개한 Phi 모델을 활용하여 LLM API 없이 챗봇 서비스를 구축하는 방법 by chatgpt Microsoft에서 공개한 Phi 모델을 활용하여 LLM API 없이 챗봇 서비스를 구축하는 방법을 상세히 설명해 드리겠습니다.1. Phi 모델 개요Phi-2는 Microsoft가 공개한 작은 규모의 LLM으로, 성능 대비 경량하고 로컬에서 실행하기 용이한 장점이 있습니다. 이를 활용하면 API 없이 직접 챗봇 서비스를 구축할 수 있습니다.2. 환경 준비(1) 필요한 패키지 설치Python 환경에서 실행하기 위해 필요한 라이브러리를 설치합니다.bash복사편집pip install torch transformers accelerate gradio torch : 딥러닝 모델 실행을 위한 라이브러리transformers : Hugging Face의 모델 로딩 및 실행 지원accelerate.. 2025. 3. 14. How to Install CUDA + cuDNN Sol. 1. CUDA Toolkit 설치 (최신 버전설치하고 싶을 때 설치)- CUDA Toolkit 검색 -> Download Now (https://developer.nvidia.com/cuda-downloads)-> OS/Arch/Dist/Ver/Type:deb(local)-> Installation Instructions 따라하기- 위의 엔비디아 그래픽 드라이버를 설치시 570버전이 설치실패시 아래쪽 Driver Installer 두 번째 옵션 (sudo apt-get install -y cuda-drivers) 설치Sol. 2. 특정 버전설치하고 싶을 때 설치: 엔비디아 그래픽 드라이버 설치https://www.nvidia.com/ko-kr/ 사이트 진입-> 드라이버 진입-> 제품범주 : 지.. 2025. 3. 14. EAI X3 LiDAR Manual http://www.yahboom.net/study/YDLIDAR-X3 YahboomYahboomwww.yahboom.net Preparation1. Install SDKUnzip YDLidar-SDK-master.tar.xz in the source code folder to get YDLidar-SDK-master.Input following command: mkdir buildcd buildcmake ..make -j4sudo make install2.Compilation Function PackageUnzip ydlidar in the source folder_ ROS2_ Driver master, obtain ydlidar_ ROS2_ Driver master feature pack.C.. 2025. 3. 13. Basler SW installatio https://docs.baslerweb.com/software-installation-(linux) Software Installation (Linux) | Basler Product DocumentationCameras Area and Line Scan Cameras Installation Software Installation (Linux) This topic tells you how to install the Basler pylon Software Suite for Linux. Installation To install the Basler pylon Software Suite for Linux, download the pylon installer frodocs.baslerweb.com Softw.. 2025. 3. 7. 도움이 되셨다면 클릭^^!! 이전 1 2 3 4 ··· 71 다음 반응형
