기타영역 공부 기록

obsidian copilot플러그인에서 LM studio 연동방법

악분 2025. 1. 5. 21:50
반응형

1.  copilot플러그인이란?

obsidian copilot플러그인은 obsidian 인공지능 모델을 사용하여 글을 작성하게 도와주는 obsidain플러그인입니다.

 

copilot 플러그인은 인공지능 모델을 관리하고 채팅을 통해 글 작성에 도움을 줍니다. chatgpt 등 인공지능 플랫폼을 직접 사용하는 것과 차이점은 obsidian에서 작성한 글을 context로 설정할 수 있습니다. 아래 예제는 블로그에 작성할 글을 copilot플러그인 도움을 받은 과정을 캡처했습니다.

 

2.  copilot 설치 방법

1. obsidian 설정 창을 엽니다.

2. 왼쪽 메뉴 community plugins를 클릭합니다. 그리고 browsw버튼을 클릭합니다.

 

3. copilot 플러그인을 검색하고 설치합니다.


4. copilot 플러그인을 활성화 합니다.

 

다음 단계는 copilot 플러그인이 사용할 모델을 선택해야 합니다.

 

3.  어떤 모델을 사용할까?

copilot플러그인은 openAI, google, anthropic 등 정말 많은 인공지능 모델을 선택해서 사용할 수 있습니다. 또한 로컬 컴퓨터에 설치된 오프라인 인공지능 모델도 등록해서 사용할 수 있습니다. ollma, LM studio 등이 오프라인 인공지능 모델입니다.

 

저는 LM studio를 사용하여 오프라인 인공지능 모델을 사용했습니다. 그 이유는 openAI 등 알려진 인공지능 모델은 사용료를 지불해야 합니다. 가격이 저렴하면 지불할 의사가 있었지만 비용이 비쌌습니다. o1-mini를 사용하면 인공지능 모델 사용료는 저렴하지만 한글 임베딩 가격이 비쌉니다. 한글은 영어보다 비싸기 때문에, 저는 무료로 사용할 수 있는 인공지능 모델을 사용했습니다.

 

4.  LM studio 장점

LM studio는 2가지 장점이 있습니다.

  1. 인공지능 모델을 무료로 다운로드 받아 사용할 수 있다.
  2. 인공지능 모델을 API로 사용할 수 있게 해준다.

허깅 스페이스에서는 연구목적으로 무료로 공개한 인공지능 모델이 있습니다. 허깅 스페이스에서 인공지능 모델을 다운로드 하고 모델을 API처럼 사용하게 시스템을 구축하면, openAI대신 무료로 인공지능 모델을 사용할 수 있습니다.

 

obsidian에서 인공지능 모델을 사용하려면 API로 모델을 호출을 해야 합니다. LM studio는 다운로드 인공지능 모델을 API로 호출할 수

있도록 서버 기능을 제공합니다. 따라서 저희는 별도로 인공지능 모델 API를 개발하지 않아도 됩니다.

 

5.  LM studio 설치 방법

LM studio 설치는 저의 이전 블로그를 참고해주세요.

 

6.  필요한 두가지 인공지능 모델

copilot 플러그인은 2가지 인공지능 모델을 요구합니다.

  1. 추론 모델
  2. 임베딩 모델

 

추론 모델은 사용자가 요청한 내용을 답변하는 역할을 합니다. 저희가 흔히 부르는 인공지능 모델이 추론 모델입니다. 임베딩 모델은 사용자가 요청한 내용을 컴퓨터가 인식하는 언어로 변환하는 역할을 합니다. 컴퓨터는 결국 0,1만 인식하기 때문에 한글이든 영어든 0,1로 변환이 필요합니다. 이 변환과정을 임베딩 모델이 합니다.

저는 추론 모델과 임베딩 모델을 아래 모델로 사용했습니다.

  1. 추론 모델: https://huggingface.co/yanolja/EEVE-Korean-Instruct-10.8B-v1.0
  2. 임베딩 모델: https://huggingface.co/BAAI/bge-m3

 

7.  인공지능 모델 다운로드

LM studio에서 모델 다운로드는 저의 이전 블로그를 참고해주세요.

 

8.  인공지능 서버 실행

1. LM studio 왼쪽 메뉴에서 터미널 아이콘을 클릭합니다.

2. 상단 모델 선택 메뉴를 클릭하고 추론 모델과 임베딩 모델을 선택합니다.

 

3. 설정에서 CORS를 활성화합니다. 그리고 서버를 실행합니다.

 

4. 서버가 실행되었는지 확인합니다.

 

9.  copilot 플러그인에서 모델 불러오기

추론 모델은 General Settings에서 설정합니다.

 

임베딩 모델은 Embedding Models메뉴에서 설정합니다.

 

10.  copilot chat 열기

팔레트(cmd+p)를 열고 copilot window를 엽니다.

 

chat이 열리면 인공지능 모델에게 질문을 합니다.

 

 

참고자료

반응형