AI

Continue - Visual source code에서 AI 사용

KimUH 2024. 6. 3. 21:52

Visual source code에서 continue라는 플러그인을 이용하면 개발 중 로컬 LLM을 이용할 수 있다.

(Visual source code이외에 Jetbrain사의 Intellij 계열 IDE도 지원된다.)

 

https://www.continue.dev/

 

Continue

Amplified developers, automated development · Customize and optimize each component of your AI dev system · Accelerate your development with Continue · Fit

www.continue.dev

 

기본값으로 Ollama을 이용해서 로컬 LLM을 이용하지만, 기존에 사용하던 실행 플랫폼에서 갈아타기 꺼려지는 경우에는 OpenAI 호환 API방식으로 연결해서 사용할 수 있다.

 

예를 들면, text-generation-webui에서 DeepSeek Coder 모델을 실행한 후 REST API 방식으로 연결하는 경우, '%USERPROFILE%\.continue\config.json'에 다음과 같이 내용을 추가하면 된다.
('%USERPROFILE%'은 MS윈도우 사용자 홈 디렉토리를 지칭하는 환경변수이다.)

    {
      "title": "DeepSeek Coder",
      "apiBase": "http://127.0.0.1:5000/v1/",
      "apiKey": "",
      "contextLength": 8192,
      "completionOptions": {},
      "provider": "openai",
      "model": "deepseek-coder 33b"
    },

 

'provider'를 'openai'로 설정하는 게 핵심이며, 'apiBase'를 각 플랫폼에 맞게 설정해주면 된다.

(apiBase 값 마지막에 '/v1/'이 있어야 에러가 나지 않는다.)

 

'비주얼 스튜디오 코드'용 플러그인이 좀 더 안정적이고, Jetbrain용 플러그인은 상대적으로 완성도가 살짝 떨어지는 느낌이지만 그럭저럭 쓸만하다.

 

Visual source code에서 continue확장을 설치 후 초반 설정 마법사를 따라하면 쉽게 설치되는 데, 

Jetbrain계열 IDE에서는 초반 설정 마법사가 아주 어색하다.

먼저 ' Visual source code '에서 설치해 보면서 초반 설정법의 감을 익힌 후 Jetbrain계열 IDE로 넘어가면 쉽다.

 

똑똑한 LLM(최소 30B이상, 가능하면 70B)을 적용해보면 상당히 쓸만하다.

 

기본 사용법

소스 코드를 Shift로 선택한 후 ' Ctrl+L'키를 누르면 채팅창에 코드가 복사된다.

소스 코드를 Shift로 선택한 후 'Ctrl+I'키를 누르면 편집 모드 창에서 참조된다.

채팅창에서 @file로 열린 파일을 참조한 후, 설명이나 수정등 여러 작업을 지시할 수 있다.

 

 

Ctrl + M: 코드 선택.
Ctrl + Shift + M: 후속 작업을 위한 코드 선택.
Ctrl + Shift + L: 빠른 편집.
Ctrl + Shift + R: 자동 디버그 터미널.