설정
설정자체 호스팅 LLM 사용

자체 호스팅 LLM 사용

자체 호스팅 LLM(예:Ollama 사용)으로 콘텐츠를 번역할 수 있습니다.

설정 페이지의 Service Configuration > Self-hosted LLM으로 이동하여 각 값을 설정하세요.

설정설명
Endpoint URL자체 호스팅 LLM 모델의 HTTP 엔드포인트 URL입니다. 아래 예시를 참조하세요.
Compatible with API endpoint from커스텀 엔드포인트가 호환되는 AI 서비스 제공업체:ChatGPT 또는 Claude
Model콘텐츠 번역 시 사용할 자체 호스팅 LLM 모델의 이름입니다.
Max tokens모델이 응답에서 생성할 수 있는 최대 토큰 수입니다. 제한 없이 사용하려면 비워 두세요(ChatGPT)、또는 Claude의 기본값을 사용하세요.

Endpoint URL 예시:

URL설명
http://localhost:11434/v1/chat/completionsChatGPT 형식、서버의 Ollama
http://localhost:11434/v1/messagesClaude 형식、서버의 Ollama
https://ollama.com/v1/chat/completionsChatGPT 형식、Ollama Cloud
https://ollama.com/v1/messagesClaude 형식、Ollama Cloud
설정 화면에서 자체 호스팅 LLM 구성하기
설정 화면에서 자체 호스팅 LLM 구성하기

자체 서버에서 LLM을 호스팅하는 경우에는 API 키가 필요하지 않습니다.

클라우드에서 자체 호스팅 LLM을 사용하는 경우(예:Ollama Cloud 사용 시)、설정 페이지의 API Keys > Self-hosted LLM 탭을 통해 API 키를 제공해야 할 수 있습니다.

설정 화면에서 자체 호스팅 LLM의 API 키 입력하기
설정 화면에서 자체 호스팅 LLM의 API 키 입력하기