설정자체 호스팅 LLM 사용
자체 호스팅 LLM 사용
자체 호스팅 LLM(예:Ollama 사용)으로 콘텐츠를 번역할 수 있습니다.
설정 페이지의 Service Configuration > Self-hosted LLM으로 이동하여 각 값을 설정하세요.
| 설정 | 설명 |
|---|---|
| Endpoint URL | 자체 호스팅 LLM 모델의 HTTP 엔드포인트 URL입니다. 아래 예시를 참조하세요. |
| Compatible with API endpoint from | 커스텀 엔드포인트가 호환되는 AI 서비스 제공업체:ChatGPT 또는 Claude。 |
| Model | 콘텐츠 번역 시 사용할 자체 호스팅 LLM 모델의 이름입니다. |
| Max tokens | 모델이 응답에서 생성할 수 있는 최대 토큰 수입니다. 제한 없이 사용하려면 비워 두세요(ChatGPT)、또는 Claude의 기본값을 사용하세요. |
Endpoint URL 예시:
| URL | 설명 |
|---|---|
http://localhost:11434/v1/chat/completions | ChatGPT 형식、서버의 Ollama |
http://localhost:11434/v1/messages | Claude 형식、서버의 Ollama |
https://ollama.com/v1/chat/completions | ChatGPT 형식、Ollama Cloud |
https://ollama.com/v1/messages | Claude 형식、Ollama Cloud |

자체 서버에서 LLM을 호스팅하는 경우에는 API 키가 필요하지 않습니다.
클라우드에서 자체 호스팅 LLM을 사용하는 경우(예:Ollama Cloud 사용 시)、설정 페이지의 API Keys > Self-hosted LLM 탭을 통해 API 키를 제공해야 할 수 있습니다.
