LLM 모델 관리
조직에서 사용할 수 있는 LLM 모델을 관리합니다.
페이지 접근
Admin → AI & MCP Settings → LLM 모델
모델 사용 설정
조직에 적용된 모델 목록이 테이블 형태로 표시됩니다. 각 모델 오른쪽의 토글 스위치로 사용 여부를 설정합니다.
- 켜짐: 해당 모델을 조직 구성원이 채팅에서 선택하여 사용할 수 있습니다.
- 꺼짐: 해당 모델이 채팅 모델 선택 목록에서 제거됩니다.
Auto Router 사용 설정
Auto Router는 사용자의 요청과 대화 맥락에 맞는 모델을 자동으로 선택합니다. 조직 구성원이 사용하려면 모델 목록에서 Auto Router의 토글을 켠 뒤 우측 상단의 Save Changes 버튼을 클릭하세요. 기본 상태는 꺼짐입니다.
Auto Router 관리 영역에는 시스템에서 제공하는 Auto Router와 조직에서 만든 커스텀 Auto Router가 표시됩니다. 시스템 Auto Router의 단계별 모델은 고정되어 있으며, 모델을 수정하거나 Router 자체를 삭제할 수 없습니다.
조직별 Auto Router 만들기
- Auto Router 만들기를 클릭합니다.
- 이름과 필요한 경우 설명을 입력하고 사용 여부를 설정합니다.
- 가벼운 작업, 일반 작업, 복잡한 작업 각각에 사용할 모델과 추론 수준을 선택합니다.
- 저장하면 조직의 Auto Router 목록에 추가됩니다. 사용 중인 Auto Router는 채팅과 Agent에서 선택할 수 있습니다.
참고사항
- Auto Router를 커스텀할 때 단계별 모델은 조직에서 사용을 허용한 모델 중에서 선택할 수 있습니다.
- Auto Router에 선택된 모델 중 하나라도 조직에서 비활성화되면 해당 Auto Router를 사용할 수 없습니다.
- 조직에서 Auto Router 옵션 자체를 활성화해야 사용자의 채팅 또는 에이전트 모델 선택기에서 선택할 수 있습니다.
리전 AI 처리
사용자가 직접 모델을 선택하는 일반 채팅 외에도 대화 제목 생성, 대화 맥락·메모리 검토, 요청에 맞는 도구 선택 등 서비스 운영을 위한 내부 AI 작업이 수행됩니다.
이러한 내부 작업에는 gpt-5.4-mini, text-embedding-3-small 등 서비스가 내부적으로 선택한 모델이 사용될 수 있습니다.
리전 AI 처리를 활성화하면, 지원되는 내부 AI 작업을 일본 리전 기반 모델로 처리합니다. 사용자가 채팅에서 선택하는 모델과는 별개의 설정으로, 내부 AI 처리까지 일본 리전에서 수행해야 하는 조직을 위한 옵션입니다.
설정하려면 리전 AI 처리 토글을 켠 뒤 우측 상단의 Save Changes를 클릭합니다.
참고: 이 설정은 사용자가 채팅에서 직접 선택한 모델을 바꾸지 않습니다. 이미지 생성과 편집은 현재 기존 이미지 생성 모델을 사용합니다.
모델 비활성화 시 동작
- 채팅: 사용자가 기존에 선택했던 모델이 비활성화된 경우, 기본 모델로 자동 전환됩니다.
- 에이전트: 조직에서 허용된 모델만 에이전트 설정에 표시됩니다. 에이전트에 설정된 모델이 비활성화된 경우 실행이 차단되며, 실행 시점에 에러가 반환됩니다.
변경사항 저장
모델 사용 여부나 리전 AI 처리 설정을 변경한 후에는 우측 상단의 Save Changes 버튼을 클릭해야 적용됩니다. 조직별 Auto Router의 생성·수정은 해당 설정 창에서 별도로 저장합니다.
참고: 저장하지 않은 상태에서 페이지를 벗어나려 하면 변경사항 손실에 대한 경고가 표시됩니다.
요약
- 조직별로 허용할 LLM 모델을 토글 스위치로 개별 설정
- 조직별 Auto Router의 세 단계 모델과 추론 수준을 설정하고 관리
- 비활성화한 모델은 채팅 모델 선택 목록에서 즉시 제거됨
- 모델 사용 여부와 리전 AI 처리 설정은 Save Changes 버튼을 눌러 적용