모델 고르기

모든 실행은 모델이 굴립니다. Endue 는 여러 제공자의 카탈로그를 제공하고, 에이전트가 어느 모델을 쓸지는 사용자가 고릅니다. 기본값으로 정할 수도, 메시지 하나에만 적용할 수도 있습니다.

언제 쓰는가

문제가 에이전트의 추론일 때 모델을 바꿉니다. 긴 작업에서 단계를 빠뜨리거나, 정말 단순한 일에 느리고 비싸게 굴 때입니다. 일을 못하는 게 아니라 엉뚱한 일을 하고 있다면 시스템 프롬프트를 먼저 고치세요. 더 큰 모델도 흐릿한 지시는 똑같이 충실하게 따릅니다.

모델 선택기는 쓸 수 있는 모델과 함께, 선택을 실제로 좌우하는 정보를 보여줍니다. 컨텍스트 창, 백만 토큰당 입력·출력 가격, 받아들이는 입력(텍스트·이미지·파일), 그리고 도구 호출 지원 여부입니다.

확인할 것은 도구 호출입니다. Endue 의 에이전트는 도구를 불러 일합니다. 도구 호출을 지원하지 않는 모델은 이미 아는 것으로 답할 수는 있어도 메일을 검색하거나, 아웃풋을 쓰거나, 커넥터를 쓰지 못합니다. 그런 모델은 선택기에 표시돼 있습니다.

일부 모델은 추론 강도 설정을 제공합니다. 답하기 전에 얼마나 생각할지입니다. 강도가 높으면 토큰을 더 쓰고 시간도 더 걸립니다. 대신 초반의 잘못된 판단이 실행의 나머지를 버리게 만드는 다단계 작업에서 값을 합니다.

대략의 기준입니다.

모델을 정하는 곳은 셋이고, 아래로 갈수록 위를 덮어씁니다.

에이전트 기본값 — 에이전트 빌더에서 정합니다. 달리 지정하지 않으면 이것을 씁니다.
메시지 하나 — 입력창에서 바꿉니다. 값싼 에이전트와의 대화 중 어려운 질문 하나에 쓰기 좋습니다. 매번 손으로 바꾸는 대신 요청에 맞춰 자동으로 고르게 둘 수도 있습니다.
루틴 — 자기 모델을 고정할 수 있어서, 에이전트를 다시 손봐도 예약된 작업의 비용이 흔들리지 않습니다.

에이전트의 자동 선택을 켜면 메시지마다 모델을 고르지 않아도 됩니다. 메시지가 오면 판단 모델이 그 요청이 얼마나 어려운지를 세 단계로 가르고, 단계마다 어느 모델을 쓸지는 사용자가 정해 둡니다.

에이전트 빌더의 모델 섹션에서 설정합니다.

두 칸 중 하나만 채워도 됩니다. 비운 단계는 기본 모델로 갑니다.

방식은 셋입니다.

저장하기 전에 시험해 보기에 문장을 넣으면 그 문장이 어느 단계로 읽히고 어느 모델로 가는지 보여줍니다.

다음 경우에는 기본 모델로 답합니다.

첨부가 있는 메시지와 어려운 요청에 바로 이어지는 메시지는 가벼운 모델로 내리지 않습니다. “계속해줘” 는 혼자 보면 가볍지만 하던 일은 그렇지 않기 때문입니다.

입력창에서 모델을 직접 고르면 그 대화는 고른 모델로 갑니다. 다시 자동을 고르면 풀립니다. 기본 모델이 정해진 프로젝트의 대화는 프로젝트 모델을 따릅니다.

요금제의 사용량을 소모하는 것은 모델 사용이고, 카탈로그 안에서도 가격은 열 배 넘게 차이 납니다. 선택기가 모델별 입력·출력 가격을 보여줍니다. 사용량을 어떻게 재고 어디서 보는지는 요금제와 사용량을, 제공자에게 직접 결제하고 싶다면 내 API 키 사용을 보세요.