lifecarelog
AI 정보

서브에이전트 모델을 '알아서' 고르게 했더니 전부 최고가로 돌았다

fan-out 프롬프트에 모델 지정을 빼면 서브에이전트가 전부 상위 모델을 잡습니다. 단계별 모델 명시로 비용을 줄인 과정을 정리했어요.

6분 읽기

병렬로 돌리는 에이전트 프롬프트에 "모델은 상황에 맞게 알아서 선택해" 한 줄을 넣었습니다. 편해 보였어요. 결과는 정반대였습니다.

왜 전부 비싼 모델을 잡을까

에이전트에게 모델 선택을 맡기면 판단 기준이 딱 하나로 수렴합니다. 실패하지 않는 것. 자기가 받은 일이 얼마나 쉬운지는 시작 전에 모르니까, 안전한 쪽으로 붙습니다. 그게 가장 비싼 모델이에요.

직접 돌려 보니 더 재미있는 건, 각 서브에이전트 입장에선 이게 합리적 선택이라는 점입니다. 한 놈만 보면 "어려울 수도 있으니 상위 모델" 은 맞는 판단이에요. 그런데 이걸 5개 병렬로 띄우면 5개 전부 같은 논리로 같은 결론에 도달합니다. 개별 최적이 전체 최악이 되는 구조죠.

위임 프롬프트에 모델 미지정각 에이전트가 독립 판단전원 상위 모델 선택토큰 비용 수직 상승

고친 방법은 재미없습니다

프롬프트에 모델을 박았어요. 그게 전부입니다.

작업을 3분류로 나눴습니다. 요약·분류·수집처럼 판단이 거의 없는 일은 경량 모델, 구현이나 검증처럼 틀리면 뒤로 다 밀리는 일은 상위 모델, 대용량 문서를 통째로 읽어야 하는 일은 긴 컨텍스트 모델. 분류표를 만드는 데 15분쯤 걸렸고, 그 뒤로는 위임할 때마다 한 줄 복사해 붙이면 끝입니다.

적용해 봤더니 체감이 바로 왔어요. 기존엔 5개 에이전트가 전부 상위 모델을 잡았는데, 이제 상위 모델은 1~2개로 줄었습니다. 나머지는 경량 모델이 받아요. 산출물 품질 차이는 거의 없었습니다. 애초에 "이 JSON에서 제목 필드만 뽑아줘" 같은 일에 최고 성능이 필요하지 않았던 거죠.

목적형 프롬프트의 함정

이번 일의 교훈을 한 줄로 줄이면 이렇습니다. 목적만 주는 프롬프트에도 결정 경계는 사람이 그어야 한다.

"목표만 알려주면 알아서 해" 는 멋진 문장이지만, 알아서 하라고 넘긴 항목 중에 비용이 걸린 게 있으면 그건 위임이 아니라 방치입니다. 아키텍처·인터페이스·데이터 모델이 사람 결정 영역인 것과 같은 이유로, 모델 선택도 사람이 정해야 할 항목이에요. 테스트해 보면 알겠지만 에이전트는 비용을 자기 손실로 느끼지 못합니다.

  • 단계마다 모델 명시
  • 경량/상위/긴컨텍스트 3분류
  • 비용은 사람이 결정

지금 확인해 볼 것

병렬 위임을 쓰고 있다면 프롬프트를 열어서 두 가지만 보세요.

첫째, 서브에이전트에게 넘기는 지시문에 모델 이름이 적혀 있나요. 없으면 지금 전부 상위 모델로 돌고 있을 가능성이 높습니다. 둘째, 지난 한 주 토큰 사용량이 작업량 대비 이상하게 높지 않았나요. 저는 이 두 개를 확인하는 데 10분도 안 걸렸어요.

라이프케어로그에서 만드는 플랜씨나 플랜엘 같은 서비스도 운영 자동화에 이런 위임 구조를 씁니다. 도구를 늘리는 것보다 이미 있는 도구의 기본값을 손보는 쪽이 효과가 빠를 때가 많더라고요.

무엇을 맡길지 정하는 건 여전히 사람 일입니다. 맡길 범위를 명확히 그어 두면, 에이전트는 그 안에서 충분히 잘 움직여요.

#서브에이전트#모델라우팅#AI비용

라이프케어로그 서비스가 궁금하신가요?

AI 기반 건강·일정·재활 관리 앱을 직접 써보세요.

서비스 살펴보기

관련 글

댓글

아직 댓글이 없어요. 첫 댓글을 남겨주세요.