[End-Gamers] AWS Bedrock 연동 중 만난 URL 이중 인코딩

들어가며

fix 커밋이 5개 나왔다.

incident-autopsy에 AWS Bedrock을 붙이는 작업이었다.
Claude API를 직접 쓰면 한 번에 됐겠지만,

팀 환경 특성상 Bedrock을 통해야 했다. 간단할 줄 알았는데 생각보다 오래 걸렸다.

 

이 글은 그 5개 커밋 동안 뭘 만났는지 기록이다.

 

 

---

1. 설계 구조 — AI 제공사를 갈아끼울 수 있게

처음부터 AI 제공사를 바꿀 수 있는 구조로 설계했다. 팀마다 쓰는 환경이 다르고, Bedrock이 안 되는 상황에서 Groq으로 빠르게 테스트해야 할 때도 있으니까.

ai/base.py           ← 인터페이스 정의
ai/claude_client.py  ← Anthropic 직접 호출
ai/groq_client.py    ← Groq
ai/bedrock_client.py ← AWS Bedrock

AIDispatcher가 설정값에 따라 클라이언트를 골라주고, 서비스 레이어는 어떤 AI를 쓰는지 몰라도 된다. 이 구조 덕분에 나중에 Groq → Bedrock 교체가 설정 한 줄 바꾸는 것으로 가능했다.

 

---

2. invoke_model이 내뿜은 첫 번째 에러

Bedrock 첫 연동은 AnthropicBedrock SDK로 시도했다.

근데 팀 AWS 환경에서 MFA 자격증명을 제대로 처리하지 못했다. 바로 boto3로 교체했다.

response = boto3_client.invoke_model(
    modelId="anthropic.claude-sonnet-4-6",
    body=json.dumps(payload)
)

 

---

3. URL 이중 인코딩

invoke_model이 modelId를 URL 경로에 직접 삽입하는 방식을 쓰는데,

이 과정에서 botocore가 한 번 더 인코딩을 한다.

anthropic.claude-sonnet-4-6
    ↓  invoke_model이 URL 경로에 삽입
anthropic.claude-sonnet-4-6
    ↓  botocore가 추가 인코딩
anthropic%2Eclaude-sonnet-4-6  ← Bedrock이 인식 불가

.이 %2E로 바뀌면서 Bedrock이 모델 ID를 못 읽는 것이다.

모델 ID 자체는 맞는데 서버까지 가는 과정에서 망가졌다.

 

---

4. 해결 과정

처음에는 URL 인코딩을 우회하려고 botocore의 AWS Signature V4를 직접 꺼내서 httpx로 Bedrock을 호출하는 방식을 시도했다. 동작은 했다. 근데 botocore 내부를 건드리는 코드는 버전이 바뀌면 언제 터질지 몰라서 포기했다.

 

converse API로 교체하는 게 정답이었다.

response = boto3_client.converse(
    modelId="anthropic.claude-sonnet-4-6",
    messages=[{"role": "user", "content": [{"text": prompt}]}],
    inferenceConfig={"maxTokens": 2048}
)

invoke_model은 modelId를 URL 경로에 문자열로 박아 넣지만, converse는 내부 처리 방식이 달라서 이중 인코딩이 생기지 않는다. 에러가 사라졌다.

 

---

5. 연결됐더니 JSON 파싱 실패

Bedrock 연결은 됐는데 이번엔 분석 결과가 파싱이 안 됐다.

AI에게 JSON을 뱉으라고 프롬프트를 줬는데, 응답에 마크다운 코드 블록이 감싸져서 왔다.

```json
{
  "severity": "HIGH",
  ...
}

이걸 `json.loads()`에 그냥 넣으면 터진다. 

프롬프트 문제인가 싶어서 고쳐봤는데 일관성이 없었다. 

 

Claude, Groq, Bedrock이 마크다운을 붙이는 기준이 제각각이었다. 제

공사마다 다르고, 같은 제공사에서도 요청 내용에 따라 달라졌다.

 

6. depth 카운터로 JSON 추출

정규식으로 JSON 부분만 뽑는 것도 한계가 있었다. 중첩된 JSON에서 닫힘 괄호가 어디인지 정확히 못 찾는다.
따라서, `{`와 `}`의 개수를 세는 depth 카운터 방식으로 만들었다.

def extract_json(text: str) -> dict:
    text = re.sub(r'```json\s*', '', text)
    text = re.sub(r'```\s*', '', text)

    start = text.find('{')
    depth = 0
    for i, ch in enumerate(text[start:], start):
        if ch == '{':
            depth += 1
        elif ch == '}':
            depth -= 1
            if depth == 0:
                return json.loads(text[start:i+1])

{를 만나면 depth +1, }를 만나면 depth -1. depth가 0이 되는 순간이 JSON 끝이다. 마크다운이 앞뒤에 뭘 붙이든 상관없이 동작한다.

이걸 extract_json 유틸로 빼서 모든 AI 클라이언트가 같이 쓰게 했다.

 

---

7. Groq이 Tool Use를 안 쓰는 문제

Bedrock Tool Use 구조와 Groq Tool Use 구조가 달랐다.

# Bedrock
{"toolUse": {"toolUseId": "...", "name": "analyze", "input": {...}}}

# Groq
{"tool_calls": [{"function": {"name": "analyze", "arguments": "..."}}]}

파싱 코드를 클라이언트별로 따로 만들었다. 그리고 Groq은 Tool Use를 안 쓰고 그냥 텍스트로 응답해버리는 케이스가 있었다. 시스템 프롬프트에 "반드시 함수를 호출하라"는 지침을 명시적으로 추가해야 했다.

 

---

8. 마무리

결국 Claude, Groq, Bedrock 세 제공사가 같은 인터페이스로 동작하게 됐다. 제공사를 바꾸려면 설정 한 줄만 고치면 된다. 이 유연성은 나중에 Haiku 4.5로 모델을 교체할 때 빛을 발했다.

 

Bedrock은 boto3 중에서도 어떤 API를 쓰는지에 따라 내부 동작이 다르다는 걸 이번에 알았다. 공식 문서에 잘 나오지 않는 종류의 함정이다.

 

---

에러 메시지가 "invalid model identifier"라고 해도,
모델 ID가 아닌 URL 인코딩 문제일 수 있다.
가장 안쪽을 의심하기 전에 가장 바깥쪽을 먼저 확인하자.

End-Gamers | incident-autopsy