[모델] 안전장치가 API 응답을 바꾼다, Anthropic Fable 5 생물학 세이프가드

Anthropic이 2026년 8월 7일 Fable 5의 생물학 안전장치 개선을 발표했습니다. 안전성 발표는 보통 개발자 입장에서 흘려보내기 쉽지만, 이번 건은 API를 쓰는 쪽에서 반드시 알아야 할 동작이 하나 있습니다.

거절은 오류가 아니라 성공 응답으로 온다

Fable 5는 들어오는 요청에 안전 분류기를 돌립니다. 분류기가 요청을 거절하면 HTTP 오류가 아니라 정상 200 응답이 돌아옵니다. 대신 stop_reason이 refusal이 되고, stop_details에 정책 범주가 담깁니다.

이 차이가 중요한 이유는 실패 방식 때문입니다.

거절은 출력이 시작되기 전에 발생할 수도 있고, 일부 출력이 나간 뒤 스트림 중간에 발생할 수도 있습니다. 앞의 경우 content 배열이 비어 있고, 과금 여부는 정책 범주에 따라 다릅니다. stop_details.category가 bio, frontier_llm, reasoning_extraction이면 출력이 없어도 일반 요청과 같은 요율로 과금되고, 그 밖의 범주이거나 범주가 null이면 과금되지 않습니다. 뒤의 경우 입력 토큰과 이미 스트리밍된 출력이 과금되며, 부분 출력을 완성된 답변으로 취급하지 않도록 버려야 합니다.

선의의 요청도 걸릴 수 있다

API 문서가 밝힌 거절 정책 범주는 cyber, bio, frontier_llm, reasoning_extraction, general_harms 다섯 가지입니다. 문제는 인접한 정상 업무가 오탐에 걸리는 경우입니다. 문서는 정상적인 사이버보안 작업이 cyber 범주에, 유익한 생명과학 작업이 bio 범주에 걸릴 수 있다고 적고 있습니다.

그래서 Anthropic은 Claude API에서 베타로 fallbacks 파라미터를 제공합니다(베타 헤더 server-side-fallback-2026-07-01). 거절이 발생하면 같은 요청을 지정한 다른 모델(최대 세 개)로 서버 측에서 다시 실행하는 기능입니다. fallbacks를 "default"로 두면 거절 범주별로 Anthropic이 권장하는 모델로 보내며, 권장 모델이 없는 범주는 거절이 그대로 유지됩니다. 폴백을 쓰더라도 원래 거절이 과금 범주에 속하거나 스트림 중간에 발생했다면 그 거절은 폴백 요청과 별도로 과금됩니다.

실무에서 정리해야 할 것

기업 서비스에 프론티어 모델을 붙일 때 체크할 항목은 세 가지입니다.

첫째, 응답 본문을 읽기 전에 stop_reason을 확인하는 코드가 들어가 있는지 봅니다. 이것이 없으면 거절이 발생하는 순간 애플리케이션이 예외 없이 잘못된 결과를 냅니다.

둘째, 거절 시 사용자에게 무엇을 보여줄지 정합니다. 빈 화면이나 로딩 스피너가 계속 도는 상태가 가장 나쁩니다.

셋째, 업무 성격상 오탐 가능성이 있다면 폴백을 기본값으로 켜둡니다. 폴백은 자동으로 켜지지 않으며, 지정하지 않으면 거절에서 그대로 멈춥니다.

출처: Improving Fable 5's biology safeguards (Anthropic, 2026-08-07) · Refusals and fallback (Claude API Docs)