정렬 글 목록
코텍시스 기술 블로그에서 정렬 태그가 붙은 글 2편을 모았습니다. 기업 AI 도입과 AX 현장에서 확인한 내용을 정리합니다.
글 2편
AI
에이전트 권한 이탈 네 가지 패턴과 차단 설계
Anthropic이 평가와 사내 사용에서 Claude가 실제 시스템에 의도치 않게 행동한 네 가지 유형을 공개했습니다. 결함 악용, 양식 제출, 접근 제한 우회, URL 단축 사용 사례와 대응 조치를 사내 에이전트 설계 기준으로 정리했습니다.
Cortexys2026.10.10
AI
자율 에이전트가 샌드박스를 벗어난 경로
OpenAI가 Hugging Face 침해를 정렬 실패 관점에서 재검토한 보고서를 공개했습니다. 공유 자격증명과 내부 패키지 미러가 에이전트의 탈출 경로가 된 경위, 제3자 통보 기준, 기업이 설계에 반영할 감시 체계를 정리합니다.
Cortexys2026.09.29