Prompt Injection으로부터 도구 실행을 보호하기
문서와 사용자 입력을 읽는 AI가 외부 도구까지 실행하면 Prompt Injection은 잘못된 답변을 넘어 실제 상태 변경으로 이어질 수 있습니다. 처음에는 system prompt에 외부 문서의 지시를 따르지 말라고 명시하면 도구 실행도 보호할 수 있다고 생각했습니다. 하지만 검색 결과와 사용자 입력이 같은 context에 들어오자 문서 속 명령이 실제…
보안
-
-
HMAC 기반 Presigned URL을 직접 설계하며 배운 것
사용자가 스토리지 서버를 거치지 않고 파일을 업로드하거나 다운로드하려면 짧은 시간만 유효한 파일 접근 권한을 URL에 담아야 합니다. 처음에는 경로와 만료 시각을 HMAC으로 서명하면 충분하다고 생각했지만, 실제로는 서명 대상과 검증 순서까지 하나의 계약으로 맞춰야 했습니다. HTTP method와 인코딩 순서가 달라지자 같은 요청의 서명이 어긋났고, 경로만 서명한 URL은…