에이전트 AI 데이터 프라이버시, 프롬프트만 보면 놓친다

오늘의 핵심

Google DeepMind가 Gemini 3.5 Flash의 built-in computer use를 공개하면서, LLM은 다시 한 단계 더 ‘행동하는 도구’에 가까워졌습니다. 단순히 답변을 잘하는 모델이 아니라, 화면을 보고 플랫폼을 오가며 작업을 수행하는 에이전트로 확장된 셈입니다.

이 변화가 중요한 이유는 성능보다 운영입니다. 모델이 실제 행동을 하면, 위험의 중심도 프롬프트 한 줄이 아니라 로그, 트레이스, 툴 출력, 캐시, 보관 정책처럼 데이터가 지나가는 전체 경로로 이동합니다. 즉, 이제는 ‘무엇을 넣었는가’보다 ‘그 데이터가 어디까지 남고, 누가 다시 볼 수 있는가’를 더 먼저 물어야 합니다.

왜 프롬프트만으로는 부족한가

에이전트형 제품은 입력과 출력이 더 길고 복잡합니다. 사용자가 올린 문서가 RAG로 들어가고, 모델이 만든 답변이 다시 외부 API로 전송되고, 디버깅을 위해 로그가 남고, 운영 편의를 위해 보관 기간이 늘어납니다. 이 과정에서 민감정보는 한 번만 노출되는 것이 아니라 여러 지점에 복제됩니다.

점검 대상	흔한 착각	실제로 확인할 것
프롬프트 입력	여기만 가리면 안전하다	로그·트레이스·재시도 요청까지 함께 확인
RAG 문서	원본만 관리하면 된다	청크 기준, 삭제 반영, 재색인 시점 확인
툴 출력	모델 내부 결과라 괜찮다	외부 시스템으로 재전송되는지 확인
보관 정책	기본값이면 충분하다	저장 기간, 접근 권한, 감사 로그 확인
벤더 계약	클라우드면 알아서 처리된다	재학습 여부, 하위 처리자, 지역 보관 조건 확인

{
  "prompt_input": "검토",
  "logs_and_traces": "검토",
  "tool_outputs": "검토",
  "retention_policy": "검토",
  "vendor_sharing": "검토"
}

X에서 나온 문제의식

이번 이슈를 잘 요약한 글도 X에서 나왔습니다. Shakthi V는 이렇게 말했습니다.

구분	내용
원문	"The Data Privacy Gap Most Teams Miss. Enterprise teams spend significant effort on data classification before going to production with an LLM integration. Most of that effort focuses on what data goes into the prompt. Almost none of it focuses on what happens to that data after"
한국어 번역	"대부분의 팀이 놓치는 데이터 프라이버시의 공백입니다. 엔터프라이즈 팀은 LLM 통합을 운영에 올리기 전에 데이터 분류에 많은 공을 들입니다. 그런데 그 노력의 대부분은 프롬프트에 무엇을 넣을지에만 집중하고, 그 데이터가 그 뒤에 어떻게 되는지는 거의 보지 않습니다."
링크	X 원문

이 한 문장이 중요한 이유는, 실제 사고가 ‘프롬프트에 민감정보를 넣었다’에서 끝나지 않기 때문입니다. 대부분의 운영 리스크는 그 이후에 생깁니다. 검색 로그, 디버그 로그, 벡터 저장소, 외부 툴 호출, 백오피스 다운로드 기록처럼 사용자가 신경 쓰지 않는 지점에서 데이터가 다시 퍼집니다.

지금 팀이 바로 점검할 것

에이전트 AI를 도입하는 팀이라면 최소한 아래 네 가지는 먼저 정리해야 합니다.

1. 어떤 데이터가 프롬프트에 들어오는가
2. 그 데이터가 어디에 기록되는가
3. 기록된 데이터는 언제 삭제되는가
4. 외부 벤더나 하위 처리자에게 재전송되는가

최근에는 OpenAI Codex의 사용량 관리 이슈처럼, 에이전트 제품이 단순 모델 품질보다 운영 정책과 공정성 문제로도 흔들리고 있습니다. 또 RAG 실패의 원인이 모델이 아니라 청크 분할인 경우도 많습니다. 결국 지금의 AI 트렌드는 모델 성능 경쟁이면서 동시에 데이터·운영·거버넌스 경쟁이기도 합니다.

정리

Gemini 3.5 Flash의 computer use는 ‘모델이 직접 일을 하는 시대’가 왔다는 신호입니다. 그런데 일을 할수록 더 중요한 것은 프롬프트가 아니라 데이터의 수명입니다. 입력만 관리하는 수준을 넘어, 생성 이후의 경로까지 설계하는 팀이 결국 더 안전하게 에이전트를 운영하게 됩니다.