자동화 안전장치: 승인·기록·오류 대응
자동화 흐름과 AI 에이전트를 켜기 전에 확인하는 사람 승인·최소 권한·기록·멈춤 기준
무료 · 기관명·담당자명·휴대폰 번호만 적으면 30일 동안 자료 100가지를 모두 받을 수 있어요.
한눈에 보기
자동화와 AI 에이전트의 안전장치는 네 가지입니다. 보내기·결제·삭제·외부 공개·권한 변경은 사람이 승인하고, 연결 권한은 작업에 필요한 만큼만 주고, 언제 무엇을 했는지 실행 기록을 남기고, 이상이 생기면 멈추는 기준과 대응 순서를 미리 정합니다. OWASP는 생성형 AI 앱 위험 목록의 첫 항목(LLM01)으로 프롬프트 인젝션을 두고 최소 권한과 고위험 행동의 사람 승인을 권합니다.
자료 구성
- 켜기 전 안전 점검표 12
- 사람 승인 지점 정하기PDF
- 권한과 외부 내용: 프롬프트 인젝션에 대비하기PDF
- 기록 남기기와 오류·멈춤 대응PDF
미리 보기
켜기 전 안전 점검표 12
자동화 흐름과 AI 에이전트는 사람이 보지 않는 동안 같은 일을 여러 번 되풀이합니다. 그래서 작은 실수도 한꺼번에 커질 수 있습니다. 새 흐름을 켜기 전, 그리고 흐름을 크게 고친 뒤에 아래 항목을 확인합니다.
- 승인: 외부로 메일·메시지 보내기, 결제·송금, 파일·데이터 삭제, 외부 공개, 권한 변경 단계 앞에 사람 승인 단계가 있나요?
- 권한: 연결한 계정이 필요한 폴더·표·메일함에만 접근하나요? 읽기만 필요한 곳에 쓰기 권한을 주지 않았나요?
- 계정: 개인 계정이 아니라 업무 계정으로 연결했고, 2단계 인증을 켰나요?
- 데이터: 흐름과 AI 단계로 넘어가는 칸이 꼭 필요한 정보뿐인가요? 개인정보는 빼거나 가명으로 바꿨나요?
- 외부 내용: 메일 본문·웹 페이지·첨부 파일처럼 밖에서 들어온 글을 AI가 '지시'로 따르지 않도록 구분해 두었나요?
- 출력: AI가 만든 값을 다음 단계가 그대로 실행하지 않고, 정해진 값인지 확인하는 조건이 있나요?
- 기록: 실행 시각, 입력, 결과, 승인자가 남고, 보관 기간을 정했나요?
- 알림: 실패하면 흐름 소유자에게 바로 알림이 가나요?
- 한도: 하루 실행 횟수·발송 건수·비용 한도를 정하고, 넘으면 멈추나요?
- 멈춤: 누구든 흐름을 바로 끌 수 있는 방법과 담당자 2명을 정했나요?
- 시험: 시험용 폴더·주소로 정상·예외·오류 사례를 각각 돌려 보았나요?
- 문서: 흐름 설계서(목적, 단계, 연결 계정, 승인 지점, 담당자)를 공유 자리에 보관했나요?
요령 12개 중 '승인', '권한', '멈춤' 세 가지가 갖춰지지 않았다면 흐름을 켜지 않고 그 세 가지부터 채웁니다.
나머지 3개 절과 프롬프트·예시·점검표는 PDF에 담았어요.
자주 묻는 질문
승인 단계를 넣으면 자동화 효과가 줄지 않나요?
승인은 되돌리기 어려운 행동에만 둡니다. 읽기·정리·초안은 자동으로 진행되므로 사람은 보내기·삭제 같은 마지막 확인에만 시간을 씁니다. 오래 안정적으로 운영된 단순 안내만 팀장 판단으로 승인 단계를 줄입니다.
프롬프트 인젝션은 설정 하나로 막을 수 있나요?
완전히 막는 방법은 아직 없다고 보는 것이 공식 기관들의 시각입니다. 그래서 권한을 좁히고, 고위험 행동은 사람이 승인하고, AI 출력이 정해진 값인지 확인하는 여러 겹의 장치로 피해 범위를 줄입니다.
점검은 얼마나 자주 하나요?
흐름을 새로 켤 때와 크게 고친 뒤에는 12개 항목 전체를, 운영 중에는 한 달에 한 번 실행 기록과 권한을 확인합니다.
이 자료와 이어지는 교육
이강준 수석강사를 중심으로 AI 강사진이 기관 업무에 맞춰 직접 따라 하는 실습으로 진행합니다. 부서 전체가 함께 익히려면 교육으로 신청해 보세요.
인류의지혜 채널
이어서 보면 좋은 자료
업무 자동화·AI 에이전트 분야 다른 자료
참고 자료
- OWASP Top 10 for LLM Applications 2025 원문 확인 2026-10-14
- LLM01:2025 Prompt Injection — OWASP GenAI Security Project 원문 확인 2026-10-14
- OWASP Top 10 for Agentic Applications for 2026 원문 확인 2026-10-14
- Prompt injection is not SQL injection — UK NCSC(2025-12-08) 원문 확인 2026-10-14
- ChatGPT 릴리스 노트(Lockdown Mode, 2026-06-04) — OpenAI Help Center 원문 확인 2026-10-14
- 국가·공공기관 AI보안 가이드북 2.0 — 국가정보원 원문 확인 2026-10-14
2026년 10월 기준(2026-10-16 검증). AI 서비스의 메뉴 이름·요금제·기능은 업데이트로 바뀔 수 있습니다.