인류의지혜AI 도입 위험 점검표: 보안·정확성·편향
도입 전 30개 점검 항목과 위험 점수표로 대응 우선순위를 정하는 방법
무료 · 기관명·담당자명·휴대폰 번호만 적으면 30일 동안 자료 100가지를 모두 받을 수 있어요.
한눈에 보기
AI 도입 위험은 보안(민감정보 노출, 프롬프트 인젝션, 과도한 권한), 정확성(그럴듯한 오답), 편향(채용·평가 등에서의 불공정), 법(개인정보·저작권·AI 기본법), 운영(책임자·기록·중단 기준) 다섯 영역으로 점검합니다. 항목마다 가능성과 영향을 1~3점으로 매겨 곱한 점수가 6점 이상이면 도입 전에 대응책을 갖춥니다. 기준은 국제 보안 단체 OWASP의 생성형 AI 앱 위험 목록(LLM Top 10, 2025판), 국가정보원 AI보안 가이드북 2.0, KISA AI 보안 안내서 같은 공식 자료를 따릅니다.
자료 구성
- 위험 점수 매기는 법
- 보안 점검PDF
- 정확성 점검PDF
- 편향·공정성과 법 점검PDF
- 운영 점검과 위험 등록부 만들기PDF
미리 보기
위험 점수 매기는 법
점검 항목마다 '아니오'로 답한 위험에 두 가지 점수를 매깁니다. 가능성은 그 일이 일어날 가능성, 영향은 일어났을 때 피해의 크기입니다. 두 점수를 곱해 대응 순서를 정합니다.
| 점수 | 가능성 | 영향 |
|---|---|---|
| 1점 | 드물게 일어남(분기에 한 번 미만) | 내부에서 바로 고칠 수 있음 |
| 2점 | 가끔 일어남(월 몇 번) | 외부 정정이나 사과가 필요함 |
| 3점 | 자주 일어남(주 몇 번 이상) | 개인정보 유출, 법적 책임, 사람의 권리 침해 |
| 가능성×영향 | 등급 | 대응 |
|---|---|---|
| 1~2점 | 낮음 | 운영하며 지켜봅니다 |
| 3~4점 | 보통 | 도입 후 1개월 안에 대응책을 갖춥니다 |
| 6~9점 | 높음 | 도입 전에 대응책을 갖추고 책임자가 승인합니다 |
요령 영향이 3점인 항목은 가능성이 낮아도 대응책을 먼저 적어 둡니다. 개인정보와 사람의 권리에 관한 위험은 한 번의 사고도 크기 때문입니다.
나머지 4개 절과 프롬프트·예시·점검표는 PDF에 담았어요.
자주 묻는 질문
작은 조직도 이 점검표를 다 해야 하나요?
업무용 대화형 AI만 쓴다면 보안·정확성 영역부터 점검해도 충분히 시작할 수 있습니다. 고객에게 AI 기능을 제공하거나 채용·평가에 쓴다면 편향·법 영역까지 함께 점검합니다.
프롬프트 인젝션은 기술적으로 막을 수 있나요?
영국 NCSC는 완전히 막기 어렵다고 봅니다. 그래서 최소 권한, 사람의 승인, 외부 콘텐츠 구분 표시처럼 피해 범위를 줄이는 방법을 함께 씁니다.
공공기관은 어떤 자료를 함께 봐야 하나요?
국가정보원 「국가·공공기관 AI보안 가이드북」 2.0, 과기정통부·KISA 「인공지능(AI) 보안 안내서」, 「공공부문 인공지능 윤리기준」의 자율점검 항목을 함께 봅니다.
이 자료와 이어지는 교육
이강준 수석강사를 중심으로 AI 강사진이 기관 업무에 맞춰 직접 따라 하는 실습으로 진행합니다. 부서 전체가 함께 익히려면 교육으로 신청해 보세요.
인류의지혜 채널
이어서 보면 좋은 자료
AI 도입·안전·법 분야 다른 자료
참고 자료
- OWASP Top 10 for LLM Applications 2025 원문 확인 2026-10-14
- OWASP Top 10 for Agentic Applications for 2026 원문 확인 2026-10-14
- NCSC, Prompt injection is not SQL injection(2025-12-08) 원문 확인 2026-10-14
- 국가정보원 「국가·공공기관 AI보안 가이드북」 2.0(2025-12) 원문 확인 2026-10-14
- 과기정통부·KISA 「인공지능(AI) 보안 안내서」 원문 확인 2026-10-14
- 인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(제2조·제31조·제34조) — 국가법령정보센터 원문 확인 2026-10-14
2026년 10월 기준(2026-10-16 검증). AI 서비스의 메뉴 이름·요금제·기능은 업데이트로 바뀔 수 있습니다.