채용, 대출, 의료, 공공서비스에 AI를 쓴다고 해서 모두 곧바로 고영향 인공지능이 되는 것은 아닙니다. 먼저 법이 정한 영역에 쓰이는지 보고, 그다음 생명·신체의 안전이나 기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있는지 판단해야 합니다. 이 글은 사업자가 직접 확인할 수 있는 순서와 과학기술정보통신부 확인 요청 절차를 실제 준비자료까지 묶어 설명합니다.
먼저 보는 판단 결론
- 1차 관문법정 적용 영역에 들어가는지 실제 용도부터 확인합니다.
- 2차 관문중대한 영향·위험과 AI의 결정 관여도를 함께 봅니다.
- 애매한 경우사업자가 먼저 자체 검토한 뒤 과기정통부에 확인 요청할 수 있습니다.
‘해당 업종’과 ‘고영향 AI’는 같은 말이 아닙니다
병원에서 쓰는 일정 안내 챗봇, 은행 내부 문서 요약, 학교 행정자료 분류처럼 법정 판단·평가에 직접 관여하지 않는 기능까지 일괄적으로 고영향 AI라고 단정하면 안 됩니다. 반대로 사람이 마지막에 승인 버튼만 누를 뿐 AI 결과를 실질적으로 재검토하지 않는 구조라면 ‘사람이 개입했다’는 이유만으로 안전하게 비해당이라고 보기도 어렵습니다. 제품 이름이 아니라 실제 용도, 영향, 최종 결정 구조를 문서로 확인해야 합니다.
1. 고영향 AI는 두 조건을 함께 봅니다
인공지능기본법상 고영향 인공지능은 법 제2조제4호가 열거한 영역에서 활용되는 인공지능시스템이면서, 사람의 생명·신체의 안전 및 기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있는 시스템입니다.
따라서 업종명만 보고 끝내지 말고 AI가 어떤 입력을 받아 어떤 출력으로 누구의 결정을 바꾸는지 살펴야 합니다. 같은 신용평가 모델이라도 단순 참고자료를 만드는 경우와 대출 승인 여부를 자동 결정하는 경우는 영향의 크기와 사람의 통제 수준이 다릅니다.
판단 문서에는 이 한 문장을 먼저 적으세요
“이 AI는 누구에게, 어떤 결정을, 얼마나 자동으로 내리며, 오류가 나면 어떤 권리·안전 피해가 생기는가?” 제품 소개문보다 이 문장이 실제 분류에 더 유용합니다.
2. 법이 정한 적용 영역은 10개입니다
| 영역 | 검토해야 할 실제 사용 예 | 핵심 위험 |
|---|---|---|
| 에너지 | 에너지 공급망의 운영·안전과 직접 연결된 예측·제어 | 공급 중단, 시설·인명 안전 |
| 먹는 물 | 먹는 물 생산 공정의 핵심 판단·제어 | 수질과 국민 건강 |
| 보건의료 | 진단·치료·환자 분류 등 의료 제공체계의 의사결정 | 생명·신체와 치료 기회 |
| 의료기기 | 의료기기 및 디지털의료제품에 적용된 AI | 성능 오류와 환자 안전 |
| 원자력 | 핵물질·원자력시설의 안전한 관리·운영 | 대규모 안전사고 |
| 범죄수사·체포 | 생체인식정보를 분석해 수사·체포 판단에 활용 | 신체의 자유와 오인식 |
| 채용·대출심사 등 | 개인의 권리·의무에 중대한 영향을 주는 판단 또는 평가 | 차별, 취업·금융 기회 제한 |
| 교통 | 교통수단·시설·시스템의 주요 작동과 안전 제어 | 운행 안전과 인명 피해 |
| 공공서비스 | 자격 확인·결정, 비용 징수 등 국민에게 영향을 주는 국가기관 등의 결정 | 복지·행정상 권리와 부담 |
| 학생 평가 | 유아교육·초등교육·중등교육의 학생 평가 | 학업·진학 기회와 공정성 |
가이드라인은 채용과 대출심사를 나눠 분야별 기준과 사례를 설명하므로 자료상으로는 11개 분야처럼 보일 수 있습니다. 다만 법 조문에서는 두 항목이 하나의 적용 영역에 함께 규정되어 있어 이 글은 법정 10개 영역으로 정리했습니다.
3. 자체 판단은 4단계로 진행합니다
- 사업자 지위와 제공 형태를 확정합니다.
AI를 개발해 제공하는지, 다른 사업자의 AI로 제품·서비스를 제공하는지, 단순 최종 이용자인지 구분합니다. - AI의 실제 용도를 법정 영역과 연결합니다.
계약서의 업종명보다 화면, 업무 흐름도, 입력·출력, 배포 환경을 기준으로 어느 판단에 쓰이는지 적습니다. - 영향·중대성·빈도·분야 특수성을 평가합니다.
오류가 생길 때 권리 제한, 치료 지연, 차별, 안전사고가 어느 범위에서 얼마나 자주 생길 수 있는지 봅니다. - 사람의 개입이 실질적인지 검증합니다.
담당자가 AI 결과를 뒤집을 권한·정보·시간을 갖고 독립적으로 재검토하는지, 아니면 형식적으로 승인만 하는지 확인합니다.
최첨단 AI 안전성 기준과 섞지 마세요
누적 학습연산량 1026 FLOPs 등은 인공지능기본법의 최첨단 AI 안전성 확보 기준입니다. 고영향 AI는 모델 규모가 아니라 법정 영역, 권리·안전 영향, 사용 맥락으로 판단합니다. 작은 모델도 채용 탈락이나 대출 거절을 실질적으로 결정하면 고영향 검토가 필요할 수 있습니다.
4. 사례로 보면 경계가 더 분명합니다
채용 탈락을 자동 결정
해당 가능성 높음. AI 점수가 지원자의 면접 기회나 탈락을 사실상 결정하고 사람이 독립적으로 재검토하지 않으면 취업 기회에 중대한 영향을 줍니다.
대출 가능 여부를 전적으로 결정
해당 가능성 높음. 현행 가이드라인도 개인신용평가 AI가 대출 가능 여부를 전적으로 결정한 사례를 고영향으로 설명합니다.
대출 자료를 단순 참고
비해당 사례가 될 수 있음. 담당자가 AI 결과를 보조자료로만 사용하고 다른 정성·정량 요소를 독립적으로 검토해 최종 결정한 가이드라인 사례가 있습니다.
학교생활기록부 증빙 분류
일반적으로 비해당 방향. 객관적 사실정보의 문서 식별·분류에 한정되고 학생 성취 평가를 하지 않는 기능은 학생 평가 AI와 구분됩니다.
공공급여 자격을 자동 결정
해당 가능성 높음. 사람의 개입·감독 없이 사회보장급여 자격과 제공 여부를 최종 결정하면 행정상 권리와 생계에 직접 영향을 줍니다.
병원 예약 안내 챗봇
업종만으로는 해당 아님. 진단·치료·환자 우선순위를 판단하지 않고 예약·위치만 안내한다면 보건의료 의사결정 AI와 기능이 다릅니다.
사례는 분류의 방향을 보여주는 참고자료입니다. 같은 기능명이라도 데이터, 자동화 수준, 이용자 규모, 인간 감독, 결과가 쓰이는 맥락이 달라지면 결론도 달라질 수 있습니다.
5. 개발사업자와 이용사업자는 각자 확인합니다
| 구분 | 뜻 | 실무 포인트 |
|---|---|---|
| 인공지능개발사업자 | AI를 개발하여 제공하는 자 | 모델·데이터·성능·위험 정보를 준비하고 제공 맥락을 검토합니다. |
| 인공지능이용사업자 | 개발사업자의 AI를 이용해 AI 제품 또는 서비스를 제공하는 자 | 실제 운영환경, 이용자, 최종 결정과 운영 위험을 확인합니다. |
| 단순 이용자 | 완성된 제품·서비스를 소비자나 내부 사용자로 이용하는 자 | AI를 썼다는 사실만으로 곧바로 AI사업자가 되는 것은 아닙니다. |
한 기업이 자체 모델을 개발하면서 다른 모델도 결합해 서비스를 제공하면 두 지위를 함께 가질 수 있습니다. 이용사업자가 개발사업자로부터 조치된 시스템을 받아 본래 목적·용도를 현저히 바꾸는 중대한 기능 변경 없이 제공한 경우에는 위험관리·설명·이용자 보호 조치의 전부 또는 일부를 이행한 것으로 볼 수 있습니다. 필요한 자료를 개발사업자에게 요청할 수 있고, 개발사업자는 협력하도록 노력해야 합니다.
6. 애매하면 과기정통부에 확인 요청할 수 있습니다
사업자는 AI 또는 이를 이용한 제품·서비스를 제공할 때 고영향 AI 해당 여부를 사전에 스스로 검토해야 합니다. 다만 과기정통부의 확인을 반드시 받아야 출시할 수 있다는 뜻은 아닙니다. 자체 판단만으로 고영향 책무를 이행할 수도 있고, 판단이 어려울 때 공식 확인을 요청할 수 있습니다.
- 4월 29일 수정 판단 가이드라인을 확인합니다.
공통 판단구조와 분야별 흐름도·해당·비해당 사례를 현재 서비스에 대입합니다. - 자체 검토 결과를 먼저 작성합니다.
적용영역, 영향받는 사람, AI의 기능, 결정 관여도, 위험의 영향·중대성·빈도와 결론을 남깁니다. - 확인 요청 자료를 준비합니다.
제품·서비스 개요서, 학습용데이터 개요, 시스템 활용 과정과 결과를 확인할 자료, 기타 참고자료를 첨부합니다. - 과기정통부 온라인 창구로 요청합니다.
요청서에는 개발사업자·이용사업자 구분, AI 명칭·모델, 용도, 적용영역과 자체 판단을 적습니다. - 회신과 재확인 기한을 관리합니다.
원칙적으로 30일 이내 회신하며 복잡성·중요성에 따라 한 차례 최대 30일 연장할 수 있습니다. 이의가 있으면 회신받은 날부터 10일 이내 재확인을 요청할 수 있고, 재확인도 30일 이내 회신합니다.
요청 전에 준비할 파일 4종
- 제품·서비스 개요와 실제 제공 대상
- 개발·학습에 사용된 학습용데이터 개요
- 입력 → AI 처리 → 사람 검토 → 최종 결과 흐름도
- 자체 판단표, 위험평가, 화면·매뉴얼·계약 등 참고자료
과학기술정보통신부 고영향 인공지능 확인 요청 창구에서 신청 안내와 지원데스크 연락처를 확인할 수 있습니다.
가이드라인과 확인 회신은 사업자의 판단을 지원하는 행정 안내입니다. 구체적 분쟁에서 법적 구속력이 있는 최종 판단을 대신하는 것은 아니므로, 회신 이후에도 실제 기능과 운영 구조가 달라지면 다시 검토해야 합니다.
7. 고영향 AI라면 판단 뒤의 준비가 더 중요합니다
| 조치 | 무엇을 준비하나 | 운영 증거 예 |
|---|---|---|
| 위험관리 | 위험 식별·분석·처리·모니터링 계획과 조직체계 | 위험등록부, 시험결과, 사고·불만·개선 기록 |
| 설명 방안 | 최종 결과, 주요 기준, 기술적으로 가능한 범위의 학습데이터 개요를 설명할 방안 | 이용자 설명문, 이의제기 응답, 모델·데이터 카드 |
| 이용자 보호 | 권리침해·오류에 대한 신고, 이의제기, 구제 절차 | 접수 창구, 처리기한, 재검토·통지 기록 |
| 사람의 관리·감독 | 담당자, 개입 조건, 중단·재검토 권한과 절차 | 권한표, 승인 로그, 중단·복구 훈련 |
| 문서화·보관 | 조치의 이행 근거를 문서로 작성해 5년간 보관 | 전자문서, 변경이력, 버전별 검토 결과 |
사무소·사업장 또는 홈페이지 등에는 위험관리 정책과 조직체계의 주요 내용, 설명 방안, 이용자 보호 방안, 관리·감독하는 사람의 성명과 연락처를 게시해야 합니다. 영업비밀에 해당하는 사항은 제외할 수 있습니다.
영향평가와 과태료 표현은 구분해야 합니다
법 제35조는 고영향 AI 제품·서비스 제공 전 기본권 영향을 평가하도록 노력하여야 한다고 규정합니다. 법 제34조의 조치와 같은 문장으로 일률적인 강제 의무라고 쓰면 정확하지 않습니다. 또한 제34조 조치 누락 자체가 즉시 3천만원 과태료 항목으로 적시된 것은 아닙니다. 조사 뒤 시정·중지 명령을 받고도 따르지 않으면 과태료 대상이 될 수 있습니다.
고영향 AI 또는 생성형 AI 기반 제품·서비스를 제공할 때의 사전 고지와 생성형 결과물 표시 기준은 별도 투명성 의무입니다. 워터마크·가상인물 광고·과태료 범위는 아래 관련 글의 AI 생성물 표시 의무 편에서 자세히 확인할 수 있습니다.
8. 지금 바로 적용하는 사내 점검 순서
- AI 목록을 만듭니다.
구매형·외주형·자체개발형을 포함해 모델명, 버전, 제공자, 사용부서, 이용자를 적습니다. - 최종 결정까지 흐름을 그립니다.
어떤 데이터가 들어가고 AI 결과를 누가 보며 누가 뒤집을 수 있는지 표시합니다. - 10개 법정 영역을 대조합니다.
업종이 아니라 AI가 실제 수행하는 판단·평가·제어 기능을 기준으로 연결합니다. - 중대한 영향과 사람 개입을 시험합니다.
최악의 오류, 영향을 받는 집단, 발생 빈도, 복구 가능성과 인간 검토의 실효성을 기록합니다. - 판단 근거를 승인·버전 관리합니다.
법무·개인정보·보안·현업 책임자가 결론과 남은 위험을 확인하고 변경 때 재검토합니다. - 애매하면 공식 확인을 요청합니다.
출시 직전에 서두르지 말고 자료 준비와 최대 처리기간을 고려해 일정을 잡습니다.
9. 자주 묻는 질문
Q. 채용이나 대출에 AI를 쓰면 무조건 고영향 AI인가요?
아닙니다. 법정 영역에 들어가더라도 실제로 개인의 권리·의무에 중대한 영향을 주는 판단·평가인지, AI가 최종 결정에 어느 정도 관여하는지 함께 봅니다. 일정 안내나 단순 서류 분류처럼 결정과 직접 관련이 적은 기능은 구분해야 합니다.
Q. 사람이 마지막에 승인하면 항상 비해당인가요?
형식적인 승인만으로는 단정하기 어렵습니다. 담당자가 AI의 근거와 한계를 이해하고, 충분한 시간·정보·권한으로 독립 판단하며 결과를 실제로 바꿀 수 있는지 확인해야 합니다.
Q. 과기정통부 확인 요청은 의무인가요?
확인 요청 자체는 선택입니다. 다만 사업자가 제공하는 AI의 고영향 해당 여부를 사전에 검토하는 것은 법 제33조에 따른 절차입니다. 스스로 고영향이라고 판단하면 별도 확인 없이 책무를 준비할 수 있습니다.
Q. 확인 결과는 얼마나 걸리나요?
원칙적으로 요청일부터 30일 이내입니다. 제품·서비스의 복잡성·중요성 때문에 어려우면 한 차례 30일 범위에서 연장할 수 있고, 연장 사유와 기간을 문서로 알립니다.
Q. 회신 결과에 이의가 있으면 어떻게 하나요?
회신받은 날부터 10일 이내 재확인 요청서를 제출할 수 있습니다. 과기정통부는 전문위원회 자문을 받아 재확인하고 요청일부터 30일 이내 회신합니다.
Q. 외부 AI를 그대로 쓰면 책임이 모두 개발사에 있나요?
아닙니다. 그 AI로 제품·서비스를 제공하면 이용사업자가 될 수 있고 실제 운영환경의 위험과 이용자 보호를 확인해야 합니다. 다만 중대한 기능 변경이 없고 개발사업자가 이미 이행한 일부 조치는 중복 이행을 줄이는 규정이 있습니다.
Q. 고영향 AI면 영향평가가 무조건 강제인가요?
법 제35조의 표현은 기본권 영향평가를 하도록 ‘노력하여야 한다’입니다. 공공기관은 영향평가를 한 제품·서비스를 우선 고려해야 하므로 납품·조달을 준비한다면 실무상 중요성이 큽니다.
Q. 규제 계도기간이면 준비하지 않아도 되나요?
아닙니다. 정부가 최소 1년 이상의 규제 유예·계도 운영 방침을 밝혔지만 법과 시행령은 이미 시행 중입니다. 사업자 지위·분류·증거 문서와 이용자 보호 절차를 지금부터 준비하는 기간으로 보는 편이 안전합니다.
Q. 해외에서 만든 AI도 국내 서비스면 적용될 수 있나요?
국외에서 이뤄진 행위라도 국내 시장이나 이용자에게 영향을 미치면 법 적용을 검토해야 합니다. 국내 제공 구조와 사업자 역할, 국내 이용자에게 미치는 영향을 기준으로 확인하세요.
Q. 판단 결과는 한 번만 보관하면 되나요?
모델 버전, 데이터, 용도, 이용자 규모, 자동화 수준, 인간 감독이 바뀌면 결론이 달라질 수 있습니다. 출시 전 검토로 끝내지 말고 변경 승인과 정기 재검토를 연결해야 합니다.
한 번에 정리
- 고영향 AI는 법정 적용 영역과 생명·신체·기본권에 대한 중대한 영향 또는 위험을 함께 봅니다.
- 법정 영역은 에너지, 먹는 물, 보건의료, 의료기기, 원자력, 범죄수사·체포, 채용·대출심사 등, 교통, 공공서비스, 학생 평가의 10개입니다.
- 업종이나 모델 이름보다 실제 용도, 최종 결정 관여도, 영향, 사람의 실질적 감독을 확인합니다.
- 개발사업자와 이용사업자는 자신이 제공하는 제품·서비스 기준으로 사전 검토합니다.
- 판단이 애매하면 제품 개요, 학습데이터 개요, 처리 흐름, 자체 검토자료로 과기정통부 확인을 요청할 수 있습니다.
- 회신은 원칙적으로 30일, 한 차례 최대 30일 연장 가능하며 재확인 요청은 회신 후 10일 이내입니다.
- 고영향 AI라면 위험관리, 설명, 이용자 보호, 사람 감독, 문서화와 5년 보관을 준비합니다.
- 영향평가의 노력 의무와 투명성 표시 의무, 최첨단 AI 안전성 기준은 서로 구분해야 합니다.
공식 원문 확인
'AI' 카테고리의 다른 글
| 2026년 8월 28일 공공 AI법 시행 정리｜공통기반·서비스 목록·2027년 2월 28일 영향평가 시행 예정 (0) | 2026.08.28 |
|---|---|
| 2026 고영향 AI 사업자 의무 체크리스트｜공개 4항목·문서 5년·개발·이용사업자 (0) | 2026.08.27 |
| 2026 AI 생성물 표시 의무, 누가 해야 하나｜AI기본법·가상인물 광고·과태료 (0) | 2026.08.27 |
| 생성형 AI 결과물 저작권 완벽 정리｜AI 이미지·글 상업 이용·등록·분쟁 예방법 (0) | 2026.08.05 |
| RAG 완벽 정리｜생성형 AI가 문서를 검색해 답하는 방식·파인튜닝 차이·도입 체크리스트 (0) | 2026.08.05 |
