인공지능기본법 주요 내용 고영향 AI 책임 평가

인공지능기본법 주요 내용과 법적 배경

인공지능기본법은 인공지능 기술의 건전한 발전과 국민 신뢰 확보를 목적으로 2026년 1월 22일 시행 예정인 법률입니다. 법은 인공지능의 정의부터 시작해, 고영향 인공지능과 생성형 인공지능, 그리고 인공지능 사업자의 책임 범위까지 폭넓게 다룹니다. 특히 ‘고영향 인공지능’은 사람의 생명과 신체 안전에 중대한 영향을 미치는 AI 시스템으로 정의되며, 이에 대한 엄격한 관리와 위험 평가가 법의 핵심 중 하나입니다. 법률은 국가 차원에서 AI 정책을 체계적으로 추진하기 위해 대통령 직속 국가인공지능위원회를 설치하고, 과학기술정보통신부가 3년마다 기본계획을 수립하도록 규정합니다. 이처럼 인공지능기본법은 AI 기술의 혁신과 안전이라는 두 축을 균형 있게 발전시키려는 국가 전략의 근간을 이루고 있습니다.

인공지능의 정의와 분류

법은 인공지능 기술을 자율성과 적응성을 갖춘 시스템으로 정의하며, 고영향 인공지능과 생성형 인공지능을 별도로 구분합니다. 고영향 AI는 교통, 의료, 공공서비스 등 국민의 안전과 직결된 분야에서 사용되는 AI를 의미하며, 이에 대한 엄격한 영향평가와 안전 조치가 요구됩니다. 생성형 인공지능은 텍스트, 이미지, 음성 등 창작물을 자동으로 생성하는 AI로, 최근 급격히 성장하는 분야이기 때문에 이에 대한 윤리적 가이드라인도 포함되어 있습니다.

국가 차원의 AI 정책 체계 구축

인공지능기본법은 국가인공지능위원회 설치를 통해 AI 정책을 총괄하고, 과기정통부가 3년마다 AI 기본계획을 수립하도록 명시합니다. 이 기본계획에는 AI R&D, 인력양성, 산업 육성, 안전 및 윤리적 기준 마련 등이 포함되며, 이를 통해 지속 가능한 AI 생태계 조성을 목표로 합니다. 또한, AI 안전연구소와 정책센터 설립을 가능하게 하여 연구와 정책 지원을 강화하는 제도적 기반도 마련되어 있습니다.

인공지능기본법 시행령 제정안의 핵심 내용

2025년 11월 입법예고된 인공지능기본법 시행령은 법률의 세부 이행 사항을 구체화하는 역할을 합니다. 시행령은 AI 산업 육성을 위한 지원 사업 기준 및 고영향 AI 영향평가 절차, 그리고 사업자의 위험관리방안 공개 의무 등을 명확히 규정하여 법의 실효성을 높이고자 합니다. 특히, 고영향 AI를 운영하는 사업자는 위험관리방안을 반드시 사업장이나 홈페이지에 게시해야 하며, 이를 통해 국민의 알 권리와 투명성을 확보하도록 하고 있습니다. 이 외에도 과태료 부과 전 1년 이상의 계도기간을 운영하여 현장 적응 시간을 충분히 제공하는 점도 중요한 특징입니다.

고영향 AI 영향평가 절차와 사업자 책무

시행령 제27조에 따르면, 고영향 AI의 영향평가는 사업자가 인공지능 서비스의 위험을 체계적으로 분석하고 평가하는 과정입니다. 이 과정에서는 AI가 미칠 수 있는 인권 침해, 안전 문제, 개인정보 보호 등 다양한 리스크를 검토하며, 평가 결과를 토대로 위험 완화 대책을 수립해야 합니다. 또한, 고영향 AI 사업자는 법 제35조에 의해 위험관리방안을 공개하고, 지속적으로 모니터링하며 개선 의무를 갖습니다. 이를 통해 AI 기술의 신뢰성과 안전성이 확보되며, 국민 피해 예방에 기여하고자 합니다.

AI산업 육성 및 정책 지원 기관 지정

시행령은 AI 산업 진흥을 위한 연구개발(R&D), 학습용 데이터 구축, AI 도입 및 활용 지원 사업의 기준을 명확히 하였으며, 이를 담당할 지원 기관을 지정합니다. 이러한 기관들은 AI 관련 사업자에게 자문과 기술 지원을 제공하며, AI 생태계의 건강한 성장을 도모합니다. 또한, 행정지도 중심의 규제 적용과 함께 과태료 유예기간을 최소 1년 이상 운영하여 산업계가 법령 준수에 필요한 충분한 시간을 확보할 수 있도록 배려하고 있습니다.

기업이 주목해야 할 인공지능기본법 시사점

인공지능기본법과 시행령은 AI 관련 사업자를 대상으로 다양한 책임과 의무를 부여하며, 법 준수를 위한 체계적인 대응이 요구됩니다. 특히 고영향 AI를 개발하거나 운영하는 기업은 위험평가 체계를 마련하고, 이를 투명하게 공개하는 것이 필수적입니다. 또한, AI 윤리와 안전에 관한 원칙을 내재화하여 기업 내부 프로세스에 반영해야 합니다. 이를 통해 법적 리스크를 최소화하고, 고객과 사회의 신뢰를 얻을 수 있습니다. 나아가 정부가 추진하는 AI R&D 지원사업과 정책적 지원을 적극 활용하는 것도 경쟁력 확보에 중요한 전략으로 볼 수 있습니다.

위험관리방안 공개의 중요성

법과 시행령은 고영향 AI 사업자가 위험관리방안을 홈페이지나 사업장에 게시하도록 규정하고 있습니다. 이는 기업이 자체적으로 AI 시스템의 위험을 인지하고 관리하는 책임을 명확히 하려는 취지입니다. 실제로 이러한 공개 조치는 소비자와 이해관계자에게 신뢰를 제공하며, 사회적 책임을 다하는 기업 이미지를 구축하는 데도 긍정적 영향을 미칩니다. 예를 들어 의료 AI를 운영하는 기업이라면, 환자의 안전과 개인정보 보호에 관한 구체적 조치를 공개해 신뢰를 쌓을 수 있습니다.

AI산업 지원 정책 활용과 기업 대응 전략

국가가 지정하는 AI 지원 기관과 정책은 기업이 AI 기술 개발과 사업화에 필요한 다양한 지원을 받을 수 있는 기반입니다. 기업은 이를 적극 활용해 R&D 자금, 데이터 구축 지원, 인력 양성 프로그램 등에 참여함으로써 경쟁력을 높일 수 있습니다. 한편, 법 시행 초기에는 규제 적용이 행정지도 중심으로 이루어져 기업이 준비기간을 가질 수 있으므로, 미리 내부 규정과 프로세스를 정비하는 것이 바람직합니다. 이를 통해 법적 안정성 확보와 함께 AI 기술의 지속적 혁신을 도모할 수 있습니다.

자주 묻는 질문

인공지능기본법에서 고영향 AI란 무엇인가요?

고영향 AI는 사람의 생명, 신체 안전, 기본권에 중대한 영향을 미치는 인공지능 시스템을 말합니다. 예를 들어, 의료 진단 AI, 자율주행차, 범죄 예측 시스템 등이 여기에 해당하며, 이들 AI에 대해서는 법적으로 엄격한 영향평가와 위험관리 의무가 부과됩니다.

기업이 인공지능기본법에 대응하기 위해 가장 먼저 준비해야 할 것은 무엇인가요?

기업은 우선 자사 AI 서비스가 고영향 AI에 해당하는지 여부를 파악하고, 이에 따른 위험평가 체계를 구축해야 합니다. 또한, 위험관리방안을 마련해 공개하고, 내부 AI 윤리 원칙과 안전 관리 프로세스를 정비하는 것이 중요합니다. 이를 바탕으로 정부 지원 정책 활용도 함께 검토해야 합니다.