LGU+ AI 기본법 시행 맞춰 전사 대응 체계 가동, AI기본법 시행에…KT “책임감 있는 AI 체계 갖출 것” 등 AI 기본법 시행에 대응하는 기업들의 소식이 이어지고 있습니다. AI기본법 시행으로 우리 회사의 서비스가 어떤 영향을 받게 될지, 무엇부터 점검해야 할지 고민하는 분들이 많으실 텐데요. 이번 글에서는 AI 기본법의 적용 대상부터 투명성·고영향 AI 의무까지 기업이 준비해야 할 사항들을 정리했습니다.

🙋‍♂️ 우리나라의 AI 기본법은 세계 최초 AI 규제일까요?

우리나라가 세계 최초 AI 규제라는 표현이 등장하지만, 이는 사실과 다소 거리가 있습니다. 이미 EU는 AI법(AI Act)은 ‘24.6월 제정해 단계적으로 시행하고 있습니다. ‘25.2월 금지AI 규제, ‘25.8월 범용AI 규제가 시행되었으며, 나머지 규정은 ‘26.8월 시행될 예정입니다. 미국 캘리포니아주도 프론티어 AI모델 규제를 ‘26.1월부터 시행 중입니다.

✔️ EU에서 제정한 AI법(AI Act)은?

AI 시스템을 위험 수준에 따라 분류하고, 고위험 AI에 대해 사전 인증과 엄격한 의무를 부과합니다. 특히, AI 제공자·배포자·운영자 각각의 책임을 명확히 나누고, 생체 정보 수집이나 사회적 점수 평가와 같은 활용 방식은 강하게 제한하고 있죠.

✔️ EU의 AI Act와 한국의 AI 기본법은 어떤 차이가 있을까요?

EU의 AI Act는 규제법 성격이라면 한국의 AI 기본법은 기본법 성격이라는 점에서 가장 큰 차이가 있습니다.

🏢 AI 기본법, 어떤 기업이 적용 대상일까?

AI기본법의 의무 대상은 AI사업자로 한정됩니다. AI사업자는 다시 AI개발사업자와 AI이용사업자로 나뉩니다.

✔️ AI개발사업자는?
AI를 개발하여 제공하는 자, 유료로 제공하는 것 외에도 무상(공공서비스, 오픈소스 등)의 제공도 포함됩니다. 다만, 개인 취미, 연구 목적 등으로 활용 시에는 제외됩니다.
🔎 예시) 구글(제미나이), 네이버(하이퍼클로버), 앤트로픽(클로드))’

✔️ AI이용사업자는?
AI개발사업자가 제공한 AI를 이용하여 AI제품 또는 AI서비스를 제공하는 자를 말합니다.
🔎 예시) AI폰, AI스피커, 자율주행자동차, AI로봇 등 AI를 요소로 포함하는 제품이나, 생성형AI 서비스, 콘텐츠 추천 AI서비스 등

​✔️ 해외 AI사업자도 국내에서 시행한 AI기본법을 적용받나요?
국내 시장이나 국내 이용자에게 영향을 미치는 해외 AI사업자 역시 적용 대상입니다. 이 중 일정 규모 이상의 AI사업자는 국내대리인 지정 의무가 추가됩니다.
💡 다음 중 하나 충족 시 해당 : 매출액 1조원 이상, AI서비스 부문 매출액 100억원 이상, AI제품·서비스 국내 이용자 수가 1일 평균 100만명 이상, 시정명령을 이행하지 않아 과태료를 부과받은 사실이 있는 AI사업자

🤖 AI 기본법의 핵심 내용은?

1️⃣ 투명성 확보 의무

AI가 생성한 결과물임을 이용자가 알 수 있도록 표기해야 한다는 조항입니다. 해당 의무는 AI 기본법 지원데스크 시행 후 10일간 운영 결과, 기업들이 가장 어려워하는 분야로 나타났어요. 전체 온라인 질의 중 절반이 넘는 53건(56.4%)이 이에 해당했습니다.

✔️ 투명성 확보 의무의 취지는?
이용자가 AI 기반 제품･서비스를 이용하고 있다는 사실과, 제공되는 결과물이 AI에 의해 생성된 것임을 명확히 인식할 수 있도록 합니다. 정보 이용 과정에서의 혼동과 오인 방지 및 사회적 신뢰를 제고하기 위한 제도적 장치를 마련하는 데 목적이 있어요.

✔️ 투명성 확보 의무 적용 대상은?
이용자에게 최종적으로 AI 제품 및 서비스를 제공하는 AI사업자에게 부과됩니다.

✔️ AI사업자의 투명성 확보 의무, 무엇을 어떻게 해야 할까?

다만, 딥페이크 결과물이 아닌 애니메이션, 웹툰 등 AI결과물에 대해서는 가시적 방법뿐 아니라 눈에 보이지 않는 디지털 워터마크도 허용했으며, AI사업자가 알림창이나 UI 등을 통해 생성형AI 결과물을 안내하도록 규정했습니다.

2️⃣ 고영향AI 판단 및 사업자의 책무

✔️ 고영향AI 인공지능이란?
사람의 생명, 신체의 안전 및 기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있는 AI시스템으로서 AI기본법 제2조 제4호에서 정하는 10개 영역 중 하나의 영역에서 활용되는 것을 말합니다. 해당 의무는 AI 기본법 지원데스크​ 시행 후 10일간 운영 결과, 두번째로 많은 문의 16건(17%)을 차지했습니다.
💡 AI기본법 제2조 제4호에서 정하는 10개 영역 : 에너지, 먹는물, 의료, 원자력, 범죄수사, 채용, 대출심사, 교통, 공공서비스, 교육

✔️ 고영향 AI 해당 여부를 판단하는 기준은?
과기정통부가 배포한 「고영향 인공지능 판단 가이드라인」를 참고하여 인공지능사업자가 1차적으로 검토하면 됩니다. 가이드라인에서는 인공지능사업자가 쉽게 판단할 수 있도록 10개 영역별로 판단 과정 흐름도를 마련해 두었으며, 고영향 인공지능 판단 과정에 대한 예시 시나리오도 제공하고 있습니다.
🔎 예시) 공공서비스 영역
AI시스템을 활용해 공공서비스 평가·선정하는 과정에서 의도하지 않은 작동 등으로 적격자가 제외되거나 부적격자가 선정될 경우, 원래 수혜대상자의 기본권이 직접적으로 침해될 우려가 있어 고영향 AI로 판단될 수 있습니다.

3️⃣ 안전성 확보 의무

✔️안전성 확보 의무 대상은?
학습에 사용된 누적연산량이 10의 26승 부동소수점 연산(FLOPs)이상이고, 최첨단 기술을 적용하며, 위험도가 사람의 기본권에 광범위하고 중대한 영향을 미칠 우려가 있는 경우 등을 모두 충족해야 합니다.

✔️ 안전성 확보 의무 목적은?
인공지능 수명주기 전반의 위험 식별·평가·완화, 오작동 방지, 보안 대책 등 기술적·관리적 안전조치 이행 및 결과를 제출해야 합니다. 이로써 고도로 발전한 AI가 통제 불가능한 상황을 가정해 사회적으로 큰 피해 발생을 사전에 예방하는 게 목적입니다.

​

정부는 AI 기본법을 규제를 강화하기 위한 법이 아닌 신뢰와 안전을 기반으로 AI 산업을 뒷받침하기 위한 기본법으로 설명하며, 기업 혼란을 줄이기 위해 충분한 유예기간과 지원 체계도 함께 운영할 계획임을 밝혔습니다. 하지만 업계에서는 AI에 대한 규제가 산업 성장을 저해할 수 있다는 우려 섞인 시선도 적지 않습니다. AI 기본법으로 법적 불확실성이 제거되고 건강하고 안전한 국내 AI생태계가 조성될 수 있을지는 앞으로 지켜봐야 하지 않을까 싶습니다.

[참고문헌]
1. “EU도 AI 규제 우려 확산…AI 기본법, 자율성 존중 방향으로 가야” / 이데일리 / https://www.edaily.co.kr/News/Read?newsId=03913046642298152&mediaCodeNo=257
2. 인공지능기본법지원테스크 / https://www.sw.or.kr/AI_act_helpdesk/main.jsp
3. 과기정통부, ‘AI 기본법 지원데스크’ 시행 열흘…“스타트업 문의 쇄도” / 보안뉴스 / https://www.boannews.com/media/view.asp?idx=141828&kind=2
4. “세계 최초 규제”는 아니다…AI기본법, 기업 혼란 줄이려 지원데스크·가이드라인 강화 / 데일리시큐 / https://www.dailysecu.com/news/articleView.html?idxno=204777
5. ‘인공지능기본법’ 22일 시행…생성형 AI 결과물 ‘워터마크’ 표시 의무 / 과기정통부 / https://www.korea.kr/news/policyNewsView.do?newsId=148958380
6. AI기본법 시행 및 하위법령 공개(1.22.~) 가이드라인 / NIA / https://nia.or.kr/site/nia_kor/ex/bbs/View.do?cbIdx=99835&bcIdx=28987&parentSeq=28987