미국은 왜 AI 안전 규제를 논의할까? 주요 법률과 연방·주정부의 쟁점

미국 AI 안전 규제의 목적과 연방·주정부의 접근 차이를 설명합니다. 2026년 9월 11일 기준 주요 법률·정책의 진행 상태와 기업에 요구하는 안전 조치, 남은 쟁점을 정리합니다.

미국 AI 안전 규제는 실제 피해 구제, 첨단 AI의 대규모 위험 평가, 기업 안전 조치의 외부 확인을 목적으로 합니다. 다만 주정부의 안전 의무 확대와 연방정부의 규제 부담 완화가 함께 진행되고 있어, 미국 전역이 같은 방향으로 움직이지는 않습니다.

미국 AI 안전 규제는 왜 필요한가요?

규제의 이유를 이해하려면 위험의 근거 수준을 구분해야 합니다.

피해가 확인된 문제: 비동의 성적 딥페이크에는 신속한 삭제와 피해 구제가 필요합니다.
불확실성이 큰 대규모 위험: 첨단 AI의 악용이나 통제 실패에 따른 피해는 사전 평가 대상이지만, 발생 가능성과 시점을 단정하기 어렵습니다.

기업 내부 평가만으로는 정부와 이용자가 안전 조치의 적절성을 판단하기 어렵습니다. 평가 기준과 대응 절차를 공개하고 외부에서 확인할 근거를 마련하려는 이유입니다. 캘리포니아 법무부 안내

연방정부와 주정부의 방향은 어떻게 다른가요?

연방정부는 혁신·국가 경쟁력과 전국 공통 규칙을 강조합니다. 주마다 다른 의무가 기업의 개발·서비스 제공 부담을 높일 수 있다는 입장입니다. 반면 캘리포니아와 뉴욕은 첨단 AI 개발자의 안전 계획과 사고 정보 공개를 법제화했습니다.

연방정부도 비동의 성적 이미지와 사이버 안보 위험에는 대응합니다. 차이는 관리 주체와 규제 방식에 가깝습니다. 연방 정책 발표만으로 주법이 자동 무효가 되지는 않으며, 실제 효력은 관련 입법과 법원 판단 등을 따져야 합니다.

주요 법률과 정책은 어디까지 진행됐나요?

2026년 9월 11일 기준입니다. ‘AI 안전법’은 관련 제도를 묶는 표현으로, 제정 법률과 행정명령, 입법 권고를 구분해야 합니다.

제도·관할	법적 상태	핵심 내용
SB 53·캘리포니아	제정 법률, 2026년 1월 1일 발효	안전 프레임워크 공개, 중대 사고 보고, 내부고발자 보호
RAISE Act·뉴욕	2025년 제정·2026년 3월 개정, 주요 의무는 2027년 1월 1일 시행	대형 첨단 AI 개발자의 안전 계획 공개와 사고 보고
TAKE IT DOWN Act·연방	2025년 제정, 플랫폼 삭제 절차 의무는 2026년 5월 19일부터	유효한 요청 후 48시간 내 비동의 성적 이미지와 알려진 동일 사본 삭제
국가 AI 입법 프레임워크·연방	2026년 3월 20일 발표한 입법 권고	아동 보호·사기 대응·혁신 촉진과 전국 공통 규칙 제안
첨단 AI 혁신·보안 행정명령·연방	2026년 6월 2일 발령	사이버 능력 평가와 자발적 정부 협력 체계 설계 지시

6월 행정명령의 해당 조항은 의무적 모델 허가·사전승인제 도입 권한을 부여하지 않습니다. 캘리포니아는 9월 9일 검증기관·감사인 제도도 법제화했지만, 적용 범위와 의무 개시일은 추가 확인이 필요합니다. 주지사 발표

기업에 요구하는 조치와 남은 쟁점은 무엇인가요?

첨단 AI 안전 제도는 다음 조치를 다룹니다. 적용 대상과 의무는 법마다 달라요.

위험 평가·완화: 위험 판단 기준과 평가 결과에 따른 대응 절차 마련
안전 계획 공개: 위험 관리 방침 공개와 변경 사항 갱신
중대 사고 보고: 법에서 정한 사고를 담당 기관에 통보
내부고발자 보호: 위험을 신고한 직원에 대한 보복 금지
외부 검증: 평가자의 독립성과 검증 절차의 신뢰성 확보

쟁점은 공개 자료와 검증이 실제 위험 판단에 도움이 되는지, 효과에 비해 기업의 비용과 업무 부담이 적절한지입니다. 계획을 공개해도 실행 여부를 확인하기 어렵다면 실효성이 제한될 수 있습니다. 절차 준수가 사고 방지를 보장하지 않으며, 모든 AI에 즉시 외부 감사가 요구되는 것도 아닙니다.