캘리포니아 AI 감독 행정명령, 하루 뒤 연방은 AI 포스 예고

캘리포니아 주지사 개빈 뉴섬이 9월 18일 AI 감독을 앞당기는 행정명령에 서명했습니다. 하루 뒤 도널드 트럼프 대통령은 AI 포스를 만들고 AI 차르를 임명하겠다고 밝히면서 산업에 규제를 두지 않겠다고 했습니다.

캘리포니아가 지시한 것

주지사실 보도자료에 따르면 행정명령은 주정부운영청에 세 가지를 지시합니다. 이미 통과된 두 법의 이행 일정을 앞당기고, 두 달 안에 전문가를 모아 주 안전법을 강화할 권고안을 만들며, 주지사 산하 비상관리국과 함께 감독 방안을 짜는 것입니다.

검토 대상으로 올라온 조치는 구체적입니다. 프런티어 AI 회사의 연구소 안에 독립 검증기관을 상주시켜 정기 감사를 받게 하는 방안, 회사가 내는 안전 프레임워크와 투명성 보고서와 위험 평가를 독립기관이 검증하게 하는 방안, 프런티어 모델에 킬 스위치를 두고 그것이 실제로 작동하는지를 계속 확인하는 방안이 들어 있습니다. 중대 안전사고의 정의에 통제 상실 사고를 넣는 방안도 포함됐습니다.

근거가 되는 법은 세 개입니다. 2025년 SB 53은 프런티어 AI 투명성법으로 안전 프레임워크 공개와 중대 사고 보고를 의무로 정했습니다. 2026년 SB 813은 독립 검증기관을 인증하는 틀을, AB 1405는 AI 감사인의 주 등록부와 독립성 기준을 만들었습니다. 뉴섬 주지사는 연방정부가 의미 있는 AI 감독과 책임 체계를 만들지 못한 것은 모든 미국인이 경계할 일이라고 말했습니다.

연방이 밝힌 것

트럼프 대통령은 9월 19일 트루스소셜에 AI 포스를 만들고 AI 차르를 임명하겠다고 썼습니다. 직접 꼽은 본보기는 첫 임기에 만든 우주군입니다. 다만 조직의 규모나 예산, 어느 부처에 둘 것인지는 밝히지 않았습니다.

글의 나머지는 규제를 두지 않겠다는 내용입니다. 이 놀라운 산업의 성장을 어떤 식으로도 막거나 짓누르지 않겠다고 썼고, 최근 제기된 안전 우려를 사기라고 불렀습니다. 앞서 AI 차르를 맡았던 데이비드 색스는 특별정부직원의 근무일수 제한 때문에 올해 물러났습니다.

왜 주가 먼저 움직이나

미국에는 AI를 포괄하는 연방 법률이 없습니다. 지금까지 연방이 쓴 수단은 대통령령과 수출 허가였고, 둘 다 행정부가 혼자 넣고 뺄 수 있는 장치입니다. 반면 주의회가 만든 법은 그 주 안에서 벌어지는 행위에 그대로 적용됩니다. 프런티어 모델을 만드는 회사 대부분이 캘리포니아에 본사와 연구소를 두고 있으므로, 회사를 실제로 구속하는 규칙이 주에서 나오게 됩니다.

연방이 예고한 두 가지는 성격이 서로 다릅니다. 우주군은 2019년 국방수권법을 통해 의회가 만든 군의 한 종류입니다. 새 군종을 세우려면 입법과 예산 배정이 필요합니다. 반면 차르는 대통령이 백악관 안에 두는 자리라 상원 인준을 거치지 않고, 바꾸기도 쉽습니다.

킬 스위치가 무엇을 가리키는지도 짚고 넘어갈 대목입니다. 모델을 돌리는 쪽이 필요할 때 멈출 수 있는 수단을 끝까지 자기 손에 남겨 두라는 요구입니다. 모델의 가중치가 이미 밖으로 풀렸다면 회수할 방법이 없으므로, 실제 수단은 API와 배포 경로를 끊는 쪽에 가깝습니다.

반론과 한계

행정명령은 법이 아닙니다. 두 달 뒤 권고안이 나와도 주의회를 거치지 않으면 새 의무가 생기지 않습니다. 캘리포니아는 이미 통과된 법의 시행을 빨리 하는 것까지만 행정명령으로 할 수 있습니다.

킬 스위치 자체에 대한 업계 평가도 갈립니다. 앤트로픽의 다리오 아모데이 최고경영자는 이 장치가 좋은 생각일 수 있다면서도 만병통치약은 아니라고 말했습니다. 감독을 받는 쪽의 평가이므로 이해관계를 감안해야 합니다.

연방 발표는 실체를 판단하기에 이릅니다. 예산도 소속 부처도 인선도 아직 나오지 않았습니다. 정치 일정 역시 배경에 있는데, 뉴섬 주지사는 다음 대선 주자로 거론되는 인물이고 이번 명령은 연방과의 대비를 드러내는 방식으로 발표됐습니다.

눈여겨볼 대목

이번 주말의 두 발표에서 눈여겨볼 대목은 AI 회사가 지켜야 할 규칙이 어느 층에서 만들어지는가입니다. 국가 단위의 안전 규제를 기대하던 자리에 주 단위의 감사 제도가 먼저 들어왔고, 그 주가 마침 프런티어 모델이 만들어지는 곳입니다. 독립 검증기관 인증과 감사인 등록부는 외부 감사를 하나의 산업으로 만드는 장치이기도 합니다.

국내 기업에도 기준이 하나 늘어납니다. 미국에 모델이나 AI 서비스를 내보낼 때 맞춰야 하는 것이 연방 규정 하나가 아니게 되고, 안전 프레임워크를 문서로 남기고 외부 검증을 받을 수 있는 체계가 있느냐가 진입 조건에 들어옵니다. 이쪽은 모델 성능과는 따로 준비해야 하는 부분입니다.