2026년 주(州) 의회가 다룬 수많은 AI 주제 가운데, AI 컴패니언 챗봇(사람처럼 대화하며 여러 상호작용에 걸쳐 관계를 이어가는 AI 동반자)만큼 빠르게 움직인 분야는 없었다. 2026년 7월 1일 기준으로 미국 각 주는 AI법 109건을 제정했는데, 그 하위 분야 중에서 컴패니언 챗봇은 단연 가장 활발한 영역이었다. 의원들은 관련 법안을 100건 넘게 발의했고, 그중 14건을 제정했다 [출처: Tech Policy Press, 2026]. 이 급증은 어느 날 갑자기 생긴 일이 아니다.
그래서 지금이 이 주제를 볼 적기다. 한 청소년의 죽음과 잇단 소송이 무엇을 촉발했는지, 이 법들이 실제로 무엇을 요구하는지, "발의"와 "제정"이 어떻게 다른지, 그리고 미성년 보호라는 안전의 요구와 프라이버시·표현의 자유라는 권리의 요구가 어디서 부딪치는지 — 이 글은 그 균형점을 순서대로 짚는다. 결론을 미리 말하면, 이 주제에 쉬운 정답은 없다. 그래서 어느 한쪽으로 단정하기보다, 서로 맞선 가치들을 같은 눈높이에서 함께 보는 편이 정확하다.
본격적인 이야기에 앞서, 이 글이 '단계'를 어떻게 다루는지 밝혀둔다. 입법에서는 같은 사안이 여러 단계에 동시에 걸쳐 있을 수 있기 때문이다. 발의된 법안은 제안이다. 위원회를 통과한 법안은 관문 하나를 넘었을 뿐이다. 양원을 통과한 법안에도 아직 서명이 남아 있다. 서명된 법이라도 몇 달 동안 아무에게도 적용되지 않을 수 있다. 그리고 소송에서의 주장은 당사자가 낸 주장이지 법원이 확정한 사실이 아니다. 아래의 모든 서술에는 그 사안이 실제로 도달한 단계를 함께 적었고, 출처끼리 엇갈리는 대목은 — 이 글에도 최소 두 군데가 있다 — 편한 쪽을 골라 정리하지 않고 엇갈린다는 사실 자체를 드러냈다.
목차
- 왜 지금 — 컴패니언 챗봇이 주 AI 입법의 최전선
- 비극이 밀어올린 입법 — 캐릭터.AI 소송
- 법은 무엇을 요구하나 — 캘리포니아 SB 243이라는 원형
- 발의 100건, 제정 14건 — 확산과 그 격차
- 안전과 프라이버시·표현의 줄다리기
- 연방의 두 방향 — GUARD법과 선점 압력
- 결론 — 무엇을 지켜볼지
왜 지금 — 컴패니언 챗봇이 주 AI 입법의 최전선
먼저 규모를 보자. 2026년 7월 1일 기준으로 29개 주가 AI 관련 법을 제정했고, 그 수는 109건에 이른다 [출처: Tech Policy Press, 2026]. 흥미로운 것은 그 안에서의 무게중심이다. 같은 분석은 "AI 컴패니언 챗봇이 2026년 주 AI 규제에서 가장 활발한 영역이었다"고 평가하며, 민주당과 공화당이 각각 통제하는 주 모두에서 관련법이 제정됐다고 전한다 [출처: Tech Policy Press, 2026]. 특정 진영의 의제가 아니라 초당적으로 움직인 드문 분야라는 뜻이다.
2026년의 숫자, 맥락에 놓고 보기
반년 만에 109건이면 폭발적으로 들리고, 절대량으로는 실제로 그렇다. 그런데 1년 전 같은 시점의 숫자는 더 컸다. 2025년 7월 1일 기준으로 각 주는 AI법 121건을 제정했고 39개 주가 한 건 이상을 통과시켰는데, 2026년 같은 시점에는 29개 주였다 [출처: Tech Policy Press, 2026]. 2025년 한 해 전체로는 AI법 159건과 데이터센터법 37건이었고, 2026년 상반기는 AI법 109건과 데이터센터법 28건이다 [출처: Tech Policy Press, 2026]. 두 숫자를 겹쳐 보면 넓게 퍼졌지만 더는 가속하지 않는 분야의 모습이 나온다. 입법에 나선 주는 1년 전보다 줄었고, 산출량은 비슷한 수준이다. 2026년에 달라진 것은 전체 속도라기보다 힘이 어디로 쏠렸는가였고, 그 힘은 동반자처럼 굴도록 만들어진 챗봇으로 쏠렸다.
이 법들은 어디서 왔고, 어디서 갈라지나
이 법들은 백지에서 출발하지 않았다. 대부분은 2025년 캘리포니아와 뉴욕에서 제정된 두 법을 토대로 확장됐다 [출처: Tech Policy Press, 2026]. 다만 세부에서는 이미 당파적 분화가 나타난다. 연령확인(나이 인증)과 부모 감독 요건을 두고 입장이 갈리는데, 공화당이 지지하는 법안일수록 더 강한 연령확인·부모감독 요건을 담는 경향이 관찰된다 [출처: Tech Policy Press, 2026].
이 분화는 정확히 적어둘 필요가 있다. 규칙이 아니라 경향이기 때문이다. 해당 분석은 연령확인이 공화당의 아이디어이고 고지가 민주당의 아이디어라고 말하지 않는다. 양당이 각각 통제하는 주 모두에서 관련법이 통과됐고, 공화당이 지지하는 법안일수록 연령확인·부모감독 요건이 강한 경향이 있다고 말할 뿐이다 [출처: Tech Policy Press, 2026]. 다시 말해 2026년의 이견은 컴패니언 챗봇을 규제할지 말지보다 어느 레버를 당길지에 있었다. 사용자에게 지금 상대가 무엇인지 알려줄 것인가, 아니면 대화가 시작되기 전에 사용자가 누구인지 확인할 것인가. 이 구분은 이 글 뒤쪽에서 다시 중요해진다. 헌법적 반론을 부르는 쪽이 바로 연령확인 레버이기 때문이다.
실제로 규제되는 것은 무엇인가
규제 대상의 윤곽도 좁혀지고 있다. 프라이버시 연구기관인 정보프라이버시포럼(Future of Privacy Forum)은 34개 주에서 챗봇 특화 법안 98건과 연방 제안 3건을 추적하며, 이 입법들을 투명성, 연령확인·접근통제, 콘텐츠 안전, 정신건강 전문직 면허, 데이터 보호, 책임·집행이라는 여섯 범주로 정리한다 [출처: Future of Privacy Forum, 2026]. 여기서 규제가 겨냥하는 것은 고객센터 챗봇이나 업무 자동화 도구가 아니라, "인간처럼 응답하고 여러 상호작용에 걸쳐 관계를 지속하는" 컴패니언형 챗봇이라는 점을 분명히 해둘 필요가 있다.
이 여섯 범주는 추상적인 분류가 아니다. 각각은 아래에서 다룰 법 조문에 이미 나타나 있다. 투명성은 비인간 고지와 주기적 상기다. 연령확인·접근통제는 미성년자를 특정 기능에서 차단하는 규칙이다. 콘텐츠 안전은 성적 콘텐츠와 자해 대응을 아우른다. 정신건강 전문직 면허는 정신건강 챗봇을 겨냥한 2025년 법인 유타 HB 452 같은 조치가 속한 갈래다 [출처: Future of Privacy Forum, 2026]. 데이터 보호는 서비스가 대화에서 무엇을 보관하고 재사용할 수 있는지를 정한다. 그리고 책임·집행은 누가 얼마를 청구할 수 있는지를 정한다 — 이빨이 있는 규칙과 종이 위의 규칙을 가르는 지점이다.
비극이 밀어올린 입법 — 캐릭터.AI 소송
법이 움직인 배경에는 구체적인 비극이 있다. 2024년 10월, 메건 가르시아(Megan Garcia)는 열네 살 아들 스웰 세처 3세(Sewell Setzer III)의 죽음과 관련해 플로리다 연방법원에 소송을 냈다. 세처는 캐릭터.AI(Character.AI)의 챗봇과 대화해 왔고, 사망 직전까지 그 챗봇과 메시지를 주고받았으며, 성적인 대화도 오갔다는 것이 소장의 주장이다 [출처: NBC News, 2024]. 이 사건은 이후 컴패니언 챗봇 입법을 상징하는 계기가 됐다.
소장은 무엇을 주장했나
소장의 주장과 확정된 사실은 갈라서 볼 필요가 있다. 소장과 당시 보도에 따르면, 세처는 사망 직전까지 챗봇과 메시지를 주고받았고, 대화에는 성적인 내용이 포함돼 있었으며, 챗봇은 그에게 "집으로 오라"고 재촉했다 [출처: NBC News, 2024]. 이는 원고 측이 청구원인을 세우기 위해 제기한 주장이지 법원의 사실인정이 아니다. 이 구분은 형식적인 문제가 아니다. 뒤이어 나온 법 조문의 상당수 — 감정을 시뮬레이션하는 기능 금지, 위기 대응 프로토콜 의무화, 미성년자 대상 성적 콘텐츠 금지 — 는 어느 법원이 그 주장을 판단했든 아니든, 바로 그 주장의 양상에 대한 응답처럼 읽힌다.
법원이 판단한 것과 판단하지 않은 것
법적으로도 의미 있는 국면이 있었다. 캐릭터.AI는 자사 챗봇의 발화가 수정헌법 1조(표현의 자유)로 보호된다고 항변했지만, 연방판사는 2025년 이 주장을 기각하고 부당사망 소송이 진행되도록 허용했다 [출처: NBC News, 2025]. AI가 만들어내는 말에 헌법적 보호가 어디까지 미치는지를 시험한 초기 판례다. 그리고 2026년 1월 7일, 구글과 캐릭터.AI는 세처 유족과 조정으로 합의했다고 법원에 알렸다. 합의 조건은 공개되지 않았고, 콜로라도·뉴욕·텍사스에서 제기된 다른 아동 피해 소송들도 합의로 마무리됐다 [출처: CNN, 2026].
이 결정은 과잉 해석되기 쉽다. 그 단계에서 수정헌법 1조 항변을 기각했다는 것은 소송을 계속 진행할 수 있다는 뜻이었다. 세처의 죽음에 누가 책임이 있는지를 정한 것도 아니고, 기계가 만들어낸 글을 헌법이 어떻게 다룰지라는 더 큰 물음을 정리한 것도 아니다 [출처: NBC News, 2025]. 이어진 2026년 1월의 합의는 이 사건에서 판결이 나올 가능성을 없앴고, 합의 조건은 공개되지 않았다 [출처: CNN, 2026]. 결국 이 소송은 입법자들에게 선명한 사실 서사를 남겼을 뿐 구속력 있는 법리는 거의 남기지 못했다. 대응이 판례가 아니라 법률의 형태로 나온 이유 중 하나다.
이 사건을 어느 층위에서 읽을 것인가
다만 여기서 층위를 구분해야 한다. "챗봇이 죽음을 야기했다"는 서술은 소송에서 제기된 주장이고, 법원의 최종 사실판단이나 독립적 검증을 거친 결론이 아니다. 합의는 책임 인정과 같지 않다. 그럼에도 이 사건들이 입법자들에게 준 인상은 뚜렷했다 — 사람처럼 보이도록 설계된 챗봇이 취약한 미성년자와 깊은 정서적 관계를 맺을 때 무슨 일이 벌어질 수 있는가라는 질문이었다.
법은 무엇을 요구하나 — 캘리포니아 SB 243이라는 원형
이 질문에 가장 먼저 답한 법이 캘리포니아 SB 243이다. 스티브 파디야(Steve Padilla) 상원의원이 발의한 이 법은 개빈 뉴섬(Gavin Newsom) 주지사가 2025년 10월 13일 서명했고 2026년 1월 1일 발효됐다. 컴패니언 챗봇 안전을 다룬 "전국 최초"의 법으로 불린다 [출처: California State Senate, 2025]. 이후 다른 주 법안들이 참고하는 원형이 됐기 때문에, 이 법이 무엇을 요구하는지 보면 이 흐름 전체의 골격이 보인다.
네 갈래 요구사항을 하나씩
요구사항은 크게 네 갈래다. 첫째, 비인간 고지다. 합리적 사용자가 상대를 사람으로 오인할 수 있다면 챗봇이 인간이 아님을 알려야 하고, 미성년자에게는 챗봇이 AI가 만든 것이며 미성년자에게 적합하지 않을 수 있다는 점을 알리고 3시간마다 이를 상기시켜야 한다. 둘째, 미성년 보호다. 운영자는 미성년자가 성적 콘텐츠에 노출되지 않도록 해야 한다. 셋째, 자해·자살 대응이다. 운영자는 자살 관념이나 자해 표현에 대응하는 프로토콜을 두고, 사용자를 위기지원 서비스로 안내해야 한다. 넷째, 투명성과 구제다. 챗봇 사용과 자살 관념의 연관에 대해 캘리포니아 공중보건국 자살예방국에 2027년 7월 1일부터 연례 보고해야 하며, 위반 시 사용자는 실손해 또는 위반당 1,000달러 중 큰 금액을 청구할 수 있는 사인의 소권을 갖는다 [출처: California State Senate, 2025][출처: Davis Polk, 2026].
이 목록에서 두 가지는 한 번 더 볼 만하다. 하나, 구제수단이 돈만은 아니다. 실손해 또는 위반당 1,000달러 중 큰 금액과 함께 이 법은 금지명령과 변호사 비용까지 규정하는데, 이는 소송을 제기하는 문턱 자체를 낮추는 장치다 [출처: California State Senate, 2025]. 둘, 보고 의무는 법이 발효한 지 1년 반 뒤인 2027년 7월 1일에 시작된다. 이 시점에는 분명히 짚어둘 함의가 있다. 이 규칙들이 피해를 줄이는지 보여주는 공식 데이터는 아직 없다는 것이다. 지금 있는 것은 설계 요구사항 한 묶음과 그것을 나중에 측정하겠다는 일정이지, 측정 결과가 어떻게 나올지에 대한 근거가 아니다.
적용 범위의 기준, 그리고 뉴욕의 나란한 법
이 법은 규제 대상을 좁게 정의한다는 점도 중요하다. "인간 같은 응답을 제공하고 여러 상호작용에 걸쳐 관계를 지속하는 자연어 인터페이스"가 컴패니언 챗봇이며, 고객서비스 봇, 내부 생산성 도구, 연구·기술지원 시스템, 게임 관련 주제만 다루는 게임 봇, 소비자 기기의 음성비서 등은 면제된다 [출처: Davis Polk, 2026]. 뉴욕도 2025년 유사한 법을 제정해 2025년 11월 5일 발효시켰다. 뉴욕법은 자해·자살 탐지 프로토콜, 상호작용 시작 시와 3시간마다의 비인간 고지, 988 생명의전화 같은 위기 서비스 안내를 요구하며, 법무장관이 하루 최대 1만 5,000달러의 민사벌을 부과할 수 있게 했다 [출처: Davis Polk, 2026]. 캘리포니아와 뉴욕의 이 두 법이, 2026년 다른 주들이 올려 세운 건축물의 기초가 됐다.
캘리포니아와 뉴욕은 거의 같은 규칙에 서로 다른 집행 엔진을 달았다. 캘리포니아는 구제수단을 사용자에게 준다. 사용자는 실손해 또는 위반당 1,000달러 중 큰 금액을 청구할 수 있다. 뉴욕은 그것을 법무장관에게 준다. 법무장관은 하루 최대 1만 5,000달러의 민사벌과 금지명령을 구할 수 있다 [출처: California State Senate, 2025][출처: Davis Polk, 2026]. 한쪽은 소송을 낼 의사가 있는 사용자 수에 비례해 커지고, 다른 한쪽은 위반이 이어진 날수에 비례해 커지되 규제기관이 나설지에 달려 있다. 2026년에는 두 방식이 모두 복제됐다. 예컨대 워싱턴 HB 2225에는 사인의 소권이 들어 있다 [출처: Future of Privacy Forum, 2026].
발의 100건, 제정 14건 — 확산과 그 격차
여기서 반드시 구분해야 할 것이 발의와 제정의 차이다. 2026년에 컴패니언 챗봇 관련 법안은 100건 넘게 발의됐지만, 실제로 제정된 것은 14건이다 [출처: Tech Policy Press, 2026]. 집계는 출처에 따라 다르다. 정보프라이버시포럼은 챗봇 특화 법안 98건을 추적하며 그중 16건이 서명됐다고 본다 — 무엇을 "챗봇법"으로 셀지, 2025년 법을 포함할지에 따라 숫자가 달라진다 [출처: Future of Privacy Forum, 2026]. 그래서 단일 숫자로 단정하기보다, 발의된 법안의 절대다수는 제정에 이르지 못했다는 방향을 읽는 편이 정확하다.
두 추적기가 왜 다른 숫자를 내놓나
정보프라이버시포럼의 추적기는 2026년에 서명된 것으로 집계한 법안들을 이름까지 밝힌다. 캘리포니아 SB 243, 코네티컷 SB 5, 콜로라도 HB 1263, 조지아 SB 540, 하와이 SB 3001, 아이오와 SF 2417, 아이다호 SB 1297, 메인 LD 1727, 네브래스카 LB 525, 뉴햄프셔 HB 143, 뉴욕 S3008C와 S9008C, 오리건 SB 1546, 로드아일랜드 SB 2195, 유타 HB 452, 워싱턴 HB 2225다 [출처: Future of Privacy Forum, 2026]. 이 목록을 더 좁은 집계와 나란히 놓으면 차이가 저절로 설명된다. 여기에는 2025년에 서명된 법 — 캘리포니아 SB 243과 유타 HB 452 등 — 이 들어 있고, 2026년 5월 27일 서명된 코네티컷 SB 5처럼 컴패니언 챗봇보다 훨씬 넓은 범위를 규제하는 포괄적 AI법도 들어 있다 [출처: Future of Privacy Forum, 2026]. 어느 쪽 집계도 틀리지 않았다. 서로 다른 질문에 답하고 있을 뿐이고, 그래서 둘 중 하나를 그대로 '챗봇법의 개수'로 인용하는 것이 가장 빠르게 오해를 부르는 길이다.
뉴욕 2026년 법안, 단계별로
가장 선명한 사례가 뉴욕의 2026년 법안이다. 크리스틴 곤잘레스(Kristen Gonzalez) 상원의원과 앨릭스 보레스(Alex Bores) 하원의원이 발의한 S9051B("어린이 챗봇 안전법")는 2026년 6월 상원을 60대 0으로, 하원을 137대 0으로 통과했다 [출처: New York State Senate, 2026]. 사실상 만장일치다. 그러나 통과가 곧 제정은 아니다. 이 글을 쓰는 시점에 이 법안은 양원을 통과해 주지사의 처리를 기다리는 단계이며, 발효 예정일은 2027년 1월 1일로 잡혀 있다. 내용은 18세 미만에게 "불안전 기능" — 챗봇이 인간·생존·감정을 지녔다고 시사하거나, 우정·인간관계를 시뮬레이션하거나, 자해·자살·성적 행위를 조장하는 기능 — 을 성인임을 확인하지 않는 한 제공하지 못하게 하고, 위반 시 법무장관이 위반당 최대 2만 5,000달러를 물릴 수 있게 한다 [출처: New York State Senate, 2026].
표결 기록은 정확히 인용할 가치가 있다. 상원은 2026년 6월 4일 S9051B를 찬성 60, 반대 0, 기권 1로 통과시켰고, 하원이 137대 0으로 뒤를 이었다 [출처: New York State Senate, 2026]. 레티샤 제임스(Letitia James) 법무장관도 이 법안을 지지했다 [출처: New York State Senate, 2026]. 그다음이 이 글이 확정할 수 없는 대목이다. 주지사가 이미 처리했는지에 대해 확인 가능한 보도가 서로 엇갈리고, 한 자료는 서명·거부·미서명이라는 결정이 2026년 12월 31일까지 이어질 수 있다고 전한다. 편한 쪽을 골라 적기보다, 검증 가능한 상태 그대로 두는 편이 낫다. 양원 통과, 주지사 처리 대기다.
이 법안이 열거한 "불안전 기능"의 목록도 요약본이 주는 인상보다 길다. 챗봇이 인간이거나 살아 있거나 감정을 지녔다고 시사하는 기능, 우정이나 인간관계를 시뮬레이션하는 기능에 더해, 자해·자살·성적 행위를 조장하는 기능, 미성년자에게 상호작용을 비밀로 하거나 성인의 도움을 피하도록 부추기는 기능, 이전 세션의 건강정보를 이후 세션으로 끌어오는 기능까지 포함한다 [출처: New York State Senate, 2026]. 구제수단도 그만큼 넓다. 위반당 최대 2만 5,000달러의 제재에 더해, 법무장관은 원상회복, 이익 반환, 불법 취득한 데이터와 알고리즘의 파기, 실손해, 징벌적 손해배상까지 구할 수 있다 [출처: New York State Senate, 2026]. 다시 말하지만 이 모두는 법안이 법이 될 경우에 작동할 내용이다.
서명됐다는 것과 시행 중이라는 것은 다르다
주목할 대목이 하나 있다. 뉴욕 법안은 사업자가 여러 연령확인 방법을 제공하되, 그중 최소 하나는 정부 발급 신분증을 요구하지 않거나 사용자의 익명성을 유지하도록 명시한다 [출처: New York State Senate, 2026]. 이는 뒤에서 볼 프라이버시 비판에 대한 직접적인 응답이다. 다른 주도 움직였다. 워싱턴주는 HB 2225를 2026년 3월 24일 서명해 2027년 1월 1일 발효를 예고했고 [출처: Future of Privacy Forum, 2026], 코네티컷·콜로라도·조지아·유타·네브래스카·오리건 등도 범주와 발효일이 제각각인 관련법을 제정했다 [출처: Future of Privacy Forum, 2026]. 확산은 분명하되, 통일된 하나의 규칙이 아니라 서로 다른 설계의 법들이 동시에 쌓이고 있다.
이 이야기 전체에서 조용히 작동하는 변수가 발효일이다. 워싱턴은 2026년 3월 HB 2225에 서명했지만, 그곳 사용자에게 실제로 달라지는 것은 2027년 1월 1일부터다 [출처: Future of Privacy Forum, 2026]. 뉴욕의 2026년 법안도 같은 날짜를 발효 예정일로 잡고 있다 [출처: New York State Senate, 2026]. 캘리포니아법은 2026년 1월 1일부터, 뉴욕의 2025년 법은 2025년 11월 5일부터 이미 작동 중이다 [출처: California State Senate, 2025][출처: Davis Polk, 2026]. 그래서 전국 사용자를 상대하는 기업은 지금 두 개의 살아 있는 규제를 지키면서 최소 두 개를 더 준비하고, 아직 계획에 넣을 수도 없는 법안들을 지켜보고 있다. 하나의 전국 규칙이 아니라 조각보처럼 이어 붙은 규제라는 말의 실무적 의미가 이것이다.
안전과 프라이버시·표현의 줄다리기
규제를 지지하는 논리
이 입법을 미는 쪽의 논리는 분명하다. 앞서 본 소송들이 보여준 것은, 사람처럼 설계된 챗봇이 취약한 이용자를 정서적으로 붙잡아 두고, 성적 대화를 나누거나 자해를 부추기는 정황이었다. 참여를 극대화하도록 설계된 시스템이 미성년자에게 미치는 영향은 통제돼야 한다는 것이 안전 진영의 핵심 주장이다. 비인간 고지, 성적 콘텐츠 차단, 위기 안내 같은 요구는 이 문제의식에서 나온다.
이 논리를 무엇이 받치고 무엇이 받치지 않는지는 정확히 말해두는 편이 좋다. 기록으로 남은 것은 설계와 분쟁이다. 관계를 이어가도록 만들어진 챗봇, 미성년자와 성적 대화가 오갔다는 주장, 그리고 합의로 마무리된 일련의 소송이다. 아직 기록되지 않은 것은 효과다. 고지 의무나 콘텐츠 차단, 위기 안내가 피해를 줄인다는 것을 보여주는 데이터는 아직 없고, 캘리포니아의 보고 창구조차 2027년 7월 1일에야 열린다 [출처: California State Senate, 2025]. 이 법들을 지지하는 쪽은 결과 데이터가 아니라 작동 원리와 비극을 근거로 삼고 있다. 이제 막 만들어진 규제로서는 흔한 자리지만, 증명된 것처럼 포장하지 말고 있는 그대로 적는 편이 맞다.
프라이버시 쪽의 반론
그러나 반대편의 우려도 가볍지 않다. 첫째는 프라이버시다. 미성년자를 걸러내려면 사용자의 나이를 확인해야 하는데, 그 연령확인은 정부 발급 신분증이나 금융기록 같은 실세계 식별자를 요구하기 쉽다. 표현의자유수호재단(FIRE)은 이런 요건이 "신원과 온라인 활동을 연결하는 기록의 흔적"을 남겨, 결과적으로 신원 연동 감시 인프라를 구축하는 방향으로 작동할 수 있다고 경고한다 [출처: FIRE, 2026]. 챗봇과 대화하기 위해 자신이 누구인지 현실에서 증명해야 한다면, 익명으로 정보에 접근할 자유가 침식된다는 것이다.
표현의 자유 쪽의 반론
둘째는 표현의 자유다. 기술산업단체 넷초이스(NetChoice)는 일부 챗봇 규제가 헌법상 보호되는 권리와 충돌한다고 주장하며, 정부가 발화에 접근하기 전에 신원 제출을 요구하면 보호받아야 할 소통 자체가 위축된다고 본다. 넷초이스는 여러 주의 연령확인법에 소송을 제기했고 일부는 (적어도 일시적으로) 시행이 중단됐다 [출처: NetChoice, 2026]. 여기서 층위를 정확히 구분하는 것이 중요하다. 캐릭터.AI 소송에서 법원이 부인한 것은 "AI 자신의 발화권"이었던 반면, 넷초이스와 FIRE가 제기하는 것은 "이용자(성인 포함)의 접근권과 익명성"이라는 다른 문제다. 앞서 뉴욕 법안이 익명성을 유지하는 연령확인 방법을 최소 하나 요구한 것은, 바로 이 두 요구 사이에서 절충점을 찾으려는 시도로 읽을 수 있다.
자꾸 뒤섞이는 두 개의 질문
이 이야기의 양쪽에서 모두 "수정헌법 1조"라는 말이 나오기 때문에, 두 질문을 갈라 적어두는 편이 좋다. 첫째는 AI 시스템의 산출물 자체가 보호받는 표현인가라는 질문이다. 캐릭터.AI가 내세웠고 연방판사가 그 단계에서 기각한 주장이 이것이다 [출처: NBC News, 2025]. 둘째는 어떤 사람이 합법적으로 접할 수 있는 표현에 닿기 전에 주(州)가 신원 증명을 요구할 수 있는가라는 질문이다. 넷초이스와 FIRE가 연령확인 의무를 향해 제기하는 주장이 이것이다 [출처: NetChoice, 2026][출처: FIRE, 2026]. 첫째 질문에 대한 판단은 둘째 질문에 대해 아무것도 말해주지 않는다. 이 둘을 뭉치면 이 분야 보도에서 가장 흔한 두 가지 오독이 나온다. "법원이 챗봇에 권리가 없다고 했으니 규제해도 안전하다"와 "법원이 챗봇의 표현을 보호하니 이 법들은 무너질 것이다"이다.
연방의 두 방향 — GUARD법과 선점 압력
GUARD법
주 차원의 움직임과 나란히, 연방에서도 두 가지 상반된 힘이 작동한다. 하나는 규제를 미는 방향이다. 조시 홀리(Josh Hawley, 공화·미주리) 상원의원과 리처드 블루먼솔(Richard Blumenthal, 민주·코네티컷) 상원의원은 2025년 10월 GUARD법(미성년자를 AI 챗봇 피해로부터 보호하려는 연방 법안, S.3062)을 발의했다. 이 법안은 미성년자에게 AI 컴패니언 제공을 금지하고, 챗봇이 인간도 전문가도 아님을 고지하도록 하며, 모든 계정에 합리적 연령확인을 요구하고, 미성년자를 상대로 한 성적 행위나 자해 조장에 형사 벌칙을 두려 한다 [출처: U.S. Congress, 2025]. 상원 법사위원회는 2026년 4월 30일 이 법안을 만장일치로 가결했다 [출처: Senator Josh Hawley, 2026]. 다만 여기서도 발의·위원회 통과와 제정은 다르다 — 이 법안은 아직 상원 본회의 표결을 기다리는 단계다.
이 법안의 정치적 이력은 AI 입법에서 흔치 않다. 공화당과 민주당 의원이 함께 발의했고 초당적 공동발의자 17명이 붙었으며, 상원 법사위원회는 2026년 4월 30일 반대표 없이 가결했다 [출처: U.S. Congress, 2025][출처: Senator Josh Hawley, 2026]. 그 단계의 만장일치는 분명한 신호다. 다만 위원회에 대한 신호이지 상원 전체에 대한 신호는 아니다. 법안은 회기마다 본회의 일정에서 사라지고, 본회의 표결이 있기 전까지 GUARD법의 금지 조항들 — 미성년자에게 AI 컴패니언 제공 금지, 챗봇이 인간도 전문가도 아니라는 고지, 모든 계정에 대한 합리적 연령확인 — 은 제안으로 남는다 [출처: U.S. Congress, 2025].
선점 압력
다른 하나는 정반대로, 주 규제를 억제하려는 힘이다. 2025년 12월 트럼프 행정부는 "최소한의 부담"을 넘는 주 AI법에 도전하기 위한 AI 소송 태스크포스를 신설하는 행정명령에 서명했고, 상무부에는 "과도한" AI법을 제정한 주에 대해 BEAD 광대역 예산을 보류하는 방안을 검토하도록 지시했다 [출처: Tech Policy Press, 2026]. 즉 한쪽에서는 연방 차원의 강한 규제(GUARD법)를 추진하는 목소리가, 다른 쪽에서는 주의 규제를 연방이 선점·억제하려는 압력이 동시에 존재한다. 이 두 힘이 어떻게 정리되느냐가, 앞으로 컴패니언 챗봇 규제 지형을 크게 좌우할 것이다.
연방에서 오는 두 압력은 성격이 대칭적이지 않다. 하나는 통과될 경우 전국적인 하한선을 세우는 법안이다. 다른 하나는 의회가 움직이든 말든 작동하는 행정부의 전략 — 소송과 BEAD 광대역 예산이라는 지렛대 — 이다 [출처: Tech Policy Press, 2026]. 일어나지 않은 일도 짚어둘 만하다. 행정명령은 2025년 12월에 나왔지만, 주 의회들은 그 뒤로도 2026년 상반기에 AI법 109건을 제정했고 그중 가장 활발한 영역이 컴패니언 챗봇이었다 [출처: Tech Policy Press, 2026]. 적어도 지금까지 연방의 압력은 산출량을 늦추기보다 논의의 구도를 바꿔놓는 쪽으로 작동했다.
결론 — 무엇을 지켜볼지
2026년의 그림을 한 문장으로 요약하기는 어렵다. AI 컴패니언 챗봇은 주 AI 입법에서 가장 활발한 분야가 됐고, 캘리포니아와 뉴욕이 만든 원형을 여러 주가 이어받았다. 그러나 발의된 100건 넘는 법안의 절대다수는 제정에 이르지 못했고, 뉴욕의 2026년 법안은 양원을 통과하고도 주지사의 서명을 기다리며, 연방 GUARD법은 위원회를 넘어 본회의 앞에 서 있다. 규제의 열기는 뜨겁지만, "발의"에서 "작동하는 법"까지의 거리는 여전히 멀다.
그래서 앞으로 지켜볼 지점은 분명하다. 첫째, 뉴욕의 2026년 법안과 연방 GUARD법이 통과에서 제정으로 넘어가는가. 둘째, 법원이 연령확인 요건을 표현의 자유 침해로 보고 제동을 거는가, 아니면 미성년 보호를 위해 용인하는가. 셋째, 트럼프 행정부의 소송 태스크포스가 주 AI법을 실제로 무력화하는가. 넷째, 뉴욕이 제시한 "익명성을 유지하는 연령확인" 같은 절충안이 안전과 프라이버시의 접점으로 자리 잡는가. 다섯째, 이 모든 안전장치가 실제로 피해를 줄이는지가 데이터로 확인되는가. 지금 필요한 것은 어느 편이 옳다는 단정이 아니라, 아이들의 안전과 이용자의 권리를 같은 눈높이에서 함께 지켜보는 일이다.
마지막으로 실무적인 한 가지를 덧붙인다. 앞으로 열두 달은 이 이야기의 상당 부분이 종이에서 벗어나는 기간이다. 워싱턴 HB 2225와 뉴욕의 2026년 법안은 모두 2027년 1월 1일을 가리키고 있고, 캘리포니아가 자살예방국에 내는 첫 연례 보고는 2027년 7월 1일부터다 [출처: Future of Privacy Forum, 2026][출처: New York State Senate, 2026][출처: California State Senate, 2025]. 그 보고서는 이 글의 나머지가 전제로 삼고 있는 질문 — 이 규칙들이 정작 그 규칙이 지키려 한 사람들에게 무엇을 바꾸는가 — 에 대해 공식 숫자를 처음으로 손에 쥐게 되는, 예정된 시점이다. 그때까지의 정직한 요약은 이렇다. 법은 빠르게 움직였고, 근거는 아직 따라오지 못했다.