Anthropic이 미국 정부의 지시에 따라 AI 모델 Mythos에 대한 접근을 차단했습니다. 이는 국가 안보 관련 규제 조치로 보여집니다.
트럼프 행정부, 앤스로픽 AI 모델 해외 접근 차단 명령
앤스로픽이 개발한 최첨단 인공지능 모델인 ‘미토스’와 ‘페이블 5’에 대한 해외 사용자의 접근이 차단되었습니다. 트럼프 행정부는 국가안보를 이유로 미국 내외의 모든 외국인에게 이 모델들의 사용을 금지하도록 상무부를 통해 지시했습니다. 앤스로픽은 이 명령을 받은 후 모든 고객에 대해 두 시스템의 접근을 즉시 차단했습니다. 이는 미국 정부가 미국 기업이 개발한 최첨단 AI 모델에 대해 취한 가장 광범위한 조치입니다.
미국 정부는 과거 반도체와 슈퍼컴퓨터 같은 기술에 대해 해외 접근을 제한해왔지만, 소프트웨어 자체에 대한 직접적인 제한은 헌법적, 상업적 우려를 야기합니다. 앤스로픽은 정부가 페이블 5의 보안 장치를 우회할 수 있는 ‘탈옥’ 가능성을 발견한 후 이 명령을 내렸다고 밝혔습니다. 회사는 성명을 통해 이러한 좁은 범위의 잠재적 탈옥이 수억 명의 사용자에게 배포된 상용 모델을 회수할 이유가 되어서는 안 된다고 주장했습니다.
아마존 연구팀이 앤스로픽 모델의 취약점을 드러내는 탈옥 연구를 수행했으며, 이는 월스트리트저널에 보도되었습니다. 아마존과 미국 정부는 통제 조치가 시행되기 전에 이 취약점에 대해 접촉했으며, 앤디 재시 아마존 최고경영자도 이 논의에 참여했습니다. 아마존 대변인은 정부가 보안 위험에 대해 회사와 상담하는 것이 흔하다고 했지만 구체적인 내용은 공개하지 않았습니다.
업계 리더들의 우려와 정책 방향의 충돌
이번 조치는 OpenAI, 구글, 메타 등 주요 AI 모델 개발사들에게 선례를 설정할 가능성이 있습니다. 과거 엔비디아의 젠슨 황 최고경영자와 OpenAI의 샘 알트만 최고경영자는 미국 정부가 미국 AI 시스템의 전 세계 채택을 촉진하고 국가의 기술 우위를 보호할 것을 권장해왔습니다. 코히어의 공동 창립자 에이단 고메즈는 이번 조치를 ‘거대한 경고’라고 표현하며 정부의 영향력 행사가 더 이상 부인할 수 없다고 지적했습니다.
트럼프 행정부의 이번 지시는 최근 서명한 행정명령과도 모순됩니다. 그 행정명령은 모델 검토를 위한 의무적 허가 체계를 추진하지 않겠다고 명시했었습니다. 앤스로픽은 금요일 오후 5시 21분(뉴욕 시간)에 정부 명령을 받았으며, 업무 시간 말에 내려진 이 지시는 앞서의 정책 방향과 배치됩니다.
앤스로픽과 트럼프 행정부 간의 긴장은 이미 고조되어 있었습니다. 올해 초 앤스로픽은 군사 및 감시 목적의 기술 사용을 놓고 국방부와 충돌했으며, 행정부는 회사를 미국 공급망 위험으로 선언하고 정부 기관에 제품 사용을 단계적으로 중단하도록 명령했습니다. 트럼프의 전 AI 담당자이자 현재 대통령 과학기술자문위원회 공동의장인 데이비드 색스는 앤스로픽이 페이블 모델의 탈옥을 수정하기를 거부했다고 주장했습니다.
앤스로픽의 책임 있는 AI 개발 입장과 현실의 괴리
책임 있는 AI 개발자로 자리매김해온 앤스로픽은 4월 제한된 범위의 기업과 기관에만 미토스 모델을 출시했습니다. 사이버보안 취약점을 찾는 능력이 광범위한 배포에 너무 위험하다고 경고했던 것입니다. 초기에는 이 제한된 출시가 앤스로픽과 트럼프 행정부 간의 긴장을 완화하는 데 효과가 있는 것으로 보였습니다. 블룸버그 보도에 따르면 4월에 미국 정부는 미토스의 한 버전을 주요 연방 기관에 제공할 준비를 하고 있었습니다.
미토스는 또한 트럼프 행정부의 AI 정책 추진을 가속화했으며, 자발적 모델 검토를 요구하는 행정명령으로 이어졌습니다. 앤스로픽은 이달 초 정부와 AI 개발자가 기술이 초래할 수 있는 위험을 막기 위해 언제 작업을 늦출지 함께 결정하는 체계 구축을 촉구하는 긴 블로그 글을 게시했습니다. AI가 인간의 업무 효율을 수천 배 높이거나 대체할 수 있는 수준으로 발전하고 있다는 점에서 새로운 위험이 생기고 있다고 회사는 설명했습니다.
데이비드 색스는 행정부의 희망이 앤스로픽이 안전 문제를 해결하고 수출 통제가 해제되며 페이블이 일반 공개되는 것이라고 X에 글을 올렸습니다. 그는 앤스로픽이 이전에 최우선 과제라고 말했던 안전 요청에 응하지 않은 것에 놀라움을 표했습니다.
AI 경쟁과 IPO 추진 속 규제 압박
최신 정부 제한은 미국 개발사들이 가장 첨단 AI 모델을 제공하고 투자자들에게 기술의 수익성을 입증하려는 경쟁과 충돌하고 있습니다. OpenAI와 앤스로픽 모두 올해 안에 기업공개를 추진하고 있으며, 이는 스페이스X의 역사적 IPO에 이은 것입니다. 최첨단 AI 모델 제공을 향한 경쟁은 기술 개발 속도와 안전성 사이의 균형 문제를 더욱 심화시키고 있습니다.
유럽연합 집행위원회는 앤스로픽의 성명을 평가하고 있으며 강력한 새로운 AI 모델과 관련된 잠재적 위험과 사이버보안 우려에 대해 동맹국들과 계속 대화하고 있습니다. 유럽 위원회는 최근의 발전이 유럽의 기술 주권 필요성을 강조한다고 덧붙였습니다. 코히어의 고메즈는 이 상황이 지난 80년간 발전해온 광범위한 기술 동맹에 좋지 않다고 평가했습니다.
AI 규제와 기술 주권: 알아두면 좋은 배경 지식
AI 모델의 ‘탈옥’이란 개발사가 설정한 안전 장치를 우회하여 의도하지 않은 방식으로 모델을 사용하는 것을 의미합니다. 이는 사이버보안 전문가들이 시스템의 취약점을 테스트할 때 발견될 수 있으며, 악의적 사용자도 이를 악용할 수 있습니다. 기업들은 이러한 취약점을 발견하면 수정하려고 노력하지만, 완전히 제거하기는 어렵습니다.
국가안보를 이유로 한 기술 제한은 반도체, 슈퍼컴퓨터 등 여러 분야에서 이미 시행되어 왔습니다. 하지만 소프트웨어 자체에 대한 직접적인 접근 제한은 상대적으로 새로운 시도입니다. 이는 기업의 상업적 이익과 국가의 안보 우려 사이의 균형을 맞추는 데 어려움을 야기합니다. 기술 주권은 국가가 핵심 기술을 자체적으로 개발하고 통제할 수 있는 능력을 의미하며, 유럽 등 여러 지역에서 강조되고 있습니다.
※ 본 글은 일반 정보이므로 결과에 대한 책임을 보장하지 않습니다. 전문가 상담을 권합니다.