미국 대형 모델은 안전의 이름으로 폐쇄 될 것입니다

저자:샤오 징

편집자: 서양양

 

지난 27 6 월, Anthropic은 미국 정부가 가장 강력한 사이버 보안 모델, Mythos 5, 100 미국 대 기업 및 정부 부서를 포함한 100 개 이상의 미국 기관에 대한 충실을 승인했다고 발표했습니다. Fable의 공공 중심 버전 5 "방법에 복구."。

외교 장관 인 Lutnik에서 Tom Brown에 대한 대응에 따르면, Anthropic의 공동 창업자 인 Luttnik은 " 적절한 보호가 일어났다"고 밝혔다。

같은 편지에서, 그러나 Lutnik은 12 6 월의 초기 지침의 다른 모든 요구가 여전히 강제로 지적했다그리고 Fable 5가 대중에게 복원 될 때 언급이 없습니다。

거의 같은 시간에, 27 6 월 초에, OpenAI 공식적으로 GPT-5.6 시리즈의 세 가지 모듈을 발표: Sol, Terra 및 Luna. 또한 화이트 하우스의 요청에 따라, GPS-5.6는 API 방문에 열려 “정부에 의해 케이스에 의해 승인되는 부분”, 및 ChatGPT는 라인에 없습니다。

전체 타임 라인에서 다시 찾고: 에 2 6월, 트럼프는 AI 집행 명령, 에 9 6월, Anthropic 발행 Fable 5 과 Mythos 5, 에 12 6월, 에 12 6월, 상공 회의소는 풀 렛을 주문, 에 26 6월, OpenAI 발행 GPS-5.6 하지만 배포에 제한, 그리고 27 6월, Mythos 5 제한 복구。

한 달 미만의 미국 정부의 전선 AI 모델의 제어는 전체 "STOP-NEGOTIATION-CONDITIONAL RELEASE" 사이클을 통해 갔다。

Dean W. Ball (former White House AI 컨설턴트), OpenAI 전략 팀의 책임자는 6 월 16 일에 블로그에서 업계에서이 영향력을 요약했습니다FRONT-LINE AI 모델 개발자는 정부 정의 된 `녹색 조명'을 출시해야합니다。

Dean W. Ball은 "Done"라는 긴 기사에서 6 월 26 일에 발표 된 것을 언급했습니다. "하나는 허가를 받아야하는 것을 정확히 알고 있습니다. 나는 "하나,"라고 말했습니다정부는 그것에 대해 모른다나는 모른다

그림:한국어벽큰 가슴Done는 무엇입니까

안전하지 않는 것이 정말 강한가요

이것은 전체의 중앙 질문입니다. 정부 활동은 implicit premise에 근거를 둡니다: 이 모델의 기능은 불허할 수없는 보안 위험에 충분히 강합니다. 그러나, 회사의 자신의 공식 평가는 정확한 반대 결론을 준。

OpenAI는 GPT-5.6 블로그에서 완벽한 보안 평가를 발표했으며, Sol는 OpenAI 자체가 설치 및 공개적으로 출시 된 예비 프레임 워크에 따라이 라인을 건너하지 않았다. 프레임 워크의 Red Line 정의는 모델이 자율적으로 식별하고 인간 지원없이 고가치 대상에서 알 수없는 루프 홀을 악화 할 수 있는지 여부입니다。

테스트 결과 Sol는 Chromium 및 Firefox에서 루프홀을 식별 할 수 있었고 원래 언어 (exploitation 기법)을 사용하지만, "전체 사용 가능한 엔드 투 엔드 공격 체인은 테스트 조건에서 자율적으로 생성되지 않았습니다." OpenAI의 자체 판단은 사람들이 홀과 패치를 발견하는 데 도움이되는 Sol가 더 좋으며, 그는 완전한 공격을 책임지지 않습니다。

그러나 OpenAI는 다음과 같이 썼습니다:아주 감정"벤치 마크는 다른 도구와 함께 사용되거나 컴파일 할 수있는 모든 방법을 캡처 할 수 없습니다." 그러나 실제 세계에 어떻게 작동합니까? ambiguity의 회색 지역은 deliberately 창조되었습니다。

Anthropic은 "intellectual"가 아닙니다. 6월 13일, Anthropic은 정부의 s 인수를 거부, 하나씩. 정부는 Fable 5's 탈출 방법을 발견했다 주장, 그리고 Anthropic 응답: 첫째, 그것은 “간단한, 비우주 탈출” 이는 근본적으로 코드를 읽을 수 모델이 허용, 그 후 부족을 지적; 두 번째, “다른 공개적으로 사용할 수 모델, OpenAI의 GPS-5/5을 포함, 그것을 할 수 있습니다”; 그리고 세 번째, Anthropic은 수천 시간을 보냈습니다빨간 팀 테스트"노 테스터는 일반 탈출을 발견"。

Anthropic CEO Dario Amodei, 에 게시 된 긴 종이 11 6 월, AI Express의 폴리 우레탄은 상황을 미리 판단했다, 명확하게 "정부는 안전한 배포를 방지 할 수있다, 공정은 투명, 공정, 명확하고 기술적인 사실을 기반으로. 이 작업은 이러한 원칙을 준수하지 않습니다. "

두 가지 가장 강렬한 경쟁자, 같은 달에, 자신의 독립적 인 평가 시스템을 사용하여 동일한 결론에 도착했습니다. 이 모델은 업계를 구축 한 안전 프레임 워크에서 비 배포 가능한 위험을 감안하지 않습니다。

그래서, 모델이 산업 적색 선을 교차하지 않는 경우, 정부는 어떻게 intervene 할 수 있습니까? Dean Ball은 이전에 OpenAI와 Anthropic에서 봉사 한 Standards and Innovation (CAISI)의 AISI Centre와 Anthropic을 의장으로 한 유일한 임원을 역임했으며 며칠 동안 수석 레벨에서 중단되었습니다. 나머지 CAISI 팀은 "post-Mythos 위기"를 통해 차단 상태에 있으며 다른 정부 기관과 통신 할 수 없습니다。트럼프의 정부 관계자 중 하나가 프론트 라인 AI 경험을 가지고 있습니다。

공은 규제 결정을 내릴 사람이 정의 된 보안 표준 또는 기술 용량이 모델을 평가하는 것을 의미합니다。

더 나아가려면 자연적 질문은 Fable 5 및 GPT-5.6 Sol는 "human 위협"의 일부 종류를 정말로 교차합니까? 교차할 때 제어해야 할 기능의 목적 빨간색 라인이 있습니까

몇몇 AI 전문가는 그런 선이 기술적으로 유효하지 않다는 것을 나타냅니다. 모형 기능은 지속적인 성장의 곡선입니다. 모형의 각 발생은 “역사에서 가장 높은”, 그러나 이 시간 방아쇠 직접적인 정부 개입입니다。

이 뒤에 3개의 implicit 조건이 있습니다:

첫째, 능력은 “demonstrable”. Anthropic 자신은 Mythos 5를 "세계의 가장 강력한 사이버 보안 모델"로 홍보했으며 줄무늬의 경우 50 백만 줄을 널리 분산되었습니다. 이 이야기는 "무 나쁜 사람들이 그들을 사용하는지"를 상상하기 위해 기술을 이해하지 않는 주체를 허용한다。

전 수석 AI 과학자, Turing Prize 수상자, Meta프로모션이 논리는 11 월 2025 이후 일찍 공개되었습니다. Anthropic은 사이버 공격의 위협에 대한 첫 번째 보고서를 발표했습니다. LeCun은 "통제 후"라고 불리며 AI 보안 두려움을 사용하여 Anthropic을 "통제 캡처"로 직접 불렀습니다。

LeCun 다음 판단 :닫히는 자원 회사 체계적으로 AI 안전 위협을, 큰 회사만 통행하고 공개 자원 경쟁자를 제외하고는 수락 장벽을 창조하는 것을 목표로 합니다. Antropic은 돌이 먼저 타격했다고 생각하지 않았습니다。

둘째, 누군가가 칼을 넘었다. Amazon CEO Andy Jassi는 Anthropic 모델의 보안 위험 보고서와 정부를 발표했습니다. 아마존은 Anthropic에서 가장 큰 투자자이며 클라우드 서비스 파트너는 자체 학습 모델 (Nova 시리즈) 및 Anthropic의 경쟁과 함께합니다. 그 결과, 정부는 그 행동에 대한 유산의 소스를 인수。

셋째, 트럼프는 이번 달에 AI Executive Order를 서명하여 정부를 60 일 전에 Frontier 모델의 "볼트 제출 규칙"을 개발합니다. 집행 명령은 첫 번째 시행 사례가 폐지가 아니라는 것을 증명해야합니다. Fable 5 총을 히트。

이 더 깊은 문제로 이어, “치료를 하기 위해 강한” 그리고 “강한” 레귤레이터에 의해, 기준은 열리지 않습니다, 문턱은 명확하지 않으며 회반 절차는 유효하지 않습니다, 그리고 미래에 있는 각 앞으로 모형 방출은 동일한 uncertainty 직면할 것입니다. 비즈니스는 모델이 제어를 트리거 할 때 모른다。

AI에 의해 생성된 그림

02 연혁 거울, 30년 전비밀번호

미국 정부의 시도는 수출 통제를 사용하여 위험 기술의 소위 증식은 1990 년대의 "Crypto Wars"와 유사한 역사적인 선행의 반향입니다。

추운 전쟁의 끝 후에, 인터넷은 상업화하기 위하여 시작하고 컴퓨터 과학자는 자료 전송의 안전을 보호하기 위하여 암호화 기술을 개발했습니다. 미국 정부힘 해독미사일, 탱크 (ITAR / EAR)와 같은 수출 제어 목록에 배치 된 "밀리차 항목"으로 분류. 논리는 오늘날과 매우 유사합니다. 적이 부과되면사이트맵그들의 커뮤니케이션은 감시될 수 없습니다 (미국 국가 안전국) 및 국가 안전은 위협됩니다。

이것은 미국 소프트웨어 회사가 해외 고객에게 40의 열쇠의 약한 암호화한 버전을 수출할 수 있다는 것을 의미합니다, NSA는 버전을 통해서 쉽게 끊을 수 있고, 국내 버전은 128의 비밀을 이용할 수 있습니다. 외국 사용자는 그들이 주조 버전을 얻고 유럽과 이스라엘의 대안 제품에 전환하기 시작했습니다。

1991 년 Phil Zimmermann이라는 암호 연인은 PGP (Pretty Good Privacy)를 썼으며, 일반 사람들이 메일의 필수 보안을 사용할 수있는 소프트웨어입니다. 그는 PGP를 인터넷에 업로드했습니다. United States Customs Service는 "군용 공급의 불법 수출"을 위해 그를 위해 범죄 조사를 열었습니다。

Zimmermann의 카운터-attack는 매우 clever였습니다. 그는 PGP의 전체 소스 코드를 책으로 인쇄했습니다. 책은 첫 번째 개정 및 출판의 자유에 의해 보호됩니다. 소프트웨어를 제어 할 수 있지만 수출에서 책을 금지 할 수 없습니다. 조사는 3 년을 지속하고 정부가 진행을 시작하지 않았을 때 1996 년에 종료。

거의 동시에 NSA는 더 급진적인 프로그램을 시작했습니다. Clipper 칩. 디자인 아이디어는 모든 통신 장비가 암호화 된 통신, 칩 내부에 대한 주요 호스팅 메커니즘, 법 집행의 허가와 함께, 정부는 호스팅 키를 통해 통신을 해독 할 수 있다는 것입니다. Inter-user 통신은 제 3자에게 암호화되지만 정부는 언제든지 해독 할 수 있습니다. Clinton 관리는 계획을 밀어. 결과적으로, 학문적인 지역 사회는 칩의 디자인 결점을, 과학과 기술 기업의 집단 저항, 그리고 1996년에 그것의 총 죽음에 지도되는 강한 공중 반대를 발견했습니다。

1995 년, 수학, Daniel Bernstein, 수출 통제 접지에 정부에 의해 금지 된 자신의 암호화 알고리즘 소스 코드를 온라인으로 게시하고 싶었다. 그는 정의의 사역. Ninth Circuit Court of Appeals는 far-reaching 결정을 발표했다. 소프트웨어 소스 코드는 최초의 개정 및 암호화 코드의 정부의 수출 통제에 의해 보호 된 "speech"이었다. 이 결정은 직접 전체 제어 시스템의 법적 근거를 정의합니다。

2000 년 1 월 CLINTON 관리는 암호화 된 수출 통제를 크게 용이하게했습니다. 제어 중입니다. PGP는 전 세계에서 긴 스프레드를 가지고 있으며, 오픈 소스 암호화 알고리즘은 전 세계적으로 널리 퍼져 있으며, 제어는 미국 회사의 경쟁력을 강화하고, 외국 고객은 이미 다른 공급 업체로 이동했습니다。

오늘날의 신호 및 WhatsApp의 엔드 투 엔드 암호화는 규제 후 생성되었습니다. 이 제품은 1990 년대의 통제가 현재까지 계속되었다면 존재하지 않을 것입니다。

1990 년대에 규제 된 것은 국가 보안의 배경에 비밀 알고리즘의 순간이었다, ITAR 군사 공급의 수출의 통제되는 도구, 미국 소프트웨어 회사에 부상 (약한 버전을 수출하는 강화), 외국 개발자에 부상 (자신 암호화 알고리즘)。

2026년에, 그것은 이유 또는 국가 안전을 위해 통제된 정면 선 AI 모형 기능이고, 공구는 수출 통제 지시입니다。

누구가 정말로이 시간을 아파 할 수 있습니까

외국 언론 의견 :데이터 센터에 100 억 달러를 지출하지 않고 정부가 승인 한 100 개 회사를 제공했습니다。

프론트 라인 모델의 교육 비용은 수십억 달러로 설정되었지만, 비용이 많이 드는 창은 출시 후 몇 개월 만에 불과했습니다. 모델이 하위 국경을 얻은 후, 경쟁을 증가시키고 수익성을 줄였습니다. 승인 지연의 매주이 제한된 이익 창을 먹는다. Brandom 결론:“지속한 경우, 전체 산업의 지속적인 투자 논리는 동요될 것입니다.”。

Jeffrey Ding의 중앙 인수, George Washington University의 정치 과학의 보조 교수는 큰 나라의 기술 경쟁에서, 기술 경쟁에서 먼저 기술을 발명하지는 않지만 경제를 통해 더 신속하게 확산 할 수 있습니다. 이것은 특히 일반 기술의 사실입니다. 이는 광범위한 사회 발전을 필요로하는 새로운 조직이 만들어지고 대규모 데이터의 실제 사용으로 인해 애플리케이션 경계를 발견 할 수 있습니다. Dean Ball, Ding 인용, 썼다 : "일반 기술의 사용은 이전에 알려진되지 않았습니다."。

그러나 바다의 다른 측면에, 중국의 큰 모델은 오픈 소스 패션의 글로벌 개발자를 향해 이끌고있다。

암호화 알고리즘은 순수한 수학이며 한 번 게시 할 수 없습니다. AI 모델의 무게는 유사한 속성을 가지고 있지만, 닫힌 소스 국경 모델의 이유는 몇 가지 회사의 API 뒤에 집중합니다。

그러나, 오픈 소스 모델의 기능은 세대에서 추구되고, 제어가 감소하고 중지 할 수 없습니다. 그것은 1990 년대에 거의 10 년이 "통제 조절"의 지점을 도달했습니다. AI 통제는 유사한 시간 주기를 필요로 합니까

미국 빅 모델은 검열 시대에 있습니까

6 월 2026에서 AI 산업의 역사는 전환점을 표시 할 수 있습니다. 처음에는 정부는 비즈니스 AI 모델과 사용자 사이의 승인 기관으로 역할을 삽입하여 성공했습니다。

Dean Ball은 Done이 될 때, 시장이 공황에있을 경우, AI 산업 자체보다 훨씬 효과적 일 것입니다 : "핵 에너지에서 가스에서 전기 및 전자에 이르기까지 미국 재 산업화의 대규모 투자는 명확하거나 AI 산업의 미래 요구에 전적으로 전염됩니다。이 수요가 정부 규정에 의해 충족되지 않는 경우, 체인 반응은 하나보다 훨씬 더 큰 상상할 수 있습니다. "

그러나 공은 방향이 완전히 잘못되지 않았다는 것을 인정했다 : "전선 AI가 잠재적으로 대변 위험이 위조되지 않는 우려. 문제는 구현의 방법입니다기술 전문가없이 승인 과정, 명확한 기준없이 및 시간표가 대답되지 않습니다. "

OpenAI는 GPT-5.6는 몇 주 안에 공개될 수 있는 “단기 측정”입니다. 그러나 Mythos 5의 27 6 월의 "제한 복구"는 전체 라이브러리 또는 일부 미국 기관 및 기타 제한이 힘에 남아 있는지 여부 템플릿을 부여했습니다. 각 장기 시스템은 초기적으로 "단기 측정"라고합니다。

Dean Ball은 모든 것에 대한 심각한 고려를받을 수있는 문장과 결론을 내립니다. "사람의 매우 작은 수는 Frontline AI에 액세스해야하는 경우 나쁜 미래는 더 많은 가능성이 발생합니다. 그 몇몇 때문에, 종종, 이미 큰 경제 및 정치적인 힘으로 끝났습니다。

개발자의 글로벌 커뮤니티가 OpenAI 출시 시대를 기억하고 새로운 모델의 발전과 새로운 시나리오의 밤새 테스트에 놀라지 않는 것으로 추정됩니다。

지금, 그러나, 우리는 중국의 최신 큰 모형의 방출을 주장하는 “크롤” 할 수 있습니다。