Model Besar AS akan ditutup atas nama keselamatan
Penulis:Xiao Jing
Editor: Seo Cyangyang
Pada awal 27 Juni, Anthropic mengumumkan bahwa Pemerintah Amerika Serikat telah menyetujui penerapan model keamanan cyber terkuat, Mythos 5, hingga lebih dari 100 lembaga Amerika Serikat, termasuk departemen bisnis dan pemerintah yang besar. Versi publikasi Fable 5 "Pemulihan dalam perjalanan"。
Menurut korespondensi dari Menteri Luar Negeri Lutnik untuk Tom Brown, pendiri Anthropic, Luttnik memberitahu Anthropic bahwa ia telah "ditetapkan bahwa perlindungan yang sesuai berada di tempat"。
Dalam surat yang sama, bagaimanapun, Lutnik menunjukkan bahwa semua persyaratan lain dari direktif awal 12 Juni masih berlakuDan tidak ada menyebutkan kapan Fable 5 akan dikembalikan ke publik。
Pada saat yang hampir sama, pada awal 27 Juni, OpenAI secara resmi merilis tiga modul seri GPT-5.6: Sol, Terra dan Luna. Juga atas permintaan Gedung Putih, GPS-5.6 terbuka untuk kunjungan API hanya untuk "mitra yang disetujui dalam kasus kasus-oleh Pemerintah", dan ChatGPT tidak on line。
Pada tanggal 2 Juni, Trump menandatangani AI Executive Order, pada 9 Juni, Anthropic mengeluarkan Fable 5 dan Mythos 5, pada 12 Juni, pada 12 Juni, Kementerian Perdagangan memerintahkan PHK penuh, pada 26 Juni, OpenAI mengeluarkan GPS-5.6 tetapi dibatasi untuk distribusi, dan pada 27 Juni, Mythos 5 diperbolehkan pemulihan terbatas。
KURANG DARI SEBULAN KEMUDIAN, PEMERINTAH AMERIKA SERIKAT MENGENDALIKAN MODEL AI GARIS DEPAN MELEWATI SIKLUS "STOP-CONDITIONAL RELEASE" PENUH。
Dean W. Ball (mantan konsultan AI Gedung Putih), kepala tim strategi OpenAI, merangkum dampak dari ini pada industri di blognya pada tanggal 16 Juni:FRONT- LINE AI MODEL PENGEMBANG SEKARANG PERLU PEMERINTAH -DIDEFINISIKAN 'LAMPU HIJAU' UNTUK RILIS. "。
Dean W. Ball, dalam artikel panjang berjudul "Apa Yang Harus Selesai" tanggal 26 Juni, berkomentar: "Tidak ada yang tahu persis apa yang diperlukan untuk mendapatkan izin. Di sini saya mengatakan" tidak ada ", yang secara harfiah berarti:Bahkan pemerintah tidak tahu tentang hal ituAku tidak tahu
Gambar:DeanDindingPanjangApa yang harus dilakukan
Apakah benar-benar cukup kuat untuk menjadi tidak aman
Ini adalah pertanyaan utama dari semuanya. Tindakan pemerintah didasarkan pada premis implisit: Kemampuan model ini cukup kuat untuk menimbulkan risiko keamanan yang tidak dapat diterima. Namun, penilaian resmi perusahaan sendiri memberikan kesimpulan yang berlawanan。
OpenAI menerbitkan penilaian keamanan lengkap di blog GPT-5.6, dan Sol tidak melewati garis ini, menurut kerangka kerja persiapan yang OpenAI sendiri telah mendirikan dan secara terbuka dirilis. Definisi Garis Merah dari kerangka kerja adalah apakah model dapat mengidentifikasi dan mengeksploitasi celah yang tidak diketahui dalam target bernilai tinggi tanpa bantuan manusia。
Hasil dari tes adalah bahwa Sol mampu mengidentifikasi celah di Chromium dan Firefox dan untuk menggunakan bahasa asli (teknik eksploitasi), tetapi bahwa "seluruh tersedia akhir-ke-akhir rantai serangan tidak dihasilkan otonom di bawah kondisi tes." Penilaian OpenAI sendiri adalah bahwa Sol lebih baik membantu orang menemukan lubang dan tambalan, dan bahwa ia tidak bertanggung jawab untuk serangan lengkap。
Tapi OpenAI kemudian menulis:Sangat emosional"benchmarks tidak dapat menangkap setiap cara model dapat digunakan atau digabungkan dengan alat lain." tapi siapa yang tahu cara kerjanya di dunia nyata? area ambiguitas abu-abu sengaja diciptakan。
Anthropic tidak begitu "intelektual". Dalam pernyataannya 13 Juni, Anthropic membantah argumen Pemerintah, satu per satu. Pemerintah mengklaim telah menemukan metode melarikan diri Fable 5, dan Anthropic menjawab: pertama, itu adalah "sederhana, bukan universal escape" yang pada dasarnya memungkinkan model untuk membaca kode dan kemudian menunjuk deficiensi; kedua, "model lain yang tersedia secara publik, termasuk OpenAI 's GPS-5, bisa melakukannya", dan ketiga, Anthropic menghabiskan ribuan jamTes tim merah"Tidak ditemukan penguji Umum Escape"。
CEO Anthropic Dario Amodei, dalam makalah panjang yang diterbitkan pada tanggal 11 Juni, Politas pada AI Express, telah dinilai situasi, menyatakan dengan jelas bahwa "Pemerintah dapat mencegah penyebaran yang tidak aman, menyediakan proses yang transparan, adil, jelas dan berdasarkan fakta teknis. Operasi ini tidak sesuai dengan prinsip-prinsip ini."
Dua pesaing yang paling intens, pada bulan yang sama, menggunakan sistem penilaian independen mereka sendiri untuk sampai pada kesimpulan yang sama: model ini tidak menimbulkan risiko yang tidak terhentikan di bawah kerangka keselamatan dibangun。
Jadi pertanyaannya muncul, jika model tidak melewati garis merah industri, bagaimana pemerintah bisa campur tangan? Dean Ball lebih lanjut diungkapkan bahwa Pemerintah sebelumnya telah terlibat dengan satu-satunya petugas dengan pengalaman AI terkemuka untuk memimpin Pusat AISI untuk Standards dan Innovation (KAISI), yang telah bertugas di OpenAI dan Anthropic tetapi telah diberhentikan pada tingkat senior selama beberapa hari. Tim CAISI yang tersisa berada dalam keadaan terkunci di seluruh "pos-krisis Mythos" dan bahkan tidak diizinkan untuk berkomunikasi dengan lembaga pemerintah lainnya。"TAK ADA SEORANG PUN DARI PEJABAT PEMERINTAH YANG SAYA KENAL DI TRUMP YANG MEMILIKI PENGALAMAN AI DI GARIS DEPAN"。
Bola berarti bahwa orang yang membuat keputusan regulasi tidak didefinisikan standar keamanan atau kapasitas teknis untuk menilai model。
Untuk melangkah lebih jauh, pertanyaan alami adalah, Fable 5 dan GPT-5.6 Sol benar-benar melintasi semacam "singularitas ancaman manusia"? Apakah ada garis merah objektif kemampuan yang harus dikontrol ketika menyeberang
BEBERAPA AHLI AI MENUNJUKKAN BAHWA GARIS TERSEBUT SECARA TEKNIS TIDAK TERSEDIA. KEMAMPUAN MODEL ADALAH KURVA PERTUMBUHAN TERUS MENERUS. SETIAP GENERASI MODEL ADALAH "TERTINGGI DALAM SEJARAH", TAPI HANYA KALI INI MEMICU INTERVENSI LANGSUNG PEMERINTAH。
Ada tiga kondisi implisit di balik ini:
Pertama, kemampuan telah menjadi "terbukti". Anthropic sendiri dipromosikan Mythos 5 sebagai "model cyber keamanan dunia terkuat", dan kasus Stripe bergerak 50 juta baris sehari secara luas disebarluaskan. Kisah-kisah ini memungkinkan negarawan yang tidak mengerti teknologi untuk membayangkan "bagaimana jika orang jahat menggunakannya"。
Mantan kepala Al ilmuwan, pemenang Turing Prize, MetaYann LeCunLogika ini dipublikasikan sejak awal November 2025: ketika Anthropic menerbitkan laporan pertama tentang ancaman serangan cyber, LeCun secara langsung menyebutnya "regulasi setelah", menuduh Anthropic menggunakan ketakutan keamanan AI dari "memanipulasi legislator" menjadi "penangkapan regulasi"。
LeCun kemudian dinilai:Perusahaan sumber dekat secara sistematis melebih-lebihkan ancaman keamanan AI, dengan tujuan menciptakan hambatan kepatuhan yang hanya bisa dilewati oleh perusahaan besar dan mengecualikan pesaing sumber terbuka. Antropic tidak berpikir bahwa batu telah memukul dirinya sendiri terlebih dahulu。
Kedua, seseorang menyerahkan pisau. CEO Amazon Andy Jassi memperkenalkan Pemerintah dengan laporan risiko keamanan untuk model Anthropic. Amazon adalah investor terbesar di Anthropic dan mitra layanan awan, dengan kompetisi untuk mempelajari model (Nova series) dan Anthropic. Akibatnya, Pemerintah memperoleh sumber legitimasi atas tindakannya。
Ketiga, Trump baru saja menandatangani AI Executive Order awal bulan ini untuk memberikan Pemerintah 60 hari untuk mengembangkan "peraturan sukarela" dari model perbatasan. Perintah eksekutif membutuhkan kasus penegakan pertama untuk membuktikan bahwa itu bukan pemborosan kertas. Fable 5 mengenai pistolnya。
Ini mengarah ke masalah yang lebih dalam, di mana "terlalu kuat untuk mengurus" dan "terlalu kuat" oleh regulator, standar tidak terbuka, ambang batas tidak jelas dan prosedur alternatif tidak tersedia, dan setiap model maju rilis di masa depan akan menghadapi ketidakpastian yang sama. Bisnis tidak tahu kapan model mereka akan memicu kontrol。
GAMBAR YANG DIHASILKAN OLEH AI
Cermin Sejarah 02, 30 tahun yang laluPerang Sandi
Upaya pemerintah Amerika Serikat untuk menggunakan kontrol ekspor untuk mengekang yang disebut proliferasi teknologi berbahaya adalah pengingat akan preseden sejarah yang sama, "Crypto Wars" tahun 1990-an。
Setelah berakhirnya perang dingin, Internet mulai mengkomersialisasi dan ilmuwan komputer mengembangkan teknik enkripsi untuk melindungi keamanan transmisi data. Pemerintah ASPaksa dekripsiDiagram sebagai "barang-barang militer", ditempatkan dalam daftar ekspor kontrol yang sama sebagai rudal, tank (ITAR / EAR). Logika sangat mirip dengan hari ini, jika musuh akan dikenakanNSAKomunikasi mereka tidak dapat dipantau (Badan Keamanan Nasional Amerika Serikat) dan keamanan nasional terancam。
INI BERARTI BAHWA PERUSAHAAN PERANGKAT LUNAK AMERIKA HANYA DAPAT MENGEKSPOR VERSI TERENKRIPSI YANG LEMAH DARI 40 KUNCI KEPADA PELANGGAN LUAR NEGERI, BAHWA NSA DAPAT DENGAN MUDAH MENEROBOS VERSI TERSEBUT, DAN BAHWA VERSI DOMESTIK DAPAT MENGGUNAKAN 128 SEKRETARIS. PENGGUNA ASING TAHU BAHWA MEREKA MENDAPATKAN VERSI PENGEBIRIAN DAN MULAI BERALIH KE PRODUK ALTERNATIF DI EROPA DAN ISRAEL。
Pada tahun 1991, seorang pecinta kata sandi bernama Phil Zimmermann menulis PGP (Pretty Good Privasi), sebuah perangkat lunak yang memungkinkan orang biasa menggunakan surat kewajiban keamanan. Dia mengunggah PGP ke Internet. Layanan Bea Cukai Amerika Serikat kemudian membuka investigasi kriminal terhadap dia untuk "ekspor ilegal pasokan militer"。
Penyerangan Zimmermann sangat cerdas: dia mencetak kode penuh PGP ke dalam sebuah buku. Buku-buku dilindungi oleh Amandemen Pertama dan kebebasan publikasi adalah hak konstitusional. Anda dapat mengontrol perangkat lunak, tetapi Anda tidak dapat melarang buku dari ekspor. Penyelidikan berlangsung tiga tahun dan berakhir pada tahun 1996 ketika Pemerintah tidak memulai proses。
Pada saat yang hampir sama, NSA meluncurkan program yang lebih radikal: chip Clipper. Ide desainnya adalah bahwa semua peralatan komunikasi harus dilengkapi dengan chip ini, yaitu untuk komunikasi terenkripsi, mekanisme host kunci untuk di dalam chip, dan dengan otorisasi penegakan hukum, Pemerintah dapat mendekripsi komunikasi melalui kunci hosting. Komunikasi antar pengguna dienkripsi ke pihak ketiga, tetapi Pemerintah dapat mendekripsi mereka setiap saat. Administrasi Clinton mendorong skema. Akibatnya, komunitas akademik menemukan cacat desain dari chip, perlawanan kolektif dari industri ilmiah dan teknologi, dan oposisi publik yang kuat, yang menyebabkan total kematian pada tahun 1996。
Pada tahun 1995, seorang matematikawan, Daniel Bernstein, ingin memasang kode sumber algoritmik terenkripsi sendiri secara online, yang dilarang oleh pemerintah dalam bidang kontrol ekspor. Dia menuntut Departemen Kehakiman. Pengadilan Banding ke-9 mengeluarkan keputusan yang sangat jauh: source code software adalah "speech" dilindungi oleh Amandemen Pertama dan ekspor pemerintah terhadap kode enkripsi adalah tidak konstitusional. Keputusan ini secara langsung merusak dasar hukum dari seluruh sistem kontrol。
PADA BULAN JANUARI 2000, ADMINISTRASI CLINTON SECARA SIGNIFIKAN MERINGANKAN YANG DIENKRIPSI EKSPOR KONTROL. ITU KARENA DI LUAR KENDALI. PGP TELAH MENYEBAR LUAS DI SELURUH DUNIA, ALGORITMA ENKRIPSI OPEN-SOURCE TERSEBAR DI SELURUH DUNIA, KONTROL HANYALAH MENGHAMBAT PERSAINGAN PERUSAHAAN AMERIKA SERIKAT, DAN KLIEN ASING TELAH BERGESER KE PEMASOK LAIN。
Enkripsi akhir-akhir sinyal hari ini dan WhatsApp dibuat setelah deregulasi. Produk-produk ini tidak akan ada jika kontrol tahun 1990-an terus berlangsung。
PADA TAHUN 1990-AN, APA YANG DIATUR ADALAH PEMAKSAAN ALGORITMA RAHASIA ATAS DASAR KEAMANAN NASIONAL, ALAT-ALAT YANG MENGENDALIKAN EKSPOR PASOKAN MILITER ITAR, CEDERA TERHADAP PERUSAHAAN PERANGKAT LUNAK AMERIKA SERIKAT (DIPAKSA UNTUK MENGEKSPOR VERSI LEMAH), DAN CEDERA KEPADA PENGEMBANG ASING (ALGORITMA TERENKRIPSI SENDIRI)。
PADA TAHUN 2026, ITU ADALAH BATAS DEPAN KEMAMPUAN MODEL AI YANG DIATUR UNTUK ALASAN ATAU KEAMANAN NASIONAL, DAN ALAT ADALAH DIREKTIF EKSPOR KONTROL。
Siapa yang benar-benar akan terluka kali ini
Komentar media asing bahwa:Tidak ada yang menghabiskan $100 miliar pada pusat data, melayani 100 perusahaan yang disetujui oleh Pemerintah "。
Biaya pelatihan model garis depan yang ditetapkan miliaran dolar, sementara biaya-jendela pemulihan hanya beberapa bulan setelah rilis, setelah model menjadi sub-perbatasan, dengan peningkatan kompetisi dan mengurangi keuntungan. Setiap minggu penundaan persetujuan adalah memakan jendela laba terbatas ini. Brandom menyimpulkan:"Jika berkelanjutan, dasar dari logika investasi seluruh industri akan terguncang"。
Argumen utama dari Jeffrey Ding, Asisten Profesor Ilmu Politik di George Washington University, adalah bahwa, dalam kompetisi teknologi di negara-negara besar, itu bukan yang menciptakan teknologi pertama, tetapi yang dapat menyebar lebih cepat di seluruh ekonomi. Hal ini terutama benar dari teknologi generik - yang membutuhkan proliferasi sosial luas, organisasi baru di mana mereka telah diciptakan dan skala besar penggunaan data-dunia nyata untuk menemukan batas-batas aplikasi nya. Dean Ball, mengutip Ding, menulis: "Penggunaan teknologi umum-tujuan telah ditemukan dan tidak sebelumnya dikenal"。
Namun di sisi lain lautan, model besar Cina sedang menuju pengembang global dengan cara terbuka。
ALGORITMA ENKRIPSI MURNI MATEMATIKA DAN TIDAK DAPAT DIAMBIL SEKALI DITERBITKAN. SEMENTARA BERAT MODEL AI MEMILIKI SIFAT YANG SAMA, ALASAN DARI MODEL PERBATASAN SUMBER DEKAT TIDAK BERKONSENTRASI DI BALIK API DARI BEBERAPA PERUSAHAAN。
NAMUN, KEMAMPUAN MODEL SUMBER TERBUKA SEDANG DIKEJAR DARI GENERASI KE GENERASI, DAN KONTROL DAPAT MEMPERLAMBAT PROLIFERASI DAN TIDAK BISA MENGHENTIKANNYA. BUTUH WAKTU HAMPIR 10 TAHUN DI TAHUN 1990-AN UNTUK MENCAPAI TITIK "DEREGULASI MENGATUR". APAKAH KONTROL AI MEMBUTUHKAN SIKLUS WAKTU YANG SAMA
Model Besar AS ada di era sensor
PADA BULAN JUNI 2026, SEJARAH INDUSTRI AI DAPAT MENANDAI TITIK BALIK: UNTUK PERTAMA KALINYA, PEMERINTAH BERHASIL MEMASUKKAN PERANNYA SEBAGAI PERSETUJUAN OTORITAS ANTARA MODEL AI BISNIS DAN PENGGUNANYA。
Dean Ball, dalam Apa Yang Harus Selesai, memperingatkan bahwa, jika pasar panik, itu akan jauh lebih efektif daripada industri AI itu sendiri: "Dari energi nuklir ke gas sampai listrik dan elektronik, investasi besar dalam industri-industri AS jelas atau secara implisit ditetapkan pada kebutuhan masa depan industri AI。Jika permintaan ini tidak dipenuhi oleh peraturan pemerintah, reaksi berantai akan jauh lebih besar daripada yang bisa dibayangkan "
Tapi Ball juga mengakui bahwa arah tidak sepenuhnya salah: "Keprihatinan bahwa garis depan AI memang memiliki potensi risiko bencana tidak palsu. Masalahnya adalah cara menerapkanProses persetujuan tanpa ahli teknis, tanpa kriteria yang jelas dan tanpa jadwal bukanlah jawabannya "
OpenAI menyatakan bahwa GPT-5.6 adalah "ukuran pendek" yang mungkin terbuka untuk publik dalam beberapa minggu. Namun, "pemulihan terbatas" dari 27 Juni di Mythos 5 telah memberikan sebuah template, apakah liberalisasi penuh atau hanya sebagian lembaga Amerika dan pembatasan lainnya tetap berlaku. Setiap sistem jangka panjang awalnya disebut sebagai "langkah-langkah jangka pendek"。
Dean Ball menyimpulkan dengan kalimat yang layak dipertimbangkan serius oleh semua: "Jika hanya sebagian kecil orang memiliki akses ke Frontline AI, masa depan yang buruk lebih mungkin terjadi. Karena beberapa orang itu, seringkali, telah diberkahi dengan kekuatan ekonomi dan politik yang besar"。
Diperkirakan bahwa komunitas global pengembang mengingat era peluncuran OpenAI, tanpa waktu panjang, terkejut dengan kemajuan model baru dan pengujian semalam dari skenario baru。
Sekarang, bagaimanapun, kita bisa "merangkak" dengan mengantisipasi rilis model besar Cina terbaru。
