Model Besar Amerika Serikat akan ditutup atas nama keselamatan

Penulis:Xiao Jing

Penyunting: Seo Cyangyangyang

 

Pada awal 27 Juni, Anthropic mengumumkan bahwa Pemerintah Amerika Serikat telah menyetujui pengerahan ulang model keamanan cyber terkuatnya, Mythos 5, ke lebih dari 100 lembaga Amerika Serikat, termasuk bisnis besar dan departemen pemerintah. A versi berorientasi publik Fable 5 " Pemulihan di jalan."。

Menurut korespondensi dari Menteri Luar Negeri Lutnik kepada Tom Brown, rekan pendiri Antropik, Luttnik memberi tahu Antropika bahwa ia telah ” mendirikan bahwa perlindungan yang tepat berada di tempat ”。

Namun, dalam surat yang sama, Lutnik menunjukkan bahwa semua persyaratan lain dari arahan awal 12 Juni masih berlakuDan tidak disebutkan kapan Fable 5 akan dikembalikan ke publik。

Pada waktu yang hampir bersamaan, pada jam-jam awal 27 Juni, OpenAI resmi merilis tiga modul dari seri GPT-5-56: Sol, Terra dan Luna. Juga atas permintaan Gedung Putih, GPS-5,6 terbuka untuk kunjungan API hanya untuk \"rekan-rekan yang disetujui berdasarkan kasus oleh Pemerintah\", dan ChatGPT tidak tersambung。

Setelah melihat kembali seluruh garis waktu: Pada 2 Juni, Trump menandatangani AI Executive Orders, pada 9 Juni, Anthropic mengeluarkan Fable 5 dan Mythos 5, pada 12 Juni. Pada 12 Juni, Kementerian Perdagangan memerintahkan PHK penuh, pada 26 Juni, OpenAI mengeluarkan GPS-5,6 tetapi dibatasi untuk distribusi, dan pada 27 Juni, Mythos 5 diizinkan pemulihan terbatas。

KURANG DARI SEBULAN KEMUDIAN, PEMERINTAH AMERIKA SERIKAT MENGENDALIKAN MODEL AI GARIS DEPAN MELALUI SIKLUS \"STOP-NEGOSIASI-CONDITIONAL RELEASE\" PENUH。

Nagoza Dean W. Ball (former konsultan AI Gedung Putih), kepala tim strategi OpenAI, merangkum dampak ini pada industri dalam blognya pada tanggal 16 JuniPENGEMBANG MODEL AI GARIS-DEPAN YANG KINI MEMBUTUHKAN DEFINED PEMERINTAH 'LAMPU HIJAU' UNTUK RILIS.\"。

Ia menulis, ” Tidak ada yang tahu persis apa yang dibutuhkan untuk memperoleh izin. Di sini saya katakan "tidak ada," yang secara harfiah berarti:Bahkan pemerintah tidak tahu tentang hal ituAku tidak tahu

Gambar:DeanWall'sFiji LongApa yang Harus Dilakukan

Apakah itu benar-benar cukup kuat untuk tidak aman

Ini adalah pertanyaan utama dari semuanya. Tindakan Pemerintah didasarkan pada premis implisit: Kemampuan para model ini cukup kuat untuk menimbulkan risiko keamanan yang tidak dapat diterima. Namun, penilaian resmi perusahaan memberikan kesimpulan yang berlawanan。

Ia menerbitkan penilaian keamanan lengkap dalam blog GPT-5-56, dan Sol tidak melewati garis ini, menurut kerangka preparatori yang telah didirikan OpenAI sendiri dan dirilis secara publik. Definisi Jalur Merah dari kerangka kerja adalah apakah model dapat secara otonom mengidentifikasi dan mengeksploitasi celah yang tidak diketahui dalam target bernilai tinggi tanpa bantuan manusia。

Hasil uji coba tersebut adalah Sol dapat mengidentifikasi celah pada Chromium dan Firefox dan menggunakan bahasa asli (teknik eksploitasi), tetapi bahwa \"seluruh rantai serangan akhir-ke-akhir yang tersedia tidak dihasilkan secara otonom di bawah kondisi uji coba\". Penilaian OpenAI sendiri adalah bahwa Sol lebih baik membantu orang menemukan lubang dan patch, dan bahwa ia tidak bertanggung jawab untuk serangan lengkap。

Tapi OpenAI kemudian menulis:Sangat emosional"benchmarks tidak dapat menangkap setiap cara model dapat digunakan atau digabungkan dengan alat lain." tapi siapa yang tahu cara kerjanya di dunia nyata? a daerah kelabu ambiguitas sengaja diciptakan。

Antropik tidak begitu "intelektual." Dalam pernyataannya 13 Juni, Antropik menolak argumen Pemerintah, satu per satu. Pemerintah mengklaim telah menemukan metode melarikan diri Fable 5, dan Antropik menjawab: pertama, itu adalah \"jalan keluar non-universal yang sederhana dan tidak universal\" yang pada dasarnya memungkinkan model membaca kode dan kemudian menunjukkan kekurangan; kedua, \"model lain yang tersedia di depan umum, termasuk GPS-5/5 OpenAI, dapat melakukannya\"; dan ketiga, Antropik menghabiskan ribuan jamTes tim merah\"Tidak ada penguji yang menemukan General Escape\"。

CEO Anthropic, Dario Amodei, dalam sebuah makalah panjang yang diterbitkan pada 11 Juni, Polity on the AI Express, telah menilai situasinya, dengan jelas menyatakan bahwa ” Pemerintah dapat mencegah penyebaran yang tidak aman, asalkan prosesnya transparan, adil, jelas dan berdasarkan fakta teknis. Operasi ini tidak sesuai dengan prinsip-prinsip ini. \"

Dua pesaing paling intens, pada bulan yang sama, menggunakan sistem penilaian independen mereka sendiri untuk tiba pada kesimpulan yang sama: model-model ini tidak menimbulkan risiko non-deployable di bawah kerangka keamanan industri dibangun。

Jadi pertanyaan muncul, jika model tidak melintasi garis merah industri, bagaimana bisa Pemerintah campur tangan? Iadikan Dean Ball lebih lanjut mengungkapkan bahwa Pemerintah sebelumnya telah bertunangan dengan perwira tunggal dengan pengalaman AI terkemuka untuk kursi AISI Centre for Standards and Innovation (CAISI), yang telah bertugas di OpenAI dan Antropik tetapi telah diberhentikan di tingkat senior selama beberapa hari. Regu CAISI yang tersisa berada dalam keadaan terkunci di seluruh ” krisis pos-Mythos” dan bahkan tidak diperbolehkan berkomunikasi dengan lembaga pemerintah lainnya。\"TAK SEORANG PUN DARI PEJABAT PEMERINTAH YANG SAYA KENAL DI TRUMP MEMILIKI PENGALAMAN AI GARIS DEPAN\"。

Bola BAHASA berarti bahwa orang yang membuat keputusan regulator tidak mendefinisikan standar keamanan maupun kapasitas teknis untuk menilai model。

Pertanyaannya adalah, apakah Fable 5 dan GPT-5,6 Sol benar-benar melintasi semacam \"singularitas ancaman manusia\"? Apakah ada garis merah kemampuan obyektif yang harus dikendalikan ketika menyeberang

BEBERAPA PAKAR AI MENUNJUKKAN BAHWA BARIS SEMACAM ITU TIDAK TERSEDIA SECARA TEKNIS. KEMAMPUAN MODEL ADALAH KURVA PERTUMBUHAN TERUS MENERUS. SETIAP GENERASI MODEL \"TERTINGGI DALAM SEJARAH\", TETAPI HANYA KALI INI MEMICU INTERVENSI PEMERINTAH LANGSUNG。

Ada tiga kondisi implisit di balik ini:

Pertama, kemampuan telah menjadi \"diberdayakan\". Antropis sendiri mempromosikan Mythos 5 sebagai \"model keamanan cyber terkuat di dunia\", dan kasus Stripe yang bergerak 50 juta baris per hari disebarluaskan. Cerita-cerita ini memungkinkan para negarawan yang tidak mengerti teknologi membayangkan \"bagaimana jika orang jahat menggunakannya\"。

Mantan kepala ilmuwan AI, Turing Prize pemenang, MetaYann LeCunLogika ini dibuat publik pada awal November 2025: ketika Antropik menerbitkan laporan pertamanya tentang ancaman serangan siber, LeCun secara langsung menyebutnya \"regulatory after\", menuduh Antropik menggunakan rasa takut keamanan AI terhadap \"manipulasi legislator\" kepada \"regulatory capture\"。

LeCun kemudian dinilai:Perusahaan Closed-source secara sistematis melebih-lebihkan ancaman keamanan AI, dengan tujuan menciptakan hambatan kepatuhan yang hanya dapat dilewati perusahaan besar dan mengecualikan pesaing open-source. Anatropika tidak menyangka bahwa batu itu telah menghantam dirinya sendiri terlebih dahulu。

Kedua, seseorang menyerahkan pisau. CEO Amazon Andy Jassi mempersembahkan kepada Pemerintah laporan risiko keamanan untuk model Anthropic. Andobia Amazon adalah investor terbesar di Anthropic dan rekan layanan cloudnya, dengan persaingan untuk model self study (Nova series) dan Anthropic. Akibatnya, Pemerintah memperoleh sumber legitimasi atas tindakannya。

Ketiga, Trump baru saja menandatangani AI Executive Order awal bulan ini untuk memberikan Pemerintah 60 hari untuk mengembangkan \"aturan penyerahan sukarela\" model perbatasan. Perintah eksekutif eksekutif membutuhkan kasus penegakan pertama untuk membuktikan bahwa itu bukan kertas buangan. Fable 5 menembak。

Hal ini mengarah ke masalah yang lebih dalam, di mana \"terlalu kuat untuk mengurus\" dan \"terlalu kuat\" oleh regulator, standar tidak terbuka, ambang batas tidak jelas dan prosedur recourse tidak tersedia, dan setiap model maju rilis di masa depan akan menghadapi ketidakpastian yang sama. Bisnis bisnis tidak tahu kapan model mereka akan memicu kontrol。

GAMBAR YANG DIHASILKAN OLEH AI

Cermin Sejarah 02, 30 tahun yang laluPerang Kata Sandi

Upaya pemerintah Amerika Serikat untuk menggunakan kontrol ekspor untuk mengekang apa yang disebut proliferasi teknologi berbahaya adalah mengenang preseden sejarah serupa, yaitu Perang "Crypto" tahun 1990-an。

Setelah akhir perang dingin, Internet mulai komersialisasi dan ilmuwan komputer mengembangkan teknik enkripsi untuk melindungi keamanan transmisi data. Pemerintah ASDekripsi Paksaan KhripsiDikategorikan sebagai \"barang militer\", ditempatkan pada daftar kontrol ekspor yang sama dengan rudal, tank (ITAR/EAR). Logikanya sangat mirip dengan hari ini, jika musuh diberlakukanNSAKomunikasi mereka tidak dapat dipantau (United States National Security Agency) dan keamanan nasional terancam。

INI BERARTI BAHWA PERUSAHAAN PERANGKAT LUNAK AMERIKA HANYA DAPAT MENGEKSPOR VERSI TERENKRIPSI LEMAH DARI 40 KUNCI KE PELANGGAN LUAR NEGERI, BAHWA NSA DAPAT DENGAN MUDAH MENEROBOS VERSI, DAN BAHWA VERSI DOMESTIK DAPAT MENGGUNAKAN 128 SEKRESI. PENGGUNA-PENGGUNA ASING DARI BANGSA ASING ITU TAHU BAHWA MEREKA MENDAPATKAN VERSI PENGEBIRIAN DAN MULAI BERALIH KE PRODUK ALTERNATIF DI EROPA DAN ISRAEL。

Pada tahun 1991, seorang kekasih kata sandi bernama Phil Zimmermann menulis PGP (Pretty Good Privacy), sebuah perangkat lunak yang memungkinkan orang-orang biasa menggunakan keamanan wajib surat. Dia mengunggah PGP ke Internet. Setelah itu, Dinas Bea Cukai Amerika Serikat membuka penyelidikan kriminal terhadapnya untuk ” ekspor ilegal persediaan militer ”。

Serangan balasan Zimmermann sangat pintar: ia mencetak kode sumber penuh PGP ke dalam sebuah buku. Buku-buku dilindungi oleh Amandemen Pertama dan kebebasan publikasi adalah hak konstitusional. Anda dapat mengontrol perangkat lunak, tetapi Anda tidak dapat melarang buku dari ekspor. Penyidikan ini berlangsung selama tiga tahun dan berakhir pada tahun 1996 ketika Pemerintah tidak memulai proses。

Pada saat yang hampir bersamaan, NSA meluncurkan program yang lebih radikal: chip Clipper. Ide desain adalah bahwa semua peralatan komunikasi harus dilengkapi dengan chip ini, yaitu untuk komunikasi terenkripsi, mekanisme hosting kunci untuk di dalam chip, dan itu, dengan otorisasi penegakan hukum, Pemerintah dapat mendekripsi komunikasi melalui kunci hosting. Komunikasi antar pengguna dienkripsi ke pihak ketiga, tetapi Pemerintah dapat menyandikannya kapan saja. Pemerintahan Clinton mendorong skema. Akibatnya, komunitas akademik menemukan cacat desain chip, perlawanan kolektif dari industri ilmiah dan teknologi, dan oposisi publik yang kuat, yang menyebabkan total kematiannya pada tahun 1996。

Pada tahun 1995, seorang matematikawan, Daniel Bernstein, ingin memposting kode sumber algoritma sendiri yang dienkripsi secara online, yang dilarang oleh Pemerintah atas dasar kontrol ekspor. Dia menggugat Kementerian Kehakiman. Pengadilan Banding Sirkuit Kesembilan mengeluarkan keputusan yang jauh mendekati: kode sumber perangkat lunak merupakan \"pelanggaran\" yang dilindungi oleh Amendemen Pertama dan kontrol ekspor Pemerintah atas kode enkripsi tidak konstitusional. Keputusan ini secara langsung melemahkan dasar hukum dari seluruh sistem kontrol。

PADA JANUARI 2000, ADMINISTRASI CLINTON SECARA SIGNIFIKAN MERINGANKAN KONTROL EKSPOR TERENKRIPSINYA. ITU KARENA DI LUAR KENDALI. TRANSISI PGP TELAH LAMA MENYEBAR KE SELURUH DUNIA, ALGORITMA ENKRIPSI OPEN-SOURCE TERSEBAR LUAS DI SELURUH DUNIA, KONTROL HANYA MENGHAMBAT PERSAINGAN PERUSAHAAN AMERIKA SERIKAT, DAN KLIEN ASING SUDAH BERGESER KE PEMASOK LAIN。

Enkripsi akhir-ke-akhir dari Signal hari ini dan WhatsApp diciptakan setelah deregulasi. Produk-produk ini tidak akan ada jika kontrol tahun 1990-an masih berlanjut hingga saat ini。

KEKHALIFAHAN PADA 1990-AN, YANG DIATUR ADALAH IMPOSISI ALGORITME RAHASIA DENGAN ALASAN KEAMANAN NASIONAL, ALAT YANG MENJADI KONTROL EKSPOR PERSEDIAAN MILITER ITAR, CEDERA PERUSAHAAN PERANGKAT LUNAK AMERIKA SERIKAT (DIPAKSA UNTUK MENGEKSPOR VERSI LEMAH), DAN CEDERA KEPADA PENGEMBANG ASING (SELF-ENCRYPTED ALGORITHMS)。

PADA TAHUN 2026, ITU ADALAH KEMAMPUAN MODEL AI GARIS DEPAN YANG DIATUR UNTUK ALASAN ATAU KEAMANAN NASIONAL, DAN ALAT ITU ADALAH ARAHAN KONTROL EKSPOR。

Siapa yang akan terluka kali ini

Media asing berkomentar bahwa:Tidak ada yang menghabiskan $100 miliar untuk pusat data, melayani 100 perusahaan yang disetujui oleh Pemerintah。

Biaya pelatihan model garis depan ditetapkan sebesar miliaran dolar, sementara biaya-pemulihan jendela hanya beberapa bulan setelah rilis, setelah itu model menjadi sub-frontier, dengan peningkatan persaingan dan pengurangan profitabilitas. Setiap minggu penundaan persetujuan adalah memakan jendela laba terbatas ini. Simpensi kata Brandom:\"Jika berkelanjutan, logika investasi dasar dari seluruh industri akan terguncang\"。

argumen sentral Jeffrey Ding, Asisten Profesor Ilmu Politik di Universitas George Washington, adalah bahwa, dalam persaingan teknologi di negara-negara besar, bukan yang menciptakan teknologi terlebih dahulu, tetapi yang dapat menyebarkannya lebih cepat di seluruh ekonomi. Hal ini khususnya berlaku bagi teknologi generik — yang membutuhkan proliferasi sosial yang meluas, organisasi baru di mana mereka telah diciptakan dan penggunaan data dunia nyata berskala besar untuk menemukan batas aplikasinya. Ia menulis, \"Penggunaan teknologi serba guna telah ditemukan dan belum diketahui sebelumnya\"。

Tapi di sisi lain laut, model besar Cina sedang menuju pengembang global dalam mode open-source。

ALGORITMA ENKRIPSI ENKRIPSI ADALAH MATEMATIKA MURNI DAN TIDAK DAPAT DIAMBIL SEKALI DITERBITKAN. SEMENTARA BOBOT MODEL AI MEMILIKI SIFAT YANG SAMA, PENALARAN MODEL PERBATASAN SUMBER TERTUTUP TIDAK BERKONSENTRASI DI BELAKANG API BEBERAPA PERUSAHAAN。

NAMUN, KEMAMPUAN MODEL SUMBER TERBUKA SEDANG DIKEJAR DARI GENERASI KE GENERASI, DAN KONTROL DAPAT MEMPERLAMBAT PROLIFERASI DAN TIDAK DAPAT MENGHENTIKANNYA. DIBUTUHKAN WAKTU HAMPIR 10 TAHUN PADA TAHUN 1990-AN UNTUK MENCAPAI TITIK \"REGULASI DEREGULASI\". APAKAH PENGENDALIAN AI MEMBUTUHKAN SIKLUS WAKTU YANG SAMA

Model Besar Amerika berada di era penyensoran

PADA JUNI 2026, SEJARAH INDUSTRI AI DAPAT MENANDAI TITIK BALIK: UNTUK PERTAMA KALINYA, PEMERINTAH BERHASIL MEMASUKKAN PERANNYA SEBAGAI OTORITAS YANG MENYETUJUI ANTARA MODEL AI BISNIS DAN PENGGUNANYA。

Dari energi nuklir sampai gas ke listrik dan elektronik, investasi besar - besaran dalam industri re-industrialisasi AS jelas atau secara implisit dipremiskan pada kebutuhan industri AI di masa depan。Jika permintaan ini tidak dipenuhi oleh peraturan pemerintah, reaksi berantai akan jauh lebih besar dari yang bisa dibayangkan.\"

Namun, Ball juga mengakui bahwa petunjuk itu tidak sepenuhnya salah, ” Kekhawatiran bahwa AI garis depan memiliki risiko bencana yang berpotensi tidak palsu. Masalahnya adalah cara implementasinyaProses persetujuan tanpa ahli teknis, tanpa kriteria yang jelas dan tanpa jadwal bukanlah jawabannya.\"

Ia menyatakan bahwa GPT-5-56 adalah \"ukuran jangka pendek\" yang mungkin terbuka untuk umum dalam beberapa minggu. Namun, \"pemulihan terbatas\" dari 27 Juni di Mythos 5 telah memberikan sebuah template, apakah liberalisasi penuh atau hanya sebagian institusi Amerika dan pembatasan lainnya tetap berlaku. Setiap sistem jangka panjang pada awalnya disebut sebagai \"ukuran jangka pendek\"。

Ia menyimpulkan dengan kalimat yang layak dipertimbangkan dengan serius oleh semua orang, ” Jika hanya sedikit orang yang memiliki akses ke Frontline AI, masa depan yang buruk lebih mungkin terjadi. Karena mereka sedikit, sering kali, sudah dikaruniai kekuatan ekonomi dan politik yang besar”。

Diperkirakan bahwa komunitas global pengembang mengingat era peluncuran OpenAI, tanpa jeda waktu, terkejut dengan kemajuan model baru dan pengujian skenario baru dalam semalam。

Namun, sekarang kita bisa \"merangkak\" dengan mengantisipasi rilis model besar terbaru China。