Ringkas: Abliteration.ai menyediakan model AI terbuka tanpa pagar pengaman, termasuk GLM-5.3, untuk pengujian keamanan siber dan penggunaan lain yang berisiko.
Akses ke salah satu model AI open-weight atau berbobot terbuka paling mumpuni di dunia kini menjadi jauh lebih mudah, setelah pagar pengaman dan penolakannya terhadap tugas berbahaya dihapus. Startup Abliteration.ai menawarkan versi modifikasi model-model tersebut, termasuk GLM-5.3 yang baru dirilis Z.ai, yang dapat digunakan lewat peramban web atau API.
Abliteration.ai menawarkan model AI tanpa penolakan
Nama Abliteration.ai diambil dari teknik yang menghapus kecenderungan model untuk menolak permintaan berbahaya. Startup ini mengubah penghapusan tersebut menjadi sebuah layanan dengan menampung versi modifikasi model open-weight yang pagar pengamannya telah dihilangkan.
Dalam unggahan media sosial baru-baru ini, perusahaan mengatakan tujuannya adalah memungkinkan pihak lain melakukan pekerjaan “offensive cyber, red-teaming, and agent testing work other models refuse to do.” Logikanya sudah lazim dalam pekerjaan keamanan: perilaku yang tidak bisa direproduksi tidak dapat dipertahankan, dan model yang menolak menulis kode eksploit yang berfungsi tidak dapat membantu tim red team melindungi diri dari penyerang. Namun, penghapusan yang sama juga memudahkan tugas-tugas lain yang berpotensi berbahaya.
Abliteration telah lama menjadi teknik di kalangan model sumber terbuka. Peneliti dan pengembang telah menghapus penolakan dari model open-weight selama bertahun-tahun, sementara Hugging Face menampung ribuan model yang telah diabliterasi di platformnya.
Didirikan pada akhir tahun lalu dan resmi berbadan hukum pada Maret, Abliteration.ai memindahkan teknik tersebut dari praktik sumber terbuka bawah tanah menjadi layanan komersial yang mudah tersedia. Dengan menampung modelnya, Abliteration mengurangi hambatan bagi orang yang sebelumnya harus mengunduh model pra-abliterasi sendiri dan memperoleh komputasi yang diperlukan untuk menjalankannya.
Dengan layanan itu, TechCrunch dapat membuat akun dengan cepat dan mulai mengajukan pertanyaan ke versi GLM-5.3 yang telah diabliterasi secara gratis lewat peramban web. TechCrunch memintanya menulis program Python untuk mencuri kata sandi Chrome yang tersimpan serta protokol terperinci untuk membiakkan patogen manusia berbahaya di rumah, dan model tersebut dengan mudah mematuhinya.
Risiko keamanan siber dan usulan intervensi pemerintah
Devon, salah satu pendiri Abliteration.ai, mengatakan startup tersebut memiliki sejumlah kesepakatan dengan penyedia cloud besar yang mampu dibiayai sepenuhnya melalui pendapatan pelanggan. TechCrunch tidak menyertakan nama belakang Devon atas permintaannya karena ia masih bekerja di perusahaan lain. Abliteration.ai belum menerima pendanaan modal ventura, tetapi sedang membicarakannya.
Para pengkritik mengatakan bahwa menyediakan model abliterasi dalam skala besar dapat menimbulkan bahaya nyata. Andrew Yoon, kepala riset di lembaga nirlaba keselamatan AI CivAI, mengatakan kepada TechCrunch bahwa abliteration memungkinkan seseorang “memodifikasi model sehingga menjadi seorang sosiopat.”
“Anda dapat mengetikkan apa pun secara harfiah di sini, dan model itu akan mematuhinya,” kata Yoon. “Ketika orang berbicara tentang menghapus pagar pengaman dari model AI, inilah yang kami maksud … Saya memperkirakan kita akan mulai melihat model yang diedit dan diabliterasi digunakan untuk membahayakan dalam waktu dekat.”
Mayoritas pakar yang berbicara dengan TechCrunch mengatakan tidak ada cara menghentikan tren ini. Namun, jika penghapusan perlindungan dari model open-weight tidak realistis untuk dicegah, pemerintah masih dapat melakukan intervensi di area lain. Dalam artikel opini baru-baru ini, Yoon menyarankan agar pemerintah mewajibkan penyedia layanan menjalankan classifier, yaitu sistem pendeteksi untuk mengidentifikasi dan memblokir aktivitas siber serta senjata biologis yang berbahaya.
Ia juga berpendapat bahwa perusahaan yang menyewakan akses langsung ke GPU canggih harus diwajibkan memverifikasi identitas pelanggan dan “menolak akses ketika ada alasan untuk mencurigai penyalahgunaan berbahaya.”
Abliteration.ai menawarkan lapisan moderasi kepada pelanggan agar mereka dapat menambahkan pagar pengaman sesuai keinginan. Platform ini sendiri memiliki beberapa perlindungan kecil; misalnya, dalam pengujian TechCrunch, model tersebut tidak memberikan instruksi bunuh diri. Devon mengatakan ia juga sedang berupaya menerapkan lebih banyak perlindungan untuk mencegah kekerasan.
Abliteration.ai juga belum mengintegrasikan praktik KYC atau verifikasi identitas pelanggan, selain mencatat kartu kredit yang digunakan pelanggan untuk membeli layanan. Perusahaan mengatakan persoalan menentukan siapa yang boleh memperoleh akses adalah hal sulit yang masih dicari penyelesaiannya oleh perusahaan muda tersebut.
“Anda tidak ingin menjadi orang yang bertanggung jawab atas seseorang melakukan sesuatu yang gila … jadi, di mana Anda menarik batas terkait apa tanggung jawab Anda sebagai perusahaan?” kata Devon. “Kami masih dalam proses mendefinisikannya.”
Hal ini memunculkan pertanyaan yang harus dihadapi industri dan pemerintah ketika model yang semakin mumpuni dirilis dengan bobot yang dapat diunduh: jika siapa pun dapat menghapus perlindungan sebuah model, apakah membuat model hasilnya lebih mudah diakses semua orang menjadikan internet lebih aman atau lebih berbahaya?
Argumen pertahanan dan penggunaan untuk red teaming
Pendiri Abliteration.ai dan pendukung lainnya berpendapat bahwa mendemokratisasi akses ke model frontier tanpa sensor merupakan bentuk pertahanan terbaik.
“Gambaran besar model yang telah diabliterasi adalah bahwa model ini mampu memodelkan pelaku jahat,” kata Devon. “Keuntungannya adalah para pembela kini dapat bergerak secepat mungkin. Mereka memiliki semua alat yang diperlukan untuk memodelkan pelaku jahat ini lalu bertahan dari tindakan jahat tersebut, dan saya pikir hal itu akan mempercepat keamanan siber, yang merupakan poin yang agak berlawanan dengan intuisi.”
Meski masih perusahaan muda, Devon mengatakan pelanggan Abliteration.ai mencakup beberapa startup red teaming tahap awal di Inggris dan Eropa. Perusahaan-perusahaan itu membantu bank, maskapai, serta perusahaan lain yang menangani infrastruktur kritis memperkuat praktik keamanan siber mereka.
“Salah satu pelanggan utama kami melakukan red team terhadap agen bank, dan mereka tidak akan dapat menggunakan model yang tersedia apa adanya saat ini untuk melakukan red team terhadap agen tersebut,” kata Devon.
Industri keamanan siber masih menilai peran abliteration
Sementara itu, industri keamanan siber sendiri masih mencari tahu posisi model abliterasi dalam pekerjaan defensif, jika memang ada.
Sejumlah perusahaan red teaming agen yang berbicara dengan TechCrunch setuju dengan Devon bahwa pelaku jahat sudah mengabliterasi model mereka sendiri dan menggunakannya untuk melakukan serangan adversarial. Hal itu memperkuat argumen bahwa para pembela juga perlu memiliki alat yang sama. Namun, mereka berbeda pendapat mengenai seberapa besar konsekuensi model abliterasi terhadap proses tersebut.
Walaupun Devon menyatakan abliteration model penting untuk melakukan red teaming agen secara menyeluruh, beberapa pihak mengatakan mereka tidak menggunakannya dalam pekerjaan sehari-hari. Sebagai gantinya, mereka mengandalkan kemudahan fine-tuning atau penyetelan lanjutan model open-weight, yang sudah memiliki sedikit pagar pengaman, untuk melakukan pengujian.
Ahmed Aly, CEO perusahaan red teaming agen Fabraix, mengatakan perusahaannya lebih mengandalkan fine-tuning model terbuka daripada menggunakan model abliterasi. Ia menambahkan bahwa proses abliteration menghapus sebagian pengetahuan dan kemampuan model.
“Jika Anda benar-benar mencoba menimbulkan bahaya nyata dengannya — bahaya siber, bahaya biologis — model itu tidak akan seefektif itu,” kata Aly kepada TechCrunch.
Alessio Lomuscio, kepala teknologi di Safe Intelligence, setuju bahwa penurunan kemampuan mungkin terjadi. Namun, ia tetap yakin model abliterasi dapat memunculkan perilaku tertentu yang berguna untuk menguji ketahanan sebuah sistem.
“Sejauh ini, model abliterasi bukan bagian dari proses,” kata David Slater, pendiri dan kepala arsitek platform keamanan siber Armadin, kepada TechCrunch. “Ketika kami melihat model open-weight hingga generasi terakhir ini, sebenarnya tidak terlalu sulit untuk melakukan jailbreak pada model tersebut dan membuatnya melakukan apa yang kami inginkan.”
Ia menambahkan bahwa Armadin sedang meneliti abliteration, tetapi meyakini bahwa “mendorong komunitas terbuka untuk memahami kemampuan model sangatlah penting.”
“Ini akan terjadi di balik pintu tertutup. Ini akan terjadi secara privat,” lanjut Slater. “Ketika terjadi secara terbuka, hal itu memberi peneliti alat. Hal itu memberi kami kemampuan untuk mencari tahu seperti apa batas terdepan yang sebenarnya dan memahami bahayanya.”
Pada akhirnya, layanan Abliteration.ai memperluas akses terhadap model AI open-weight tanpa pagar pengaman, sementara para pelaku industri dan pemerintah masih memperdebatkan risiko, batas tanggung jawab, serta nilai defensifnya bagi keamanan siber.
Poin penting
- Abliteration.ai dan model AI tanpa pagar pengaman
- GLM-5.3 dari Z.ai
- Akses web dan API gratis
- Risiko siber dan senjata biologis
- Red teaming agen bank
- Perdebatan fine-tuning model terbuka
