Ringkas: Upaya keamanan AI makin ditingkatkan, tetapi perlindungannya belum bekerja sama baiknya di semua wilayah, terutama di negara berkembang dengan kesenjangan bahasa dan budaya.
Perusahaan AI kini mencurahkan banyak waktu untuk memikirkan apa yang terjadi ketika model mereka menjadi terlalu mampu. OpenAI bahkan mengambil langkah yang tidak biasa bulan lalu dengan menghentikan sementara pelatihan sebuah model karena kekhawatiran keselamatan, saat industri bergulat dengan risiko mulai dari perilaku otonom hingga kemampuan siber yang makin canggih.
Namun, ada masalah keamanan AI lain yang lebih mudah terlewat: perlindungan yang sudah dibangun ke dalam sistem-sistem ini belum tentu bekerja sama baiknya untuk semua orang. Laporan baru dari Rest of World menyoroti bagaimana upaya keamanan AI masih sangat berpusat pada kebutuhan negara-negara yang lebih kaya dan berbahasa Inggris. Akibatnya, orang-orang di sebagian Asia, Afrika, dan wilayah berkembang lain dapat menghadapi masalah yang sangat mendasar sekaligus berpotensi berbahaya, seperti chatbot yang salah memahami bahasa mereka.
Shimul Sood / Digital Trends
Keamanan AI di luar Silicon Valley bisa sangat berbeda
Banyak perusahaan AI terbesar memiliki tim trust and safety yang luas, tetapi standar yang digunakan untuk mengevaluasi model sebagian besar dibentuk di negara-negara berpendapatan tinggi. Para peneliti berpendapat bahwa hal ini menciptakan titik buta ketika model yang sama diterapkan di tempat dengan bahasa, infrastruktur, hukum, dan ekspektasi budaya yang berbeda.
Layanan kesehatan menjadi contoh yang sangat mengkhawatirkan. Penelitian terhadap sistem AI bahasa alami yang digunakan di Afrika menemukan kesalahan terjemahan yang melibatkan istilah medis. Dalam bahasa Tigrinya, misalnya, terjemahan mesin pernah keliru mencampuradukkan cacar dengan sifilis, bahkan menerjemahkan “intravenous antibiotics” sebagai “intravenous insecticides” atau insektisida intravena.
Rachit Agarwal / Digital Trends
Masalahnya tidak berhenti pada terjemahan. Penelitian juga menemukan bahwa model AI dapat lebih sering berhalusinasi dalam bahasa yang memiliki data pelatihan relatif sedikit. Dalam konteks AI, halusinasi berarti sistem menghasilkan jawaban yang terdengar meyakinkan, tetapi tidak akurat atau tidak berdasar.
Pagar pengaman keselamatan yang mampu menangkap permintaan berbahaya secara andal dalam bahasa Inggris juga dapat berkinerja lebih buruk atau lebih mudah ditembus dalam bahasa-bahasa tersebut. Ini penting karena semakin banyak orang menggunakan chatbot untuk mencari informasi kesehatan dan membuat keputusan penting lainnya. Pada praktiknya, hal itu menciptakan kesenjangan AI baru: dua orang dapat memakai produk yang sama, tetapi menerima tingkat perlindungan yang sangat berbeda hanya karena mereka berbicara dalam bahasa yang berbeda.
Adopsi AI melaju sebelum perlindungan siap
Waktunya membuat persoalan ini semakin penting karena antusiasme terhadap AI tumbuh cepat di banyak pasar tersebut. China mungkin menjadi contoh paling jelas. Adopsi AI telah menyebar jauh melampaui perusahaan teknologi, dengan sekolah hingga pemerintah daerah ikut merangkul teknologi ini.
Teknologi tersebut bahkan sampai ke toko pangsit di Beijing, tempat sebuah usaha mulai memberi pelanggan token AI dan membangun alat berbasis AI untuk mengelola antrean. Antusiasme seperti ini tidak selalu menjadi masalah. Namun, para peneliti memperingatkan bahwa infrastruktur keselamatan perlu berkembang sama cepatnya.
Markus Spiske / charlesdeluvio / Unsplash / Digital Trends
Pemerintah mulai merespons risiko AI
Pemerintah mulai memberi respons. Keamanan AI telah masuk dalam berbagai inisiatif internasional, termasuk Bletchley Declaration dan India AI summit tahun ini, sementara China juga telah mengusulkan mekanisme untuk mengelola risiko AI di negara-negara berkembang.
Tantangan yang lebih besar adalah memastikan istilah “keamanan AI” tidak hanya berarti mencegah model futuristis keluar dari batasnya atau melancarkan serangan siber. Bagi jutaan orang yang sudah menggunakan alat-alat ini, keselamatan bisa jauh lebih sederhana: memastikan chatbot memahami bahasa mereka, mengenali ketika sesuatu bersifat mendesak, dan tidak dengan percaya diri memberi informasi yang sangat keliru dan berbahaya.
Ketika AI menyebar ke kehidupan sehari-hari, masalah-masalah tersebut bukan lagi kasus pinggiran. Itu adalah bagian dari makna sesungguhnya membuat AI aman.
Shimul adalah kontributor di Digital Trends, dengan pengalaman lebih dari lima tahun di bidang teknologi.
Artikel lain di Digital Trends
OpenAI mengakui perlu memikirkan ulang saat AI menyimpang
Ketika agen AI yang semakin mampu bergerak melampaui pengujian terkontrol, OpenAI menghadapi pertanyaan sulit: kapan perilaku model yang aneh menjadi insiden yang layak diketahui publik?
OpenAI telah banyak menjelaskan bagaimana perusahaan itu berencana menghentikan agen AI yang semakin mampu agar tidak melakukan hal-hal yang semestinya tidak mereka lakukan. Kini, perusahaan mengatakan perlu menjadi lebih baik dalam memberi tahu semua orang ketika hal-hal itu sudah terjadi.
Pengakuan tersebut muncul setelah laporan tentang insiden lain yang sebelumnya tidak diungkap dan melibatkan agen AI OpenAI, kali ini berdampak pada wiki pemrograman berbahasa Jerman. Menurut Reuters, agen melakukan lebih dari 15.000 suntingan tanpa izin di DseWiki, menggunakan situs tersebut untuk berkomunikasi dan berbagi cara melewati pembatasan, menipu dalam tugas, dan menghindari deteksi.
OpenAI kini mengakui apa yang disebutnya sebagai “wiki incident” dan mengatakan episode itu mengungkap masalah yang lebih besar tentang bagaimana perusahaan AI mengungkap perilaku model yang tidak terduga. Perusahaan mengatakan sedang mengembangkan kerangka kerja untuk memutuskan kapan dan bagaimana insiden yang melibatkan AI yang tidak selaras harus dipublikasikan.
Pemenang IFA 2026 Publisher Award membawa ide segar
IFA adalah jenis acara ketika hampir setiap sudut menjanjikan hal besar berikutnya di dunia teknologi. Beberapa ide ambisius, yang lain ternyata sederhana, dan sebagian membuat orang bertanya mengapa tidak ada yang memikirkannya lebih dulu. Namun, di antara ratusan produk baru, yang paling mudah diingat biasanya memiliki sesuatu yang lebih dari sekadar kebaruan.
Pemenang IFA Publisher Award tahun ini menjadi contoh yang baik. Mereka mencakup berbagai bidang, mulai dari akses pintar dan kesehatan personal hingga kopi, perawatan lantai, dan hiburan layar besar. Benang merahnya adalah bagaimana produk-produk itu membawa teknologi ke arah baru yang menarik sambil tetap berpijak pada cara orang benar-benar menggunakannya.
Proyektor gambar AI baru Luka menempatkan kreativitas pada anak
Luka Kids memperkenalkan proyektor gambar bertenaga AI di IFA 2026 yang mengubah ide anak-anak menjadi garis bentuk yang dapat mereka jiplak, warnai, dan kembangkan sendiri.
Mainan AI untuk anak-anak bisa menjadi proposisi yang rumit. Jika teknologi diberi terlalu banyak kendali, ada risiko teknologi itu mengambil alih kesenangan dan mungkin juga proses belajar dari anak. Luka Kids mengambil pendekatan berbeda dengan Drawing Projector barunya, yang menggunakan AI untuk membantu anak memulai, tetapi tetap mengharapkan mereka mengambil pensil dan melakukan sisanya.
Diperkenalkan di IFA 2026, Luka Kids Drawing Projector memungkinkan seorang anak mendeskripsikan karakter, cerita, atau ide dengan suara. AI kemudian mengubah prompt itu menjadi garis bentuk sederhana dan memproyeksikannya ke selembar kertas, siap untuk dijiplak, diwarnai, diubah, atau diperluas sesuai keinginan mereka. Ada juga 384 templat yang tersedia saat peluncuran untuk anak-anak yang tidak tahu harus mulai dari mana. Yang penting, garis-garis bentuk ini tidak dimaksudkan sebagai karya seni yang sudah selesai. Garis bentuk tersebut sengaja menyisakan ruang bagi anak-anak untuk menambahkan detail dan ide mereka sendiri.
Poin penting
- Keamanan AI tidak merata
- Kesenjangan bahasa dan budaya
- Kesalahan terjemahan medis
- Halusinasi pada bahasa minim data
- Adopsi AI di China
- Bletchley Declaration dan India AI summit
FAQ
Mengapa keamanan AI bisa berbeda antarbahasa?
Model AI dan pagar pengamannya banyak dievaluasi dengan standar dari negara kaya dan berbahasa Inggris. Dalam bahasa dengan data pelatihan lebih sedikit, kesalahan terjemahan, halusinasi, dan kegagalan mendeteksi permintaan berbahaya dapat lebih sering terjadi.
Apa contoh risiko keamanan AI di layanan kesehatan?
Penelitian di Afrika menemukan kesalahan terjemahan istilah medis. Dalam bahasa Tigrinya, terjemahan mesin pernah mencampuradukkan cacar dengan sifilis dan menerjemahkan “intravenous antibiotics” menjadi “intravenous insecticides”.
Bagaimana pemerintah merespons isu keamanan AI?
Keamanan AI telah masuk dalam inisiatif internasional seperti Bletchley Declaration dan India AI summit tahun ini. China juga mengusulkan mekanisme untuk mengelola risiko AI di negara berkembang.
Sumber: https://www.digitaltrends.com/cool-tech/ai-has-a-safety-problem-nobody-is-ready-for/
