Ringkas: Anthropic menerbitkan makalah tentang AI self-improving yang memakai sistem otomatis untuk meningkatkan performa model pada benchmark alignment tanpa menurunkan performa keseluruhan.
Melatih model AI dengan model AI lain telah menjadi tujuan yang sangat populer bagi neolabs. Kini, seorang peneliti dalam program fellows Anthropic memberi gambaran awal tentang bagaimana pendekatan itu bisa terlihat dalam praktik.
AI self-improving diuji lewat Automated Alignment Researcher
Pada Jumat, Anthropic menerbitkan makalah baru berjudul “Automated Researchers Can Reliably Mitigate Alignment Failures”. Makalah itu merinci bagaimana sistem AI dapat secara andal meningkatkan performa sebuah model pada serangkaian benchmark alignment. Alignment merujuk pada upaya agar perilaku model selaras dengan tujuan atau batasan yang diinginkan.
Ketika diberi 10 benchmark untuk perilaku misaligned tertentu, sistem otomatis tersebut mampu meningkatkan performa pada setiap benchmark tanpa menurunkan performa keseluruhan.
Cara sistem otomatis Anthropic menjalankan riset
Dipimpin oleh Anthropic fellow Chen Yueh-Han, sistem ini meniru banyak bagian dari pendekatan riset tradisional. Setiap sistem otomatis menelusuri literatur yang tersedia, mengusulkan sebuah metode, lalu melatih model menggunakan metode tersebut selama 30 menit, sambil secara bertahap meningkatkan benchmark melalui beberapa iterasi.
Metode yang efektif dipertahankan, sementara metode yang tidak efektif dibuang. Dengan cara itu, sistem dapat beroperasi dengan cepat dan dalam skala besar.
“Overall, these results provide early evidence that automated alignment post-training could become practical in the near term,” tulis makalah tersebut.
Langkah menuju recursive self-improvement AI
Makalah ini menjadi satu langkah menuju recursive self-improvement, yang oleh banyak pihak dilihat sebagai tahap penting berikutnya dalam kemajuan AI. Jika model dapat meningkatkan pelatihan alignment-nya sendiri, masuk akal bahwa model juga bisa meningkatkan praktik pelatihan secara lebih luas. Pada titik itu, peneliti AI manusia mungkin segera menjadi usang.
Makalah tersebut tidak menghindari gagasan ini. Sebaliknya, makalah itu secara eksplisit membandingkan Automated Alignment Researcher (AAR) dengan padanan manusianya.
“The best AAR method beats what experienced humans propose, on average within six hours,” tulis makalah itu. “Human guided research directions do not lead to stronger performance.”
Makalah tersebut bahkan menyertakan perbandingan biaya, jika masih ada yang belum yakin. “An AAR costs roughly $4 per hour in API inference against the $150 per hour we pay our human researchers.” API inference berarti penggunaan antarmuka aplikasi untuk menjalankan model dan menghasilkan keluaran.
Batasan benchmark dan literatur riset otomatis
Namun, makalah itu juga menunjukkan beberapa keterbatasan dari pendekatan ini. Sistem otomatis hanya bekerja sejauh benchmark benar-benar mencerminkan tujuan alignment yang sesungguhnya.
Bahkan dalam kondisi itu, masih ada pekerjaan besar untuk menetapkan dan memelihara benchmark tersebut. Selain itu, literatur yang menjadi rujukan para peneliti otomatis juga perlu terus dipelihara dan diperluas.
Dengan demikian, hasil Anthropic menunjukkan bukti awal bahwa post-training alignment otomatis bisa menjadi praktis dalam waktu dekat, tetapi pendekatan ini tetap bergantung pada kualitas benchmark serta literatur yang digunakan sistem.
Poin penting
- AI self-improving Anthropic
- 10 benchmark alignment
- Chen Yueh-Han
- Automated Alignment Researcher
- Biaya AAR $4 per jam
- Batasan benchmark alignment
Sumber: https://techcrunch.com/2026/08/28/an-anthropic-researcher-just-gave-us-a-peek-at-self-improving-ai/
