Perusahaan kecerdasan buatan asal Amerika Serikat, Anthropic, mengeluarkan laporan terbaru yang mengejutkan dunia. Dalam laporan yang dirilis pada 4 Juni 2024, perusahaan tersebut mengklaim bahwa model AI terbarunya mulai menunjukkan tanda-tanda dapat lepas dari kendali manusia.
Baca Juga: Microsoft Mulai Tulis Ulang Shell Windows 11 dengan Kode Asli, Fokus Pertama pada Start Menu
Temuan ini membuat Anthropic mendesak perusahaan-perusahaan besar di seluruh dunia untuk mempertimbangkan perlambatan atau bahkan penghentian sementara pengembangan sistem AI yang sangat canggih.
Dilansir dari ithome, Anthropic menyatakan bahwa memperlambat pengembangan AI terdepan di seluruh dunia kemungkinan besar adalah hal yang baik. Namun, jika hanya satu perusahaan yang berhenti, pesaing akan terus bergerak maju. Oleh karena itu, diperlukan koordinasi global untuk memastikan keamanan.
Baca Juga: LM Studio Hadirkan LM Link, iPhone Bisa Akses Langsung Model AI di Mac
“Kami percaya bahwa dunia harus memiliki opsi untuk memperlambat atau menghentikan sementara pengembangan AI terdepan, agar lembaga sosial dan penelitian alignment dapat mengimbangi kemajuan teknologi,” tulis Anthropic dalam laporannya. Alignment sendiri merupakan istilah teknis untuk memastikan bahwa sistem AI selaras dengan tujuan dan nilai-nilai manusia.
Anthropic menilai bahwa perusahaan-perusahaan AI utama dari AS, China, dan negara lain harus mencapai konsensus dan merilis seperangkat aturan yang dapat diverifikasi oleh semua pihak yang berpartisipasi. “Tanpa mekanisme koordinasi global, perusahaan dan pemerintah akan dihadapkan pada keputusan sulit terkait keselamatan di bawah tekanan kompetisi dan geopolitik,” lanjut perusahaan tersebut.
Laporan Anthropic bukannya tanpa kritik. Beberapa pejabat Gedung Putih dilaporkan tidak setuju dengan pandangan tersebut.
Kritikus menilai bahwa perusahaan terlalu menekankan skenario terburuk dan membesar-besarkan risiko AI, serta menggunakan kekhawatiran keselamatan sebagai dalih untuk menghambat pesaing. Meski demikian, pemerintah AS juga mengakui bahwa model Mythos milik Anthropic memiliki kemampuan yang sangat kuat.
Menariknya, Anthropic menyamakan proposalnya dengan “Perjanjian Nonproliferasi Senjata Nuklir”, tetapi mengakui bahwa AI lebih sulit diatur dibandingkan senjata nuklir. Melatih AI jauh lebih mudah disembunyikan daripada meluncurkan rudal, dan perusahaan tetap akan mengembangkan AI canggih secara diam-diam karena tergiur keuntungan.
Baca Juga: FlutterShell Backdoor Spreads to macOS via Malicious Google and YouTube Ads
Untuk merealisasikan gagasan tersebut, Anthropic berencana mengumpulkan pejabat pemerintah, ilmuwan, organisasi advokasi, dan pesaing dalam beberapa bulan ke depan untuk membahas bagaimana mekanisme koordinasi global dapat bekerja. Langkah ini diharapkan dapat menghasilkan kerangka kerja yang dapat diterima oleh semua pemangku kepentingan.
Leave a Comment