HARIANEXPRESS, JAKARTA – Anthropic, perusahaan pengembang AI yang bernilai 1 triliun dollar AS, mengeluarkan permintaan tidak biasa kepada para pesaingnya. Lewat postingan blog resmi pada Kamis (4/6/2026), perusahaan ini mendesak agar dunia memperlambat laju pengembangan AI frontier.
Alasan utama berpusat pada risiko recursive self-improvement atau perbaikan diri rekursif. Sistem AI berpotensi meningkatkan kemampuannya sendiri secara berulang tanpa bantuan manusia, yang kemudian mempercepat siklus peningkatan tersebut.
Anthropic menegaskan bahwa kemampuan penuh ini belum tercapai saat ini. Namun, Jack Clark, salah satu pendiri dan kepala manfaat publik Anthropic, memperingatkan ambang batas itu bisa datang dalam dua tahun ke depan, atau bahkan lebih cepat.
“Kami percaya akan baik bagi dunia jika ada opsi untuk memperlambat atau menghentikan sementara pengembangan AI tingkat lanjut, agar struktur sosial dan riset penyelarasan bisa mengejar laju perkembangan teknologi ini,” tulis Marina Favaro dan Jack Clark dalam blog tersebut.
Anthropic mengusulkan kesepakatan global yang mencakup mekanisme verifikasi agar para pihak benar-benar mematuhi perlambatan. Mereka membandingkan situasi ini dengan perjanjian pengendalian senjata nuklir, meski pengawasan AI jauh lebih sulit dilakukan.
Clark menambahkan bahwa persaingan komersial dan geopolitik saat ini membuat dunia terjebak dalam perlombaan berisiko tinggi. Tanpa koordinasi global, aspek eksistensial teknologi ini sering terabaikan.
Perusahaan tetap berkomitmen melanjutkan riset keselamatan sambil mendorong kolaborasi untuk membangun sistem verifikasi yang kredibel.
