Rafteninfo.com – JAKARTA, CEO Anthropic Dario Amodei menyerukan agar pengembangan AI diperlambat. Ia menilai kemampuan kecerdasan buatan berkembang sangat cepat, sementara upaya manusia untuk memastikan teknologi itu tetap aman berisiko tertinggal.
Seruan tersebut disampaikan Amodei melalui esai panjang berjudul “We Must Pace the Frontier” yang dibagikan melalui blog pribadinya baru-baru ini. Dalam esai itu, ia mendorong industri AI untuk memberi lebih banyak waktu bagi sistem keselamatan agar dapat mengikuti peningkatan kemampuan model.
Amodei tidak meminta penghentian total pengembangan AI. Ia justru menginginkan teknologi tersebut tetap dikembangkan, tetapi dengan kecepatan yang memungkinkan proses penyelarasan, pengawasan, dan pencegahan risiko berjalan secara memadai.
Mengapa pengembangan AI diperlambat?
Menurut Amodei, industri perlu “menginjak rem” apabila kemajuan kemampuan AI melaju jauh lebih cepat daripada kesiapan manusia dalam mengelola risikonya. Ia menilai, pengaturan laju pengembangan dapat memberikan waktu untuk memperkuat keamanan dan memastikan AI tetap selaras dengan kepentingan manusia.
Dalam tulisannya, Amodei menyatakan bahwa kehati-hatian yang lebih besar dibutuhkan untuk menghadapi risiko AI. Ia juga menekankan pentingnya mengatur laju peningkatan kemampuan agar upaya pencegahan tidak terus berada di belakang perkembangan teknologi.
Peringatan tersebut muncul beberapa hari setelah Chief Scientist OpenAI Jakub Pachocki menyampaikan kekhawatiran serupa. Seruan Amodei juga mendapat dukungan dari sejumlah pemimpin perusahaan AI yang bersaing dengan Anthropic, termasuk CEO OpenAI Sam Altman serta pendiri dan CEO xAI Elon Musk.
Tiga langkah yang diusulkan Amodei
Amodei mengusulkan tiga langkah untuk membantu industri mengelola perkembangan AI. Pertama, perusahaan perlu memberikan waktu yang cukup untuk mengamankan dan menyelaraskan model sebelum sistem tersebut digunakan lebih luas.
Ia juga mendorong perusahaan AI untuk membuka sistem mereka kepada evaluator independen. Pihak eksternal itu dapat membantu memeriksa kepatuhan terhadap standar keselamatan, melaporkan insiden, serta mengevaluasi alignment model selama proses pelatihan.
Langkah kedua adalah koordinasi di antara perusahaan AI terdepan untuk menyusun standar keselamatan bersama. Sementara itu, langkah ketiga berfokus pada koordinasi internasional guna mengelola risiko AI yang cakupannya melampaui batas satu perusahaan atau negara.
Anthropic buka akses bagi evaluator independen
Anthropic menyatakan akan menjalankan langkah pertama secara sepihak dengan memberikan evaluator pihak ketiga akses permanen ke sistemnya. Akses tersebut diberikan pada tingkat yang setara dengan karyawan perusahaan.
Dengan akses itu, evaluator independen dapat memeriksa penerapan standar keselamatan Anthropic. Mereka juga berkesempatan melaporkan insiden dan menilai alignment model selama pelatihan berlangsung.
Langkah tersebut menunjukkan bahwa perdebatan mengenai kecepatan pengembangan AI tidak hanya berkaitan dengan kemampuan teknologi. Perusahaan juga perlu memastikan mekanisme pengawasan dan keselamatan berkembang seiring dengan semakin canggihnya model AI.
Bukan seruan untuk menghentikan inovasi
Posisi Amodei menempatkan keselamatan sebagai bagian yang harus berjalan bersamaan dengan inovasi. Ia tetap mendukung pengembangan AI, tetapi meminta agar perusahaan tidak mengabaikan proses pengujian, penyelarasan, dan evaluasi independen.
Dengan demikian, pengembangan AI diperlambat bukan berarti menghentikan kemajuan teknologi. Seruan tersebut lebih menekankan kebutuhan untuk menyesuaikan kecepatan inovasi dengan kesiapan sistem keselamatan dan koordinasi antarnegara.
