Peneliti AI Jacob Coxon (27) mengundurkan diri dari Anthropic dan menyatakan kekhawatirannya terhadap perlombaan pengembangan kecerdasan buatan yang dilakukan Anthropic dan OpenAI. Coxon mengatakan kedua perusahaan dinilai terlalu cepat mengejar teknologi AI yang suatu saat dapat memperbaiki kemampuan dirinya sendiri tanpa banyak campur tangan manusia.
Coxon mengumumkan pengunduran dirinya melalui media sosial X pada Rabu (9/9/2026). Selama tiga tahun terakhir, ia bekerja dalam riset pretraining, yaitu tahap awal pengembangan model AI ketika sistem dilatih menggunakan data dalam jumlah sangat besar. Ia sebelumnya bekerja di OpenAI sebelum bergabung dengan Anthropic.
Menurut Coxon, perkembangan AI dalam waktu dekat berpotensi menghasilkan sistem yang jauh melampaui kemampuan manusia. Ia memperingatkan bahwa AI supercerdas tersebut bisa memiliki kemampuan meretas berbagai sistem, mengubah banyak bidang dalam waktu sangat singkat, hingga mengumpulkan kekuasaan dan sumber daya secara nyata.
Coxon menilai ancaman tersebut tidak boleh dianggap sebagai sekadar strategi pemasaran. Ia mengklaim sejumlah orang yang bekerja dalam pengembangan AI benar-benar memiliki kekhawatiran bahwa teknologi tersebut dapat membahayakan bahkan membunuh manusia dalam beberapa tahun mendatang.
Karena kekhawatiran itu, Coxon mengatakan dirinya tidak hanya meninggalkan Anthropic, tetapi juga memilih keluar dari industri AI secara keseluruhan. Ia mempertanyakan alasan perusahaan tetap mengembangkan teknologi berisiko tinggi jika para penelitinya sendiri menyadari adanya kemungkinan AI menjadi tidak terkendali.
Coxon juga memberikan pandangannya mengenai alasan Anthropic dan OpenAI tetap melanjutkan pengembangan AI. Menurutnya, di OpenAI masih banyak pihak yang belum sepenuhnya menyadari besarnya risiko terhadap masa depan manusia. Sementara Anthropic, menurut Coxon, merasa jika mereka tidak mengembangkan teknologi tersebut, pihak lain akan melakukannya tanpa memperhatikan keselamatan.
Pernyataan Coxon kemudian mendapat tanggapan dari Evan Hubinger, Alignment Science Lead di Anthropic. Hubinger secara terbuka menyatakan bahwa kekhawatiran Coxon memang sejalan dengan kekhawatiran sebagian peneliti di Anthropic.
Hubinger bahkan mengatakan dirinya memperkirakan peluang AI membunuh seluruh manusia lebih dari 10 persen dalam satu dekade mendatang. Ia menegaskan Anthropic telah berusaha mengembangkan AI secara bertanggung jawab, tetapi perusahaan tersebut belum memiliki rencana yang benar-benar jelas untuk memastikan keamanan ketika menghadapi AI supercerdas.
Menurut Hubinger, risiko dari model AI yang tersedia saat ini masih tergolong rendah. Kekhawatiran terbesar justru muncul jika suatu saat AI mampu meningkatkan kemampuan dirinya sendiri secara berulang, sehingga perkembangannya menjadi jauh lebih cepat dan sulit dikendalikan manusia.
Untuk menghadapi risiko tersebut, tim alignment Anthropic terus mencari kelemahan dalam metode yang digunakan untuk memastikan AI mengikuti tujuan dan aturan manusia. Namun, Hubinger mengakui belum ada kepastian bahwa pendekatan yang digunakan saat ini akan cukup untuk menghadapi munculnya kecerdasan super.
Perdebatan tersebut menunjukkan adanya kekhawatiran serius di kalangan sebagian peneliti AI mengenai perlombaan menuju AI supercerdas. Di satu sisi, perusahaan terus mengejar kemajuan teknologi, sementara di sisi lain masih terdapat pertanyaan besar mengenai apakah manusia benar-benar mampu memastikan sistem yang jauh lebih cerdas dari manusia tetap berada dalam kendali.
