Salah satu pendiri perusahaan raksasa kecerdasan buatan (AI) Anthropic, Jack Clark, baru-baru ini melontarkan sebuah peringatan keras yang menggema di seluruh dunia. Di tengah euforia dan investasi triliunan dolar yang membanjiri sektor AI, Clark menyerukan perlunya kemampuan untuk secara sengaja memperlambat laju perkembangan teknologi ini. Ia memperingatkan bahwa AI kini mendekati titik krusial di mana ia dapat berevolusi dan berkembang secara mandiri, tanpa intervensi atau kendali penuh dari manusia. Sebuah narasi yang kontras dengan janji-janji kemajuan, namun justru datang dari salah satu arsitek terkemuka di baliknya.
"Anda tentu menginginkan opsi untuk bisa melepaskan kaki dari pedal gas dan menginjak pedal rem," kata Clark, dalam sebuah wawancara yang disiarkan BBC dan dikutip oleh berbagai media. Ia menganalogikan kondisi industri AI saat ini sebagai sebuah kendaraan bertenaga tinggi yang hanya dilengkapi dengan pedal gas, tanpa adanya pedal rem. Sebuah gambaran yang tajam, menggarisbawahi kekhawatiran mendalam akan kecepatan inovasi yang melampaui kemampuan kita untuk memahami, mengelola, dan mengendalikan konsekuensinya.
Pernyataan Clark ini bukan sekadar retorika kosong; ia adalah cerminan dari pengamatan langsung di garis depan pengembangan AI. Anthropic, perusahaan yang ia dirikan bersama Dario Amodei dan beberapa eksekutif kunci lainnya, dikenal sebagai salah satu pemain utama dalam perlombaan AI, dengan chatbot mereka, Claude, menjadi pesaing serius bagi OpenAI. Namun, di balik keberhasilan komersial dan teknologi, Anthropic juga memiliki reputasi sebagai perusahaan yang vokal mengenai risiko eksistensial dan etika AI. Mereka secara konsisten menyoroti potensi bahaya yang melekat pada teknologi yang mereka kembangkan sendiri.
Kekhawatiran utama Clark berpusat pada hilangnya kendali manusia atas sistem AI. Ia menekankan bahwa masyarakat, melalui kebijakan pemerintah dan kerangka regulasi yang kuat, harus tetap memegang kendali penuh atas sistem AI. Tanpa intervensi ini, AI akan terus menjadi semakin kuat, semakin otonom, dan berdampak semakin luas pada setiap aspek kehidupan manusia. "Dunia perlu merenungkan hal ini dan pada akhirnya kita harus menyusun sejumlah regulasi baru yang membuat kita merasa yakin dan aman dengan sistem-sistem ini," ujarnya. Seruan ini adalah ajakan untuk dialog global yang serius, menuntut pemerintah, akademisi, dan masyarakat sipil untuk berkolaborasi dalam membentuk masa depan AI yang bertanggung jawab.
Salah satu alasan di balik desakan Clark adalah kecepatan luar biasa di mana AI mulai menulis kodenya sendiri. Saat ini, chatbot populer Anthropic, Claude, beroperasi menggunakan kode yang 80%-nya ditulis sendiri oleh sistem tersebut. Angka ini sungguh mencengangkan dan menggambarkan lompatan kapabilitas yang signifikan. Menurut Clark, mencapai angka 100% sangat mungkin terjadi dalam kurun waktu dua tahun. Implikasi dari skenario ini sangat besar. Ketika AI mampu sepenuhnya menulis, memodifikasi, dan mengoptimalkan kodenya sendiri, tanpa campur tangan manusia yang signifikan, ia akan memasuki fase perkembangan otonom. Ini bisa berarti percepatan inovasi yang tak terbayangkan, tetapi juga risiko yang belum pernah terjadi sebelumnya, di mana tujuan dan nilai-nilai AI bisa menyimpang dari kepentingan manusia.
Meskipun Clark tidak menjabarkan secara rinci bagaimana "pedal rem" untuk AI ini dapat diciptakan, ia menarik persamaan yang menarik dengan ledakan industri minyak di masa lalu. Pada awalnya, industri minyak berkembang pesat tanpa banyak regulasi, menghasilkan kekayaan besar bagi para konglomeratnya, namun juga menimbulkan masalah lingkungan, monopoli, dan risiko keselamatan yang signifikan. "Respons masyarakat kala itu adalah merumuskan kebijakan dan kerangka regulasi masuk akal, memberi masyarakat keyakinan akan minyak beserta manfaat yang bisa diberikan ke dunia," sebutnya. Tujuannya bukan untuk menghentikan inovasi, melainkan untuk menciptakan lingkungan di mana manfaat dapat dipanen dengan aman dan adil. Clark percaya, pendekatan serupa, yang berfokus pada regulasi yang bijaksana, audit independen, dan standar keamanan yang ketat, adalah arah yang jelas dan harus kita tuju saat ini untuk teknologi AI. Ini berarti fokus pada tata kelola yang transparan dan akuntabel, daripada hanya bergantung pada niat baik para pemimpin perusahaan AI.
Namun, di tengah seruan etis yang kuat ini, terdapat sebuah ironi yang patut dicermati. Minggu ini, Anthropic justru menyambut baik perintah eksekutif tentang AI dari Presiden AS Donald Trump, yang secara kontroversial tidak mewajibkan perusahaan AI untuk tunduk pada pengujian keamanan oleh pemerintah. Sambutan ini menimbulkan pertanyaan mengenai konsistensi antara advokasi etis perusahaan dan keputusan bisnis strategis mereka. Apakah ini merupakan tanda pragmatisme yang diperlukan dalam lanskap kompetitif AI, ataukah sebuah kompromi terhadap prinsip-prinsip yang mereka perjuangkan? Ketegangan antara ambisi komersial dan tanggung jawab etis adalah tantangan yang dihadapi banyak perusahaan AI, termasuk Anthropic.
Terlepas dari nuansa ini, pertumbuhan Anthropic sendiri adalah fenomena. Didirikan hanya lima tahun lalu, perusahaan ini telah berkembang begitu pesat hingga kini bersiap untuk debut di pasar saham. Pencatatan saham ini diproyeksikan menjadi salah satu yang pertama oleh perusahaan AI pendatang baru, sekaligus berpotensi menjadi salah satu pencatatan saham paling berharga dalam sejarah. Valuasi Anthropic diperkirakan hampir mencapai USD 1 triliun, menempatkannya sejajar dengan raksasa teknologi global. Keberhasilan finansial ini semakin memperkuat suara Jack Clark, karena ia berbicara bukan hanya sebagai seorang ilmuwan, tetapi juga sebagai pemimpin di salah satu perusahaan paling berpengaruh di dunia AI.
Clark menegaskan bahwa motivasi Anthropic untuk membahas peningkatan kapabilitas teknologi AI secara publik bukanlah untuk memoles reputasinya di mata pelanggan berbayar. "Ia hanya ingin memberi tahu dunia mengenai apa yang mereka lihat di dalam perusahaan-perusahaan ini dengan teknologi yang tidak biasa tersebut," katanya. Sebuah pengakuan jujur bahwa bahkan bagi mereka yang membangun AI, ada elemen misteri dan kekuatan yang belum sepenuhnya dipahami atau dikendalikan.
Sejak didirikan oleh Dario Amodei, Clark, dan beberapa eksekutif lainnya, Anthropic memang dikenal vokal terhadap risiko AI. Perusahaan ini bahkan terlibat perselisihan dengan Departemen Pertahanan AS atas kekhawatiran bahwa perangkat AI-nya dapat disalahgunakan untuk pengawasan massal dan peperangan otonom. Ini menunjukkan komitmen mereka yang mendalam terhadap penggunaan AI yang etis dan bertanggung jawab, bahkan jika itu berarti menolak peluang bisnis yang menguntungkan.
"Saya khawatir akan nasib anak-anak saya jika kita sebagai masyarakat tidak melakukan pembicaraan serius mengenai makna dari implikasi kemajuan AI yang terus berlanjut," ungkap Clark. Kekhawatiran ini melampaui ranah teknis, menyentuh dimensi personal dan eksistensial. Ia mengakui potensi manfaat yang besar dari AI, namun pada saat yang sama, ia juga melihat risiko-risiko fundamental yang dapat mengubah tatanan masyarakat secara drastis.
Salah satu risiko paling nyata yang telah mulai terasa adalah disrupsi perekonomian. Perusahaan-perusahaan teknologi besar telah melakukan PHK massal, dengan sering kali menjadikan peningkatan kemampuan AI untuk melakukan pekerjaan engineer dan tugas-tugas kognitif lainnya sebagai alasan utama. Ini menimbulkan pertanyaan serius tentang masa depan pekerjaan dan kebutuhan akan jaringan pengaman sosial yang lebih kuat. Jika AI dapat mengambil alih pekerjaan rutin dan bahkan pekerjaan yang memerlukan keahlian tinggi, apa yang tersisa bagi manusia?
Namun, Clark juga menawarkan secercah harapan. Ia menilai orang-orang kreatif dan memiliki ide-ide justru mungkin akan unggul dibanding AI. "Masih ada pertanyaan yang belum terjawab mengenai apakah sistem AI bisa benar-benar kreatif belum ada bukti nyata untuk itu saat ini," tambahnya. Ini menyiratkan bahwa sementara AI mungkin unggul dalam komputasi dan pemrosesan data, esensi kreativitas, intuisi, dan pemikiran out-of-the-box mungkin tetap menjadi domain eksklusif manusia. Tantangan bagi masyarakat adalah bagaimana kita dapat mendorong dan memanfaatkan keunggulan manusia ini, sementara juga beradaptasi dengan perubahan yang dibawa oleh AI.
Peringatan Jack Clark dari Anthropic adalah panggilan bangun yang kuat. Ini adalah seruan untuk tindakan proaktif, bukan reaktif. Di tengah perlombaan AI yang semakin intens, dengan investasi triliunan dan potensi transformatif yang tak terbatas, suara-suara seperti Clark mengingatkan kita bahwa inovasi harus berjalan seiring dengan tanggung jawab. Jika kita gagal untuk menciptakan "pedal rem" yang efektif, risiko bahwa kita akan kehilangan kendali atas teknologi paling kuat yang pernah diciptakan oleh umat manusia akan menjadi semakin nyata, dengan konsekuensi yang tak terbayangkan bagi masa depan kita semua.
