Kekhawatiran Hitzig tidaklah sepele. Ia mengartikulasikan pandangannya dalam sebuah kolom opini yang diterbitkan di The New York Times, sebuah platform yang memberinya kesempatan untuk menjangkau audiens global. Dalam tulisannya, Hitzig mengungkapkan pergeseran keyakinan pribadinya yang mendalam. "Dulu saya percaya bahwa saya dapat membantu orang-orang yang mengembangkan AI untuk mengantisipasi masalah yang akan ditimbulkan," tulis Hitzig, seperti dikutip dari ArsTechnica. Namun, ia melanjutkan dengan nada yang lebih suram, "Minggu ini mengonfirmasi kesadaran saya yang perlahan terwujud bahwa OpenAI tampaknya telah berhenti mengajukan pertanyaan-pertanyaan yang ingin saya bantu jawab." Pernyataan ini menyiratkan adanya perubahan fundamental dalam prioritas internal OpenAI, dari fokus pada antisipasi masalah etis dan sosial menuju dorongan komersial yang lebih agresif.
Inti dari argumen Hitzig terletak pada sifat data pengguna yang sangat pribadi dan intim yang diketahui oleh ChatGPT. Berbeda dengan platform lain, interaksi dengan chatbot seringkali bersifat sangat personal dan reflektif. Banyak pengguna yang berbicara dengan ChatGPT tentang berbagai masalah sensitif, mulai dari kesehatan mental, diagnosis medis, dilema percintaan, masalah keuangan, hingga keyakinan agama dan filosofi hidup. Mereka melakukan ini dengan keyakinan bahwa ChatGPT adalah entitas netral, sebuah kotak dialog tanpa agenda tersembunyi, yang tidak akan mengeksploitasi informasi pribadi mereka untuk keuntungan pihak ketiga. Keyakinan ini adalah fondasi kepercayaan antara pengguna dan AI. Hitzig dengan tegas memperingatkan bahwa jika data yang sangat sensitif ini pada akhirnya digunakan untuk menargetkan iklan, itu akan menjadi pelanggaran kepercayaan yang mendalam dan berisiko tinggi.
Hitzig secara eksplisit menarik paralel antara situasi saat ini dengan sejarah awal Facebook. Ia mengingat bagaimana Facebook pada awalnya menjanjikan pengguna kendali penuh atas data mereka dan bahkan memberikan opsi untuk memberikan opini terkait perubahan kebijakan yang signifikan. Janji-janji ini, yang dulu menjadi pilar fundamental dari daya tarik Facebook, pada akhirnya terkikis seiring berjalannya waktu. Sejarah mencatat bagaimana Federal Trade Commission (FTC) menemukan bahwa perubahan privasi yang dirilis oleh Facebook, yang seharusnya memudahkan pengguna mengendalikan data mereka, malah berfungsi sebaliknya, secara efektif mempersulit dan membingungkan pengguna. Ini adalah pelajaran pahit tentang bagaimana janji awal dapat dikorbankan demi pertumbuhan ekonomi dan monetisasi.
"Saya yakin interaksi pertama iklan (di ChatGPT) akan mengikuti prinsip tersebut," tulis Hitzig, mengakui bahwa OpenAI mungkin akan memulai dengan niat baik dan implementasi yang hati-hati. Namun, ia menambahkan peringatan yang menakutkan, "Namun saya khawatir iterasi selanjutnya tidak akan demikian karena perusahaan sedang membangun mesin ekonomi yang menciptakan insentif kuat untuk mengabaikan aturannya sendiri." Prediksi ini bukan sekadar spekulasi, melainkan analisis berbasis pengalaman tentang bagaimana tekanan pasar, tuntutan investor, dan kebutuhan untuk menutupi biaya operasional yang sangat besar dapat secara perlahan namun pasti mengikis komitmen etis awal. Begitu roda ekonomi mulai berputar, sangat sulit untuk menghentikannya, bahkan jika itu berarti mengorbankan prinsip-prinsip yang dulu dijunjung tinggi.
Pengunduran diri Hitzig sendiri diumumkan tidak lama setelah OpenAI secara resmi memulai uji coba iklan di ChatGPT untuk pengguna di Amerika Serikat. Saat ini, uji coba tersebut menargetkan pengguna tier gratis dan pelanggan paket hemat bernama ChatGPT Go. Ini adalah segmen pengguna terbesar yang belum memberikan kontribusi pendapatan langsung kepada OpenAI, menjadikannya target yang logis untuk monetisasi awal. Di sisi lain, pelanggan paket lain yang lebih premium seperti ChatGPT Plus, Pro, Business, Enterprise, dan Education tidak akan melihat iklan. Strategi ini kemungkinan dirancang untuk mendorong pengguna beralih ke paket berbayar sekaligus tetap memonetisasi basis pengguna gratis yang sangat besar.
OpenAI menyatakan bahwa iklan akan tampil di bawah jawaban dari ChatGPT dengan label khusus yang jelas, dan yang terpenting, tidak akan mempengaruhi jawaban atau output yang dihasilkan oleh chatbot. Pernyataan ini dimaksudkan untuk meredakan kekhawatiran bahwa iklan akan secara langsung memanipulasi informasi yang diberikan oleh AI. Namun, kekhawatiran Hitzig dan banyak pihak lainnya melampaui sekadar manipulasi langsung. Pertanyaan yang lebih dalam adalah: data apa yang digunakan untuk menargetkan iklan tersebut? Jika data pribadi yang sensitif digunakan, bahkan jika iklan tampil di bawah jawaban, itu tetap merupakan pelanggaran privasi yang signifikan.
Langkah OpenAI ini menyoroti dilema fundamental yang dihadapi oleh banyak perusahaan AI saat ini: bagaimana cara memonetisasi teknologi yang mahal untuk dikembangkan dan dioperasikan tanpa mengorbankan kepercayaan pengguna dan prinsip-prinsip etika. Pengembangan dan pemeliharaan model AI skala besar seperti ChatGPT membutuhkan investasi komputasi yang masif, tenaga ahli yang sangat mahal, dan biaya penelitian dan pengembangan yang terus-menerus. Dengan miliaran dolar yang diinvestasikan, tekanan untuk menghasilkan pendapatan yang signifikan sangatlah besar. Iklan, dengan model bisnis yang telah terbukti di berbagai platform digital, seringkali menjadi pilihan yang paling jelas dan cepat.
Namun, sejarah Facebook dan raksasa teknologi lainnya telah mengajarkan pelajaran berharga tentang konsekuensi jangka panjang dari monetisasi agresif yang mengabaikan privasi. Pelanggaran data, skandal penggunaan data yang tidak etis, dan erosi kepercayaan pengguna telah merusak reputasi dan bahkan nilai pasar perusahaan-perusahaan tersebut. Bagi OpenAI, yang memposisikan dirinya sebagai pemimpin dalam pengembangan AI yang bertanggung jawab dan bermanfaat bagi umat manusia, risiko reputasi ini bahkan lebih besar. Jika ChatGPT, yang telah menjadi teman virtual bagi jutaan orang, mulai dianggap sebagai alat pengumpul data untuk tujuan iklan, maka daya tariknya sebagai entitas yang netral dan terpercaya akan runtuh.
Implikasi dari keputusan OpenAI ini melampaui perusahaan itu sendiri. Ini akan menetapkan preseden bagi seluruh industri AI. Jika salah satu pemain terkemuka memilih jalur monetisasi berbasis iklan yang berisiko, perusahaan AI lain mungkin akan merasa terdorong untuk mengikuti. Hal ini dapat memicu perlombaan untuk mengekstraksi dan memanfaatkan data pengguna secara maksimal, berpotensi menciptakan ekosistem AI di mana privasi menjadi komoditas yang langka. Regulator di seluruh dunia, yang sudah semakin ketat dalam mengawasi praktik data perusahaan teknologi, kemungkinan besar akan mengamati perkembangan ini dengan cermat. Potensi intervensi regulasi, seperti yang dialami Facebook dengan FTC, adalah risiko nyata yang dihadapi OpenAI.
Pada akhirnya, peringatan Zoë Hitzig adalah seruan untuk refleksi yang mendalam. Ini adalah momen krusial bagi OpenAI untuk meninjau kembali prioritasnya. Apakah tujuan utamanya adalah membangun "mesin ekonomi" yang kuat, atau tetap setia pada misi awal untuk mengembangkan AI yang bermanfaat dan bertanggung jawab, dengan menjaga kepercayaan pengguna sebagai prioritas utama? Pilihan yang dibuat OpenAI dalam beberapa tahun ke depan tidak hanya akan menentukan masa depannya sendiri, tetapi juga masa depan hubungan antara manusia dan kecerdasan buatan, serta standar etika dalam era digital yang semakin didominasi oleh AI.
