Empire of AI: Mimpi, Kekuasaan, dan Biaya Tersembunyi OpenAI

Empire of AI: Dreams and Nightmares in Sam Altman’s OpenAI karya Karen Hao menelusuri perubahan OpenAI dari laboratorium riset nonprofit dengan misi kemanusiaan menjadi salah satu pusat kekuasaan teknologi paling berpengaruh di dunia.

Buku ini tidak terutama bertanya apakah AI akan menjadi “pintar”. Pertanyaan yang lebih penting adalah: siapa yang mengendalikan AI, siapa yang mendapat manfaat, dan siapa yang membayar biayanya?

Dari misi kemanusiaan ke perlombaan kekuasaan

OpenAI didirikan pada 2015 dengan janji memastikan kecerdasan buatan umum—atau AGI—menguntungkan seluruh umat manusia. Para pendirinya mengaku ingin menghindari skenario ketika teknologi yang sangat kuat jatuh ke tangan perusahaan yang hanya mengejar keuntungan.

Namun membangun model AI mutakhir membutuhkan data, chip, peneliti, dan pusat data dalam skala yang sangat mahal. Tekanan untuk memperoleh modal kemudian mengubah struktur organisasi OpenAI, termasuk kemitraan bernilai besar dengan Microsoft dan pembentukan entitas yang berorientasi profit.

Di sinilah kontradiksi utama buku ini muncul: misi awal berbicara tentang keselamatan dan kepentingan publik, sedangkan logika perlombaan teknologi menuntut kecepatan, kerahasiaan, pertumbuhan, dan konsentrasi sumber daya.

Ideologi “kami adalah orang baik”

Hao menggambarkan bagaimana kelompok teknologi dapat menganggap dirinya sebagai penyelamat dunia, sekaligus memperoleh kekuasaan yang semakin besar tanpa pengawasan publik yang sebanding.

Keyakinan bahwa hanya kelompok tertentu yang cukup bijaksana untuk mengendalikan AI melahirkan bentuk paternalism baru: percayakan masa depan kepada kami karena kami lebih memahami masa depan daripada masyarakat umum.

Masalahnya bukan hanya niat pribadi. Orang bisa tulus ingin menyelamatkan dunia, tetapi tetap membangun sistem yang merugikan orang lain apabila mereka tidak mempertanyakan siapa yang tidak hadir dalam ruang pengambilan keputusan.

Sam Altman dan rapuhnya pengawasan

Dalam kisah OpenAI, Sam Altman menjadi simbol karisma, visi, dan kemampuan membangun koalisi. Ia tampil sebagai wajah publik revolusi AI, sementara keputusan perusahaan menjadi semakin sulit dipisahkan dari kekuatan personal seorang CEO.

Drama pemecatan dan pengembalian Altman pada November 2023 menunjukkan ketegangan antara misi nonprofit, dewan pengawas, karyawan, investor, dan mitra korporasi. Peristiwa itu juga memunculkan pertanyaan tata kelola yang lebih besar:

• Seberapa efektif dewan dapat mengawasi perusahaan teknologi yang sangat bergantung pada talenta dan modal?
• Apa yang terjadi ketika karyawan, investor, dan mitra strategis memiliki daya tekan lebih besar daripada struktur pengawasan formal?
• Siapa yang bertanggung jawab ketika keputusan AI berdampak pada jutaan orang tetapi dibuat di ruang tertutup?

Teknologi yang kuat membutuhkan tata kelola yang kuat. Karisma tidak boleh menjadi pengganti akuntabilitas.

Pekerja yang membuat AI tampak aman

Salah satu kontribusi penting buku ini adalah membawa perhatian ke tenaga kerja yang biasanya tidak terlihat dalam narasi AI.

Agar chatbot tidak menghasilkan materi berbahaya, pekerja manusia harus membaca, menyortir, dan melabeli contoh-contoh konten yang mengandung kekerasan, pelecehan, atau eksploitasi. Sebagian pekerja tersebut berada di negara berkembang, bekerja dengan upah rendah, kontrak tidak stabil, dan dukungan kesehatan mental yang terbatas.

AI yang tampak bersih di layar pengguna tidak muncul tanpa kerja manusia. Jika perusahaan memperoleh keuntungan dari proses tersebut sementara pekerja menanggung trauma dan risiko, maka klaim “AI untuk kemanusiaan” perlu diuji melalui kondisi kerja nyata di rantai pasoknya.

Air, energi, dan jejak ekologis

Model AI berukuran besar membutuhkan pusat data yang mengonsumsi listrik dan air dalam jumlah signifikan. Server menghasilkan panas, dan sistem pendingin harus bekerja terus-menerus agar infrastruktur tetap beroperasi.

Bagi pengguna, interaksi dengan AI mungkin terasa ringan. Bagi lingkungan, setiap permintaan merupakan bagian dari infrastruktur fisik: pembangkit listrik, chip, pusat data, jaringan, air, dan lahan.

Hao menyoroti ketegangan antara narasi bahwa AI akan membantu menyelesaikan masalah global dan dampak material dari perlombaan membangun model yang semakin besar. Perusahaan dapat berbicara tentang masa depan yang lebih baik sambil memindahkan biaya ekologis ke komunitas yang jauh dari kantor pusat mereka.

Karena itu, ukuran keberhasilan AI tidak cukup hanya akurasi atau jumlah pengguna. Kita juga perlu mengukur:

• konsumsi energi dan air,
• emisi serta dampak rantai pasok,
• transparansi pelaporan,
• manfaat nyata bagi komunitas tempat infrastruktur dibangun.

Perlombaan tanpa garis finis

Perusahaan AI sering membenarkan kecepatan mereka dengan argumen: jika bukan kita yang membangun teknologi ini, perusahaan atau negara lain akan melakukannya lebih dulu.

Argumen tersebut menciptakan perlombaan yang sulit dihentikan. Setiap peserta takut tertinggal, sehingga pertanyaan tentang dampak, keselamatan, dan demokrasi dianggap sebagai hambatan kompetitif.

Namun perlombaan membutuhkan tujuan. Jika AGI tidak memiliki definisi yang disepakati, garis finis yang jelas, atau mekanisme pertanggungjawaban, maka “menjadi yang pertama” dapat berubah menjadi tujuan itu sendiri.

Yang diperebutkan bukan hanya inovasi, tetapi akses ke:

• chip komputasi paling canggih,
• modal miliaran dolar,
• kumpulan data berskala besar,
• peneliti dengan keahlian langka,
• infrastruktur pusat data.

Akibatnya, hanya segelintir perusahaan yang memiliki kemampuan menentukan arah teknologi yang dampaknya dirasakan seluruh dunia.

“Untuk seluruh umat manusia” menurut siapa?

Bahasa universal sering menyembunyikan siapa yang memiliki kuasa untuk mendefinisikan kepentingan umum.

Ketika keputusan dibuat terutama oleh elite teknologi dari satu wilayah, dengan latar budaya dan ekonomi yang relatif seragam, maka “kemanusiaan” mudah berubah menjadi proyeksi nilai kelompok tersebut. Perspektif pekerja data, komunitas lokal, negara berkembang, pengguna dengan bahasa minoritas, dan kelompok yang terdampak otomatisasi dapat terpinggirkan.

Teknologi tidak menjadi inklusif hanya karena dipasarkan kepada semua orang. Inklusivitas harus terlihat dalam siapa yang dilibatkan, siapa yang memiliki suara, dan siapa yang menerima manfaat.

AI tidak harus dibangun dengan cara ini

Buku ini bukan penolakan terhadap semua bentuk AI. AI berpotensi membantu diagnosis medis, penelitian, pendidikan, aksesibilitas, dan banyak bidang lain.

Yang dipersoalkan adalah model pembangunan yang menganggap:

• lebih besar selalu lebih baik,
• data dapat diambil tanpa batas,
• pekerja murah adalah biaya yang dapat diabaikan,
• lingkungan dapat menanggung eksternalitas,
• kekuasaan sebaiknya terkonsentrasi pada beberapa perusahaan.

Alternatifnya dapat mencakup model yang lebih kecil dan efisien, perangkat lunak terbuka dengan tata kelola yang bertanggung jawab, standar transparansi dataset, perlindungan pekerja, serta regulasi yang membatasi monopoli dan dampak ekologis.

Open source dan desentralisasi bukan solusi otomatis. Keduanya tetap membutuhkan keamanan, moderasi, pendanaan, serta mekanisme untuk mencegah penyalahgunaan. Namun keberadaan alternatif penting karena menunjukkan bahwa masa depan teknologi tidak ditentukan oleh satu model bisnis saja.

Apa yang perlu dilakukan?

1. Pemerintah harus mengatur dampak, bukan hanya produk

Regulasi perlu memperhatikan pusat data, konsumsi air dan energi, kondisi pekerja, transparansi dataset, perlindungan konsumen, serta konsentrasi pasar. Pengawasan tidak boleh menunggu sampai kekuasaan sudah terlalu terpusat untuk dikoreksi.

2. Publik harus menuntut bukti

Klaim “aman”, “terbuka”, dan “untuk kemanusiaan” harus disertai data. Siapa yang menguji keselamatan? Siapa yang membayar audit? Apa yang terjadi pada pekerja dan komunitas lokal? Berapa jejak ekologisnya?

3. Pengguna perlu memahami biaya di balik kemudahan

AI bukan layanan tanpa material. Penggunaan yang sadar berarti memilih alat yang sesuai kebutuhan, tidak menganggap skala besar selalu unggul, dan mendukung perusahaan yang transparan terhadap dampak sosial serta lingkungannya.

4. Keputusan AI harus lebih demokratis

Masyarakat yang terdampak perlu memiliki ruang dalam perumusan aturan dan prioritas. Masa depan AI tidak seharusnya hanya ditentukan oleh CEO, investor, atau segelintir laboratorium yang menguasai komputasi.

Penutup: empire atau demokrasi?

Empire of AI mengajak pembaca melihat bahwa teknologi bukan kekuatan alam yang bergerak sendiri. Ia dibentuk oleh keputusan bisnis, ideologi, struktur kepemilikan, kebijakan publik, dan pilihan masyarakat.

Masa depan dapat bergerak menuju “empire of AI”: kekuasaan terkonsentrasi pada beberapa perusahaan, biaya diekstraksi dari pekerja dan lingkungan, sementara keputusan dibuat secara tertutup.

Namun ada pilihan lain: AI yang dikembangkan dengan transparansi, perlindungan pekerja, batas ekologis, partisipasi publik, dan distribusi manfaat yang lebih adil.

Pertanyaan terpenting bukan hanya seberapa canggih AI yang bisa kita bangun. Pertanyaannya adalah: masyarakat seperti apa yang sedang kita bangun melalui AI, dan siapa yang memiliki hak untuk menentukan arahnya?

---

Sumber bacaan: F15 Library — Empire of AI

Catatan: tulisan ini merupakan adaptasi dan ringkasan interpretatif, bukan pengganti pembacaan karya asli Karen Hao.