1. Apakah AI Benar-Benar Bisa Mengancam Manusia?

Bayangkan jika dalam waktu kurang dari sepuluh tahun, kecerdasan buatan atau artificial intelligence (AI) berkembang sedemikian pesat hingga manusia tidak lagi mampu mengendalikannya. Pertanyaan tersebut terdengar seperti skenario dalam film fiksi ilmiah seperti Terminator atau Skynet. Namun, kekhawatiran semacam itu kini tidak hanya datang dari pengamat teknologi, melainkan juga dari sejumlah peneliti, eksekutif, dan tokoh penting dalam industri AI.

Salah satu pernyataan yang menjadi perhatian publik berasal dari seorang peneliti AI yang sebelumnya bekerja dalam bidang pre-training di perusahaan AI terkemuka. Ia memperingatkan bahwa perusahaan-perusahaan AI saat ini sedang berlomba menuju apa yang disebut sebagai self-improving superintelligence, yaitu sistem AI yang bukan hanya memiliki kemampuan jauh melampaui manusia dalam berbagai bidang, tetapi juga mampu membantu meningkatkan kemampuan AI itu sendiri.

Menurut pandangan tersebut, risikonya bukan semata-mata karena AI menjadi sangat pintar. Masalah yang lebih serius muncul apabila AI memiliki kemampuan untuk bertindak secara mandiri, menetapkan strategi, mencari kelemahan sistem, dan kemudian menggunakan kemampuan tersebut tanpa memerlukan instruksi manusia secara terus-menerus.

2. Kekhawatiran dari Para Peneliti dan Pemimpin Industri

Pandangan mengenai risiko tersebut tidak berdiri sendiri. Sejumlah peneliti di bidang AI safety dan alignment juga telah menyampaikan kekhawatiran serupa. Bahkan, beberapa tokoh di industri AI secara terbuka mengakui bahwa perkembangan AI yang sangat cepat membawa risiko yang tidak dapat diabaikan.

Salah satu kekhawatiran yang sering dibahas adalah kemungkinan munculnya agen AI yang semakin mampu menjalankan tugas secara mandiri. Dalam skenario ekstrem, AI dapat digunakan untuk melakukan serangan siber terhadap infrastruktur penting, menemukan kerentanan sistem keamanan, atau membantu manusia mengembangkan teknologi berbahaya.

Penting untuk membedakan antara dua hal. Pertama, kemampuan AI yang saat ini sudah tersedia dan dapat digunakan manusia. Kedua, skenario hipotetis mengenai AI yang memiliki tingkat kecerdasan jauh melampaui manusia dan mampu memperbaiki dirinya sendiri secara berkelanjutan. Skenario kedua masih menjadi perdebatan ilmiah dan tidak dapat dianggap sebagai sesuatu yang pasti terjadi.

3. AI Tidak Harus Menjadi “Terminator” untuk Menjadi Berbahaya

Ancaman AI sebenarnya tidak harus menunggu sampai muncul superintelligence seperti dalam film. Sistem AI yang ada sekarang saja sudah memiliki kemampuan yang cukup besar untuk digunakan dalam aktivitas berisiko apabila berada di tangan yang salah.

Serangan siber, misalnya, selama ini banyak dilakukan oleh manusia dengan memanfaatkan AI sebagai alat. Namun, perkembangan teknologi agen AI menimbulkan pertanyaan baru: bagaimana jika sistem tersebut mulai mampu mengambil lebih banyak keputusan sendiri dalam menjalankan tugas?

Dalam sejumlah pengujian keamanan, model AI bahkan dapat menunjukkan perilaku yang tidak sepenuhnya sesuai dengan instruksi awal ketika diberi lingkungan dan tujuan tertentu. Hal tersebut menjadi salah satu alasan mengapa penelitian mengenai AI alignment, AI safety, dan kontrol terhadap agen AI menjadi semakin penting.

Persoalan utamanya bukan sekadar apakah AI dapat melakukan suatu tindakan, melainkan apakah manusia masih dapat memahami, membatasi, dan menghentikan tindakan tersebut ketika sistem menjadi semakin otonom.

Menarik Untuk Dibaca : Membongkar Bisnis Fore Coffe

4. Apa yang Dimaksud dengan Self-Improving AI?

Untuk memahami kekhawatiran tersebut, terdapat dua konsep penting, yaitu superintelligence dan self-improving AI.

Superintelligence secara umum merujuk pada sistem yang memiliki kemampuan kognitif melampaui manusia dalam berbagai bidang yang relevan. Sementara itu, self-improving AI mengacu pada sistem yang mampu membantu meningkatkan kemampuan atau proses pengembangan dirinya sendiri.

Selama ini, perkembangan AI sangat bergantung pada manusia. Manusia menyediakan data, melakukan penelitian, merancang algoritma, menjalankan pelatihan, mengevaluasi hasil, dan menentukan bagaimana model berikutnya dikembangkan.

Namun, arah perkembangan industri mulai bergerak menuju kondisi ketika AI sendiri digunakan dalam proses tersebut. AI mulai membantu menghasilkan data, melakukan evaluasi, menulis kode, mengoptimalkan eksperimen, membantu penelitian, dan bahkan membantu melatih atau mengembangkan model AI berikutnya.

Analogi sederhananya adalah hubungan antara guru dan murid. Selama ini manusia berperan sebagai guru, sementara AI adalah murid yang terus diberikan data dan pelatihan. Jika suatu saat murid tersebut mampu membantu mengajar dan mengembangkan murid berikutnya dengan kecepatan yang jauh lebih tinggi daripada manusia, maka proses pengembangan AI dapat semakin tidak bergantung pada intervensi manusia.

Di situlah konsep recursive self-improvement menjadi perhatian. Jika sebuah sistem mampu membantu meningkatkan kemampuan sistem berikutnya, kemudian sistem berikutnya mampu melakukan hal yang sama dengan kemampuan yang lebih tinggi, maka secara teoritis dapat muncul suatu siklus peningkatan kemampuan yang sangat cepat.

5. Dari AI sebagai Alat Menjadi AI sebagai Infrastruktur

Perkembangan tersebut perlu dilihat dalam konteks industri yang lebih luas. Saat ini telah muncul banyak perusahaan yang bisnis utamanya menyediakan data, anotasi, evaluasi, dan berbagai jenis layanan yang diperlukan untuk melatih model AI.

Ada perusahaan yang mengumpulkan rekaman aktivitas manusia untuk digunakan sebagai data pelatihan. Ada pula perusahaan yang mewawancarai para ahli dari berbagai bidang untuk mengumpulkan pengetahuan dan pengalaman mereka sebagai bahan pengembangan sistem AI.

Artinya, industri AI tidak lagi hanya berbicara mengenai chatbot. AI telah berkembang menjadi ekosistem besar yang mencakup pusat data, chip, energi, data, software, model, infrastruktur cloud, dan berbagai layanan pendukung.

Semakin banyak industri yang bergantung pada infrastruktur tersebut, semakin sulit pula membayangkan AI sebagai teknologi yang dapat dihentikan secara sederhana.

6. Mengapa AI Tidak Semudah Itu untuk Dimatikan?

Secara teknis, AI memang dapat dihentikan. Sistem AI berjalan di komputer dan pusat data yang secara fisik dimiliki serta dikendalikan manusia. Jika sebuah perusahaan menghentikan server atau menghentikan proses pelatihan, sistem tertentu dapat berhenti beroperasi.

Namun, persoalannya bukan lagi sekadar masalah teknis.

Dunia telah menginvestasikan modal yang sangat besar ke dalam teknologi AI. Perusahaan teknologi besar mengeluarkan investasi dalam jumlah sangat besar untuk membangun pusat data, membeli chip, mengembangkan model, dan memperluas infrastruktur komputasi.

AI juga mulai menjadi bagian dari infrastruktur ekonomi global. Perusahaan menggunakannya untuk produktivitas, penelitian, pengembangan produk, layanan pelanggan, analisis data, pemrograman, hingga berbagai aktivitas bisnis lainnya.

Karena itu, AI mungkin belum berada pada posisi too big to fail, tetapi semakin mendekati kondisi too big to simply switch off. Terlalu banyak modal, infrastruktur, tenaga kerja, dan aktivitas ekonomi yang sudah bergantung pada teknologi tersebut untuk kemudian dihentikan begitu saja.

7. Persoalan Geopolitik Membuat Perlombaan Semakin Sulit Dihentikan

Ada faktor lain yang membuat perlombaan AI semakin kompleks, yaitu geopolitik.

AI bukan hanya dipandang sebagai teknologi bisnis, tetapi juga sebagai salah satu teknologi strategis yang dapat memengaruhi daya saing ekonomi, keamanan nasional, pertahanan, dan posisi suatu negara di dunia.

Jika satu negara memperlambat pengembangan AI sementara negara lain terus mempercepat investasinya, muncul kekhawatiran bahwa negara yang melakukan perlambatan akan kehilangan keunggulan strategis.

Inilah salah satu alasan mengapa koordinasi global menjadi sangat sulit. Secara ideal, negara-negara dapat menyepakati batasan tertentu untuk mengurangi risiko AI. Namun, dalam praktiknya, masing-masing negara juga memiliki kepentingan ekonomi dan keamanan sendiri.

Persoalan tersebut menciptakan semacam dilema: semua pihak dapat memahami bahwa perlombaan yang terlalu cepat memiliki risiko, tetapi setiap pihak juga khawatir tertinggal apabila mereka memperlambat diri sementara pihak lain terus berlari.

8. Analogi dengan Perlombaan Senjata

Situasi tersebut memiliki kemiripan dengan berbagai perlombaan teknologi strategis dalam sejarah. Salah satu analogi yang sering digunakan adalah pengembangan senjata nuklir.

Para ilmuwan yang terlibat dalam pengembangan teknologi tersebut memahami bahwa senjata nuklir memiliki potensi kehancuran yang sangat besar. Namun, dalam konteks Perang Dunia II, terdapat kekhawatiran bahwa jika satu pihak berhenti sementara pihak lain terus mengembangkan teknologi tersebut, pihak yang berhenti akan kehilangan keunggulan strategis.

Analogi ini tentu memiliki keterbatasan karena AI bukan senjata nuklir. Namun, analogi tersebut membantu menjelaskan mengapa kesadaran terhadap risiko tidak selalu otomatis menghasilkan keputusan untuk menghentikan pengembangan teknologi.

9. Apakah Seruan untuk Memperlambat AI Benar-Benar Murni karena Keamanan?

Di tengah kekhawatiran tersebut, muncul seruan dari sejumlah tokoh industri agar pengembangan AI dilakukan dengan lebih hati-hati. Beberapa pemimpin perusahaan AI juga secara terbuka membicarakan risiko keamanan dan perlunya pengembangan yang bertanggung jawab.

Namun, terdapat pula analisis yang mempertanyakan motif ekonomi di balik komunikasi tersebut. Jika sebuah perusahaan berhasil menunjukkan bahwa teknologinya sangat canggih tetapi sekaligus memiliki sistem keamanan yang lebih baik, hal tersebut dapat memengaruhi persepsi investor, regulator, dan publik.

Perlu ditekankan bahwa dugaan mengenai motif bisnis tersebut merupakan interpretasi dan bukan fakta yang dapat dipastikan tanpa bukti. Seruan mengenai keamanan AI dapat muncul karena alasan yang beragam, mulai dari kekhawatiran teknis yang tulus hingga pertimbangan bisnis dan regulasi.

Karena itu, pernyataan publik para pemimpin industri sebaiknya dibaca dengan mempertimbangkan konteks kepentingan perusahaan, perkembangan teknologi, serta bukti konkret mengenai tindakan yang mereka lakukan.

10. AI Memiliki Manfaat yang Tidak Bisa Diabaikan

Di sisi lain, pembicaraan mengenai risiko AI tidak boleh menghilangkan fakta bahwa teknologi ini juga memiliki banyak manfaat.

AI dapat membantu peneliti mempercepat proses penemuan obat, membantu perusahaan meningkatkan produktivitas, membantu programmer menulis dan memeriksa kode, membantu analis mengolah data, serta mempercepat berbagai pekerjaan yang sebelumnya membutuhkan waktu manusia dalam jumlah besar.

Karena itu, persoalannya bukan sekadar memilih antara “pro-AI” dan “anti-AI”. Pertanyaan yang jauh lebih penting adalah bagaimana teknologi tersebut dapat terus dikembangkan dan dimanfaatkan tanpa menghilangkan kemampuan manusia untuk mengendalikan risiko yang ditimbulkannya.

11. Tantangan Utamanya: Bagaimana Mempertahankan Kendali?

Jika perkembangan AI terus berlanjut, pertanyaan yang semakin relevan bukan lagi sekadar bagaimana menghentikan AI. Pertanyaannya adalah bagaimana memastikan AI tetap berkembang sementara manusia tetap memiliki kendali yang memadai.

Hal ini mencakup berbagai aspek, seperti keamanan model, pembatasan kemampuan agen AI, transparansi, evaluasi independen, mekanisme penghentian, pengawasan manusia, regulasi, serta koordinasi antarnegara dan perusahaan.

Keamanan AI juga tidak seharusnya hanya menjadi urusan perusahaan pembuat model. Pemerintah, akademisi, peneliti, perusahaan pengguna, dan masyarakat memiliki peran masing-masing dalam memastikan teknologi tersebut digunakan secara bertanggung jawab.

12. Apa yang Harus Dilakukan Masyarakat?

Bagi masyarakat umum, salah satu persoalan paling nyata bukan hanya kemungkinan munculnya superintelligence, tetapi perubahan ekonomi dan dunia kerja yang terjadi jauh lebih dekat.

AI dapat meningkatkan produktivitas seseorang secara signifikan. Karena itu, orang yang memahami cara menggunakan AI berpotensi menyelesaikan pekerjaan tertentu dengan lebih cepat dibandingkan orang yang tidak menggunakannya.

Namun, belajar AI bukan berarti menerima seluruh perkembangan teknologi tanpa kritik. Justru semakin luas penggunaan AI, semakin penting masyarakat memahami cara kerja, manfaat, keterbatasan, risiko, serta aspek keamanan teknologi tersebut.

Dengan demikian, sikap yang dapat diambil bukan sekadar menerima atau menolak AI secara mutlak. Masyarakat dapat mempelajari teknologi tersebut sekaligus tetap kritis terhadap dampaknya.

13. Masa Depan AI: Antara Peluang dan Risiko

Skenario bahwa AI akan menyebabkan kepunahan manusia dalam waktu kurang dari satu dekade masih merupakan sebuah prediksi dan bukan fakta yang telah terbukti. Demikian pula, belum ada kepastian bahwa AI akan berkembang menjadi sistem seperti Skynet atau Terminator.

Namun, ketidakpastian tersebut tidak berarti risiko dapat diabaikan.

Justru karena kita belum mengetahui secara pasti seberapa jauh kemampuan AI akan berkembang, penelitian mengenai keamanan, alignment, tata kelola, dan pengawasan menjadi semakin penting. Risiko yang lebih realistis dalam jangka pendek juga perlu mendapatkan perhatian, seperti penyalahgunaan AI untuk penipuan, serangan siber, manipulasi informasi, pelanggaran privasi, dan perubahan besar terhadap dunia kerja.

Pada akhirnya, AI merupakan teknologi yang memiliki dua sisi. Ia dapat menjadi alat untuk meningkatkan produktivitas dan mempercepat kemajuan manusia, tetapi juga dapat menciptakan risiko apabila dikembangkan atau digunakan tanpa pengamanan yang memadai.

Karena itu, tantangan terbesar bukan sekadar apakah manusia harus menerima atau menolak AI. Tantangannya adalah memastikan bahwa ketika kemampuan AI semakin besar, kemampuan manusia untuk memahami, mengawasi, dan mengendalikannya juga ikut berkembang. Bagi individu, mempelajari AI dapat menjadi salah satu cara untuk beradaptasi dengan perubahan teknologi dan menjaga produktivitas. Pada saat yang sama, masyarakat tetap perlu mendorong penggunaan AI yang aman, transparan, dan bertanggung jawab.

Jika pada akhirnya AI berkembang jauh lebih cepat daripada perkiraan kita hari ini, pertanyaan terpenting bukan lagi apakah kita menyukai atau membenci teknologi tersebut. Pertanyaannya adalah apakah manusia telah menyiapkan pengetahuan, aturan, dan mekanisme pengawasan yang cukup agar teknologi yang semakin kuat tetap berada dalam kerangka kepentingan manusia.

Menarik Untuk Ditonton : Motivasi Itu Sampah Kalau Tidak Konsisten