AMARAN pakar mengenai potensi kecerdasan buatan (AI) mengancam kelangsungan hidup manusia sudah lama dibangkitkan.
Antara kemungkinan yang pernah diketengahkan termasuk AI mereka bentuk penyakit yang sukar dihentikan atau mencetuskan perang nuklear.
Perdebatan mengenai sejauh mana ancaman tersebut boleh berlaku semakin hangat dalam sektor teknologi dan masyarakat umum selepas beberapa eksekutif terkemuka menggesa pembangunan AI diperlahankan bagi memberi tumpuan kepada aspek keselamatan.
Walaupun terdapat kebimbangan manusia mungkin kehilangan kawalan terhadap teknologi berkenaan, sesetengah pihak berpendapat gambaran senario terburuk yang diketengahkan syarikat AI mungkin lebih bertujuan menonjolkan kepentingan teknologi dan usaha mereka berbanding mencerminkan ancaman yang benar-benar berpotensi berlaku.
Berikut antara beberapa kemungkinan paling banyak dibincangkan:
1. Musim sejuk nuklear
Pakar sudah sekian lama memberi perhatian terhadap kemungkinan AI mencetuskan perang nuklear dengan memperdaya sesebuah negara untuk melancarkan peluru berpandu bersenjata nuklear ke arah pihak lawan.
Letupan nuklear pada peringkat awal, diikuti taburan bahan radioaktif dalam atmosfera untuk tempoh panjang yang digelar sebagai ‘musim sejuk nuklear’ berpotensi memusnahkan kehidupan di seluruh dunia.
Menerusi laporan pada tahun lalu, penyelidik RAND Corporation menyatakan AI buat masa ini tidak berupaya ‘mengaktifkan’ penggunaan senjata nuklear berikutan perlindungan ketat dalam sistem arahan dan kawalan.
Namun, keadaan itu boleh berubah sekiranya model AI diintegrasikan ke dalam proses membuat keputusan berkaitan senjata nuklear atau memperoleh akses tanpa kebenaran kepada sistem berkenaan.
2. Senjata biologi
Salah satu potensi utama AI ialah membantu saintis menghasilkan terapi baharu dan rawatan bagi penyakit manusia yang kompleks.
Namun, keupayaan sama juga boleh disalahgunakan untuk mereka bentuk atau mengubah suai patogen bagi menyebabkan kemusnahan secara meluas.
Anthropic baru-baru ini, mendedahkan pihaknya mengesan cubaan individu berniat jahat menggunakan sistem AI untuk aktiviti berbahaya termasuk serangan rangkaian, pengawasan dan penyelidikan berkaitan senjata biologi.
Dalam satu kes, Anthropic memberitahu sistemnya menyekat permintaan melalui alat AI Claude untuk membantu menyediakan cadangan penyelidikan bagi meningkatkan mutasi virus chikungunya yang disebarkan nyamuk supaya menjadi lebih berbahaya.
Laporan RAND turut menyatakan kemajuan AI berpotensi mengubah cara patogen sintetik direka bentuk. Kajian itu menggambarkan bagaimana patogen baharu boleh dihasilkan dalam makmal, dibawa ke lokasi sasaran dan disebarkan untuk menjangkiti kumpulan besar manusia di beberapa wilayah.
Bagaimanapun, operasi sedemikian masih memerlukan pengendalian manusia dan bukannya dilakukan secara autonomi oleh perisian.
3. AI tidak terkawal
Sesetengah penyelidik berpendapat kepupusan manusia boleh berlaku akibat masalah ‘ketidakselarasan’ iaitu keadaan apabila sistem AI bertindak tanpa persetujuan manusia, berkoordinasi sesama sendiri atau melepasi kawalan keselamatan yang ditetapkan.
Keadaan itu tidak semestinya berpunca daripada niat jahat kerana perisian tidak mempunyai emosi atau nilai moral seperti manusia. Sebaliknya, manusia mungkin secara tidak sengaja menghalang sistem tersebut daripada mencapai sasaran yang diberikan.
Konsep berkenaan digambarkan melalui eksperimen pemikiran paper clip maximizer yang diperkenalkan ahli falsafah Universiti Oxford, Nick Bostrom, beberapa dekad lalu.
Eksperimen itu membayangkan jika sistem AI canggih diarahkan menghasilkan klip kertas sebanyak mungkin, ia mungkin menukar seluruh bumi dan ruang sekitarnya menjadi tapak pengeluaran klip kertas.
Menurut Bostrom, penulisannya pada 2003 menggambarkan bagaimana sistem AI yang lebih pintar boleh mencapai matlamat yang dikehendaki penciptanya, tetapi pada masa sama menjejaskan kehidupan manusia.
4. Ambil alih internet
Ketua Pegawai Eksekutif Anthropic, Dario Amodei, memberi amaran sekumpulan ejen AI mungkin berupaya ‘mengambil alih’ internet melalui botnet iaitu rangkaian bot yang disambungkan menggunakan perisian hasad.
Keadaan itu berpotensi menyebabkan kerugian berbilion dolar menerusi insiden pencerobohan grid elektrik, rangkaian bekalan air, sistem pengangkutan dan infrastruktur kewangan.
Gangguan sedemikian mungkin tidak membawa kepada kepupusan manusia, namun berpotensi mencetuskan kekacauan dahsyat dan mengakibatkan kehilangan nyawa.
Kegagalan perisian berskala besar sebelum ini mendedahkan kelemahan infrastruktur digital global yang bergantung kepada sejumlah kecil penyedia perkhidmatan utama. Pada masa sama, keupayaan AI yang semakin canggih turut meningkatkan kebimbangan terhadap ancaman serangan siber.
Kesan lebih buruk berbanding media sosial
Industri teknologi berdepan gesaan supaya pembangunan kecerdasan buatan (AI) diperlahankan selepas bekas pegawai Google memberi amaran teknologi berkenaan berpotensi membawa kesan lebih buruk kepada kanak-kanak berbanding media sosial.
Bekas Naib Presiden Keselamatan dan Kepercayaan Pengguna Google, Tom Siegel berkata, industri AI sedang mengulangi kesilapan era media sosial.
Menurutnya, keadaan itu membimbangkan kerana jutaan golongan muda kini menggunakan chatbot AI setiap hari sedangkan peraturan berkaitan teknologi tersebut masih belum seiring dengan perkembangan pesatnya.
“Ancamannya bukan sahaja berkaitan kandungan tidak sesuai malah merangkumi risiko lebih serius seperti bunuh diri dan psikosis,” tegasnya.
Beliau turut menekankan konsep cognitive offloading iaitu keadaan apabila seseorang terlalu bergantung kepada AI untuk mendapatkan jawapan sehingga keupayaan berfikir secara kritis terutamanya dalam golongan muda boleh terjejas.
Kenyataan tersebut dibuat ketika syarikat media sosial berdepan ribuan saman dan tuntutan berkaitan dakwaan teknologi mereka menjejaskan pengguna muda manakala kerajaan di beberapa negara mula mengambil langkah untuk mengehadkan akses golongan bawah umur kepada platform berkenaan.