Manipulasi imej seksual guna AI membimbangkan – CMCF
CYBERJAYA - Penyalahgunaan kecerdasan buatan (AI) untuk menghasilkan kandungan seksual melibatkan kanak-kanak dan orang dewasa semakin membimbangkan, sekali gus menuntut tindakan bersama kerajaan, penyedia platform, ibu bapa serta masyarakat bagi membendung risiko berkenaan.
Ketua Pegawai Eksekutif Forum Kandungan Komunikasi dan Multimedia Malaysia (CMCF), Mediha Mahmood berkata, lambakan aplikasi dan laman sesawang yang menawarkan perkhidmatan penjanaan kandungan AI menyukarkan usaha memastikan teknologi itu tidak disalahgunakan untuk tujuan jenayah.
Menurutnya, perkhidmatan sedemikian boleh digunakan untuk memanipulasi gambar atau video seseorang bagi menghasilkan kandungan seksual yang tidak menggambarkan keadaan sebenar.
“Penggunaan AI untuk menghasilkan kandungan berunsur seksual melibatkan bukan sahaja orang dewasa, tetapi kanak-kanak adalah perkara paling membimbangkan.
“Kita juga melihat peningkatan penggunaan AI oleh golongan tersebut dan ini merupakan masalah yang perlu dibendung serta memerlukan kerjasama semua pihak,” katanya dalam satu temubual khas bersama pengamal media, pada Jumaat.
Mediha berkata, tanggungjawab menangani isu itu tidak seharusnya diletakkan sepenuhnya kepada kerajaan atau agensi penguat kuasa, sebaliknya perlu turut dipikul penyedia platform, ibu bapa, penjaga, guru dan masyarakat.
Malah menurutnya, ibu bapa yang memberikan anak peranti dengan sambungan internet atau fungsi rakaman perlu memastikan penggunaannya sentiasa dipantau dan dikawal.
“Mereka perlu memahami bahawa risiko dalam talian bukan hanya berkaitan penggunaan media sosial, malah merangkumi aplikasi AI dan pelbagai perkhidmatan digital lain.
“Kanak-kanak di bawah umur 16 tahun misalnya, tidak sepatutnya mempunyai akaun media sosial. Perkara itu juga boleh dijadikan panduan untuk penggunaan aplikasi AI dan apa sahaja perkhidmatan internet yang mempunyai risiko membahayakan atau memudaratkan,” ujarnya.
Sementara itu, pada Persidangan M360 ASEAN 2026 yang diadakan di Kuala Lumpur pada 10 September lepas, Menteri Komunikasi, Datuk Seri Fahmi Fadzil berkata, bermula 1 Januari 2025 hingga 31 Ogos 2026, Suruhanjaya Komunikasi dan Multimedia Malaysia (MCMC) telah mengemukakan lebih satu juta permintaan kepada platform dalam talian untuk menurunkan kandungan.
“Daripada jumlah itu, sebanyak 935,416 kandungan telah diturunkan, mewakili kadar pematuhan platform sebanyak 93 peratus,” kata Fahmi.
Aduan tetap boleh dibuat
Mengulas tindakan terhadap penyalahgunaan AI, Mediha berkata, antara cabaran yang dihadapi pihak berkuasa ialah mendapatkan bukti forensik khususnya apabila kandungan atau pautan asal sudah dipadamkan.
Bagaimanapun beliau menegaskan, orang ramai tidak seharusnya menganggap tiada tindakan boleh diambil hanya kerana pautan berkenaan sudah tiada.
Menurutnya, perbincangan bersama agensi penguat kuasa termasuk Polis Diraja Malaysia (PDRM) dan MCMC menunjukkan masih terdapat kaedah untuk mendapatkan pautan serta bukti berkaitan.
“Saya sarankan orang ramai tidak menganggap perkara itu tidak boleh dilaporkan. Ia masih boleh dilaporkan dan tindakan masih boleh diambil.
“Pada masa sama, kita juga perlu meneroka cara untuk memastikan platform mempunyai tanggungjawab terhadap keselamatan sejak peringkat reka bentuk dan secara lalai,” katanya.
Pautan dipadam, siasatan tetap diteruskan
Mediha berkata, CMCF sedang memperbaiki Kod Kandungan dengan edisi terbaharu dijangka memasukkan peruntukan berkaitan penggunaan AI.
Menurutnya, edisi terakhir kod berkenaan diterbitkan pada 2022, manakala CMCF turut merancang menghasilkan garis panduan khusus kandungan AI pada tahun depan.
“Kita memberi tumpuan kepada amalan terbaik dan standard apabila bercakap tentang kandungan AI, sama ada kandungan berkaitan kanak-kanak atau penggunaannya dalam pengiklanan,” katanya.
Beliau menjelaskan, antara perkara penting yang perlu diberi perhatian ialah pendedahan atau pelabelan kandungan yang dihasilkan menggunakan AI.
Menurutnya, platform media sosial kini semakin menggalakkan pengguna melabelkan kandungan yang dihasil menggunakan teknologi berkenaan, termasuk melalui ciri pengesanan yang boleh mengenal pasti kandungan AI sebelum diterbitkan.
“Kanak-kanak mungkin belum cukup matang untuk memahami kesan sesuatu kandungan yang dihasilkan atau dikongsikan, sedangkan bahan itu boleh terus memberi kesan kepada kehidupan mereka pada masa hadapan.
“Penyedia perkhidmatan perlu mengambil kira kemungkinan golongan itu menggunakan platform mereka serta menyediakan ciri keselamatan yang sesuai secara lalai,” katanya.
Jangan sebarkan semula kandungan tidak sepatutnya Mediha turut mengingatkan orang ramai supaya tidak menyebarkan semula kandungan tidak wajar di media sosial atas alasan mahu melaporkannya.
Beliau menjelaskan, tindakan memuat naik semula, berkongsi atau menghantar kandungan berkenaan ke kumpulan WhatsApp boleh menyebabkan ia terus tersebar kepada lebih ramai pengguna.
Malah beliau memberitahu, orang ramai perlu memahami bahawa tindakan berkongsi semula kandungan juga boleh dianggap sebagai penerbitan semula, sekali gus meletakkan tanggungjawab terhadap penyebaran tersebut pada individu yang melakukannya.
“Jika sesuatu perkara itu tidak sepatutnya dikongsi sejak awal, jangan siarkan semula atau kongsikannya kepada orang lain.
“Terus buat aduan kepada platform. Jika platform tidak mengambil tindakan, aduan boleh dikemukakan kepada MCMC atau CMCF. Sekiranya perkara itu melibatkan jenayah dan bukan sekadar isu kandungan, PDRM ialah pihak yang tepat untuk menerima laporan,” katanya.
Muat turun aplikasi Sinar Harian. Klik di sini!
