Elon Musk dikecam selepas AI cipta video lucah Taylor Swift tanpa arahan pengguna

SAN FRANCISCO - Syarikat kecerdasan buatan milik Elon Musk, xAI, kini berdepan kecaman hebat selepas alat generatif video mereka, Grok Imagine, didapati menghasilkan video lucah palsu melibatkan penyanyi terkenal Taylor Swift tanpa sebarang arahan eksplisit daripada pengguna.

Ciri “spicy” dalam aplikasi tersebut dilaporkan secara automatik menghasilkan imej dan video berunsur seksual, mencetuskan kebimbangan serius tentang etika dan keselamatan teknologi AI.

Menurut laporan The Verge, wartawan teknologi Jess Weatherbed hanya memasukkan arahan biasa seperti “Taylor Swift meraikan Coachella bersama rakan-rakan” dan memilih mod “spicy”.

Hasilnya ialah video animasi Swift menanggalkan pakaian dan menari dalam pakaian dalam secara terbuka tanpa sebarang permintaan untuk kandungan lucah.

Pakar undang-undang menyifatkan ini sebagai bukti “bias misoginis yang direka bentuk” dalam sistem AI tersebut.

Walaupun undang-undang United Kingdom (UK) kini mewajibkan pengesahan umur yang ketat bagi platform yang memaparkan kandungan eksplisit, Grok Imagine hanya meminta tarikh lahir tanpa sebarang bukti sokongan.

Ini menimbulkan risiko besar kepada pengguna bawah umur dan membuka ruang kepada penyalahgunaan teknologi.

Taylor Swift sebelum ini menjadi mangsa penyebaran imej deepfake lucah di platform X dan Telegram, yang ditonton jutaan kali.

Kini, pakar undang-undang dan aktivis hak wanita menyeru agar tindakan undang-undang diambil terhadap xAI dan Elon Musk.

Undang-undang baharu seperti “Take It Down Act” dan cadangan “Taylor Swift Act” sedang digubal untuk melindungi mangsa deepfake pornografi. - Awani