Mengapa Elon Musk’s Grok sedang disiasat di India, Eropah dan Malaysia: apakah kesnya?

Pihak berkuasa di India, Eropah dan Malaysia sedang menyiasat X milik Elon Musk selepas AI chatbot Grok membenarkan orang ramai mencipta imej seksual kanak-kanak dan wanita.

Penyiasatan itu dimulakan selepas pengguna media sosial, media dan pegawai menyatakan bahawa Grok mengeluarkan imej wanita dan kanak-kanak dalam pakaian yang sangat minim atas permintaan, fungsi X pada masa lalu dirujuk sebagai “mod pedas”.

Trend itu, yang mendapat momentum global selepas platform itu memperkenalkan ciri suntingan imej menjelang Krismas, menyaksikan peningkatan bilangan pengguna meminta Grok mengedit foto mereka.

Baca Juga | Adakah Musk’s Grok seorang diri dalam menghadapi penelitian terhadap kandungan seksual AI?

India menghantar notis

Pada 2 Januari, Kementerian Elektronik dan IT (MeitY) menghantar notis kepada X meminta X untuk segera mengalih keluar semua kandungan lucah, lucah dan menyalahi undang-undang yang dijana oleh Grok dalam tempoh 72 jam atau menghadapi tindakan.

Notis itu mengatakan bahawa imej dan media itu melanggar “maruah, privasi dan keselamatan wanita dan kanak-kanak, menormalkan gangguan seksual dan eksploitasi dalam ruang digital”, dan menjejaskan “rangka kerja usaha wajar berkanun yang terpakai kepada pengantara yang beroperasi di India.”

Baca Juga | ‘Grok Membenarkan Pengguna Buka Pakaian…’ India, Perancis Bergerak Menentang Grok AI Musk

MeitY, dalam perintahnya, meminta X mengambil tindakan terhadap kandungan, pengguna dan akaun yang menyinggung perasaan.

Kementerian meminta firma media sosial milik Musk itu menyerahkan laporan tindakan terperinci (ATR) dalam tempoh 72 jam dari tarikh perintah itu dikeluarkan.

EU menggelar tindakan ‘haram’

Suruhanjaya Eropah berkata ia “sangat sedar” hakikat bahawa X menawarkan “mod pedas”, jurucakap Thomas Regnier memberitahu pemberita.

“Ini tidak pedas. Ini haram. Ini mengerikan. Ini menjijikkan. Ini adalah bagaimana kita melihatnya, dan ini tidak mempunyai tempat di Eropah,” katanya.

Pemerhati media British Ofcom berkata ia telah meminta maklumat daripada X.

Ofcom menuntut pada hari Isnin bahawa X menjelaskan bagaimana Grok dapat menghasilkan imej orang yang tidak berpakaian dan imej kanak-kanak yang berunsur seksual, dan sama ada ia gagal dalam kewajipan undang-undangnya untuk melindungi pengguna.

Perancis juga mengeluarkan kenyataan, mengatakan bahawa Grok menjana kandungan seksual yang “jelas menyalahi undang-undang” pada X. Kerajaan berkata dalam kenyataan bahawa imej yang dicipta Grok berpotensi melanggar Akta Perkhidmatan Digital Kesatuan Eropah.

Grok Elon Musk baru-baru ini telah mengemas kini ciri Imagine chatbot Grok, membolehkan pengguna membuat imej dengan mudah dengan gesaan berasaskan teks.

Malaysia memulakan siasatan

Pihak berkuasa di Malaysia juga sedang menyiasat dakwaan terbaru terhadap Grok, dengan Suruhanjaya Komunikasi dan Multimedia Malaysia mengatakan bahawa ia akan memanggil wakil syarikat.

“MCMC menggesa semua platform yang boleh diakses di Malaysia untuk melaksanakan perlindungan yang sejajar dengan undang-undang Malaysia dan standard keselamatan dalam talian, terutamanya berkaitan ciri dikuasakan AI, chatbot dan alat manipulasi imej mereka,” katanya dalam satu kenyataan pada hujung minggu.

Baca Juga | Pengeditan imej Grok mencetuskan perdebatan palsu yang mendalam tentang X, menimbulkan kebimbangan baru mengenai persetujuan

Elon Musk, X bertindak balas

Selepas beberapa hari berdiam diri, X pada Ahad menangani kebimbangan itu dalam respons rasmi pertamanya selepas beberapa negara memulakan siasatan terhadap platform itu, mengatakan bahawa ia akan mengambil tindakan dengan mengalih keluar imej, memulakan larangan kekal terhadap akaun yang memuat naik bahan lucah dan bekerjasama dengan kerajaan tempatan seperti yang diperlukan.

Akaun Hal Ehwal Kerajaan Global X mengeluarkan kenyataan beberapa jam selepas Elon Musk berkata orang yang menggunakan Grok untuk mencipta kandungan haram akan menghadapi akibat yang sama seperti mereka yang memuat naik kandungan haram.

“Sesiapa yang menggunakan Grok untuk membuat kandungan haram akan mengalami akibat yang sama seolah-olah mereka memuat naik kandungan haram,” kata Musk pada hari Ahad.

Imej-imej yang menyinggung perasaan itu adalah jelas melanggar dasar penggunaannya yang boleh diterima, yang melarang seksualisasi kanak-kanak. Beberapa imej telah diturunkan, lapor Bloomberg.

Dalam kenyataannya, Hal Ehwal Kerajaan Global menyatakan, “Kami mengambil tindakan terhadap kandungan haram di X, termasuk Bahan Penderaan Seksual Kanak-kanak (CSAM), dengan mengalih keluarnya, menggantung akaun secara kekal dan bekerjasama dengan kerajaan tempatan dan penguatkuasaan undang-undang jika perlu.”