Perkembangan teknologi kecerdasan buatan (AI) terus menghadirkan berbagai inovasi, namun juga membawa tantangan baru dalam hal etika dan perlindungan individu. Salah satu isu yang kini viral di media sosial adalah penggunaan fitur AI Grok untuk mengedit foto tanpa izin pemiliknya, yang kemudian disebarluaskan secara tidak bertanggung jawab. Fenomena ini menimbulkan kecaman dari masyarakat luas, sekaligus memicu perdebatan tentang risiko penyalahgunaan teknologi, perlindungan korban, serta bentuk-bentuk kekerasan berbasis gender online (KBGO).
Penggunaan AI Grok untuk Mengedit Foto Tanpa Izin
Beberapa tangkapan layar yang beredar menunjukkan bagaimana pengguna X (dulunya Twitter) meminta AI Grok mengedit foto perempuan, mengubahnya dari kondisi berpakaian sopan menjadi pakaian minim seperti bikini. Hal ini dilakukan tanpa persetujuan pemilik foto, dan hasil editannya kemudian dibagikan di media sosial.
Salah satu pengguna X dengan akun @nd** menyampaikan kekhawatiran atas tren ini. Ia menilai tindakan tersebut tidak hanya melanggar privasi, tetapi juga termasuk kekerasan berbasis gender yang difasilitasi oleh teknologi. Ia menulis:
“Saya melihat orang-orang meminta AI Grok mengedit foto perempuan seperti ini (menjadi mengenakan bikini). Jika ini membuat pemilik foto merasa tidak nyaman, maka itu sudah masuk ke KBGO.”
Pengguna lain, yaitu @@shylver****, juga membagikan tangkapan layar yang menunjukkan foto perempuan berhijab diedit menjadi tidak berhijab. Fenomena ini tidak hanya terjadi di Indonesia, tetapi juga di berbagai negara lain.
Kritik Terhadap Penggunaan AI Grok
Laporan dari Straight Arrow News pada Mei 2024 menunjukkan bahwa Grok, chatbot AI besutan Elon Musk, telah dikritik karena potensi penyalahgunaannya. Dilaporkan bahwa pengguna bisa membalas unggahan foto perempuan dan meminta AI mengubahnya menjadi konten bermuatan pornografi.
Isu ini semakin ramai setelah diberitakan oleh 404 Media. Meskipun manipulasi gambar tanpa izin bukanlah hal baru, akses publik yang mudah terhadap layanan AI meningkatkan risiko penyalahgunaan. Sebuah pencarian di X menggunakan kata kunci “Grok” menunjukkan foto-foto perempuan yang diedit menjadi mengenakan bikini. Meski gambar tersebut bisa dilihat oleh siapa saja, teks atau cuitan pendampingnya hanya tersedia bagi pengguna berusia minimal 17 tahun.
Aturan Penggunaan AI di xAI
Grok dikembangkan oleh xAI, sebuah perusahaan kecerdasan buatan. Perusahaan ini memiliki aturan penggunaan yang jelas, termasuk larangan untuk menggunakan layanan AI untuk merugikan individu. Dalam xAI Acceptable Use Policy (AUP), yang mulai berlaku pada 2 Januari 2025, dinyatakan bahwa penggunaan Grok tidak boleh:
- Melanggar privasi atau hak atas publisitas seseorang
- Menggambarkan seseorang dalam bentuk pornografi
- Melakukan seksualisasi atau eksploitasi terhadap individu
- Melakukan penipuan, pelecehan, peretasan, penguntitan, atau doxing
Selain itu, xAI menegaskan prinsip “do not harm people”, yang mencakup larangan menggunakan AI untuk merugikan orang lain, mengambil tindakan tanpa izin atas nama pihak lain, atau menyesatkan publik terkait sumber dan sifat konten AI.
Meski begitu, pihak X belum memberikan pernyataan resmi terkait berbagai kontroversi ini. Elon Musk sendiri sebelumnya memuji Grok sebagai AI yang “based”, yang dalam istilah slang berarti autentik dibandingkan chatbot AI pesaing.
Regulasi AI di Indonesia
Di Indonesia, Wakil Menteri Komunikasi dan Informatika (Komdigi) Nezar Patria mencatat peningkatan 550% dalam peredaran video deepfake dalam lima tahun terakhir. Ia menyatakan bahwa jumlahnya kemungkinan lebih besar karena kemampuan aplikasi untuk membuat video atau foto deepfake kini sangat masif.
Untuk menangkal hoaks dan deepfake, Nezar meminta platform digital global seperti Google dan TikTok menghadirkan fitur pengecekan foto maupun video AI. Selain itu, Komdigi sedang menyiapkan dua regulasi terkait AI, yaitu Roadmap AI dan Peraturan Presiden (Perpres) tentang tata kelola keselamatan dan keamanan penggunaan AI.
Indonesia sudah memiliki perangkat hukum seperti UU ITE, UU PDP, PP Tunas, dan sejumlah peraturan teknis. Saat ini, pemerintah sedang menyiapkan regulasi khusus pemanfaatan AI yang etis, bermakna, dan bertanggung jawab.
Prinsip Etika Kecerdasan Artifisial
Surat Edaran Menteri Kominfo Nomor 9 Tahun 2023 tentang Etika Kecerdasan Artifisial menjadi pedoman etis bagi pelaku usaha dan penyelenggara sistem elektronik (PSE). Surat edaran ini merumuskan beberapa prinsip etika, antara lain:
- Kemanusiaan: menghormati hak asasi manusia, relasi sosial, nilai budaya, dan martabat individu
- Keamanan dan pelindungan data pribadi: memastikan tidak ada pihak yang dirugikan akibat pemrosesan data berbasis AI
- Inklusivitas dan non-diskriminasi: agar AI tidak memperkuat ketimpangan sosial maupun bias gender
- Transparansi: keterbukaan mengenai data dan proses pengembangan AI
- Akuntabilitas dan kredibilitas: hasil keluaran AI dapat dipertanggungjawabkan kepada publik
Surat edaran ini juga menekankan bahwa pelaku usaha dan PSE wajib memiliki kebijakan internal terkait data dan etika AI, serta bertanggung jawab melakukan pengawasan agar teknologi tidak disalahgunakan.
Penanganan Kasus DeepFake di Indonesia
Direktur Jenderal Pengawasan Ruang Digital Kementerian Komdigi Alexander Sabar menekankan bahwa kasus DeepFake oleh platform AI masih mengacu pada surat edaran tersebut. Meski regulasi khusus tentang AI belum sepenuhnya terbentuk, undang-undang seperti UU ITE dan UU Pornografi sudah tersedia untuk melindungi masyarakat. Pengguna yang mengalami kasus seperti ini dapat melaporkannya melalui UU ITE.
Penulis yang memulai karier dari blog pribadi sebelum akhirnya bergabung dengan media online. Ia menyukai dunia tulis-menulis sejak sekolah. Hobinya adalah traveling, membaca novel klasik, dan membuat jurnal harian. Setiap perjalanan dan interaksi manusia selalu menjadi bahan inspirasinya. Motto: "Setiap sudut kota punya cerita yang patut dibagikan."
