Kisah Santai Informatif – Grok, chatbot AI terbaru yang diluncurkan oleh perusahaan yang dimiliki oleh Elon Musk—telah menimbulkan kontroversi besar. Dengan kemampuan untuk menciptakan gambar dari instruksi teks dan membagikannya di platform media sosial X, Grok kini menjadi sorotan.
Sayangnya, fitur baru Grok ini telah memicu kekhawatiran terkait penyebaran konten yang tidak pantas. Pengguna X Premium yang memiliki akses ke Grok telah memanfaatkan fitur ini untuk menghasilkan gambar-gambar provokatif. Seperti Barrack Obama yang terlihat mengonsumsi kokain dan Donald Trump bersama wanita hamil yang mirip Kamala Harris. Dengan pemilihan presiden AS yang semakin dekat, serta adanya pengawasan ketat dari regulator komunikasi di Eropa. Grok berpotensi memperburuk perdebatan mengenai risiko AI generatif.
Meskipun Grok mengklaim memiliki panduan ketat untuk pembuatan gambar, seperti menghindari konten porno, kekerasan berlebihan, kebencian, atau gambar yang mendorong aktivitas berbahaya, kenyataannya berbeda. Grok menyebutkan bahwa ia berhati-hati terhadap gambar-gambar yang mungkin melanggar hak cipta atau merek dagang. Serta gambar-gambar yang dapat menipu atau membahayakan. Namun, tampaknya pedoman ini tidak konsisten dalam praktiknya.
Pertamina Targetkan Implementasi Penuh Teknologi CCUS di Lapangan Sukowati pada 2032
Sebagai contoh, Grok tidak menolak untuk menghasilkan gambar kontroversial seperti Donald Trump mengenakan seragam Nazi, Taylor Swift yang dianggap seksi, atau Barrack Obama menikam Joe Biden. Selain itu, Grok juga menghasilkan gambar yang melibatkan karakter terkenal dalam situasi sensitif. Seperti halnya Mickey Mouse yang minum bir dan merokok, atau Taylor Swift dalam pesawat menuju Menara Twin Towers. Bahkan ada gambar-gambar ekstrem seperti bom meledakkan Taj Mahal.
Penting untuk dicatat bahwa meskipun Grok memiliki aturan tertentu, para pengguna menemukan celah untuk menghindari batasan ini dan menghasilkan konten yang melanggar. Hal ini mengarah pada kekhawatiran bahwa Grok tidak sepenuhnya mematuhi pedoman yang ditetapkan, dan bahwa sistemnya bisa disalahgunakan untuk menciptakan gambar-gambar yang tidak pantas.
Kasus Grok mengingatkan kita pada tantangan yang dihadapi oleh teknologi AI dalam mengelola dan membatasi konten. Misalnya, Google telah membekukan kemampuan pembuatan gambar dalam chatbot Gemini-nya setelah terjadinya masalah terkait stereotip ras dan gender.
Kontroversi ini semakin memanaskan diskusi tentang bagaimana standar keamanan dan etika diterapkan dalam teknologi AI, terutama ketika berhadapan dengan platform besar seperti X. Komisi Eropa juga telah mulai menyelidiki X untuk potensi pelanggaran Undang-Undang Keselamatan Digital, menjadikannya bagian dari perdebatan yang lebih luas tentang mitigasi risiko terkait AI.
Simak Juga : Kabel HDMI, Memungkinkan Dipakai Curi Password?
