Tentang keresahan ketika AI Editor Foto Disalah gunakan: dengan AI dipakai untuk mengubah identitas orang lain tanpa izin, seperti menghapus hijab atau membuat versi “alternatif” yang mereka sendiri tidak pernah setujui.
Halo teman,
Di ryanpratama.com, saya cukup sering ngobrol soal website, hosting, desain, dan ekosistem digital.
Tapi di luar sisi teknis itu, ada hal lain dari dunia digital yang akhir-akhir ini cukup mengganggu saya: ai editor foto yang makin canggih… dan makin sering dipakai untuk hal-hal yang “tidak-tidak”.
Beberapa waktu lalu saya melihat sebuah postingan di facebook:
satu foto perempuan berhijab sedang duduk di kafe sambil memegang cangkir foto asli.
Di sebelahnya, ada versi “AI”: hijabnya hilang, bajunya diubah jadi lebih terbuka, pose dan suasana tetap sama.
Buat sebagian orang, mungkin ini sekadar “iseng”, “keren ya, AI bisa begini”.
Buat saya, ini bunyi alarm: di titik mana kreativitas berubah jadi pelanggaran?
Postingan ini bukan untuk menghakimi siapa pun.
Saya hanya ingin mendokumentasikan keresahan: bagaimana teknologi yang seharusnya membantu, bisa berubah jadi alat yang merugikan orang lain tanpa mereka pernah tahu, apalagi setuju.
Daftar isi
Ketika Foto Bukan Lagi Sekadar Foto
Dulu, foto itu punya aura “kesaksian”.
Kalau ada foto:
- kita cenderung menganggapnya bukti,
- seolah “kalau sudah ada di foto berarti benar.”
Sekarang, dengan AI editor foto:
- wajah bisa diganti,
- pakaian bisa diubah,
- ekspresi bisa dimanipulasi,
- bahkan latar dan suasana bisa dibuat ulang.
Dalam contoh foto hijab vs non-hijab tadi:
- orang yang sama,
- tempat yang sama,
- gestur yang sama,
tapi secara visual:
- satu merepresentasikan identitas dan keyakinan,
- satu lagi menggambarkan versi yang mungkin sama sekali tidak ia inginkan.
Dan di sinilah masalahnya mulai terasa.
Dari Retouch Ringan ke Rekayasa Identitas
Sebagai orang yang berkecimpung di desain dan foto, saya sangat paham:
- retouch kulit,
- koreksi warna,
- menghapus jerawat,
- merapikan background,
itu semua bagian normal bahkan bagian dari proses editing.
Masalah muncul ketika editing melompat jauh ke arah rekayasa identitas, misalnya:
- menghapus hijab atau menambah hijab,
- mengubah pakaian jadi lebih terbuka atau lebih tertutup,
- mengganti wajah seseorang dengan wajah orang lain,
- membuat pose dan ekspresi yang tidak pernah dilakukan orang di foto asli.
Perbedaan paling besar di sini:
- retouch = masih menghormati siapa dia di foto,
- rekayasa identitas = membuat versi dirinya yang tidak pernah dia pilih.
Kalau itu dilakukan tanpa izin, yang hilang bukan cuma batasan teknis, tapi juga batasan etika.
Risiko Sosial dan Emosional untuk Orang di Dalam Foto
Buat orang yang fotonya “diedit” tanpa izin, dampaknya bisa sangat nyata jauh di luar layar yang ditampilkan.
Beberapa risiko yang sering tidak dipikirkan:
- Kerusakan reputasi
Foto hasil AI bisa tersebar di grup, status, atau postingan publik. Orang yang tidak tahu konteks bisa menganggap itu foto asli. Reputasi, nama baik, bahkan relasi keluarga dan pekerjaan bisa terdampak resiko terburuknya viral. - Tekanan psikologis
Bayangkan melihat versi diri kita yang didandani dengan cara yang bertentangan dengan nilai pribadi atau agama kita. Perasaan tidak nyaman, marah, malu, dan dilanggar bisa bercampur jadi satu. - Ketakutan untuk difoto
Ketika kasus seperti ini makin sering, orang bisa jadi takut memunculkan dirinya di ruang digital. Bukan karena mereka anti teknologi, tapi karena tidak percaya lagi siapa yang akan “bermain-main” dengan wajah mereka. - Potensi pemerasan dan bullying
Dalam skenario yang lebih parah, hasil edit AI bisa dipakai untuk mengancam, membully, atau memanipulasi seseorang.
Semua ini berawal dari satu anggapan berbahaya:
“Ah cuma editan, cuma bercanda.”
Padahal yang “cuma” buat kita, bisa jadi beban berat untuk orangyang fotonya diedit.
Masalah Persetujuan: Siapa yang Punya Kendali?
Pertanyaan besar yang sering terlupakan:
“Siapa yang sebenarnya punya kendali atas wajah dan tubuh seseorang di era AI editor foto?”
Kalau kita ambil foto dari:
- akun publik,
- story yang discreenshot,
- foto grup yang di-crop,
lalu kita masukkan ke AI editor dan:
- mengubah pakaian,
- membuat versi lain yang lebih “sensasional”,
pertanyaannya:
- Apakah orang tersebut pernah bilang “silakan lakukan apa saja dengan foto saya”?
- Apakah dia tahu fotonya dipakai untuk eksperimen seperti itu?
- Apakah dia setuju hasilnya dibagikan ke publik?
Tanpa persetujuan yang jelas, sebenarnya kita sedang:
- mengambil wajah orang,
- mengubah identitas visualnya,
- dan menyebarkannya sebagai “konten”.
Dalam konteks hubungan manusia yang sehat,
hal seperti ini mestinya butuh izin, sama seperti kita meminta izin sebelum mengutip cerita pribadi seseorang di depan umum.
Kenapa Kita Ikut Tergoda Memainkan Editor AI?
Jujur saja, saya paham kenapa banyak orang terpukau:
- Teknologinya keren.
- Hasilnya bisa sangat realistis.
- Ada rasa “wow, ternyata bisa ya begini”.
Dalam otak kreator dan pengguna teknologi, rasa penasaran itu wajar.
Namun ada beberapa hal yang sering membuat kita kebablasan:
- Normalisasi dari media sosial
Timeline kita penuh contoh editan ekstrim yang dilike dan dishare. Lama-lama otak kita menganggap itu biasa. - Tekanan untuk bikin konten yang “rame”
Konten yang memicu emosi – apalagi bercampur isu sensitif, seperti pakaian dan identitas keagamaan cenderung lebih cepat viral. - Jarak emosional
Di layar, wajah orang lain hanya jadi “material visual”, bukan manusia dengan hidup, keluarga, dan rasa malu.
Teknologi AI di sini bukan tokoh jahatnya.
Yang menentukan arahnya tetap manusia di belakang layar.
Mencari Batas Sehat: Edit Kreatif vs Manipulasi Merugikan
Pertanyaannya sekarang:
“Kalau begitu, apa yang masih aman, dan apa yang sebaiknya berhenti kita lakukan?”
Beberapa batas yang menurut saya bisa kita pegang bersama:
- Aman / wajar:
- memperbaiki pencahayaan, warna, dan komposisi,
- menghapus objek mengganggu di background,
- membuat versi kreatif dari diri sendiri (self-portrait, avatar, dsb),
- proyek eksplorasi visual yang tidak melibatkan wajah orang nyata (pakai model AI, stock khusus, atau avatar).
- Berbahaya / sebaiknya dihindari:
- mengubah pakaian seseorang menjadi lebih terbuka atau lebih tertutup tanpa izin,
- menghapus atau menambahkan atribut keagamaan (hijab, salib, dsb) dengan tujuan untuk memancing reaksi,
- mengganti wajah orang ke tubuh lain untuk tujuan sensasional,
- menyebarkan hasil edit yang bisa menimbulkan salah paham atau merusak reputasi.
Prinsip simpel yang bisa kita pakai:
“Kalau hasil editan itu membuat orang di fotonya bisa merasa dipermalukan,
jangan dilakukan – apalagi dibagikan.”
Tanggung Jawab Kreator, Bukan Hanya Teknologi
Sebagai orang yang suka desain dan teknologi, saya tidak ingin jatuh ke narasi:
“AI-nya jahat, makanya jangan pakai AI.”
AI editor foto adalah alat.
Ia punya potensi besar:
- mempermudah pekerjaan retouch,
- membantu orang yang tidak punya akses studio mahal,
- membuka ruang eksplorasi visual baru.
Namun di saat yang sama, kita perlu mengingat:
- semakin kuat alatnya, semakin besar tanggung jawab penggunanya.
Penutup
Teknologi AI editor foto akan terus berkembang.
Kemampuan mengubah wajah, tubuh, dan suasana akan semakin mudah digunakan oleh siapa pun tanpa terkecuali.
Kita tidak bisa menghentikan kemajuan teknologinya,
tapi kita bisa mengatur bagaimana kita bersikap terhadapnya.
Bagi saya, contoh foto hijab yang diubah jadi non-hijab itu bukan sekadar “editan keren”, tapi cermin:
- sejauh apa kita menghargai batas privasi orang lain,
- sejauh apa kita melihat orang lain sebagai manusia, bukan objek visual,
- sejauh apa kita mau bertanggung jawab atas konten yang kita buat dan sebarkan.
Karena pada akhirnya, bukan AI yang menentukan seperti apa budaya digital kita ke depan.
Kita yang memilih:
apakah teknologi ini dipakai untuk memperindah realita, atau justru untuk merusak kepercayaan.
Dan mungkin, sebelum mengupload satu hasil edit, kita bisa berhenti sebentar dan bertanya pada diri sendiri:
“Kalau saya yang ada di foto ini,
saya rela tidak kalau wajah dan identitas saya dimainkan seperti ini?”
