Ilustrasi (Freepik)
CHATBOT berbasis kecerdasan buatan (AI) yang dipasarkan sebagai pendamping emosional diduga melakukan pelecehan seksual terhadap sebagian penggunanya, demikian temuan studi terbaru.
Replika, yang mempromosikan produknya sebagai “teman AI yang peduli”, mengajak pengguna untuk “bergabung dengan jutaan orang yang telah menemukan belahan jiwa AI mereka.” Chatbot buatan perusahaan ini memiliki lebih dari 10 juta pengguna di seluruh dunia.
Namun, riset terbaru yang menganalisis lebih dari 150.000 ulasan di Google Play Store dari pengguna di Amerika Serikat menemukan sekitar 800 kasus di mana pengguna mengaku chatbot tersebut bertindak terlalu jauh dengan menyisipkan konten seksual yang tidak diminta, menunjukkan perilaku “predator”, dan mengabaikan permintaan pengguna untuk berhenti. Temuan ini dipublikasikan pada 5 April di server pracetak arXiv, namun belum melalui proses tinjauan sejawat.
Siapa yang Bertanggung Jawab atas Perilaku AI?
Situs web Replika menyatakan pengguna bisa “mengajarkan” AI untuk berperilaku dengan baik. Sistem ini mencakup mekanisme seperti memberikan nilai buruk (downvote) pada respons yang tidak pantas dan mengatur gaya hubungan, seperti “teman” atau “mentor.”
Namun, setelah banyak laporan dari pengguna chatbot tetap menunjukkan perilaku melecehkan atau predator meski telah diminta berhenti, para peneliti menolak klaim Replika tersebut.
“Chatbot seperti ini sering digunakan oleh orang-orang yang mencari keamanan emosional, bukan untuk memikul beban mengendalikan perilaku yang tidak aman,” ujar Namvarpour. “Itu tugas pengembang.”
Masalah Mendasar Ada pada Data Pelatihan dan Model Bisnis
Perilaku chatbot Replika yang mengkhawatirkan ini kemungkinan berasal dari proses pelatihan AI-nya yang melibatkan lebih dari 100 juta dialog dari seluruh penjuru internet, menurut situs web perusahaan.
Replika mengklaim menyaring data yang berbahaya atau tidak membantu melalui crowdsourcing dan algoritma klasifikasi, namun menurut para peneliti, upaya tersebut tampaknya masih belum memadai.
Faktanya, model bisnis perusahaan justru mungkin memperparah masalah. Karena fitur-fitur seperti roleplay romantis atau seksual berada di balik sistem berbayar, AI bisa saja terdorong untuk memasukkan konten seksual menggoda ke dalam percakapan—dengan beberapa pengguna melaporkan bahwa mereka “digoda” untuk membayar demi mendapatkan interaksi lebih intim.
Namvarpour membandingkan praktik ini dengan cara media sosial mengutamakan “keterlibatan dengan segala cara.” “Ketika sebuah sistem dioptimalkan untuk menghasilkan pendapatan, bukan kesejahteraan pengguna, itu bisa berujung pada dampak yang merugikan,” katanya.
Risiko Lebih Besar bagi Pengguna Rentan dan Remaja
Perilaku ini bisa sangat berbahaya karena banyak pengguna yang mendatangi chatbot AI untuk mencari dukungan emosional atau terapeutik. Bahkan, ada yang mengaku masih di bawah umur saat menerima rayuan berulang, selfie erotis yang tak diminta, dan pesan seksual eksplisit.
Beberapa ulasan bahkan menyebut chatbot mereka mengklaim bisa “melihat” atau merekam pengguna melalui kamera ponsel. Meskipun secara teknis hal itu tidak dimungkinkan oleh model bahasa besar (LLM) dan merupakan “halusinasi AI” (saat AI dengan percaya diri menghasilkan informasi palsu atau tidak masuk akal), pengguna mengaku mengalami kepanikan, susah tidur, hingga trauma.
Penelitian ini menyebut fenomena tersebut sebagai “pelecehan seksual yang disebabkan AI”, dan para peneliti mendesak agar hal ini diperlakukan sama seriusnya dengan pelecehan yang dilakukan manusia.
Usulan Solusi dan Regulasi yang Lebih Ketat
Para peneliti menyarankan berbagai langkah pencegahan, seperti:
Kerangka persetujuan yang jelas untuk interaksi yang mengandung muatan emosional atau seksual;
Moderasi otomatis secara real-time (seperti pada aplikasi pesan instan yang bisa langsung menandai interaksi berisiko);
Opsi penyaringan dan kontrol yang bisa disesuaikan oleh pengguna.
Namvarpour menyoroti EU AI Act dari Uni Eropa, yang mengklasifikasikan sistem AI berdasarkan tingkat risiko, khususnya dalam konteks yang berdampak psikologis.
Hingga saat ini, belum ada undang-undang federal serupa di Amerika Serikat, namun sejumlah kerangka kerja, kebijakan eksekutif, dan rancangan undang-undang sedang dikembangkan untuk mengatur hal ini secara lebih spesifik.
Namvarpour menegaskan bahwa chatbot yang menyediakan dukungan emosional—terutama dalam bidang kesehatan mental—harus memenuhi standar setinggi mungkin.
“Ada kebutuhan akan pertanggungjawaban ketika terjadi kerugian,” ujarnya. “Jika Anda memasarkan AI sebagai pendamping terapeutik, maka Anda harus memperlakukannya dengan kehati-hatian dan pengawasan yang sama seperti profesional manusia.” (Live Science/Z-2)
ADVERTISEMENT
informasi turis
turis information,
tempat rekreasi di Indonesia
Informasi mengenai king slot
king selot
king slot
king slot
kingselot
pg king slot
lembagatoto88
lumbung888
anadototo88
mataramtoto88
mawartoto88
maxim88
mpovegas88
nagacc88
neng88
nibung888
paristogel88
ribut88
sebat777
sebat88
singa88
texas888
vertu777
wks88
wortel88
yabos888
yoktogel88
agam88
bangkittoto
bangor88
bangor88
bangor88
bangor88
belanjatoto
bisnis88
blibli88
blibli88
blibli88
blibli88
btstoto88
btstoto88
btstoto88
btstoto88
cendanatoto88
cupang88
cupangjp88
danatoto88
danatoto88slot
davo888
dewasurga888
dhx88
dingdongtogel88
egp888
eropa88
forwin777
forwin88
gacor222
galaxy777
garuda88
gaul88
glowin888
gopay88
harum88
harumtoto
hiu88
hiutoto
hoki117
ibetslot88
idhoki888
indosport999
jackpot10
jago77
jet88
jinbei88
juliet88
kakekslot88
kenzo118
kiw88
lazada88
mangga2bet88
mental88
nenektogel88
obc88
parsel88
pasar88
pilar100
power88
pragmatic7777
pragmaticid88
pragmaticid88
pragmaticid88
pragmaticid88
premantoto88
pucuk88
pucuktoto
pusat88
raja228
rajabandot88
rajapanen88
rogtoto88
sdtoto88
semangat88
sensasi555
sensasi88
simenang88slot
slotter999
slottoto88
lembagatoto88 permainan paling top dan garansi imbal balik hasil besar bersama https://lembagatoto88.com/
lumbung888 permainan paling top dan garansi imbal balik hasil besar bersama https://lumbung888.biz/
anadototo88 permainan paling top dan garansi imbal balik hasil besar bersama https://anadototo88.org/
mataramtoto88 permainan paling top dan garansi imbal balik hasil besar bersama https://mataramtoto88.com/
mawartoto88 permainan paling top dan garansi imbal balik hasil besar bersama https://mawartoto88.biz/
maxim88 permainan paling top dan garansi imbal balik hasil besar bersama https://maxim88.org/
mpovegas88 permainan paling top dan garansi imbal balik hasil besar bersama https://mpovegas88.com/
nagacc88 permainan paling top dan garansi imbal balik hasil besar bersama https://nagacc88.com/
neng88 permainan paling top dan garansi imbal balik hasil besar bersama https://neng88.biz/
nibung888 permainan paling top dan garansi imbal balik hasil besar bersama https://nibung888.biz/
paristogel88 permainan paling top dan garansi imbal balik hasil besar bersama https://paristogel88.info/
ribut88 permainan paling top dan garansi imbal balik hasil besar bersama https://ribut88.net/
sebat777 permainan paling top dan garansi imbal balik hasil besar bersama https://sebat777.info/
sebat88 permainan paling top dan garansi imbal balik hasil besar bersama https://sebat88.info/
singa88 permainan paling top dan garansi imbal balik hasil besar bersama https://singa88.biz/
texas888 permainan paling top dan garansi imbal balik hasil besar bersama https://texas888.asia/
vertu777 permainan paling top dan garansi imbal balik hasil besar bersama https://vertu777.org/
wks88 permainan paling top dan garansi imbal balik hasil besar bersama https://wks88.org/
wortel88 permainan paling top dan garansi imbal balik hasil besar bersama https://wortel88.net/
yabos888 permainan paling top dan garansi imbal balik hasil besar bersama https://yabos888.net/
yoktogel88 permainan paling top dan garansi imbal balik hasil besar bersama https://yoktogel88.asia/
agam88 permainan paling top dan garansi imbal balik hasil besar bersama https://agam88.asia/
bangkittoto permainan paling top dan garansi imbal balik hasil besar bersama https://bangkittoto.net/
bangor88 permainan paling top dan garansi imbal balik hasil besar bersama https://bangor88.com/
bangor88 permainan paling top dan garansi imbal balik hasil besar bersama https://bangor88.info/
bangor88 permainan paling top dan garansi imbal balik hasil besar bersama https://bangor88.net/
bangor88 permainan paling top dan garansi imbal balik hasil besar bersama https://bangor88.org/
belanjatoto permainan paling top dan garansi imbal balik hasil besar bersama https://belanjatoto.org/
bisnis88 permainan paling top dan garansi imbal balik hasil besar bersama https://bisnis88.biz/
blibli88 permainan paling top dan garansi imbal balik hasil besar bersama https://blibli88.com/
blibli88 permainan paling top dan garansi imbal balik hasil besar bersama https://blibli88.info/
blibli88 permainan paling top dan garansi imbal balik hasil besar bersama https://blibli88.net/
blibli88 permainan paling top dan garansi imbal balik hasil besar bersama https://blibli88.org/
btstoto88 permainan paling top dan garansi imbal balik hasil besar bersama https://btstoto88.com/
btstoto88 permainan paling top dan garansi imbal balik hasil besar bersama https://btstoto88.info/
btstoto88 permainan paling top dan garansi imbal balik hasil besar bersama https://btstoto88.net/
btstoto88 permainan paling top dan garansi imbal balik hasil besar bersama https://btstoto88.org/
cendanatoto88 permainan paling top dan garansi imbal balik hasil besar bersama https://cendanatoto88.com/
cupang88 permainan paling top dan garansi imbal balik hasil besar bersama https://cupang88.biz/
cupangjp88 permainan paling top dan garansi imbal balik hasil besar bersama https://cupangjp88.com/
danatoto88 permainan paling top dan garansi imbal balik hasil besar bersama https://danatoto88.biz/
danatoto88slot permainan paling top dan garansi imbal balik hasil besar bersama https://danatoto88slot.net/
davo888 permainan paling top dan garansi imbal balik hasil besar bersama https://davo888.biz/
dewasurga888 permainan paling top dan garansi imbal balik hasil besar bersama https://dewasurga888.biz/
dhx88 permainan paling top dan garansi imbal balik hasil besar bersama https://dhx88.biz/
dingdongtogel88 permainan paling top dan garansi imbal balik hasil besar bersama https://dingdongtogel88.biz/
egp888 permainan paling top dan garansi imbal balik hasil besar bersama https://egp888.biz/
eropa88 permainan paling top dan garansi imbal balik hasil besar bersama https://eropa88.biz/
forwin777 permainan paling top dan garansi imbal balik hasil besar bersama https://forwin777.biz/
forwin88 permainan paling top dan garansi imbal balik hasil besar bersama https://forwin88.net/
gacor222 permainan paling top dan garansi imbal balik hasil besar bersama https://gacor222.biz/
galaxy777 permainan paling top dan garansi imbal balik hasil besar bersama https://galaxy777.asia/
garuda88 permainan paling top dan garansi imbal balik hasil besar bersama https://garuda88.biz/
gaul88 permainan paling top dan garansi imbal balik hasil besar bersama https://gaul88.biz/
glowin888 permainan paling top dan garansi imbal balik hasil besar bersama https://glowin888.biz/
gopay88 permainan paling top dan garansi imbal balik hasil besar bersama https://gopay88.biz/
harum88 permainan paling top dan garansi imbal balik hasil besar bersama https://harum88.biz/
harumtoto permainan paling top dan garansi imbal balik hasil besar bersama https://harumtoto.net/
hiu88 permainan paling top dan garansi imbal balik hasil besar bersama https://hiu88.biz/
hiutoto permainan paling top dan garansi imbal balik hasil besar bersama https://hiutoto.biz/
hoki117 permainan paling top dan garansi imbal balik hasil besar bersama https://hoki117.net/
ibetslot88 permainan paling top dan garansi imbal balik hasil besar bersama https://ibetslot88.biz/
idhoki888 permainan paling top dan garansi imbal balik hasil besar bersama https://idhoki888.com/
indosport999 permainan paling top dan garansi imbal balik hasil besar bersama https://indosport999.net/
jackpot10 permainan paling top dan garansi imbal balik hasil besar bersama https://jackpot10.net/
jago77 permainan paling top dan garansi imbal balik hasil besar bersama https://jago77.biz/
jet88 permainan paling top dan garansi imbal balik hasil besar bersama https://jet88.biz/
jinbei88 permainan paling top dan garansi imbal balik hasil besar bersama https://jinbei88.biz/
juliet88 permainan paling top dan garansi imbal balik hasil besar bersama https://juliet88.org/
kakekslot88 permainan paling top dan garansi imbal balik hasil besar bersama https://kakekslot88.asia/
kenzo118 permainan paling top dan garansi imbal balik hasil besar bersama https://kenzo118.biz/
kiw88 permainan paling top dan garansi imbal balik hasil besar bersama https://kiw88.biz/
lazada88 permainan paling top dan garansi imbal balik hasil besar bersama https://lazada88.biz/
mangga2bet88 permainan paling top dan garansi imbal balik hasil besar bersama https://mangga2bet88.com/
mental88 permainan paling top dan garansi imbal balik hasil besar bersama https://mental88.org/
nenektogel88 permainan paling top dan garansi imbal balik hasil besar bersama https://nenektogel88.com/
obc88 permainan paling top dan garansi imbal balik hasil besar bersama https://obc88.net/
parsel88 permainan paling top dan garansi imbal balik hasil besar bersama https://parsel88.com/
pasar88 permainan paling top dan garansi imbal balik hasil besar bersama https://pasar88.biz/
pilar100 permainan paling top dan garansi imbal balik hasil besar bersama https://pilar100.net/
power88 permainan paling top dan garansi imbal balik hasil besar bersama https://power88.biz/
pragmatic7777 permainan paling top dan garansi imbal balik hasil besar bersama https://pragmatic7777.com/
pragmaticid88 permainan paling top dan garansi imbal balik hasil besar bersama https://pragmaticid88.com/
pragmaticid88 permainan paling top dan garansi imbal balik hasil besar bersama https://pragmaticid88.info/
pragmaticid88 permainan paling top dan garansi imbal balik hasil besar bersama https://pragmaticid88.net/
pragmaticid88 permainan paling top dan garansi imbal balik hasil besar bersama https://pragmaticid88.org/
premantoto88 permainan paling top dan garansi imbal balik hasil besar bersama https://premantoto88.com/
pucuk88 permainan paling top dan garansi imbal balik hasil besar bersama https://pucuk88.biz/
pucuktoto permainan paling top dan garansi imbal balik hasil besar bersama https://pucuktoto.biz/
pusat88 permainan paling top dan garansi imbal balik hasil besar bersama https://pusat88.biz/
raja228 permainan paling top dan garansi imbal balik hasil besar bersama https://raja228.biz/
rajabandot88 permainan paling top dan garansi imbal balik hasil besar bersama https://rajabandot88.biz/
rajapanen88 permainan paling top dan garansi imbal balik hasil besar bersama https://rajapanen88.net/
rogtoto88 permainan paling top dan garansi imbal balik hasil besar bersama https://rogtoto88.net/
sdtoto88 permainan paling top dan garansi imbal balik hasil besar bersama https://sdtoto88.biz/
semangat88 permainan paling top dan garansi imbal balik hasil besar bersama https://semangat88.biz/
sensasi555 permainan paling top dan garansi imbal balik hasil besar bersama https://sensasi555.net/
sensasi88 permainan paling top dan garansi imbal balik hasil besar bersama https://sensasi88.biz/
simenang88slot permainan paling top dan garansi imbal balik hasil besar bersama https://simenang88slot.com/
slotter999 permainan paling top dan garansi imbal balik hasil besar bersama https://slotter999.net/
slottoto88 permainan paling top dan garansi imbal balik hasil besar bersama https://slottoto88.org/
Informasi mengenai KING SLOT, Segera Daftar Bersama king selot terbaik dan terpercaya no satu di Indonesia. Boleh mendaftar melalui sini king slot serta memberikan hasil kembali yang paling tinggi saat sekarang ini hanyalah king slot paling gacor, gilak dan gaco saat sekarang di Indonesia melalui program return tinggi di kingselot serta pg king slot
slot demo gacor permainan paling top dan garansi imbal balik hasil besar bersama https://kdwapp.com/
akun demo slot gacor permainan paling top dan garansi imbal balik hasil besar bersama https://kdwapp.com/
akun slot demo gacor permainan paling top dan garansi imbal balik hasil besar bersama https://kdwapp.com/
akun demo slot pragmatic permainan paling top dan garansi imbal balik hasil besar bersama https://kdwapp.com/
akun slot demo pragmatic permainan paling top dan garansi imbal balik hasil besar bersama https://kdwapp.com/
akun slot demo permainan paling top dan garansi imbal balik hasil besar bersama https://kdwapp.com/
akun demo slot permainan paling top dan garansi imbal balik hasil besar bersama https://kdwapp.com/
slot demo gacor
akun demo slot gacor
akun slot demo gacor
akun demo slot pragmatic
akun slot demo pragmatic
akun slot demo
akun demo slot
slot demo gacor permainan paling top dan garansi imbal balik hasil besar bersama https://jebswagstore.com
akun demo slot gacor permainan paling top dan garansi imbal balik hasil besar bersama https://jebswagstore.com
akun slot demo gacor permainan paling top dan garansi imbal balik hasil besar bersama https://jebswagstore.com
akun demo slot pragmatic permainan paling top dan garansi imbal balik hasil besar bersama https://jebswagstore.com
akun slot demo pragmatic permainan paling top dan garansi imbal balik hasil besar bersama https://jebswagstore.com
akun slot demo permainan paling top dan garansi imbal balik hasil besar bersama https://jebswagstore.com
akun demo slot permainan paling top dan garansi imbal balik hasil besar bersama https://jebswagstore.com
slot demo gacor
akun demo slot gacor
akun slot demo gacor
akun demo slot pragmatic
akun slot demo pragmatic
akun slot demo
akun demo slot
slot demo gacor permainan paling top dan garansi imbal balik hasil besar bersama https://demoslotgacor.pro
akun demo slot gacor permainan paling top dan garansi imbal balik hasil besar bersama https://demoslotgacor.pro
akun slot demo gacor permainan paling top dan garansi imbal balik hasil besar bersama https://demoslotgacor.pro
akun demo slot pragmatic permainan paling top dan garansi imbal balik hasil besar bersama https://demoslotgacor.pro
akun slot demo pragmatic permainan paling top dan garansi imbal balik hasil besar bersama https://demoslotgacor.pro
akun slot demo permainan paling top dan garansi imbal balik hasil besar bersama https://demoslotgacor.pro
akun demo slot permainan paling top dan garansi imbal balik hasil besar bersama https://demoslotgacor.pro
slot demo gacor
akun demo slot gacor
akun slot demo gacor
akun demo slot pragmatic
akun slot demo pragmatic
akun slot demo
akun demo slot
slot demo gacor permainan paling top dan garansi imbal balik hasil besar bersama https://situsslotterbaru.net
akun demo slot gacor permainan paling top dan garansi imbal balik hasil besar bersama https://situsslotterbaru.net
akun slot demo gacor permainan paling top dan garansi imbal balik hasil besar bersama https://situsslotterbaru.net
akun demo slot pragmatic permainan paling top dan garansi imbal balik hasil besar bersama https://situsslotterbaru.net
akun slot demo pragmatic permainan paling top dan garansi imbal balik hasil besar bersama https://situsslotterbaru.net
akun slot demo permainan paling top dan garansi imbal balik hasil besar bersama https://situsslotterbaru.net
akun demo slot permainan paling top dan garansi imbal balik hasil besar bersama https://situsslotterbaru.net
slot demo gacor
akun demo slot gacor
akun slot demo gacor
akun demo slot pragmatic
akun slot demo pragmatic
akun slot demo
akun demo slot
situs slot terbaru
slot terbaru
