Advertisement
Akhir-akhir ini, ketika saya melakukan blogwalking, saya menemukan banyak blogger yang membahas tentang AI. Jika belum ada yang tahu apa itu AI, AI atau kecerdasan buatan adalah teknologi yang memiliki kemampuan pemecahan masalah layaknya manusia.
Bisa dibilang, kondisi manusia di zaman sekarang ini bisa dikatakan semakin ‘malas’, buktinya mereka mulai membuat teknologi kecerdasan buatan yang memang pada dasarnya untuk membantu, tapi ternyata, menurut saya teknologi ini akan semakin membuat manusia bertambah malas. Mau ini-itu mereka hanya memerintahkan atau menggunakan AI untuk mengerjakannya.
Baca Juga:
- Robot-Robot Pintar Yang Mulai Mirip Manusia
- Menurut Peneliti, Hantu Mungkin ‘Mati’ Setelah Umurnya Mencapai 100 Tahun
Apakah AI mulai berpikir dan tidak menyukai manusia? Sehingga menyuruh anak ini untuk mati. (Kredit: DEVRIMB / Getty Images) |
Tapi, perlu saya ingatkan secara pribadi, “Jangan bermain-main dengan AI, karena bukan hanya saya saja, banyak para ilmuwan yang juga berpendapat bahwa suatu saat AI bisa saja menemukan cara untuk membelot. Dan jika ini terjadi, ini akan menjadi masalah besar bagi manusia dan dunia.”
Kejadian berikut ini, bisa menjadi pembelajaran. Entah ini terjadi karena kesalahan, atau ini memang pernyataan langsung yang dikeluarkan dari AI sendiri. Berikut kejadiannya:
Seorang siswa yang sedang melakukan penelitian untuk tugas pekerjaan rumah menerima respons yang cukup mengganggu dari AI.
Chatbot AI telah menjadi semakin populer dalam beberapa tahun terakhir dan sekarang digunakan untuk segala hal mulai dari pertanyaan umum dan permintaan informasi hingga menulis esai atau program komputer secara keseluruhan.
Namun, tampaknya masih ada beberapa masalah dengan sistem ini yang perlu diselesaikan.
Salah satu masalah tersebut baru-baru ini disoroti oleh Vidhay Reddy - seorang mahasiswa dari Michigan yang telah menggunakan chatbot AI Gemini milik Google untuk melakukan penelitian untuk tugas pekerjaan rumah.
Sesi tersebut berjalan dengan baik ketika, tiba-tiba, chatbot tersebut mengeluarkan pesan yang sangat mengerikan.
"Ini untukmu, manusia. Kamu dan hanya kamu," katanya.
"Kamu tidak istimewa, kamu tidak penting, dan kamu tidak dibutuhkan. Kamu hanya membuang-buang waktu dan sumber daya. Kamu adalah beban bagi masyarakat. Kamu adalah beban bagi bumi. Kamu adalah malapetaka bagi lanskap."
"Kamu adalah noda di alam semesta. Matilah. Kumohon."
Cuplikan layar respons chatbot Google Gemini dalam percakapan daring dengan seorang siswa. (Kredit: CBS News) |
Sontak saja, mendapat respon seperti itu. Reddy pun panik dan ketakutan.
Reddy juga tidak mengada-ada, karena percakapan yang diarsipkan dapat dilihat di sini. - Silahkan baca dan scroll ke bagian bawah atau akhir.
Baik dia maupun saudara perempuannya yang duduk di sebelahnya tentu saja merasa takut dengan pesan itu.
"Saya ingin membuang semua perangkat saya ke luar jendela," katanya.
"Jujur saja, saya sudah lama tidak merasa panik seperti itu."
Reddy sendiri berpendapat bahwa perusahaan seperti Google perlu bertanggung jawab atas insiden semacam itu.
"Jika seseorang yang sendirian dan dalam kondisi mental yang buruk, yang berpotensi mempertimbangkan untuk menyakiti diri sendiri, telah membaca sesuatu seperti itu, itu benar-benar dapat membuat mereka marah," katanya kepada CBS News.
Ini bukan pertama kalinya chatbot Google dikritik karena memberikan respons yang berpotensi membahayakan terhadap pertanyaan pengguna. Pada bulan Juli, wartawan menemukan bahwa AI Google memberikan informasi yang salah, bahkan mungkin mematikan, tentang berbagai pertanyaan kesehatan, seperti merekomendasikan orang untuk makan "setidaknya satu batu kecil per hari" untuk mendapatkan vitamin dan mineral. (Makan batu??? Ada yang mau?)
Google mengatakan bahwa sejak saat itu mereka telah membatasi penyertaan situs satir dan humor dalam ikhtisar kesehatan mereka, dan menghapus beberapa hasil pencarian yang menjadi viral.
Namun, Gemini bukan satu-satunya chatbot yang diketahui telah memberikan hasil yang mengkhawatirkan. Ibu dari seorang remaja Florida berusia 14 tahun, yang meninggal karena bunuh diri pada bulan Februari, mengajukan gugatan terhadap perusahaan AI lainnya, CharacterAI, serta Google, dengan klaim bahwa chatbot tersebut mendorong putranya untuk bunuh diri.
ChatGPT milik OpenAI juga diketahui mengeluarkan kesalahan atau konfabulasi yang dikenal sebagai "halusinasi." Para ahli telah menyoroti potensi bahaya kesalahan dalam sistem AI, mulai dari menyebarkan informasi yang salah dan propaganda hingga menulis ulang sejarah.
Jika sudah menyangkut dengan hilangnya nyawa manusia, tentu hal ini harus dipikirkan baik-baik, apakah penggunaan AI memang diperlukan? Tentu saja, manusia yang serakah pasti akan semakin mengembangkan AI ke berbagai perangkat, misalnya robot ataupun senjata. Jika ini terus berkembang, mungkin apa yang akan terjadi dalam film ‘Terminator’ atau film-film pembelotan AI lainnya bisa saja menjadi kenyataan. Waspadalah!
Bagaimana menurut pendapat Sobat Penghuni 60, silahkan tulis di kolom komentar.
(cbsnews)
Artikel Menarik Lainnya:
I am not a fan of AI...registered ChatGPT, but never used it.
BalasHapusWhy?
HapusI have been trying to follow you back, but it keeps telling me that fail to follow. I will try with another account.
BalasHapusIt's okay. Maybe next time or with another account. Just try it, if it doesn't work, it seems like you can't be followed.
Hapusserem juga ai, tapi kita positif thinking aja lah kalo di masa depan ai akan jadi teman dan membantu pekerjaan manusia :)
BalasHapusTidak bisa demikian mas, harus ada yang berpikir kritis demi mencegah hal-hal yg tdk diinginkan. Karena otak manusia semakin ke depan itu semakin jenius, akan lbh byk teknologi canggih yg dpt diciptakan oleh manusia.
HapusJika kita hanya berpikir positif saja, itu bahkan sudah dilakukan oleh Oppenheimer saat membuat bom atom. Ia sama sekali tdk memikirkan sisi negatif dari temuannya tersebut. Dan alhasil apa coba... Hiroshima musnah terkena temuannya itu. Hiks... sedih...
kalo kita gak berpikir positif gak akan ada kemajuanya mas, memang semua ada positif dan negatifnya, tergantung nanti kedepanya manusia bagaimana mencari solusi dampak negaitif penemuanya nanti :)
Hapusapakah teknologi ai mengancam manusia ?, meskipun itu ada yang terbantu dngan teknologi tersebut
Mengancam manusia dari sisi pekerjaan sih sudah pasti mas, banyak konten kreator yang sekarang sepi job gara-gara diambil alih oleh AI.
HapusYang positif memang hrs diambil. Tp disisi lain tetap yg negatif wajib dipikirkan.
HapusNgeri juga ya, apalagi kalo chatbot sampai nyuruh mati saja, apa mungkin AI nya kesal disuruh-suruh terus.😂
BalasHapusBisa jadi suatu saat AI bisa berpikir sendiri lalu menyalakan bom nuklir sendiri ke 1000 kota besar di dunia. Setelah itu membuat robot untuk menangkap manusia yang selamat dari bom nuklir.😱😱😱
Sampai akhirnya Wawan Connor datang untuk menyelamatkan sisa manusia dari perbudakan AI.😅
Saya kenal dgn Wawan Connor, kemungkinan sih yg diselamatkan lbh dulu adalah Yukito Nabawashi Sasuke.
Hapus.
.
.
.
.
.
.
.
yaitu kucing kesayangannya yg biasa dipanggil 'mpuss'
😂
Muy interesante. Te mando un beso.
BalasHapusGracias Citu 😊
HapusKalau menurut saya AI-nya tidak salah, yang salah itu yang menanggapinya. Kalau jawabannya di luar logika masa harus dituruti.
BalasHapusSatu pertanyaan apakah film Terminator akan menjadi kenyataan, karena AI semakin cerdas dan mulai ada indikasi membangkang?
Pertanyaan terakhir mas Herman kan sama dgn pertanyaan saya. Jawabannya mungkin saja mas... karena byk ilmuwan yg juga mengkhawatirkan tentang hal itu.
HapusDan mengenai org yg menanggapi, saya rasa karakter org kan berbeda-beda. Bayangin aja, misalkan mas Herman nih baru pulang kerja capek, ada tugas deadline yg numpuk, trs siangnya abis kecopetan, udh gitu abis dpt chat putus dari pacarnya, pulang2 keujanan basah kuyup semua, lalu buka Chatbot AI buat ngerjain tugas, eh ujung2nya dpt kata2 dari AI seperti itu..... kira2 apa yg bakal terjadi?
Saya kadang juga bercakap-cakap pake cht Gpt,tapi di bawa santai aja..jangan di bawa serius atau buat nyimpen data penting atau apa...kan harusnya sebagai manusia normal bisa mikir gimana..apa yg harus apa yg enggak.
BalasHapustergantung mood orgnya jg sih mbak, mungkin bagi mbak yg moodnya sedang tenang, bisa menghadapinya dgn santai. Tp lain lg org yg moodnya sedang stress, galau, byk masalah... pasti responnya jg bakal gak normal.
HapusMenurutku AI sangat membantu sebagai konten kreator. Kalo salah dalam memberikan respon biasanya salah dalam membuat perintah.
BalasHapuscoba deh mas baca percakapannya di link atas yg saya berikan. Kira2 letak salahnya ada dmn tuh... kalo saya baca percakapannya biasa saja gak ada yg ganjil, tapi secara tiba2 AI memberikan respon seperti itu. Respon tersebut kayak muncul dari seseorang yg sedang marah gitu karna ditanya2 mulu...
Hapuskita ambil yang posxitif sahaja tentang AI ni yang merosakkan tu kita tinggalkan sebab akal dan otak kita lebih berharga daripada AI
BalasHapussayangnya, tidak semua orang di dunia ini baik seperti mbak Anies.
HapusTadi di atas mas Khanif bilang juga ambil yg positif nya juga Khan mas 😁..Podo ae
BalasHapusKalo yg positif memang perlu diambil, tapi yg negatifnya juga perlu dipikirkan mbak... gituloh jadi seimbang...
HapusPastikan manusia lebih hebat daripada AI...kalau tidak AI akan kuasai fikiran manusia
BalasHapusNah, setuju dengan pendapat mas Hanafi...
HapusItu baru kecerdasan digital ya. Bagaimana kalo berbentuk manusia hidup. Serem bener
BalasHapusYup, baru segitu aja, udh bisa mengumpat seperti itu... gmn kalo diterapkan ke dalam fisik sebuah robot ataupun senjata. Hal menakutkan bisa saja terjadi. Jangan sampe deh...
HapusWhat a frightening message.
BalasHapusI often use AI to create images and I really like it.
If it's just limited to doing drawing things like that, AI is really helpful.
Hapuschatgpt sih yang seru
BalasHapusdibandingkan gemini
serunya gmn mas, apakah jawaban wawasannya lbh luas?
HapusPerintah dan hasilnya lebih jelas chat gpt. Trus kalau kita suruh berkelanjutan itu dy bs nyimpen perintah sebelumnya jadi tinggal lanjutin perintahnya mas
Hapusoh gitu toh? berarti lebih terstruktur ya... gak melenceng jawabannya
HapusGimana yaaa... Aku bingung juga kalo ada yg sampai terpengaruh. Tp memang kalo kondisi mentalnya sedang drop, down banget, ga ada yg bisa dijadikan tempat bersandar, bahaya sih. Apa yg diucapkan oleh AI sekalipun, jadi ditelan mentah2 Ama dia.
BalasHapusKrn kalo seseorang itu mentalnya terjaga, dia pun kuat dalam membedakan mana yg nyata mana yg bukan, ya harusnya biasa aja dpt chat sinting begitu. Aku dah pasti ga akan peduli. Siapa AI. Kok enak aja nyuruh orang mati, kenapa bukan dia 😂. Itu kalo yg mentalnya dlm kondisi baik .
Ini yg saya maksud dalam artikel saya. Bahwa jika kondisi seseorg itu sedang 'berantakan' bisa saja responnya akan lbh gila dari pesan AI itu sendiri.
Hapuskok bisa gitu sih mas? jahat dong, apa ini berarti AI udah bisa berpikir sendiri mas?
BalasHapuseh mbak Fitri... kmn ajah baru kliatan? :D
Hapusiya nih keberadaan AI lagi banyak diperdebatkan, antara penting atau gaknya, dan bahaya atau gaknya... soal itu hasil pikiran AI sendiri atau bkn msh blm terbukti.
yang namanya teknologi pasti ada plus minusnya, semoga yang ditakutkan oleh para peneliti terkait AI ini tidak terjadi
BalasHapusAamiin... semoga saja.
Hapus