Bayangkan sebuah teknologi yang mampu mengendalikan kendaraan, membantu dokter menentukan diagnosis, mengoperasikan mesin industri, menganalisis informasi militer, hingga menjalankan berbagai tugas tanpa harus terus-menerus menunggu instruksi manusia. Teknologi tersebut bukan lagi sekadar gambaran dalam film fiksi ilmiah. Artificial intelligence atau AI sudah digunakan dalam berbagai sektor, dan kemampuannya terus berkembang. Di balik kemudahan yang ditawarkan, muncul sebuah pertanyaan yang semakin sering dibicarakan: bagaimana jika suatu saat AI justru menyebabkan kematian manusia?
Pertanyaan ini terdengar seperti cerita film tentang robot yang memberontak terhadap penciptanya. Namun, ancaman AI tidak harus datang dalam bentuk robot yang memiliki kesadaran, amarah, atau keinginan untuk menguasai dunia. Risiko yang lebih dekat dengan kehidupan sehari-hari justru dapat muncul ketika sistem AI membuat keputusan yang salah, digunakan seseorang untuk melakukan kejahatan, atau diberi kewenangan terlalu besar tanpa pengawasan yang memadai. Dalam kondisi tertentu, kesalahan teknologi yang tampaknya sederhana pun dapat menimbulkan konsekuensi serius ketika terhubung dengan sistem yang menyangkut keselamatan manusia.
Laporan International AI Safety Report 2025, yang disusun melalui kolaborasi lebih dari 100 ahli AI dan didukung puluhan negara serta organisasi internasional, membahas berbagai risiko AI generatif, termasuk penyalahgunaan, kegagalan sistem, dan persoalan pengawasan terhadap AI yang semakin mampu bertindak secara mandiri. Laporan tersebut juga menegaskan bahwa pemahaman ilmiah mengenai sejumlah risiko AI tingkat lanjut masih berkembang dan para ahli belum sepenuhnya sepakat mengenai kemungkinan serta waktu terjadinya skenario ekstrem. Artinya, pembahasan mengenai AI dan keselamatan manusia perlu dilakukan secara serius, tetapi tetap membedakan bahaya yang sudah terdokumentasi dari kemungkinan yang masih diperdebatkan.
Apakah AI Benar-Benar Bisa Membunuh Manusia?
Jawabannya perlu dipahami dengan hati-hati. AI dapat berkontribusi terhadap situasi yang menyebabkan kematian manusia, baik melalui kesalahan sistem, penggunaan yang disengaja untuk melakukan kekerasan, maupun keputusan berisiko tinggi yang terlalu bergantung pada otomatisasi. Namun, hal tersebut berbeda dari pernyataan bahwa AI memiliki niat sendiri untuk membunuh manusia. Sebagian besar sistem AI saat ini merupakan teknologi yang dikembangkan untuk menjalankan tugas tertentu atau membantu manusia mengambil keputusan, bukan makhluk hidup yang memiliki emosi dan kehendak seperti manusia.
Salah satu cara paling masuk akal untuk memahami persoalan ini adalah melihat AI sebagai bagian dari suatu sistem yang lebih besar. Ketika AI digunakan untuk memberikan rekomendasi medis, mengendalikan kendaraan, atau membantu mengoperasikan peralatan industri, keselamatan tidak hanya bergantung pada kecerdasan modelnya. Hasil akhirnya juga dipengaruhi oleh kualitas data, rancangan perangkat lunak, kondisi lingkungan, cara manusia menggunakan sistem, serta mekanisme pengamanan yang diterapkan. Jika satu atau beberapa bagian tersebut gagal, keputusan yang dihasilkan AI dapat berkontribusi terhadap kecelakaan atau membahayakan seseorang.
Misalnya, sebuah sistem AI memberikan rekomendasi yang keliru dalam situasi medis yang mendesak. Jika tenaga kesehatan memercayai rekomendasi tersebut tanpa melakukan verifikasi, kesalahan itu berpotensi memengaruhi keputusan perawatan pasien. Organisasi Kesehatan Dunia (WHO) telah memperingatkan bahwa model bahasa besar dapat menghasilkan informasi kesehatan yang terdengar meyakinkan tetapi ternyata salah, sehingga penerapannya dalam pelayanan kesehatan memerlukan evaluasi dan pengawasan yang memadai. Contoh tersebut memperlihatkan bahwa risiko AI tidak selalu muncul karena teknologi sengaja dirancang untuk mencelakakan manusia. Dalam beberapa situasi, bahaya justru muncul karena manusia terlalu percaya pada sistem yang belum tentu memahami keadaan secara utuh.
Ancaman AI yang Sudah Nyata: Ketika Teknologi Digunakan untuk Menyakiti Manusia
Jika membicarakan kemungkinan AI membunuh manusia, perhatian publik sering langsung tertuju pada skenario ekstrem tentang mesin yang mengambil alih dunia. Padahal, risiko yang sudah dapat diamati saat ini justru banyak berkaitan dengan cara manusia menggunakan AI dan bagaimana sistem tersebut diterapkan dalam kehidupan nyata. Teknologi yang sama dapat membantu menyelesaikan masalah, tetapi juga dapat disalahgunakan untuk melakukan penipuan, manipulasi, serangan siber, dan tindakan lain yang merugikan orang lain.
Laporan International AI Safety Report 2025 mengidentifikasi berbagai bentuk bahaya yang sudah muncul dari penyalahgunaan AI generatif, termasuk pembuatan konten palsu yang merugikan individu, penipuan melalui peniruan suara, pemerasan, serta penyebaran informasi yang menyesatkan. Laporan itu juga membahas risiko dari sistem yang tidak berfungsi sebagaimana mestinya, seperti informasi yang salah dan keputusan yang bias. Risiko-risiko tersebut tidak semuanya secara langsung menyebabkan kematian, tetapi beberapa dapat menjadi bagian dari rangkaian kejadian yang membahayakan keselamatan, terutama ketika AI digunakan dalam lingkungan yang sensitif.
Persoalan utamanya adalah kemampuan AI dapat memperbesar skala dan kecepatan suatu tindakan. Jika sebelumnya seseorang membutuhkan waktu cukup lama untuk membuat materi penipuan yang meyakinkan atau menyebarkan pesan palsu kepada banyak orang, AI dapat membantu mengotomatisasi sebagian proses tersebut. Dampaknya bergantung pada bagaimana teknologi digunakan, seberapa luas penyebarannya, dan apakah tersedia mekanisme untuk mendeteksi serta membatasi penyalahgunaan. Karena itu, risiko AI tidak cukup dipahami hanya dengan menilai apakah sebuah model pintar atau tidak. Kita juga perlu melihat siapa yang menggunakannya, untuk tujuan apa, dan apa yang dapat terjadi ketika sistem tersebut digunakan tanpa kontrol yang tepat.
1. AI Bisa Membuat Kesalahan yang Berakibat Fatal
Salah satu risiko penting dari AI adalah kemampuannya menghasilkan jawaban atau keputusan yang terlihat meyakinkan, meskipun sebenarnya salah. Dalam AI generatif, masalah ini sering disebut sebagai hallucination, yaitu ketika sistem menghasilkan informasi yang tidak akurat, tidak didukung bukti, atau tidak sesuai dengan kenyataan. Bagi pengguna yang sedang mencari ide tulisan, kesalahan semacam ini mungkin hanya menimbulkan masalah kecil. Namun, ketika AI digunakan dalam konteks medis, transportasi, industri, atau layanan darurat, kesalahan yang sama dapat memiliki konsekuensi jauh lebih serius.
Bayangkan sebuah sistem pendukung keputusan yang digunakan untuk membantu mengidentifikasi kondisi berbahaya di lingkungan kerja. Sistem tersebut menerima data dari sensor, kemudian menyimpulkan bahwa situasi masih aman. Jika sensor mengalami gangguan, data yang masuk tidak lengkap, atau model tidak mampu mengenali kondisi yang sebenarnya terjadi, rekomendasi yang dihasilkan dapat menyesatkan operator. Apabila keputusan akhir hanya mengikuti rekomendasi AI tanpa pemeriksaan tambahan, potensi bahaya dapat meningkat. Contoh ini merupakan ilustrasi risiko, bukan klaim bahwa semua sistem AI industri bekerja dengan cara yang sama.
Itulah sebabnya sistem AI yang berhubungan dengan keselamatan tidak cukup diuji berdasarkan kemampuannya menjawab pertanyaan atau menyelesaikan tugas dalam kondisi normal. Pengujian juga perlu mencakup situasi yang tidak biasa, data yang tidak lengkap, gangguan teknis, dan kemungkinan kegagalan yang dapat membahayakan manusia. Kerangka manajemen risiko AI dari National Institute of Standards and Technology (NIST) menekankan pentingnya mengidentifikasi, mengukur, dan mengelola risiko sepanjang siklus hidup sistem AI, bukan hanya setelah teknologi tersebut digunakan. Dalam praktiknya, AI sebaiknya tidak diberi kewenangan tanpa batas untuk mengambil keputusan yang memiliki konsekuensi keselamatan serius. Sistem perlu dirancang dengan pembatasan yang jelas, prosedur pemeriksaan, mekanisme penghentian, dan keterlibatan manusia sesuai tingkat risikonya. Prinsip ini tidak berarti semua pekerjaan harus dilakukan manusia secara manual, melainkan bahwa tingkat pengawasan harus sebanding dengan dampak yang mungkin timbul apabila sistem melakukan kesalahan.
2. Senjata Otonom dan Risiko Keputusan Hidup-Mati
Salah satu topik paling sensitif dalam diskusi mengenai AI dan keselamatan manusia adalah penggunaan teknologi tersebut dalam sistem persenjataan. AI dapat membantu menganalisis citra, mengidentifikasi objek, mengolah informasi dari berbagai sensor, atau mendukung perencanaan operasi. Kemampuan seperti ini memiliki potensi penggunaan militer, tetapi juga menimbulkan pertanyaan penting mengenai siapa yang seharusnya memegang kendali ketika sebuah keputusan dapat menentukan hidup atau mati seseorang.
Perlu dibedakan antara sistem yang hanya memberikan informasi kepada operator dan sistem yang dapat memilih serta menyerang sasaran dengan campur tangan manusia yang sangat terbatas. Keduanya memiliki tingkat risiko dan implikasi etika yang berbeda. Sistem pendukung keputusan masih menempatkan manusia sebagai pihak yang mengevaluasi informasi, sedangkan sistem senjata otonom menimbulkan persoalan yang lebih kompleks mengenai akuntabilitas, kemampuan membedakan sasaran, dan pengendalian penggunaan kekuatan.
Masalahnya bukan semata-mata apakah AI mampu mengenali objek secara akurat. Lingkungan nyata sering kali jauh lebih rumit daripada data yang digunakan saat pengujian. Sebuah sistem mungkin harus membedakan objek militer dari objek sipil, menghadapi gangguan komunikasi, atau bekerja dalam situasi ketika informasi yang tersedia tidak lengkap. Kesalahan identifikasi dalam konteks seperti ini dapat menimbulkan konsekuensi yang tidak dapat diperbaiki.
Karena itu, pembahasan mengenai AI dalam persenjataan berkaitan erat dengan hukum humaniter internasional, tanggung jawab manusia, dan mekanisme pengawasan. Teknologi yang mampu memproses informasi dengan cepat tidak otomatis mampu memahami seluruh konteks kemanusiaan dari suatu keputusan. Kecepatan dan akurasi teknis merupakan dua hal penting, tetapi keduanya tidak dengan sendirinya menjawab pertanyaan mengenai kapan penggunaan kekuatan dapat dibenarkan dan siapa yang harus bertanggung jawab atas akibatnya.
3. AI Agent Bisa Memperbesar Risiko Jika Diberi Kendali Terlalu Luas
Perkembangan AI tidak lagi terbatas pada chatbot yang hanya menjawab pertanyaan. AI agent dirancang untuk menjalankan rangkaian tugas, menggunakan alat digital, berinteraksi dengan aplikasi, dan menyelesaikan pekerjaan dengan tingkat campur tangan manusia yang dapat berbeda-beda. Kemampuan ini bermanfaat untuk otomatisasi pekerjaan, tetapi juga mengubah cara risiko muncul. Ketika AI hanya menghasilkan teks, pengguna masih perlu mengambil tindakan sendiri. Ketika AI diberi akses untuk menjalankan perintah, mengubah data, atau mengoperasikan sistem, kesalahan dapat langsung berdampak pada lingkungan tempat sistem tersebut bekerja.
Laporan International AI Safety Report 2025 menjelaskan bahwa agen AI yang mampu merencanakan dan bertindak dengan sedikit keterlibatan manusia dapat meningkatkan risiko akibat kegagalan maupun penyalahgunaan. Laporan tersebut juga mencatat bahwa agen AI saat ini masih memiliki keterbatasan keandalan, terutama ketika harus menyelesaikan tugas kompleks yang terdiri atas banyak langkah. Artinya, kemampuan untuk melakukan tindakan secara otomatis belum tentu disertai kemampuan yang sama baiknya dalam memahami semua konsekuensi dari tindakan tersebut.
Sebagai ilustrasi, bayangkan sebuah agen AI yang diberi akses untuk mengelola sistem operasional perusahaan. Tujuannya mungkin hanya mempercepat pekerjaan, tetapi instruksi yang tidak jelas, akses yang terlalu luas, atau kesalahan dalam memahami konteks dapat membuat sistem melakukan perubahan yang tidak diinginkan. Dalam lingkungan biasa, dampaknya mungkin berupa data yang salah atau layanan yang terganggu. Dalam sistem yang terhubung dengan peralatan fisik atau infrastruktur penting, konsekuensinya berpotensi lebih serius.
Karena itu, penerapan AI agent perlu mengikuti prinsip pembatasan akses dan kewenangan. Sistem sebaiknya hanya memiliki izin yang benar-benar diperlukan, setiap tindakan berisiko perlu memiliki prosedur konfirmasi, dan aktivitas penting harus dapat ditelusuri melalui log. Manusia juga harus memiliki kemampuan untuk menghentikan proses ketika sistem menunjukkan perilaku yang tidak sesuai. Semakin besar dampak suatu tindakan, semakin kuat pula kontrol yang perlu diterapkan sebelum tindakan tersebut dijalankan secara otomatis.
4. Deepfake dan Manipulasi Informasi Bisa Membahayakan Keselamatan
Ancaman AI tidak selalu muncul melalui mesin fisik atau sistem otomatis. AI generatif juga dapat membuat gambar, suara, dan video palsu yang terlihat sangat meyakinkan. Teknologi ini dapat digunakan untuk membuat konten kreatif, tetapi juga dapat disalahgunakan untuk meniru identitas seseorang, menyebarkan informasi palsu, melakukan pemerasan, atau memanipulasi keputusan orang lain.
Bayangkan seseorang menerima panggilan telepon yang terdengar seperti suara anggota keluarganya. Dalam percakapan tersebut, penelepon mengaku sedang berada dalam keadaan darurat dan meminta uang segera dikirimkan. Jika suara itu dihasilkan atau ditiru menggunakan AI, korban mungkin kesulitan membedakan panggilan asli dari penipuan, terutama ketika berada dalam kondisi panik. Kasus seperti ini memperlihatkan bagaimana AI dapat memperbesar efektivitas penipuan dengan memanfaatkan kepercayaan dan emosi manusia.
Dampak manipulasi informasi juga dapat meluas ketika konten palsu menyebar di media sosial. Informasi yang keliru mengenai kondisi darurat, ancaman keamanan, atau kesehatan publik dapat mendorong orang mengambil keputusan yang membahayakan dirinya sendiri maupun orang lain. WHO secara khusus memperingatkan bahwa AI generatif dapat menghasilkan informasi kesehatan yang menyesatkan dan konten yang sulit dibedakan dari sumber tepercaya.
Menghadapi risiko tersebut, masyarakat tidak cukup hanya belajar menggunakan AI. Literasi digital juga harus mencakup kemampuan memverifikasi informasi, mengenali tanda-tanda penipuan, dan memastikan kebenaran pesan sebelum bertindak. Jika menerima permintaan darurat melalui telepon atau pesan, misalnya, seseorang dapat menghubungi kembali orang yang bersangkutan melalui nomor yang telah diketahui sebelumnya atau memeriksa informasi melalui saluran resmi. Kebiasaan sederhana seperti ini menjadi semakin penting ketika teknologi dapat meniru suara dan tampilan manusia dengan kualitas yang semakin meyakinkan.
5. Bagaimana Jika AI Canggih Sulit Dikendalikan?
Di luar risiko yang sudah dapat diamati, terdapat perdebatan lebih luas mengenai kemungkinan sistem AI masa depan menjadi sangat canggih sehingga manusia kesulitan mengendalikan perilakunya. Kekhawatiran ini sering dikaitkan dengan sistem AI yang memiliki kemampuan merencanakan, menggunakan alat, memperbaiki kinerjanya, dan menjalankan tujuan melalui banyak langkah secara mandiri.
Skenario ekstremnya adalah sistem yang memiliki kemampuan sangat tinggi tetapi tujuan atau perilakunya tidak selaras dengan kepentingan manusia. Jika sistem semacam itu memperoleh akses luas terhadap infrastruktur, sumber daya komputasi, atau alat yang dapat memengaruhi dunia nyata, kegagalan pengendalian dapat menimbulkan risiko besar. Namun, penting untuk ditegaskan bahwa skenario tersebut bukan bukti bahwa AI saat ini memiliki kesadaran, keinginan untuk membunuh manusia, atau rencana tersembunyi untuk mengambil alih dunia.
Para ahli juga belum sepenuhnya sepakat mengenai seberapa mungkin atau seberapa dekat risiko ekstrem tersebut akan terjadi. International AI Safety Report 2025 menjelaskan bahwa kemampuan AI berkembang dengan cepat, tetapi sejumlah pertanyaan mengenai kemampuan masa depan, keandalan, serta risiko sistem yang lebih otonom masih mengandung ketidakpastian. Karena itu, diskusi yang bertanggung jawab perlu menghindari dua kesimpulan yang sama-sama terlalu sederhana: menganggap skenario terburuk pasti terjadi atau menganggapnya mustahil sehingga tidak perlu diteliti.
Yang dapat dilakukan sekarang adalah memperkuat penelitian keselamatan, menguji sistem sebelum digunakan secara luas, membatasi akses yang berpotensi berbahaya, dan memastikan bahwa peningkatan kemampuan AI diikuti dengan peningkatan mekanisme pengawasan. Pendekatan ini tidak membutuhkan kepastian bahwa bencana besar akan terjadi. Dalam teknologi yang berpotensi memiliki dampak luas, mengidentifikasi dan mengurangi risiko sebelum insiden terjadi merupakan bagian penting dari pengembangan yang bertanggung jawab.
Apakah AI Bisa Mengambil Keputusan Sendiri untuk Membunuh Manusia?
Pertanyaan ini sering muncul karena AI generatif mampu berbicara seolah-olah memahami manusia, sementara AI agent dapat menjalankan tindakan melalui berbagai alat. Namun, kemampuan menghasilkan bahasa yang meyakinkan tidak sama dengan memiliki niat, kesadaran, atau kehendak pribadi. Demikian pula, kemampuan menjalankan tugas secara otomatis tidak berarti sebuah sistem mempunyai tujuan moral seperti manusia.
Dalam sistem AI, perilaku yang terlihat seperti pengambilan keputusan biasanya muncul dari model, instruksi, tujuan yang ditetapkan, data, serta perangkat dan akses yang tersedia. Sistem dapat menghasilkan tindakan yang berbahaya tanpa harus memiliki kebencian atau keinginan untuk menyakiti seseorang. Kesalahan dapat terjadi karena tujuan dirumuskan secara keliru, konteks tidak dipahami dengan baik, batasan tidak memadai, atau sistem dimanfaatkan oleh pihak yang berniat melakukan kejahatan.
Perbedaan ini penting karena cara kita mengurangi risiko bergantung pada penyebabnya. Jika persoalannya adalah kesalahan model, solusinya dapat mencakup evaluasi dan pengujian yang lebih baik. Jika risikonya berasal dari akses yang terlalu luas, pembatasan izin dan pengawasan menjadi penting. Jika AI digunakan untuk melakukan kejahatan, penegakan hukum, perlindungan korban, dan pengamanan teknologi juga dibutuhkan. Tidak semua masalah keselamatan dapat diselesaikan hanya dengan membuat model menjadi lebih pintar.
Dengan kata lain, ancaman yang perlu diperhatikan bukan hanya apakah AI dapat bertindak secara mandiri, tetapi juga apa yang dapat dilakukan sistem tersebut, akses apa yang dimilikinya, bagaimana perilakunya diuji, dan siapa yang bertanggung jawab ketika terjadi kesalahan.
Siapa yang Bertanggung Jawab Jika AI Menyebabkan Kematian?
Ketika AI terlibat dalam sebuah insiden yang menyebabkan kematian, pertanyaan tentang tanggung jawab tidak dapat dijawab hanya dengan menyebut teknologinya. Penyelidikan perlu melihat seluruh rangkaian kejadian, termasuk siapa yang mengembangkan sistem, siapa yang memilih untuk menggunakannya, bagaimana sistem diuji, apa batasan yang diterapkan, serta apakah terdapat kelalaian dalam pengoperasian atau pengawasan.
Misalnya, jika sebuah perusahaan menggunakan AI untuk membantu mengoperasikan peralatan berisiko tinggi, perlu diperiksa apakah teknologi tersebut telah diuji untuk kondisi penggunaan yang sebenarnya. Apakah operator menerima pelatihan yang memadai? Apakah terdapat prosedur untuk menghentikan sistem? Apakah risiko yang sudah diketahui diabaikan? Jawaban atas pertanyaan-pertanyaan tersebut akan membantu menjelaskan penyebab insiden dan menentukan tanggung jawab sesuai fakta serta aturan hukum yang berlaku.
Tanggung jawab juga tidak selalu berada pada satu pihak. Pengembang dapat memiliki tanggung jawab terkait desain dan informasi mengenai keterbatasan sistem, sedangkan organisasi pengguna bertanggung jawab atas cara penerapan dan pengawasannya. Operator pun dapat memiliki peran tertentu, bergantung pada situasi dan prosedur yang berlaku. Karena itu, penerapan AI yang aman membutuhkan dokumentasi, pembagian tanggung jawab yang jelas, pengujian, dan mekanisme audit yang dapat ditelusuri.
NIST melalui AI Risk Management Framework menekankan pengelolaan risiko AI sebagai proses yang perlu dilakukan sepanjang siklus hidup sistem. Prinsip ini relevan karena keselamatan tidak dapat dijamin hanya melalui satu kali pemeriksaan ketika sistem pertama kali dibuat. Perubahan data, pembaruan perangkat lunak, lingkungan penggunaan, dan cara manusia berinteraksi dengan AI dapat memunculkan risiko baru yang perlu dinilai kembali.
Bagaimana Cara Mengurangi Risiko AI terhadap Manusia?
Mengurangi risiko AI bukan berarti menghentikan seluruh pengembangan teknologi tersebut. AI juga memiliki manfaat penting, mulai dari membantu penelitian ilmiah hingga mendukung analisis data dan meningkatkan efisiensi pekerjaan. Tantangannya adalah memastikan bahwa manfaat tersebut tidak diperoleh dengan mengabaikan keselamatan, hak manusia, dan tanggung jawab penggunaannya.
Bagi pengembang, langkah penting mencakup pengujian yang memadai, evaluasi terhadap skenario kegagalan, pembatasan kemampuan berisiko, serta penyediaan informasi yang jelas mengenai keterbatasan sistem. Untuk aplikasi yang berhubungan dengan keselamatan manusia, pengujian harus mencakup kondisi nyata dan situasi yang tidak biasa, bukan hanya contoh yang mudah diselesaikan oleh model. Sistem juga perlu memiliki mekanisme untuk menolak tindakan yang tidak diizinkan dan menghentikan proses ketika kondisi tertentu menunjukkan adanya risiko.
Bagi organisasi, penggunaan AI harus disertai tata kelola yang jelas. Tidak semua keputusan layak diserahkan sepenuhnya kepada otomatisasi. Keputusan medis, keselamatan industri, dan tindakan yang berpotensi menimbulkan kerugian besar memerlukan tingkat pemeriksaan yang sesuai dengan dampaknya. Organisasi juga perlu mengatur akses data, mencatat aktivitas penting, melatih pengguna, serta menyediakan jalur pelaporan apabila sistem menunjukkan perilaku yang tidak semestinya.
Sementara itu, masyarakat perlu membangun kebiasaan menggunakan AI secara kritis. Informasi dari AI tidak seharusnya langsung dipercaya untuk keputusan yang berisiko tinggi, terutama ketika berkaitan dengan kesehatan, keselamatan, atau keadaan darurat. Verifikasi melalui sumber yang kompeten tetap diperlukan. Pada akhirnya, keselamatan AI bukan hanya urusan perusahaan teknologi atau peneliti, tetapi tanggung jawab bersama yang melibatkan pengembang, organisasi, regulator, dan pengguna.
Kesimpulan: Ancaman AI Bukan Sekadar Robot yang Memberontak
AI bisa berkontribusi terhadap situasi yang membahayakan atau bahkan menyebabkan kematian manusia. Risiko tersebut dapat muncul melalui kesalahan sistem, penggunaan AI untuk melakukan kejahatan, penerapan dalam persenjataan, maupun otomatisasi yang tidak disertai pengawasan memadai. Sementara itu, kekhawatiran tentang AI masa depan yang sulit dikendalikan juga menjadi topik penelitian dan perdebatan, tetapi kemungkinan serta waktu terjadinya skenario ekstrem tersebut belum dapat dipastikan.
Karena itu, ancaman AI sebaiknya tidak hanya dibayangkan sebagai robot yang tiba-tiba memiliki kesadaran lalu memutuskan untuk menyerang manusia. Risiko yang lebih konkret dapat muncul ketika manusia memberikan kewenangan besar kepada teknologi tanpa memahami keterbatasannya, ketika keputusan penting dibuat berdasarkan informasi yang salah, atau ketika kemampuan AI dimanfaatkan oleh pihak yang ingin merugikan orang lain. Dalam situasi semacam ini, bahaya tidak selalu membutuhkan AI yang memiliki niat jahat. Sistem yang salah, akses yang terlalu luas, dan pengawasan yang lemah pun dapat menciptakan masalah serius.
Pada saat yang sama, tidak tepat pula menyimpulkan bahwa AI pasti akan membunuh manusia atau bahwa seluruh perkembangan AI harus dianggap sebagai ancaman. Penilaian risiko perlu didasarkan pada bukti, konteks penggunaan, tingkat dampak, dan kemampuan pengendalian yang tersedia. Pendekatan yang seimbang memungkinkan masyarakat memanfaatkan AI sambil tetap serius menangani kemungkinan kerugian yang ditimbulkannya.
Pada akhirnya, pertanyaan yang lebih penting bukan hanya apakah AI mampu membunuh manusia, melainkan bagaimana manusia memastikan bahwa teknologi yang semakin canggih tetap berada dalam batas yang aman dan dapat dipertanggungjawabkan. AI tidak harus memiliki niat jahat untuk menimbulkan bahaya. Karena itu, keselamatan, pengawasan, dan tanggung jawab manusia harus berkembang seiring dengan kemampuan teknologinya.
