Teknologi AI Maven AS Tewaskan 175 Pelajar Iran dalam Sekali Serangan

Mengguncang Dunia: Ketika Teknologi Canggih Membawa Bencana

Insiden memilukan di Minab, Iran, pada 28 Februari lalu, telah memicu gelombang kekhawatiran global mengenai batasan etika dan risiko yang melekat pada penggunaan Kecerdasan Buatan (AI) dalam operasi militer. Sebuah serangan rudal yang salah sasaran menghantam sebuah sekolah dasar, merenggut 175 nyawa tak berdosa, lebih dari seratus di antaranya adalah anak-anak di bawah usia 12 tahun. Tragedi ini bukan hanya sekadar kecelakaan; ini adalah panggilan bangun yang keras tentang bahaya ketika otonomi mesin berhadapan dengan kompleksitas dan kerapuhan kehidupan manusia.
Peristiwa mengerikan ini mengungkap sisi gelap dari ambisi militer yang semakin bergantung pada algoritma dan data. Sekolah dasar Shajareh Tayyebeh di Minab, sebuah fasilitas pendidikan yang seharusnya menjadi tempat aman bagi para pelajar, hancur lebur oleh hantaman rudal Tomahawk yang dipandu AI. Data dari PBB dan Iran dengan tegas mengonfirmasi skala kehancuran dan jumlah korban jiwa, meninggalkan duka mendalam dan pertanyaan besar tentang akuntabilitas di era perang modern.

Proyek Maven: Ambisi Militer AS dan Peran AI

Investigasi awal oleh Pentagon tidak dapat menyangkal fakta pahit: ini adalah kesalahan penargetan yang dilakukan oleh pihak Amerika Serikat. Pusat dari insiden ini adalah ‘Maven’, sebuah platform penargetan cerdas yang dikembangkan oleh Palantir di bawah kontrak senilai 1,3 miliar dolar AS dengan Pentagon. Proyek Maven dirancang untuk merevolusi proses penargetan militer dengan mengintegrasikan citra satelit, data radar, dan sinyal intelijen.
Sistem ini menggunakan model AI canggih bernama Claude, yang dikembangkan oleh Anthropic, untuk secara otomatis mengklasifikasikan target dan menghasilkan paket serangan udara secara real-time. Dalam 24 jam pertama kampanye di Iran, Maven dilaporkan menghasilkan ratusan koordinat serangan, menunjukkan efisiensi dan kecepatan yang luar biasa dalam memproses informasi dan membuat keputusan operasional. Namun, kecepatan ini terbukti menjadi pedang bermata dua, membawa konsekuensi yang tidak terbayangkan ketika data di baliknya cacat.

Akar Masalah: Data Usang dan Keterlibatan Manusia yang Krusial

Penyelidikan mendalam mengungkapkan bahwa akar permasalahan terletak pada data yang usang dan kurangnya pembaruan informasi secara tepat waktu. Sekolah Shajareh Tayyebeh memang dulunya berada di lahan yang sama dengan pangkalan angkatan laut Korps Garda Revolusi Iran (IRGC). Namun, antara tahun 2013 hingga 2016, sebuah tembok pembatas fisik telah didirikan, secara jelas memisahkan sekolah dari instalasi militer tersebut. Citra satelit dari Amnesty International mengonfirmasi pemisahan ini, menunjukkan bahwa sekolah tersebut telah beroperasi secara independen selama bertahun-tahun, lengkap dengan situs web dan akun media sosialnya sendiri.
Beberapa mantan pejabat militer AS yang berbicara kepada Semafor menegaskan bahwa kesalahan manusia adalah penyebab utama serangan tragis ini. Data yang dikelola secara manual oleh manusia gagal diperbarui untuk merefleksikan perubahan penting ini, membuat sistem AI beroperasi berdasarkan informasi yang sudah kadaluarsa. Dmytro Matviyuk, seorang ahli drone berpengalaman dengan sistem otomatis serupa, menekankan bahwa bukan AI itu sendiri yang cacat. “Sistem AI hanya dapat diandalkan karena adanya orang-orang yang membangunnya, menyediakan data, dan memantaunya. Ketika hubungan manusia gagal, baik karena data yang salah atau proses yang dipersingkat, mesin akan terus mengeksekusi kesalahan tersebut dengan benar,” kata Matviyuk. Pernyataan ini menjadi pengingat tegas bahwa pada akhirnya, tanggung jawab tertinggi tetap berada di tangan manusia.

Akuntabilitas dan Akurasi AI yang Dipertanyakan

Insiden Minab juga membuka tirai di balik klaim akurasi sistem AI dalam peperangan. Data Pentagon menunjukkan bahwa Maven memiliki akurasi identifikasi target sekitar 60%, angka yang jauh lebih rendah daripada 84% yang dilaporkan oleh para analis militer. Kesenjangan signifikan antara klaim dan kenyataan ini menimbulkan pertanyaan serius mengenai tingkat kepercayaan yang ditempatkan pada sistem otonom dalam skenario konflik nyata.
Gelombang protes dan tuntutan akuntabilitas segera menyusul di Amerika Serikat. Lebih dari 120 anggota Partai Demokrat di Dewan Perwakilan Rakyat AS secara resmi mengirimkan surat kepada Menteri Pertahanan Pete Hegseth, menuntut klarifikasi terperinci mengenai peran AI dalam serangan yang mematikan ini. Desakan ini mencerminkan kekhawatiran yang meluas di kalangan pembuat kebijakan tentang pengawasan yang tidak memadai dan potensi bencana dari teknologi militer yang semakin canggih.

Konflik di Balik Layar: Pentagon dan Anthropic

Tragedi ini juga menyoroti adanya friksi di balik layar antara Pentagon dan Anthropic, perusahaan pengembang model AI Claude. Pemerintahan Trump sebelumnya telah mencantumkan Anthropic sebagai “risiko rantai pasokan” setelah perusahaan tersebut menolak untuk mencabut pembatasan yang mencegah Claude berpartisipasi dalam operasi militer ofensif. Ironisnya, meskipun ada perselisihan ini dan batasan etis yang diberlakukan oleh pengembangnya, Pentagon terus menggunakan Claude selama periode transisi enam bulan, menunjukkan urgensi dan ketergantungan militer AS pada teknologi AI tersebut.

Masa Depan AI dalam Peperangan: Sebuah Peringatan Keras

Peristiwa di sekolah Shajareh Tayyebeh adalah peringatan yang suram bagi umat manusia. Ini bukan sekadar insiden terisolasi, melainkan cerminan dari tantangan etika dan operasional yang kompleks dalam mengintegrasikan AI ke dalam domain militer. Ketika sistem otonom diberi kekuatan untuk menentukan target vital, bahkan dengan campur tangan manusia, potensi kesalahan dapat berakibat fatal.
Masa depan AI dalam peperangan menuntut kerangka kerja etika yang kuat, pengawasan manusia yang ketat dan transparan, serta pembaruan data yang berkelanjutan dan akurat. Penting untuk memastikan bahwa teknologi yang dirancang untuk melindungi tidak menjadi penyebab hilangnya nyawa tak berdosa. Insiden di Minab harus menjadi katalisator bagi dialog internasional yang lebih mendalam mengenai regulasi, akuntabilitas, dan batasan dalam pengembangan serta penerapan sistem senjata otonom. Hanya dengan begitu, kita dapat berharap untuk mencegah tragedi serupa terulang kembali di masa depan, menjaga keseimbangan antara inovasi teknologi dan nilai-nilai kemanusiaan yang mendasar.