Pemerintah Spanyol minggu ini mengumumkan perombakan besar-besaran terhadap program di mana polisi mengandalkan algoritma untuk mengidentifikasi calon korban kekerasan dalam rumah tangga, setelah para pejabat menghadapi pertanyaan tentang efektivitas sistem tersebut.
Program VioGén mengharuskan petugas polisi untuk mengajukan serangkaian pertanyaan kepada korban. Jawaban dimasukkan ke dalam program perangkat lunak yang menghasilkan skor – dari tidak ada risiko hingga risiko ekstrem – yang dimaksudkan untuk menandai perempuan yang paling rentan terhadap pelecehan berulang. Skor tersebut membantu menentukan perlindungan polisi dan layanan lain apa yang dapat diterima perempuan.
Investigasi New York Times tahun lalu menemukan bahwa polisi sangat bergantung pada teknologi, hampir selalu menerima keputusan yang dibuat oleh perangkat lunak VioGén. Beberapa perempuan yang algoritmanya diberi label tidak berisiko atau berisiko rendah untuk mengalami lebih banyak bahaya kemudian mengalami pelecehan lebih lanjut, termasuk puluhan orang yang dibunuh, demikian temuan The Times.
Pejabat Spanyol mengatakan perubahan yang diumumkan minggu ini adalah bagian dari pembaruan sistem yang sudah direncanakan sejak lama, yang diperkenalkan pada tahun 2007. Mereka mengatakan perangkat lunak tersebut telah membantu departemen kepolisian dengan sumber daya terbatas dalam melindungi perempuan yang rentan dan mengurangi jumlah serangan berulang.
Dalam sistem yang diperbarui, VioGén 2, perangkat lunaknya tidak lagi dapat memberi label pada perempuan sebagai tidak menghadapi risiko. Polisi juga harus memasukkan lebih banyak informasi tentang korban, yang menurut para pejabat akan menghasilkan prediksi yang lebih akurat.
Perubahan lainnya dimaksudkan untuk meningkatkan kolaborasi antar lembaga pemerintah yang terlibat dalam kasus kekerasan terhadap perempuan, termasuk mempermudah pertukaran informasi. Dalam beberapa kasus, korban akan menerima rencana perlindungan yang dipersonalisasi.
“Machismo mengetuk pintu kita dan melakukannya dengan kekerasan yang belum pernah kita lihat dalam waktu lama,” kata Ana Redondo, menteri kesetaraan, pada konferensi pers pada hari Rabu. “Ini bukan waktunya untuk mundur selangkah. Ini saatnya untuk melakukan lompatan ke depan.”
Penggunaan algoritme di Spanyol untuk memandu penanganan kekerasan gender adalah contoh luas tentang bagaimana pemerintah beralih ke algoritme untuk mengambil keputusan penting di masyarakat, sebuah tren yang diperkirakan akan tumbuh seiring dengan penggunaan kecerdasan buatan. Sistem ini telah dipelajari sebagai model potensial bagi pemerintah di negara lain yang berupaya memerangi kekerasan terhadap perempuan.
VioGén diciptakan dengan keyakinan bahwa algoritma berdasarkan model matematika dapat berfungsi sebagai alat yang tidak memihak untuk membantu polisi menemukan dan melindungi perempuan yang mungkin terlewatkan. Pertanyaan ya-atau-tidak mencakup: Apakah senjata digunakan? Apakah ada masalah ekonomi? Apakah agresor menunjukkan perilaku mengendalikan?
Korban yang tergolong berisiko tinggi menerima perlindungan lebih besar, termasuk patroli rutin di rumah mereka, akses ke tempat penampungan dan pemantauan polisi terhadap pergerakan pelaku. Mereka yang nilainya lebih rendah mendapat lebih sedikit bantuan.
Pada bulan November, Spanyol memiliki lebih dari 100.000 kasus aktif perempuan yang telah dievaluasi oleh VioGén, dengan sekitar 85 persen korban diklasifikasikan memiliki risiko kecil untuk disakiti lagi oleh pelaku kekerasan. Petugas kepolisian di Spanyol dilatih untuk menolak rekomendasi VioGén jika ada bukti yang membenarkan hal tersebut, namun The Times menemukan bahwa skor risiko diterima sekitar 95 persen.
Victoria Rosell, seorang hakim di Spanyol dan mantan delegasi pemerintah yang fokus pada isu kekerasan gender, mengatakan bahwa periode “kritik diri” diperlukan agar pemerintah dapat memperbaiki VioGén. Dia mengatakan sistem ini bisa lebih akurat jika mengambil informasi dari database tambahan pemerintah, termasuk sistem layanan kesehatan dan pendidikan.
Natalia Morlas, presiden Somos Más, sebuah kelompok hak-hak korban, mengatakan dia menyambut baik perubahan tersebut, yang dia harap akan menghasilkan penilaian risiko yang lebih baik oleh polisi.
“Mengkalibrasi risiko korban dengan baik sangatlah penting sehingga dapat menyelamatkan nyawa,” kata Ms. Morlas. Dia menambahkan bahwa sangat penting untuk menjaga pengawasan manusia terhadap sistem karena korban “harus dirawat oleh manusia, bukan oleh mesin.”
