Siswa Kulit Hitam Tidak Didiskriminasi oleh Perangkat Lunak Anti-Kecurangan VU

Artikel ini terakhir diperbarui pada Oktober 17, 2023

Siswa Kulit Hitam Tidak Didiskriminasi oleh Perangkat Lunak Anti-Kecurangan VU

Vrije Universiteit Amsterdam terbukti benar dalam pengaduan diskriminasi

Vrije Universiteit Amsterdam (VU) telah dibebaskan dari tuduhan diskriminasi setelah seorang mahasiswa mengklaim bahwa perangkat lunak anti-kecurangan universitas tersebut telah secara tidak adil menargetkannya karena warna kulitnya yang gelap. Dewan Hak Asasi Manusia menolak pengaduan tersebut, dengan menyatakan bahwa kesulitan siswa tersebut dengan perangkat lunak tersebut tidak ada hubungannya dengan rasnya. Namun demikian, Dewan mengkritik universitas atas penanganan pengaduan diskriminasi.

Tuduhan Diskriminasi

Pada bulan Juli 2022, Robin Pocornie, seorang mahasiswa master bioinformatika, mengajukan pengaduan yang menyatakan bahwa dia menghadapi kesulitan dalam menggunakan perangkat lunak anti-kecurangan wajib, Proctorio, selama ujian online. Pocornie mengklaim bahwa dia harus menyinari wajahnya untuk membuktikan identitasnya kepada perangkat lunak, sementara teman-teman kulit putihnya tidak menghadapi persyaratan yang sama.

Keputusan sementara pada bulan Desember dari pengawas independen menyatakan bahwa Pocornie mungkin menjadi korban diskriminasi berdasarkan warna kulitnya. Penelitian ilmiah menunjukkan bahwa perangkat lunak pengenalan wajah mungkin kurang akurat bagi individu dengan warna kulit gelap. Namun, Dewan Hak Asasi Manusia akhirnya menyimpulkan bahwa Pocornie tidak mengalami lebih banyak masalah dibandingkan siswa lainnya selama ujian.

Kekecewaan dan Kesadaran

Meskipun Pocornie menyatakan kekecewaannya terhadap hasil pengaduan tersebut, ia merasa puas bahwa kasusnya telah menarik perhatian pada isu diskriminasi dalam teknologi. Dia menyoroti perlunya institusi pendidikan untuk mempertimbangkan kesetaraan fungsi teknologi yang mereka gunakan untuk semua siswa.

Pusat Rasisme dan Teknologi yang memberikan bantuan hukum kepada Pocornie juga menyatakan kekecewaannya terhadap keputusan Dewan. Pengacara dan ketua pusat tersebut, Naomi Appelman, mengomentari tantangan dalam membuktikan diskriminasi secara hukum dalam sistem algoritmik.

Tanggapan Universitas

VU mengakui pada bulan Oktober bahwa mereka pada awalnya tidak mempertimbangkan potensi diskriminasi ketika menerapkan perangkat lunak anti-kecurangan. Namun, universitas menekankan upayanya untuk meminimalkan risiko kegagalan fungsi perangkat lunak dan menawarkan siswa pilihan untuk mengikuti ujian secara langsung jika mereka mengalami masalah selama ujian praktik.

NU.nl menghubungi Vrije Universiteit untuk meminta tanggapan atas keputusan Dewan tersebut, namun pernyataan dari universitas masih menunggu keputusan.

Dampak yang Lebih Luas

Meskipun kasus Pocornie tidak menghasilkan temuan diskriminasi, kasus ini telah meningkatkan kesadaran tentang potensi bias dalam teknologi dan menyoroti pentingnya memastikan akses dan fungsionalitas yang setara bagi semua siswa, tanpa memandang ras atau warna kulit mereka. Dengan menyoroti masalah ini, kasus Pocornie telah mendorong institusi pendidikan untuk menilai kembali penggunaan teknologi dan mempertimbangkan potensi dampak diskriminatif dari sistem algoritmik.

Ketika perbincangan seputar diskriminasi dalam teknologi terus berlanjut, penting bagi universitas dan institusi lain untuk mengevaluasi secara kritis dan mengatasi potensi bias dalam alat yang mereka gunakan. Dengan melakukan hal ini, mereka dapat memastikan lingkungan pembelajaran yang adil dan inklusif bagi semua siswa.

Perangkat Lunak Anti-Kecurangan