Amerika Makin Ngeri, Petaka Baru Muncul di Sekolah

Jakarta, CNBC Indonesia - Operasi mata-mata Amerika Serikat (AS) sudah masuk ke sekolah-sekolah, menurut laporan terbaru Forbes berjudul 'AI Bathroom Monitors? Welcome To America's New Surveillance High Schools' (Monitor Kamar Mandi AI? Selamat Datang di Pengawasan Baru SMA Amerika).

Forbes mengatakan sekolah-sekolah di AS meluncurkan teknologi pengintaian berbasis kecerdasan buatan (AI), termasuk drone, pengenal wajah (facial recognition), bahkan perangkat pendengar di kamar kecil. Namun, Forbes menekankan upaya-upaya ini tetap tidak bisa menjaga keamanan siswa.

Di sebuah gedung California Selatan, terpasang kamera video yang membandingkan wajah orang lewat dengan basis data pengenalan wajah. Sistem analisa perilaku berbasis AI meninjau rekaman untuk mencari tanda-tanda perilaku kekerasan.

Di balik pintu kamar mandi, perangkat berbentuk detektor asap merekam audio, mendengarkan suara-suara yang menandakan kesulitan. Di luar, drone siap dikerahkan dan memberikan informasi dari sudut pandang atas.

Ada juga alat pembaca plat nomor dari perusahaan pengawasan raksasa senilai US$8,5 miliar, Flock Safety, yang memastikan mobil masuk dan keluar tempat parkir tidak dikendarai oleh penjahat.

Semua sistem itu terpasang bukan di fasilitas pemerintah dengan keamanan ketat, melainkan di SMA Beverly Hills.

Kepala distrik Alex Cherniss mengatakan serangkaian alat pengawasan yang canggih itu merupakan suatu kebutuhan, dan salah satu yang memastikan keselamatan para siswa.

"Kami berada di pusat lingkungan perkotaan Los Angeles, di salah satu kota paling terkenal di planet ini. Jadi kami selalu menjadi target dan itu berarti anak-anak kami menjadi target dan staf kami juga menjadi target," katanya.

Pada tahun fiskal 2024-2025, distrik tersebut menghabiskan US$4,8 juta untuk keamanan, termasuk staf. Sistem pengawasan tersebut mendeteksi berbagai ancaman setiap hari, kata distrik tersebut.

Sistem yang diterapkan di Beverly Hills mungkin tampak ekstrem, tetapi itu bukanlah pengecualian. Di seluruh AS, sekolah-sekolah menerapkan sistem pengawasan serupa yang mereka harapkan akan melindungi siswa dan pekerja sekolah dari gelombang penembakan massal yang mengerikan dan tak henti-hentinya.

Tahun ini, terdapat 49 kematian akibat tembakan di lingkungan sekolah. Pada 2024, ada 59 kematian, dan pada 2023 ada 45 kematian, menurut Everytown for Gun Safety.

Antara tahun 2000 dan 2022, 131 orang tewas dan 197 terluka di sekolah-sekolah di AS, sebagian besar adalah anak-anak. Mengingat angka-angka yang mengerikan tersebut, mengalokasikan sebagian anggaran untuk alat keamanan dan pengawasan canggih berbasis AI adalah keputusan yang relatif mudah.

"Masyarakat ini menginginkan upaya apa pun yang dapat dilakukan untuk membuat sekolah kita lebih aman," kata Cherniss.

"Jika itu berarti Anda memiliki petugas keamanan bersenjata, drone, AI, dan pembaca plat nomor, silakan lakukan," ia menambahkan.

Kritik dari Masyarakat

Kendati demikian, upaya tersebut mendapat kritik dari sekelompok masyarakat. Beberapa menilai hanya sedikit bukti yang menunjukkan teknologi AI akan menurunkan angka-angka kekerasan dan kematian akibat penembakan secara signifikan. Lebih lanjut, teknologi pengintaian dinilai bisa merusak kepercayaan siswa.

Sebuah laporan American Civil Liberties Union (ACLU) pada 2023 menemukan bahwa 8 dari 10 penembakan sekolah terbesar di AS sejak Columbine terjadi di kampus-kampus yang memiliki sistem pengawasan.

Chad Marlow, penasihat kebijakan senior di ACLU yang menulis laporan tersebut, mengatakandengan munculnya alat-alat bertenaga AI, masih minim penelitian independen untuk memverifikasi apakah teknologi tersebut lebih baik dalam mencegah tragedi.

"Sangat aneh untuk mengklaim bahwa ini akan menjaga anak-anak Anda tetap aman," katanya.

Laporan tersebut juga menemukan bahwa pengawasan tersebut menumbuhkan suasana ketidakpercayaan. Sebanyak 32% dari siswa berusia 14 hingga 18 tahun yang disurvei mengatakan mereka merasa selalu diawasi.

Dalam kelompok fokus yang dijalankan oleh ACLU, siswa mengatakan mereka merasa kurang nyaman memberi tahu pendidik tentang masalah kesehatan mental dan kekerasan fisik. Marlow berpendapat bahwa itu adalah indikasi buruk.

"Karena anak-anak tidak mempercayai orang yang mereka anggap memata-matai mereka, hal itu merusak kepercayaan dan justru membuat keadaan menjadi kurang aman," katanya.

Laptop Dikira Senjata

Salah satu teknologi mata-mata yang digunakan di sekolah-sekolah AS berasal dari software pendeteksi senjata dari ZeroEyes. Tahun lalu, ZeroEyes mengatakan telah menerima Penghargaan Undang-Undang Keselamatan Departemen Keamanan Dalam Negeri (DHS), sebuah penghargaan yang menurut evaluator DHS merupakan "bukti keandalan dan efektivitas platform, yang diukur melalui pengujian, evaluasi, dan kejadian nyata yang ketat."

ZeroEyes mengatakan teknologinya telah mendeteksi lebih dari 1.000 senjata api sejak 2023. Salah satunya terjadi awal tahun ini, di sebuah sekolah di Texas di mana seorang anak di bawah umur membawa senapan dan mencoba masuk.

Polisi menangkap mereka sebelum mereka menembak siapa pun. CEO, salah satu pendiri, dan mantan anggota Navy SEAL, Mike Lahiff, mengatakan insiden lain tidak seserius itu.

"Kami telah melihat orang-orang dengan senjata api di sekolah, tetapi saya rasa mereka tidak berada di sana untuk menembak siswa," katanya kepada Forbes.

Dia mengakui AI ZeroEyes sering kali menandai objek yang tidak berbahaya sebagai senjata api, tetapi tim veteran, mantan petugas tanggap darurat, dan mantan polisi mereka siap untuk memverifikasi peringatan senjata api dan mengirim polisi jika diperlukan.

ZeroEyes telah bertanggung jawab atas alarm palsu, termasuk deteksi senjata yang salah di sebuah sekolah di Texas pada 2023. Sekolah tersebut ditutup dan membuat siswa ketakutan, menurut laporan setempat.

Akurasi adalah masalah umum untuk teknologi ini. Evolv, solusi deteksi senjata yang digunakan oleh lebih dari 800 sekolah di seluruh AS, termasuk Beverly Hills High, telah menandai barang-barang pribadi yang tidak berbahaya seperti laptop dan botol air sebagai senjata.

Pada 2024, mereka ditegur oleh FTC karena menyesatkan sekolah dengan mengklaim AI mereka dapat mendeteksi semua jenis senjata. Regulator mengatakan bahwa mereka telah gagal dalam beberapa kasus untuk melakukan hal itu, termasuk dalam insiden tahun 2022, di mana mereka tidak menandai pisau sepanjang tujuh inci yang digunakan untuk menusuk seorang siswa.

Juru bicara Evolv, Alex Ozerkis, mengatakan bahwa teguran FTC difokuskan pada klaim pemasaran historis, yang kini telah ditangani oleh Evolv, tetapi tidak membantah "efektivitas inti" produk tersebut.

Selain alat pendeteksi senjata, produk AI yang menganalisa perilaku di sekolah juga memicu kontroversi. Alat itu mengklaim bisa mendeteksi emosi seseorang dari visual dan audia. Namun, kerap kali teknologi itu bias dan mengatribusikan emosi negatif untuk orang-orang berkulit hitam.

Masalah lain yang ditimbulkan adalah terkait privasi. Banyak anak dan orang tua yang tidak dikonsultasikan terlebih dahulu ketika data mereka ditangkap, disimpan, dan dianalisa untuk kebutuhan pengintaian yang bertujuan menjaga keamanan.

VoltAI dan ZeroEyes mengklaim teknologi mereka tidak mendeteksi identitas, hanya objek dan perilaku, sehingga tidak berisiko melanggar privasi.

Meski demikian, masih ada potensi alat-alat pengawasan tersebut dijadikan sistem untuk memata-matai siswa, orang tua, dan guru. Motorola, perusahaan yang membuat perangkat pendengar 'Halo' di kamar mandi, mengklaim pihaknya tidak menyimpan informasi yang direkam di kamar mandi.

Mereka hanya memberikan peringatan atas suara-suara 'noise' yang dinilai butuh diperhatikan lebih lanjut, seperti suara tembakan senjata atau seseorang yang meminta pertolongan.

Namun, pada awal tahun ini seorang remaja dari Portland berhasil meretas sistem Halo, sehingga bisa mengubahnya menjadi perangkat yang akan 'nguping' dan merekam semua yang terjadi di kamar mandi. Motorola memperbaiki kerentanan pada sistemnya melalui sebauh pembaruan.