Inggris Menawarkan Uang Tunai Untuk Teknologi Deteksi CSAM

Inggris Menawarkan Uang Tunai Untuk Teknologi Deteksi CSAM

Inggris Menawarkan Uang Tunai Untuk Teknologi Deteksi CSAM – Pemerintah Inggris sedang mempersiapkan untuk menghabiskan lebih dari setengah juta dolar untuk mendorong pengembangan teknologi deteksi untuk materi eksploitasi seksual anak (CSAM) yang dapat dibautkan ke platform pesan terenkripsi ujung ke ujung untuk memindai materi ilegal, sebagai bagian dari kebijakan yang sedang berlangsung mendorong sekitar internet dan keselamatan anak.

Inggris Menawarkan Uang Tunai Untuk Teknologi Deteksi CSAM

Dalam inisiatif bersama hari ini, Home Office dan Department for Digital, Media, Culture and Sport (DCMS) mengumumkan “Tech Safety Challenge Fund” — yang akan mendistribusikan hingga £425.000 (~$584.000) ke lima organisasi (£85,000/ $ 117.000 masing-masing) untuk mengembangkan “teknologi inovatif untuk menjaga anak-anak tetap aman di lingkungan seperti platform perpesanan online dengan enkripsi ujung ke ujung”.

Pernyataan Tantangan untuk pelamar program menambahkan bahwa fokusnya adalah pada solusi yang dapat digunakan dalam lingkungan terenkripsi E2E “tanpa mengorbankan privasi pengguna”.

“Masalah yang kami coba perbaiki pada dasarnya adalah penutup mata lembaga penegak hukum,” kata juru bicara Home Office kepada kami, dengan alasan bahwa jika platform teknologi melanjutkan dengan “rencana enkripsi ujung ke ujung penuh, seperti saat ini. … kita akan benar-benar terhalang untuk dapat melindungi anak-anak kita secara online”.

Meskipun pengumuman tersebut tidak menyebutkan platform khusus yang menjadi perhatian, Menteri Dalam Negeri Priti Patel sebelumnya telah menyerang rencana Facebook untuk memperluas penggunaan enkripsi E2E – memperingatkan pada bulan April bahwa langkah tersebut dapat membahayakan kemampuan penegak hukum untuk menyelidiki kejahatan pelecehan anak.

WhatsApp milik Facebook juga sudah menggunakan enkripsi E2E sehingga platform sudah menjadi target yang jelas untuk teknologi “keamanan” apa pun yang mungkin dihasilkan dari tantangan yang didanai pembayar pajak ini.

iMessage dan FaceTime Apple adalah di antara alat perpesanan utama yang ada yang menggunakan enkripsi E2E.

Jadi ada potensi penerapan yang sangat luas dari “teknologi keselamatan anak” apa pun yang dikembangkan melalui tantangan yang didukung pemerintah ini.

(Per Kantor Pusat, teknologi yang dikirimkan ke Tantangan akan dievaluasi oleh “pakar akademik independen”.

Departemen tidak dapat memberikan rincian tentang siapa yang sebenarnya akan menilai proyek.)

Patel, sementara itu, terus menerapkan tekanan tingkat tinggi pada sektor teknologi mengenai masalah ini — termasuk bertujuan untuk menggalang dukungan dari rekan-rekan G7.

Menulis di op-ed berbayar di surat kabar ramah Tory, The Telegraph, dia mengikuti pertemuan yang akan dia pimpin hari ini di mana dia mengatakan dia akan mendorong G7 untuk secara kolektif menekan perusahaan media sosial untuk berbuat lebih banyak untuk mengatasi “konten berbahaya di platform mereka”.

“Pengenalan enkripsi ujung ke ujung tidak boleh membuka pintu ke tingkat pelecehan seksual anak yang lebih besar.

Tuduhan hiperbolik dari beberapa pihak bahwa ini benar-benar tentang pemerintah yang ingin mengintip dan memata-matai warga yang tidak bersalah sama sekali tidak benar.

Ini tentang menjaga yang paling rentan di antara kita tetap aman dan mencegah kejahatan yang benar-benar jahat,” tambahnya.

“Saya meminta mitra internasional kami untuk mendukung pendekatan Inggris dalam meminta pertanggungjawaban perusahaan teknologi.

Mereka tidak boleh membiarkan konten berbahaya terus diposting di platform mereka atau mengabaikan keselamatan publik saat merancang produk mereka.

Kami percaya ada solusi alternatif, dan saya tahu rekan penegak hukum kami setuju dengan kami.”

Dalam op-ed, Menteri Dalam Negeri memilih langkah terbaru Apple untuk menambahkan alat deteksi CSAM ke iOS dan macOS untuk memindai konten di perangkat pengguna sebelum diunggah ke iCloud — menyambut pengembangan sebagai “langkah pertama”.

“Apple menyatakan teknologi penyaringan pelecehan seksual anak mereka memiliki tingkat positif palsu 1 dalam satu triliun, yang berarti privasi pengguna yang sah dilindungi sementara mereka yang membangun koleksi besar materi pelecehan seksual anak yang ekstrem tertangkap.

Mereka perlu melihat melalui proyek itu,” tulisnya, mendesak Apple untuk terus maju dengan peluncuran (saat ini tertunda).

Pekan lalu pembuat iPhone mengatakan akan menunda penerapan sistem deteksi CSAM – menyusul reaksi keras yang dipimpin oleh pakar keamanan dan pendukung privasi yang mengangkat kekhawatiran tentang kerentanan dalam pendekatannya, serta kontradiksi dari perusahaan “berfokus pada privasi” yang melakukan -perangkat pemindaian data pelanggan.

Mereka juga menandai risiko yang lebih luas dari infrastruktur pemindaian yang disita oleh pemerintah dan negara bagian yang mungkin memerintahkan Apple untuk memindai jenis konten lain, bukan hanya CSAM.

Deskripsi Patel tentang langkah Apple hanya sebagai “langkah pertama” tidak mungkin melakukan apa pun untuk meredakan kekhawatiran bahwa begitu infrastruktur pemindaian semacam itu dimasukkan ke dalam sistem terenkripsi E2E, itu akan menjadi target bagi pemerintah untuk memperluas cakupan platform komersial yang harus dipindai secara legal.

Namun juru bicara Home Office memberi tahu kami bahwa komentar Patel tentang teknologi CSAM Apple hanya dimaksudkan untuk menyambut keputusannya untuk mengambil tindakan di bidang keselamatan anak – daripada menjadi dukungan terhadap teknologi atau pendekatan tertentu.

(Dan Patel juga menulis: “Tapi itu hanya satu solusi, oleh satu perusahaan. Investasi yang lebih besar sangat penting.”)

Juru bicara Home Office tidak akan mengomentari jenis teknologi yang ingin didukung oleh pemerintah melalui dana Challenge, dan hanya mengatakan bahwa mereka sedang mencari berbagai solusi.

Dia memberi tahu kami bahwa tujuan utamanya adalah untuk mendukung solusi “jalan tengah” — menyangkal bahwa pemerintah sedang mencoba mendorong para teknolog untuk menemukan cara untuk mengenkripsi E2E pintu belakang.

Dalam beberapa tahun terakhir di Inggris Raya, GCHQ juga telah melontarkan gagasan kontroversial tentang apa yang disebut “protokol hantu” — yang memungkinkan badan intelijen negara atau lembaga penegak hukum untuk tidak terlihat di-CC oleh penyedia layanan ke dalam komunikasi terenkripsi berdasarkan target.

Proposal itu mendapat kecaman luas, termasuk dari industri teknologi, yang memperingatkan itu akan merusak kepercayaan dan keamanan serta mengancam hak-hak dasar.

Tidak jelas apakah pemerintah memiliki pendekatan seperti itu — meskipun dengan fokus CSAM — di sini sekarang karena mencoba untuk mendorong pengembangan teknologi “jalan tengah” yang mampu memindai konten terenkripsi E2E untuk hal-hal yang secara khusus ilegal.

Dalam perkembangan lain, awal musim panas ini, panduan yang dikeluarkan oleh DCMS untuk platform perpesanan merekomendasikan agar mereka “mencegah” penggunaan enkripsi E2E untuk akun anak sama sekali.

Ditanya tentang itu, juru bicara Home Office memberi tahu kami bahwa dana teknologi “tidak terlalu berbeda” dan “sedang mencoba menemukan solusi di antaranya”.

“Bekerja bersama dan membawa akademisi dan LSM ke lapangan sehingga kami dapat menemukan solusi yang sesuai untuk apa yang ingin dicapai oleh perusahaan media sosial dan juga memastikan bahwa kami dapat melindungi anak-anak,” katanya, menambahkan: “Kami membutuhkan semua orang untuk berkumpul dan melihat apa yang bisa mereka lakukan.”

Tidak ada kejelasan lebih lanjut dalam panduan Home Office kepada pemasok yang mengajukan kesempatan untuk mengantongi sejumlah dana.

Di sana tertulis bahwa proposal harus “memanfaatkan teknologi secara inovatif untuk memungkinkan deteksi dan/atau pencegahan gambar atau video seksual eksplisit anak-anak yang lebih efektif”.

“Dalam ruang lingkup adalah alat yang dapat mengidentifikasi, memblokir, atau melaporkan materi pelecehan seksual anak baru atau yang sebelumnya diketahui, berdasarkan AI, deteksi berbasis hash, atau teknik lainnya,” lanjutnya, lebih lanjut mencatat bahwa proposal perlu mengatasi “tantangan spesifik ditimbulkan oleh lingkungan e2ee, dengan mempertimbangkan peluang untuk merespons pada berbagai tingkat tumpukan teknis (termasuk sisi klien dan sisi server).”

Informasi umum tentang Tantangan — yang terbuka untuk pelamar yang berbasis di mana saja, tidak hanya di Inggris — dapat ditemukan di situs web Safety Tech Network.

Batas waktu untuk aplikasi adalah 6 Oktober.

Pelamar terpilih akan memiliki waktu lima bulan, antara November 2021 dan Maret 2022 untuk mengirimkan proyek mereka.

Kapan tepatnya salah satu teknologi mungkin didorong di sektor komersial tidak jelas – tetapi pemerintah mungkin berharap bahwa dengan terus menekan raksasa platform sektor teknologi akan mengembangkan hal ini sendiri, seperti yang telah dilakukan Apple.

The Challenge hanyalah inisiatif terbaru pemerintah Inggris untuk membawa platform sejalan dengan prioritas kebijakannya — pada tahun 2017, misalnya, mendorong mereka untuk membangun alat untuk memblokir konten teroris — dan Anda dapat berargumen bahwa ini adalah bentuk kemajuan yang dilakukan para menteri tidak hanya menyerukan agar enkripsi E2E dilarang, seperti yang sering mereka lakukan di masa lalu.

Yang mengatakan, pembicaraan tentang “mencegah” penggunaan enkripsi E2E – atau bahkan saran kabur dari solusi “di antara” – mungkin tidak akan terlalu berbeda.

Yang berbeda adalah fokus berkelanjutan pada keselamatan anak sebagai gada politik untuk membuat platform patuh. Yang tampaknya mendapatkan hasil.

Rencana pemerintah yang lebih luas untuk mengatur platform – yang ditetapkan dalam rancangan undang-undang Keamanan Online, yang diterbitkan awal tahun ini – belum melalui pengawasan parlemen.

Namun dalam satu perubahan, pengawas perlindungan data negara itu sekarang memberlakukan kode desain anak-anak yang menetapkan bahwa platform perlu memprioritaskan privasi anak-anak secara default, di antara standar lain yang direkomendasikan.

Inggris Menawarkan Uang Tunai Untuk Teknologi Deteksi CSAM

Kode Desain Sesuai Usia telah ditambahkan ke undang-undang perlindungan data Inggris sebagai amandemen – yang berarti berada di bawah undang-undang yang lebih luas yang mengubah Peraturan Perlindungan Data Umum (GDPR) Eropa menjadi undang-undang, yang membawa hukuman besar untuk pelanggaran seperti pelanggaran data.

Dan dalam beberapa bulan terakhir, sejumlah raksasa media sosial telah mengumumkan perubahan pada cara mereka menangani akun dan data anak-anak – yang telah dikreditkan oleh ICO ke kode tersebut.

Jadi pemerintah mungkin merasa yakin bahwa mereka akhirnya menemukan cetak biru untuk membawa raksasa teknologi ke tumit.