Berita bahwa Siri merekam cuplikan percakapan kami dengan asisten suara bukanlah hal baru, tetapi klaim bahwa rekaman pendek itu didengarkan oleh agen manusia adalah — terutama mengingat dorongan besar perusahaan pada privasi.
Ini adalah optik yang buruk untuk Apple
Saya sangat percaya pada pentingnya privasi.
Ini tidak hanya penting dalam hal mempertahankan kebebasan yang diperoleh dengan susah payah dan melindungi wacana publik; itu juga semakin penting di setiap bagian dari keberadaan manusia — untuk setiap sekolah, fasilitas medis, atau perusahaan. Sejarah menunjukkan bahwa tidak adanya privasi memiliki efek korosif pada masyarakat, membuat anggota keluarga saling bertentangan dan menghambat inovasi.
Peringatan Apple seputar privasi — termasuk peringatan CEO Apple Tim Cook bahwa banyak perusahaan teknologi tempat kami bekerja setiap hari menggiring kami ke status pengawasan — penting (jika tidak selalu nyaman bagi mereka yang berpendapat bahwa privasi hanyalah sesuatu yang harus kami korbankan untuk baik dari robot yang kita buat).
Namun, pengungkapan bahwa Apple belum menjelaskan bahwa rekaman percakapan pribadi kami dibagikan dengan “kontraktor” untuk tujuan “kontrol kualitas” dan “pelatihan” adalah tampilan yang sangat buruk bagi perusahaan.
Apa yang dikatakan Apple
Apple menyatakan bahwa:
“Sebagian kecil permintaan Siri dianalisis untuk meningkatkan Siri dan dikte.” Itu juga menjanjikan bahwa “Permintaan pengguna tidak terkait dengan ID Apple pengguna. Tanggapan Siri dianalisis di fasilitas yang aman dan semua pengulas berkewajiban untuk mematuhi persyaratan kerahasiaan Apple yang ketat.”
Itu meyakinkan sampai batas tertentu, tetapi mengingat bahwa dalam beberapa kasus, pengulas Apple dilaporkan telah mendengar orang-orang berbagi informasi pribadi, termasuk alamat mereka, langkah untuk menceraikan rekaman suara dari ID Apple yang relevan mungkin tidak cukup.
Apple perlu melakukan sedikit lebih banyak.
Bagaimana Apple dapat memperbaiki situasi
Mulailah dengan transparansi
Tersembunyi dalam syarat dan ketentuan Apple, Anda akan menemukan peringatan bahwa rekaman yang dibuat menggunakan Siri terkadang digunakan untuk tujuan kontrol kualitas.
Anda juga akan menemukan janji bahwa rekaman tersebut (tidak seperti pesaing) tidak terkait dengan ID Apple atau identitas pribadi Anda dengan cara apa pun.
Janji-janji ini tidak terlalu jelas.
Itu sebabnya saya mengatakan Apple harus memperkenalkan peringatan privasi yang lebih jelas dan lebih mudah dipahami seputar penggunaan Siri di perangkatnya. Itu perlu memindahkan peringatan ini ke depan dan ke tengah dan memperjelas bahwa tidak hanya kadang-kadang menggunakan rekaman ini, tetapi juga bagaimana menggunakannya, bagaimana melindungi identitas saat menggunakannya, dan berapa lama rekaman itu disimpan.
Tapi beri orang kontrol
Apple harus (menurut saya) menjadikan rekaman Siri sebagai pilihan keluar.
Artinya, ketika mengatur Siri di perangkat baru, pengguna harus diberi kesempatan untuk secara eksplisit menolak penggunaan suara mereka untuk tujuan apa pun selain permintaan asli.
Anda harus dapat mengatakan bahwa Anda tidak ingin data Anda digunakan dalam pelatihan atau kontrol kualitas.
“Tapi kemudian Apple tidak akan bisa melatih asisten dengan cepat,” beberapa orang mungkin mengeluh. Mungkin tidak, tetapi akan mempertahankan kepemimpinan dalam perlindungan privasi.
Tidak hanya itu, tetapi dapat diperdebatkan betapa bermanfaatnya rekaman-rekaman ini sebenarnya.
Menjadi lebih akuntabel
Siapa “kontraktor” yang digunakan Apple, Google, Amazon, dan yang lainnya yang memverifikasi dan mendengarkan rekaman singkat dari apa yang kami katakan?
Bagaimana mereka dipekerjakan?
Apa deskripsi pekerjaan mereka? Untuk siapa lagi mereka bekerja?
Atas dasar apa mereka dapat dipercaya dan bagaimana individu dapat memperoleh reparasi jika mereka menyalahgunakan kepercayaan ini?
Dan mengapa pengguna Siri belum mengetahui jawaban atas semua pertanyaan itu?
Bahwa kontraktor ini outsourcing tidak masuk akal.
Apple harus membawa pekerjaan ini ke dalam perusahaan, bertanggung jawab sepenuhnya atas apa yang dilakukan pekerja suara dan manajemennya dengan rekaman ini, dan memastikan pelanggan memiliki cara untuk menghukum setiap pelanggaran privasi data mereka.
Pastikan Anda benar-benar membutuhkan informasinya
Apple mengatakan mereka merekam dan hanya menggunakan sebagian kecil dari kata-kata yang didengarnya, tetapi apakah itu bahkan perlu menyimpan atau memverifikasi sampel sebanyak yang dipilihnya?
Pikirkan itu seperti ini:
Jika Siri di Arloji atau HomePod Anda mendengar apa yang dianggapnya sebagai perintah “Hei, Siri”, tetapi tidak ada permintaan yang dibuat kemudian, maka itu pasti cukup pintar untuk mengenali alarm palsu yang terjadi.
Jika terjadi alarm palsu seperti itu, maka Siri di perangkat harus cukup pintar untuk mempelajari apa yang menyebabkan pemanggilan yang tidak disengaja dan menjadi kurang sensitif terhadap suara itu di masa mendatang.
(A Wali laporan mengklaim suara ritsleting terkadang membangunkan Siri, misalnya – tentunya Siri dapat belajar mengabaikan suara ritsleting sebagai tanggapan.)
Intinya adalah bahwa jika Siri dipanggil tetapi tidak ada permintaan khusus yang dibuat, sistem harus cukup pintar untuk mengabaikan interaksi dan menghapus rekaman apa pun yang dibuat sebagai hasil dari interaksi itu, di luar (mungkin) tiga detik pertama di mana ia pikir ia mendengar perintah pemicu.
Hanya mengambil langkah ini akan cukup banyak mencegah beberapa rekaman yang lebih mengerikan yang dikatakan Siri telah didengar dan dibagikan dengan kontraktor.
Saya tidak ingin Siri menjadi lebih baik dalam mendengarkan apa yang saya katakan ketika saya tidak ingin Siri mendengarkan. Saya hanya ingin menjadi lebih baik dalam mendengarkan ketika saya membuat permintaan.
Apakah manusia bahkan diperlukan?
Teknologi suara berkembang pesat. Ini menimbulkan pertanyaan: “Apakah kontraktor manusia perlu mendengarkan cuplikan percakapan terkait Siri sama sekali?”
Saya pikir dalam banyak kasus, tidak.
Rekaman harus dimasukkan melalui Siri dan teknologi pengenalan suara lainnya terlebih dahulu untuk mengotomatiskan pemeriksaan akurasi.
Hanya dalam kasus-kasus ketika sistem pengenalan suara yang berbeda tidak dapat menemukan cara untuk menyepakati apa yang dikatakan telinga manusia seharusnya diperlukan.
Saya bukan ahli AI, tetapi analisis semacam ini adalah jenis model/algoritma Hutan Acak yang dibuat – hanya ketika teknologi tidak dapat menyetujui mengapa permintaan salah jika manusia diperlukan sama sekali.
Mengapa itu penting?
Itu hanya kumpulan kecil saran yang saya harap diambil Apple untuk menjadikan Siri sebagai asisten suara paling pribadi di industri ini.
Hal ini penting.
Pikirkan tentang itu:
Tidak hanya kata-kata yang kita gunakan milik kita sendiri, tetapi ketika teknologi berbasis sensor dan AI memasuki berbagai bidang kehidupan sehari-hari – mulai dari pemetaan hingga VR yang ada di mana-mana – kebutuhan akan privasi menjadi semakin penting, karena lebih banyak lagi kehidupan kita akan menjadi sebuah buku terbuka.
Keputusan yang kami buat seputar suara hari ini akan menentukan setiap bidang privasi lainnya.
Ada beberapa orang yang berpikir privasi adalah harga yang harus kita bayar untuk kenyamanan terkomputerisasi, tetapi saya tidak pernah setuju dengan mereka.
Kami berdiri pada titik dalam sejarah manusia di mana keputusan yang kami buat seputar privasi asisten suara akan beresonansi di masa depan kami.
Kita perlu menyelesaikan ini dengan cara yang efektif karena jika kita tidak melakukannya, maka implementasinya akan tidak aman dan berpotensi tidak sehat secara etis.
Dan Apple harus mendorong permintaannya untuk tagihan hak digital di ruang ini, tagihan yang menempatkan pengguna di pusat kendali privasi.
