Berita bahwa Siri merekam cuplikan percakapan kami dengan asisten suara bukanlah hal baru, tetapi klaim bahwa rekaman singkat itu didengarkan oleh agen manusia – terutama mengingat dorongan besar perusahaan pada privasi.
Ini adalah optik yang buruk bagi Apple
Saya sangat percaya pada pentingnya privasi.
Ini tidak hanya penting dalam hal menjaga kebebasan yang diperoleh dengan susah payah dan melindungi wacana publik; itu juga semakin penting di setiap bagian dari keberadaan manusia – untuk setiap sekolah, fasilitas medis, atau perusahaan. Sejarah menunjukkan bahwa ketiadaan privasi memiliki efek korosif pada masyarakat, membuat anggota keluarga menentang satu sama lain dan menghambat inovasi.
Peringatan Apple seputar privasi – termasuk peringatan CEO Apple Tim Cook bahwa banyak perusahaan teknologi yang bekerja sama dengan kita setiap hari membawa kita ke dalam status pengawasan – penting (jika tidak selalu nyaman bagi mereka yang berpendapat bahwa privasi hanyalah sesuatu yang harus kita korbankan untuk baik dari robot yang kami buat).
Namun, pengungkapan bahwa Apple belum menjelaskan bahwa rekaman percakapan pribadi kami dibagikan dengan “kontraktor” untuk tujuan “kendali mutu” dan “pelatihan” adalah penampilan yang sangat buruk bagi perusahaan.
Apa yang dikatakan Apple
Apple menyatakan bahwa:
“Sebagian kecil dari permintaan Siri dianalisis untuk meningkatkan Siri dan dikte.” Ia juga menjanjikan bahwa “Permintaan pengguna tidak terkait dengan ID Apple pengguna. Tanggapan Siri dianalisis di fasilitas yang aman dan semua peninjau berkewajiban untuk mematuhi persyaratan kerahasiaan ketat Apple. ”
Itu meyakinkan sampai batas tertentu, tetapi mengingat bahwa dalam beberapa kasus, peninjau Apple dilaporkan telah mendengar orang-orang membagikan informasi pribadi, termasuk alamat mereka, langkah untuk menceraikan suara yang direkam dari ID Apple yang relevan mungkin tidak cukup.
Apple perlu berbuat lebih banyak.
Bagaimana Apple dapat memperbaiki situasi tersebut
Mulailah dengan transparansi
Tersembunyi dalam syarat dan ketentuan Apple, Anda akan menemukan peringatan bahwa rekaman yang dibuat menggunakan Siri terkadang digunakan untuk tujuan kontrol kualitas.
Anda juga akan menemukan janji bahwa rekaman tersebut (tidak seperti pesaing) tidak ditautkan dengan ID Apple atau identitas pribadi Anda.
Janji-janji ini tidak terlalu jelas.
Itulah mengapa saya mengatakan Apple harus memperkenalkan peringatan privasi yang lebih jelas dan lebih mudah dipahami seputar penggunaan Siri pada perangkatnya. Ini perlu memindahkan peringatan ini ke depan dan ke tengah dan memperjelas bahwa tidak hanya terkadang menggunakan rekaman ini, tetapi juga bagaimana menggunakannya, bagaimana melindungi identitas saat menggunakannya, dan berapa lama rekaman itu disimpan.
Tapi beri orang kontrol
Apple harus (menurut saya) membuat rekaman Siri sebagai pilihan keluar.
Artinya, saat mengatur Siri di perangkat baru, pengguna harus diberi kesempatan untuk secara eksplisit menolak penggunaan suara mereka untuk tujuan apa pun selain permintaan asli.
Anda harus dapat mengatakan bahwa Anda tidak ingin data Anda digunakan dalam pelatihan atau kontrol kualitas.
“Tapi kemudian Apple tidak akan bisa melatih asisten secepat itu,” beberapa orang mungkin mengeluh. Mungkin tidak, tapi itu akan mempertahankan kepemimpinan dalam perlindungan privasi.
Tidak hanya itu, tetapi dapat diperdebatkan betapa bergunanya rekaman ini sebenarnya.
Menjadi lebih akuntabel
Siapakah “kontraktor” Apple, Google, Amazon, dan lainnya yang menggunakan yang memverifikasi dan mendengarkan rekaman singkat tentang apa yang kami katakan?
Bagaimana mereka dipekerjakan?
Apa deskripsi pekerjaan mereka? Untuk siapa lagi mereka bekerja?
Atas dasar apa mereka dapat dipercaya dan bagaimana individu dapat mengekstraksi reparasi jika mereka menyalahgunakan kepercayaan ini?
Dan mengapa pengguna Siri belum mengetahui jawaban atas semua pertanyaan itu?
Bahwa kontraktor ini dialihdayakan tidak masuk akal.
Apple harus menghadirkan pekerjaan ini di dalam perusahaan, sepenuhnya bertanggung jawab atas apa yang dilakukan oleh para pekerja dan manajemen suaranya dengan rekaman ini, dan memastikan pelanggan memiliki cara untuk menghukum setiap pelanggaran privasi data mereka.
Pastikan Anda benar-benar membutuhkan informasi tersebut
Apple mengatakan itu merekam dan hanya menggunakan bagian kecil dari kata-kata yang didengarnya, tetapi apakah ia bahkan perlu menyimpan atau memverifikasi sampel sebanyak yang dipilihnya?
Pikirkan itu seperti ini:
Jika Siri di Arloji atau HomePod Anda mendengar apa yang dianggapnya sebagai perintah “Hei, Siri”, tetapi tidak ada permintaan yang dibuat setelah itu, maka tentunya harus cukup pintar untuk mengenali alarm palsu yang terjadi.
Jika terjadi alarm palsu, Siri pada perangkat harus cukup pintar untuk mempelajari apa yang menyebabkan panggilan tidak disengaja dan menjadi kurang sensitif terhadap suara itu di masa mendatang.
(SEBUAH Wali laporan mengklaim suara ritsleting terkadang membangunkan Siri, misalnya – pasti Siri dapat belajar mengabaikan suara ritsleting sebagai tanggapan.)
Intinya adalah jika Siri dipanggil tetapi tidak ada permintaan khusus yang dibuat, sistem harus cukup pintar untuk mengabaikan interaksi dan menghapus rekaman apa pun yang dibuat sebagai hasil dari interaksi itu, di luar (mungkin) tiga detik pertama di mana Ia mengira ia mendengar perintah pemicu.
Hanya mengambil langkah ini akan cukup banyak mencegah beberapa rekaman yang lebih mengerikan yang dikatakan Siri telah didengar dan dibagikan dengan kontraktor.
Saya tidak ingin Siri menjadi lebih baik dalam mendengarkan apa yang saya katakan ketika saya tidak ingin dia mendengarkan. Saya hanya ingin mendengarkan dengan lebih baik saat saya membuat permintaan.
Apakah manusia diperlukan?
Teknologi suara berkembang pesat. Ini menimbulkan pertanyaan: “Apakah kontraktor manusia perlu mendengarkan cuplikan percakapan terkait Siri sama sekali?”
Saya pikir dalam banyak kasus, sebenarnya tidak.
Rekaman harus dilakukan terlebih dahulu melalui Siri dan teknologi pengenalan suara lainnya untuk mengotomatiskan pemeriksaan keakuratan.
Hanya dalam kasus-kasus ketika sistem pengenalan suara yang berbeda tidak dapat menemukan cara untuk menyetujui apa yang dikatakan, telinga manusia diperlukan.
Saya bukan ahli AI, tetapi analisis semacam ini adalah jenis model / algoritme Random Forest yang dibuat – hanya jika teknologinya tidak dapat menyetujui mengapa permintaan tersebut salah jika diperlukan manusia.
Mengapa itu penting
Itu hanya kumpulan kecil saran yang saya harap Apple ambil untuk menjadikan Siri asisten suara paling pribadi di industri ini.
Hal ini penting.
Pikirkan tentang itu:
Tidak hanya kata-kata yang kita gunakan milik kita sendiri, tetapi seiring teknologi berbasis sensor dan AI memasuki berbagai bidang kehidupan sehari-hari – dari pemetaan hingga VR di mana-mana – kebutuhan privasi menjadi semakin penting, karena semakin banyak kehidupan kita yang akan menjadi. sebuah buku terbuka.
Keputusan yang kami buat seputar suara hari ini akan menentukan setiap bidang privasi lainnya.
Ada sebagian orang yang menganggap privasi adalah harga yang harus kita bayar untuk kenyamanan komputerisasi, tetapi saya tidak pernah setuju dengan mereka.
Kami berdiri di titik dalam sejarah manusia di mana keputusan yang kami buat seputar privasi asisten suara akan beresonansi di masa depan kami.
Kita perlu menyelesaikan ini dengan cara yang efektif karena kecuali kita melakukannya, maka penerapannya akan menjadi tidak aman dan berpotensi tidak sehat secara etis.
Dan Apple harus mendorong dengan permintaannya akan undang-undang hak cipta digital di ruang ini, undang-undang yang menempatkan pengguna di pusat kendali privasi.
