Google whistleblower meluncurkan proyek untuk menjaga teknologi tetap etis

28 views

Karyawan perusahaan teknologi harus memiliki hak untuk mengetahui kapan mereka mengerjakan proyek yang menurut etika tidak dapat diterima, kata seorang mantan pelapor Google.

Pada tahun 2018, Jack Poulson menjadi berita utama setelah ia mengundurkan diri dari pekerjaannya di Google karena rencana perusahaan (yang sekarang sudah dihapus) untuk membangun sensor AI untuk pasar pencarian Cina. Sekarang, dia ingin memastikan bahwa pekerja teknologi lainnya dapat memperjuangkan apa yang benar tanpa harus mempertaruhkan mata pencaharian mereka.

Poulson telah memulai Tech Enquiry, sebuah nirlaba yang bertujuan untuk memudahkan para pembuat kode dengan hati nurani untuk berbicara di dalam perusahaan mereka ketika mereka merasa batas-batas etika dilanggar. Sama pentingnya, ia mendorong transparansi yang lebih besar untuk mencegah pekerja hanya tertipu untuk melakukan pekerjaan yang tidak akan pernah mereka lakukan secara sukarela.

“Saya percaya pekerja teknologi perlu mendapat persetujuan tentang kapan pekerjaan mereka dapat menyebabkan hilangnya nyawa atau penindasan hak asasi manusia atau kebebasan,” kata Poulson kepada Guardian di London, di mana ia akan berbicara pada konferensi tahunan Open Rights Group mengenai data dan demokrasi pada hari Sabtu. “Bagaimana kami membantu pekerja teknologi yang melihat ada yang tidak beres? Bagaimana kita memastikan mereka memiliki jalan yang tepercaya, di suatu tempat untuk dijangkau, yang tidak harus langsung ke wartawan? ”

Tujuan dari Tech Enquiry adalah untuk memanfaatkan gelombang ketidakpuasan karyawan yang telah menyebar di Silicon Valley, dan memberi para pekerja alat yang mereka butuhkan untuk menghadapi bos mereka dan informasi yang mereka perlu ketahui ketika pushback itu diperlukan. Pendirian Poulson sendiri terhadap Project Dragonfly, upaya Google untuk membangun mesin pencari yang disensor untuk memasuki kembali pasar Cina, adalah salah satu contoh dari pergerakan itu. Dia juga mengutip pushback dalam Google terhadap Project Maven, sebuah proyek Pentagon AI yang ditandatangani perusahaan pada April 2017, serta pergerakan di perusahaan lain termasuk Microsoft, Amazon dan Intel.

Kunci untuk Poulson adalah memperluas kekuatan itu kepada pekerja dalam fase desain dan pengembangan industri, di mana pekerjaan sering dilakukan dalam kerahasiaan terbesar dan publik memiliki kemampuan paling sedikit untuk memulai keributan jika bergerak ke arah yang berbahaya atau mengkhawatirkan. . “Secara internal, dan terutama di departemen penelitian seperti saya dulu, ada perasaan bahwa Anda memiliki pass bebas sampai Anda benar-benar bersiap untuk menekan tombol untuk meluncurkannya.”

Ketika Dragonfly diungkapkan kepada publik, misalnya, “respon dari [CEO Google] Sundar Pichai adalah untuk mencoba dan berpendapat bahwa tidak boleh ada pertanggungjawaban karena ini ‘hanya proyek eksplorasi’ … Dan ini bukan hanya khusus untuk Capung. Saya mengalami ini di YouTube, pada sebuah proyek yang melakukan mesin rekomendasi percakapan. ”

Orang dewasa cenderung tidak mencari secara percakapan, Poulson menjelaskan, alih-alih mengetik pertanyaan yang lebih terstruktur: daripada mencari “bagaimana cara mengikat dasi kupu-kupu”, mereka mungkin hanya mencari “dasi kupu-kupu bagaimana”. Karena itu, YouTube harus menemukan dataset yang lebih baik untuk fokus pada permintaan yang lebih alami, dan memilih pengguna anak.

“Salah satu petunjuk proyek adalah menjelaskan bahwa kami akan menggunakan kumpulan data dari YouTube, dan dari audiens yang lebih muda, karena mereka menggunakan bahasa yang lebih alami. Saya berbicara, dan berkata, ‘kami tidak bisa menggunakan data anak-anak’, dan jawabannya adalah ‘ini baik-baik saja, orang tua mereka memberikan OK’. Saya berbicara dengan rekan kerja dan mereka berkata “jangan khawatir, pada saat peluncurannya, kami akan memiliki tinjauan privasi yang menyeluruh”. Ketika Anda melakukan R&D, ada gagasan bahwa Anda dapat mengambil jalan pintas dan meminta tim privasi memperbaikinya nanti. ”

Membiarkan kendali etis gratis untuk “percobaan” itu berbahaya, Poulson berpendapat. Untuk satu hal, pada saat sebuah proyek hampir selesai, “Anda telah menciptakan seluruh tim yang seluruh investasi karirnya untuk meluncurkan hal ini. Dan, lebih jauh, Anda telah menormalkan perilaku ke sekelompok insinyur. Ada sesuatu yang mendasar: Pertama kali Anda melihat perusahaan Anda melakukan sesuatu, saat itulah Anda akan berbicara. Setelah itu, sebuah saklar membalik untuk Anda, dan Anda menerimanya. ”

https://www.theguardian.com/world/2019/jul/13/google-whistleblower-launches-project-to-keep-tech-ethical

Amazon Google whistleblower

Penulis: 
    author
    “Anda di sini hanya untuk persinggahan yang singkat. Jangan terburu, jangan khawatir. Yakinlah bahwa Anda menghirup wangi bunga sepanjang perjalanan.”

    Posting Terkait

    Tinggalkan pesan