Sebagai bagian dari seri Women in AI yang sedang berlangsung dari TechCrunch, yang berupaya untuk memberikan waktu yang layak (dan sudah terlambat) bagi akademisi perempuan yang berfokus pada AI dan lainnya untuk menjadi sorotan, TechCrunch mewawancarai Sophia Velastegui. Velastegui adalah anggota komite penasihat AI nasional National Science Foundation (NSF) dan mantan chief AI officer di divisi perangkat lunak bisnis Microsoft.
Velastegui tidak berencana berkarir di bidang AI. Dia belajar teknik mesin sebagai sarjana Georgia Tech. Namun setelah bekerja di Apple pada tahun 2009, dia menjadi tertarik dengan aplikasi – terutama aplikasi yang didukung AI.
“Saya mulai menyadari bahwa produk yang dilengkapi AI disukai pelanggan, berkat perasaan personalisasi,” kata Velastegui kepada TechCrunch. “Kemungkinannya tidak ada habisnya untuk mengembangkan AI yang dapat membuat hidup kita lebih baik dalam skala kecil dan besar, dan saya ingin menjadi bagian dari revolusi tersebut. Jadi saya mulai mencari proyek yang berfokus pada AI dan mengambil setiap kesempatan untuk mengembangkannya dari sana.”
Karier AI-maju
Velastegui mengerjakan MacBook Air pertama — dan iPad pertama — dan segera setelah itu diminta menjadi manajer produk untuk semua laptop dan aksesori Apple. Beberapa tahun kemudian, Velastegui pindah ke grup proyek khusus Apple, di mana dia membantu mengembangkan CarPlay, iCloud, Apple Maps, serta saluran data dan sistem AI Apple.
Pada tahun 2015, Velastegui bergabung dengan Google sebagai kepala arsitektur silikon dan direktur lini produk bermerek Nest milik perusahaan. Setelah sempat bekerja sebentar di perusahaan teknologi audio Doppler Labs, dia menerima tawaran pekerjaan di Microsoft sebagai manajer umum produk dan pencarian AI.
Di Microsoft, di mana Velastegui akhirnya memimpin semua inisiatif AI terkait aplikasi bisnis, Velastegui memandu tim untuk memasukkan produk seperti LinkedIn, Bing, PowerPoint, Outlook, dan Azure dengan AI. Dia juga mempelopori eksplorasi internal dan proyek yang dibangun dengan GPT-3, model penghasil teks OpenAI, yang lisensi eksklusifnya baru saja diperoleh Microsoft.
“Waktu saya di Microsoft sungguh luar biasa,” kata Velastegui. “Saya bergabung dengan perusahaan ketika perusahaan sedang mengalami perubahan besar di bawah kepemimpinan CEO Satya Nadella. Mentor dan rekan menyarankan saya untuk tidak melakukan lompatan tersebut pada tahun 2017 karena mereka memandang Microsoft tertinggal dalam industri ini. Namun dalam waktu singkat, Microsoft telah mulai membuat kemajuan nyata dalam AI, dan saya ingin ikut serta.”
Velastegui meninggalkan Microsoft pada tahun 2022 untuk memulai perusahaan konsultan dan mengepalai pengembangan produk di Aptiv, perusahaan teknologi otomotif. Dia bergabung dengan komite AI NSF, yang berkolaborasi dengan industri, akademisi, dan pemerintah untuk mendukung penelitian AI dasar, pada tahun 2023.
Menavigasi industri
Ketika ditanya bagaimana dia menghadapi tantangan industri teknologi yang didominasi laki-laki, Velastegui memuji perempuan yang dia anggap sebagai mentor terkuatnya. Penting bagi perempuan untuk saling mendukung, kata Velastegui – dan, mungkin yang lebih penting, laki-laki membela rekan kerja perempuan mereka.
“Bagi perempuan di bidang teknologi, jika Anda pernah menjadi bagian dari transformasi, adopsi, atau manajemen perubahan, Anda berhak untuk ikut serta, jadi jangan takut untuk mengambil posisi di sana,” kata Velastegui. “Angkat tangan Anda untuk mengambil lebih banyak tanggung jawab AI, baik itu bagian dari pekerjaan Anda saat ini atau proyek tambahan. Manajer terbaik akan mendukung Anda dan mendorong Anda untuk terus maju. Namun jika hal tersebut tidak dapat dilakukan pada jam 9-5, carilah komunitas atau program universitas di mana Anda dapat menjadi bagian dari tim AI.”
Kurangnya sudut pandang yang beragam di tempat kerja (yaitu tim AI yang sebagian besar terdiri dari laki-laki) dapat menyebabkan pemikiran kelompok, catat Velastegui, itulah sebabnya dia menganjurkan agar perempuan berbagi masukan sesering mungkin.
“Saya sangat mendorong lebih banyak perempuan untuk terlibat dalam AI sehingga suara, pengalaman, dan sudut pandang kami disertakan pada titik awal yang penting ini, ketika teknologi dasar AI sedang didefinisikan untuk saat ini dan masa depan,” katanya. “Sangat penting bagi perempuan di setiap industri untuk benar-benar bersandar pada AI. Ketika kita bergabung dalam diskusi ini, kita dapat membantu membentuk industri ini dan mengubah ketidakseimbangan kekuatan tersebut.”
Velastegui mengatakan bahwa pekerjaannya sekarang, dengan NSF, berfokus pada mengatasi masalah mendasar yang luar biasa dalam AI, seperti kurangnya apa yang disebutnya “representasi digital.” Dia menolak, bias dan prasangka melingkupi AI saat ini, sebagian disebabkan oleh homogennya komposisi perusahaan yang mengembangkannya.
“AI dilatih berdasarkan data dari pengembang, namun sebagian besar pengembang adalah laki-laki dengan perspektif tertentu, dan mewakili sebagian kecil dari 8 miliar orang di dunia,” katanya. “Jika kita tidak menyertakan perempuan sebagai pengembang dan jika perempuan tidak memberikan masukan sebagai pengguna, maka AI tidak akan mewakili mereka sama sekali.”
Menyeimbangkan inovasi dan keamanan
Velastegui melihat kecepatan industri AI yang sangat cepat sebagai “masalah besar” – tanpa adanya kerangka keselamatan etis yang umum. Kerangka kerja seperti itu, jika diterapkan secara luas, dapat memungkinkan pengembang membangun sistem dengan cepat tanpa menghambat inovasi, ia yakin.
Tapi dia tidak mengandalkannya.
“Kami belum pernah melihat teknologi transformatif ini berkembang dengan kecepatan tanpa henti,” kata Velastegui. “Manusia, regulasi, sistem lama… tidak ada yang bisa mengimbangi kecepatan AI saat ini. Tantangannya adalah bagaimana tetap mendapat informasi, up-to-date, dan berpikiran maju, sekaligus menyadari bahayanya jika kita bergerak terlalu cepat.”
Bagaimana perusahaan — atau pengembang — dapat menciptakan produk AI secara bertanggung jawab saat ini? Velastegui memperjuangkan pendekatan “berpusat pada manusia” dengan belajar dari kesalahan masa lalu dan memprioritaskan kesejahteraan pengguna sebagai intinya.
“Perusahaan harus memberdayakan dewan AI yang beragam dan lintas fungsi yang meninjau permasalahan dan memberikan rekomendasi yang mencerminkan lingkungan saat ini,” kata Velastegui, “dan menciptakan saluran untuk masukan dan pengawasan rutin yang akan beradaptasi seiring berkembangnya sistem AI. Dan harus ada saluran untuk memberikan umpan balik dan pengawasan secara berkala yang akan beradaptasi seiring berkembangnya sistem AI.”