Sebuah studi penting terhadap para praktisi AI di perusahaan teknologi besar baru saja dirilis awal bulan Oktober ini. Temuannya mengungkap sebuah kebenaran pahit: isu inklusi disabilitas sering kali diabaikan dan dipinggirkan dari proses inti pengembangan AI.
Iya. Ketika kita merayakan kemajuan AI Generatif (GenAI), ada kelompok pengguna yang secara diam-diam ditinggalkan. Mereka adalah kelompok Penyandang Disabilitas (People with Disability/PWD).
Judul studinya “Accessibility people, you go work on that thing of yours over there”: Addressing Disability Inclusion in AI Product Organizations. Ditulis oleh enam peneliti dari Carnegie Mellon University (CMU) dan Google.
Studi ini melaporkan bahwa di tengah kemunculan pesat GenAI, inklusi disabilitas masih dianggap sebagai tanggung jawab sekunder (“you go work on that thing of yours over there”) alih-alih sebagai prinsip dasar yang harus diintegrasikan di seluruh siklus hidup pengembangan produk AI.
Masalahnya bukan hanya pada kode yang buruk, melainkan pada budaya kerja yang menganggap aksesibilitas sebagai tugas sampingan.
Frasa “you go work on that thing of yours over there” secara gamblang menggambarkan bagaimana isu disabilitas diperlakukan di organisasi teknologi. Sebagai tanggung jawab yang terpisah dan terisolasi, jauh dari tim inti yang membangun dan meluncurkan produk AI.
Sejumlah 25 praktisi AI yang diwawancarai (insinyur, peneliti, praktisi UX, dan spesialis AI) mengakui adanya gesekan parah antara dua prinsip etika teknologi: Responsible AI (RAI) dan Praktek Aksesibilitas. Prioritas terhadap inklusi disabilitas selalu berada di urutan buncit.
Tetapi, sebelum membahas temuannya lebih lanjut, penting untuk memahami siapa yang kita bicarakan.
Laporan Global WHO tentang Kesetaraan Kesehatan bagi Orang dengan Disabilitas memperkirakan sekitar 1,3 miliar orang – sekitar 16% dari populasi global – saat ini mengalami disabilitas yang signifikan. Angka ini terus meningkat, sebagian disebabkan oleh penuaan populasi dan peningkatan prevalensi penyakit tidak menular.
Menurut International Classification of Functioning for Disability and Health (ICF) oleh WHO, disabilitas adalah payung terminologi untuk gangguan, keterbatasan aktivitas, atau pembatasan partisipasi. Definisi ini melihat disabilitas bukan hanya pada kondisi individu, tetapi pada hambatan interaksi antara individu dan lingkungannya.
Di Indonesia, istilah “disabilitas” mulai digunakan secara resmi sejak Maret 2010, menggantikan frasa sebelumnya, “penyandang cacat,” yang mengandung konotasi negatif dan menciptakan stigma. Perubahan terminologi ini dianggap sebagai langkah etis yang krusial, menekankan bahwa Penyandang Disabilitas adalah kelompok sosial yang bermartabat, bukan sekumpulan kekurangan yang memerlukan belas kasihan.
Undang-Undang Nomor 8 Tahun 2016 tentang Penyandang Disabilitas memperkuat posisi ini. Pasal 1 UU tersebut mendefinisikan Penyandang Disabilitas sebagai:
“Setiap orang yang mengalami keterbatasan fisik, intelektual, mental, dan/atau sensorik dalam jangka waktu yang lama dalam berinteraksi dengan lingkungan dapat mengalami hambatan dan kesulitan untuk berpartisipasi secara penuh dan efektif dengan warga negara lainnya berdasarkan kesamaan hak.”
Pasal 4 ayat (1) UU Penyandang Disabilitas membagi ragam disabilitas menjadi empat kategori utama, yang dapat dialami secara tunggal, ganda, atau multi:
Disabilitas Fisik: Terganggunya fungsi gerak, seperti amputasi, lumpuh layuh atau kaku.
Disabilitas Intelektual: Terganggunya fungsi pikir, seperti disabilitas grahita atau down syndrome.
Disabilitas Mental: Terganggunya fungsi pikir, emosi, dan perilaku (misalnya, skizofrenia, bipolar, depresi), termasuk disabilitas perkembangan (autis dan hiperaktif).
Disabilitas Sensorik: Terganggunya salah satu fungsi panca indera, seperti disabilitas netra (gangguan penglihatan) atau disabilitas rungu-wicara (ketidakfungsian pendengaran dan bicara).
Inilah populasi luas dan beragam yang seharusnya juga menjadi fokus utama setiap pengembang teknologi. Namun, dalam kenyataan pengembangan AI, kelompok ini justru menjadi pihak yang paling terpinggirkan.
Temuan paling krusial adalah adanya gesekan atau konflik yang tak terhindarkan antara praktik Responsible AI (RAI) dan Aksesibilitas.
Tim RAI—yang bertanggung jawab atas etika dan keselamatan AI—cenderung lebih memprioritaskan bias yang berkaitan dengan ras dan gender, sesuai dengan standar dan panduan yang berlaku.
Dalam konteks pengembangan dan penerapan Kecerdasan Buatan (AI), kebutuhan pengguna penyandang disabilitas sering kali masih kurang diperhatikan. Disabilitas belum diakui sebagai pemangku kepentingan utama dalam kerangka kerja Responsible AI (RAI). Akibatnya, perspektif dan pengalaman mereka jarang terlibat secara bermakna dalam proses perancangan, pengujian, maupun evaluasi sistem AI yang seharusnya dirancang untuk melayani semua lapisan masyarakat.
Lebih jauh lagi, isu aksesibilitas kerap mengalami deprioritisasi dalam praktik organisasi. Ketika sumber daya terbatas, tenggat waktu mendesak, atau tekanan bisnis meningkat, perhatian terhadap kebutuhan pengguna disabilitas sering kali menjadi hal pertama yang dikorbankan.
Dalam banyak kasus, aspek aksesibilitas hanya dianggap sebagai pelengkap atau fitur tambahan—sekadar “nice-to-have”—bukan sebagai bagian mendasar dari desain yang inklusif.
Kondisi ini menciptakan kontradiksi mendasar dalam upaya mewujudkan AI yang etis dan bertanggung jawab. Di satu sisi, prinsip RAI menekankan pentingnya keadilan, transparansi, dan non-diskriminasi; namun di sisi lain, pengabaian terhadap kelompok disabilitas menunjukkan kegagalan dalam menerapkan keadilan partisipatif.
AI yang tidak melibatkan penyandang disabilitas sejak awal proses justru berisiko memperkuat eksklusi sosial dan memperlebar kesenjangan digital.
Pengabaian ini meninggalkan jejak nyata yang merugikan di produk-produk AI yang kita gunakan hari ini, terutama yang melibatkan model generatif:
Kesenjangan Data yang Melegitimasi Eksklusi
Tim AI menghadapi kesulitan besar dalam mengakses data spesifik tentang, atau dari, Penyandang Disabilitas. Praktisi seringkali harus mengeluarkan data yang berpotensi berasal dari PWD karena dianggap “tidak jelas” atau “tidak standar.”
Contoh paling jelas adalah pada produk berbasis suara. Data ucapan dari individu dengan disabilitas wicara seringkali dikecualikan dari pelatihan model. Konsekuensinya, model AI menjadi inferior dalam memahami atau merespons pengguna tersebut. Dengan sengaja mengecualikan data tersebut, pengembang secara efektif mengkodekan eksklusi ke dalam sistem AI.
Representasi yang Memperkuat Stigma
Ketika AI Generatif menghasilkan konten, ia seringkali memperburuk masalah yang ditentang oleh perubahan terminologi disabilitas, yaitu AI cenderung mereplikasi stereotip yang ada, menghasilkan gambar yang mendeskripsikan disabilitas secara tidak akurat atau hanya dalam konteks penderitaan.
Inspiration Porn
Model bahasa besar (LLM) sering menghasilkan teks yang mengagungkan PWD hanya karena melakukan tugas sehari-hari. Fenomena “inspiration porn” ini, yang dianggap berasal dari “kepositifan dasar” model, mereduksi individu menjadi objek inspirasi alih-alih subjek yang setara.
Hilangnya Fitur Aksesibilitas Dasar
Dalam tekanan komersial untuk meluncurkan produk, fitur-fitur aksesibilitas dasar dan penting sering kali menjadi korban. Praktisi melaporkan bahwa fitur seperti keterangan (caption) otomatis untuk produk suara/video—yang vital bagi pengguna dengan disabilitas tuli—sering kali terlupakan atau memiliki prioritas terendah.
Studi ini adalah ajakan seruan untuk bertindak, mendesak industri teknologi untuk berhenti melihat aksesibilitas sebagai checklist yang harus dipenuhi di akhir, dan mulai menjadikannya sebagai pilar fundamental.
Untuk memastikan AI benar-benar inklusif dan bertanggung jawab, ada beberapa langkah kunci yang harus diambil:
Integrasi Pengetahuan: Inklusi disabilitas harus disisipkan secara eksplisit ke dalam kurikulum dan panduan RAI secara global.
Dukungan Prosedural: Perusahaan wajib menyediakan pedoman, daftar periksa, dan struktur yang memastikan keterlibatan PWD sejak tahap desain hingga pengujian.
Memperluas Basis Data: Diperlukan upaya untuk secara etis mengumpulkan dan menggunakan data dari PWD sehingga AI mampu melayani keberagaman disabilitas fisik, intelektual, mental, dan sensorik.
Dengan demikian, upaya membangun AI yang benar-benar etis harus mencakup komitmen nyata terhadap inklusivitas. Melibatkan penyandang disabilitas sebagai mitra dalam desain, pengujian, dan pengambilan keputusan bukan hanya soal kepatuhan terhadap prinsip etika, tetapi juga langkah strategis untuk memastikan bahwa AI berfungsi bagi semua orang, tanpa kecuali.
Jika kita gagal mengintegrasikan inklusi disabilitas pada proses pengembangan AI hari ini, kita berisiko menciptakan teknologi masa depan yang akan mengisolasi jutaan individu, mengkhianati semangat kesetaraan hak yang telah diperjuangkan sejak lama.
References:
