OPINION / ANALYSIS. Perusahaan dapat membeli software, tetapi tidak dapat sepenuhnya membeli jalan keluar dari tanggung jawab. Gugatan terhadap Workday di Amerika Serikat memperlihatkan masalah yang akan semakin sering muncul ketika AI masuk ke recruitment: jika sistem otomatis menghasilkan dampak diskriminatif, apakah tanggung jawab berada pada vendor, employer, atau keduanya? Jawaban hukumnya akan berkembang berbeda di tiap negara, tetapi secara bisnis prinsipnya sudah jelas. Organisasi yang menggunakan AI untuk keputusan berdampak tinggi harus memahami apa yang sistem lakukan, bukan sekadar menerima klaim vendor bahwa model telah diuji.
Fakta yang menjadi dasar
Reuters melaporkan class action terhadap Workday menuduh sistem AI perusahaan tersebut menghasilkan disparate impact terhadap kelompok tertentu dalam proses hiring. Workday membantah tuduhan dan menyatakan produknya menilai kualifikasi pekerjaan, bukan karakteristik yang dilindungi. Pengadilan telah membiarkan sebagian klaim berlanjut dan proses class certification dijadwalkan pada 2027.
Perkara ini penting karena Workday digunakan secara luas oleh perusahaan besar. Ketika software berada di tengah funnel recruitment, output-nya dapat menentukan siapa yang dilihat recruiter dan siapa yang tidak pernah mencapai tahap manusia. Karena itu label recommendation tool tidak selalu menghapus konsekuensi bisnis dari rekomendasi tersebut.
Analisis SOROT BIZ: black box adalah governance failure
Masalah utama bukan bahwa AI pasti bias. Manusia juga bias. Nilai AI justru seharusnya membuat proses lebih konsisten dan dapat diaudit. Tetapi keunggulan itu hilang jika perusahaan tidak mengetahui data apa yang digunakan, bagaimana threshold bekerja, bagaimana model berubah, dan apakah outcome berbeda antar kelompok.
Dalam procurement tradisional, perusahaan sering mengukur vendor dari SLA, security, dan harga. Untuk AI decision system, daftar itu belum cukup. Kontrak perlu memasukkan audit right, change notification, explainability yang proporsional, retention policy, incident response, dan mekanisme human override. HR tidak boleh menjadi satu-satunya pemilik risiko; legal, security, data, dan business owner harus ikut bertanggung jawab.
Mengapa pendekatan ini relevan untuk Indonesia?
Pasar HR tech Indonesia tumbuh seiring perusahaan mendigitalisasi recruitment. Banyak organisasi menggunakan ATS, online assessment, automated screening, chatbot, dan scoring. Regulasi lokal mungkin tidak identik dengan hukum employment AS, tetapi reputational risk tetap nyata. Kandidat yang merasa ditolak oleh sistem tanpa penjelasan dapat membawa isu ke media sosial atau regulator.
Perusahaan juga perlu membedakan low-impact automation dan high-impact decision. Menjadwalkan interview otomatis tidak sama dengan menilai kelayakan seseorang untuk pekerjaan. Semakin besar dampaknya pada hak, akses, atau penghasilan seseorang, semakin tinggi standard governance yang seharusnya diterapkan.
Apa yang sebaiknya dilakukan sekarang?
Inventaris seluruh AI yang menyentuh recruitment, promotion, performance, dan termination. Untuk setiap sistem, tentukan siapa accountable, data apa yang digunakan, bagaimana output divalidasi, dan kapan human review wajib dilakukan. Jangan menunggu kasus hukum lokal untuk membangun kontrol dasar.
FAQ
Apakah perusahaan harus berhenti memakai AI hiring? Tidak. Yang dibutuhkan adalah governance yang sebanding dengan dampak keputusan. Apakah vendor bertanggung jawab? Bisa menjadi bagian dari sengketa, tetapi perusahaan pengguna tetap perlu mengelola risikonya sendiri. Apa prinsip terpenting? Jangan gunakan sistem yang tidak dapat diaudit untuk keputusan yang tidak dapat dengan mudah dibatalkan.
Sumber dan bacaan terkait
Sumber fakta: Reuters, 21 September 2026, mengenai gugatan Workday. Baca AI Teammate Mulai Masuk Organisasi. Pendapat mengenai pembagian tanggung jawab dan governance adalah analisis editorial SOROT BIZ.
