Apa yang Tidak Kita Lihat Ketika Melihat AI?
Kecerdasan buatan (Artificial Intelligence atau AI) berkembang dengan kecepatan yang mengagumkan. Kemampuannya mengolah informasi, menghasilkan konten, mengenali pola, hingga membantu pengambilan keputusan telah membuka peluang besar bagi dunia usaha, pemerintahan, pendidikan, dan berbagai bidang kehidupan.
Namun, di tengah antusiasme terhadap kemajuan tersebut, muncul pertanyaan mendasar mengenai apakah kita telah memahami AI secara utuh?
Selama ini, pembicaraan mengenai AI cenderung didominasi oleh kemampuan teknologi dan manfaat ekonominya. Seberapa cerdas model yang dikembangkan? Seberapa akurat hasilnya? Berapa besar efisiensi yang dapat dihasilkan?
Pertanyaan-pertanyaan tersebut tentu penting, tetapi belum cukup untuk memahami konsekuensi AI bagi manusia dan masyarakat.
AI bukan sekadar persoalan teknologi. Ia juga merupakan fenomena ekonomi, sosial, budaya, etika, bahkan politik. Karena itu, memahami AI memerlukan beragam perspektif yang saling melengkapi.
Melampaui Perspektif Teknis
Perspektif pertama adalah pendekatan empiris, yang menekankan pengamatan, pengukuran, dan pembuktian. Dalam pengembangan AI, pendekatan ini sangat penting untuk memastikan bahwa sistem bekerja secara akurat, andal, aman, dan dapat diuji.
Ketika AI digunakan untuk membantu diagnosis penyakit, misalnya, kita perlu mengetahui tingkat akurasinya, kemungkinan kesalahan diagnosis, serta konsistensi hasilnya. Tanpa pengujian empiris yang memadai, penggunaan AI justru dapat menimbulkan risiko serius.
Namun, keberhasilan teknis belum tentu berarti keberhasilan sosial. Sistem AI yang sangat akurat sekalipun belum tentu diterima, dipahami, atau dipercaya oleh masyarakat yang menggunakannya.
Di sinilah perspektif interpretif menjadi relevan. Pendekatan ini berusaha memahami bagaimana manusia memaknai, mengalami, dan merespons teknologi dalam konteks sosialnya.
Dalam pelayanan publik, misalnya, keputusan berbasis AI mungkin secara statistik lebih akurat daripada keputusan manual. Namun, bagaimana jika masyarakat merasa tidak memperoleh penjelasan yang memadai atau kehilangan kesempatan untuk menyampaikan keberatan? Pengalaman dan persepsi masyarakat menjadi bagian penting dalam menilai keberhasilan teknologi.
Perspektif berikutnya adalah pragmatisme, yang menitikberatkan pada manfaat dan kemampuan teknologi menyelesaikan persoalan nyata. Dari sudut pandang ini, pertanyaan utamanya bukan seberapa canggih AI yang digunakan, melainkan apakah penggunaannya benar-benar menghasilkan perbaikan. Bahkan, pendekatan pragmatis membuka kemungkinan bahwa solusi terbaik terhadap suatu persoalan tidak selalu membutuhkan AI.
Ketiga perspektif tersebut memberikan landasan penting bahwa teknologi harus dapat dibuktikan kinerjanya, dipahami dampaknya terhadap manusia, dan memberikan manfaat nyata.
Etika, Kekuasaan, dan Kepentingan di Balik AI
Namun, terdapat dimensi lain yang tidak kalah penting, yakni perspektif etika dan hukum. Pendekatan ini mempertanyakan apakah pengembangan dan penggunaan AI menghormati hak asasi manusia, keadilan, privasi, transparansi, serta prinsip pertanggungjawaban.
Berbagai kerangka tata kelola AI, seperti ISO/IEC 42001 dan NIST AI Risk Management Framework, menyediakan pendekatan sistematis untuk membantu organisasi mengelola risiko dan dampak AI secara bertanggung jawab. Meskipun demikian, kepatuhan terhadap prinsip etika dan standar tata kelola belum tentu menjawab seluruh persoalan mendasar.
Dalam bukunya Critical Theory of AI, Simon Lindgren mengajak kita melihat AI melalui perspektif teori kritis (Critical Theory). Berakar pada tradisi pemikiran sosial, pendekatan ini mempertanyakan hubungan antara teknologi, ideologi, kepentingan ekonomi, dan struktur kekuasaan.
Perspektif kritis tidak berhenti pada pertanyaan apakah AI bekerja dengan benar, tetapi melangkah lebih jauh dengan bertanya siapa yang menentukan tujuan pengembangannya? Siapa yang memperoleh manfaat? Siapa yang menanggung risiko? Dan apakah teknologi tersebut memperkuat ketimpangan yang sudah ada?
Bayangkan sebuah perusahaan menggunakan AI untuk menyeleksi calon karyawan. Pendekatan teknis akan menguji akurasi algoritma. Pendekatan etika akan memeriksa kemungkinan diskriminasi. Sementara itu, teori kritis akan mempertanyakan siapa yang menentukan kriteria kandidat ideal dan apakah kriteria tersebut mereproduksi ketimpangan kesempatan kerja yang telah berlangsung selama bertahun-tahun.
Perspektif lain yang berdekatan adalah post-strukturalisme. Pendekatan ini menyoroti bagaimana pengetahuan, bahasa, dan sistem klasifikasi membentuk cara manusia dipahami dan diperlakukan. Ketika AI mengategorikan seseorang sebagai berisiko tinggi, radikal, tidak layak menerima bantuan, atau kurang potensial, klasifikasi tersebut bukan sekadar informasi. Ia dapat memengaruhi kesempatan, perlakuan, bahkan masa depan orang yang bersangkutan.
Menuju Tata Kelola AI yang Lebih Utuh
Berbagai perspektif tersebut sesungguhnya tidak perlu dipertentangkan. Masing-masing memiliki kekuatan sekaligus keterbatasan. Pendekatan empiris memberikan bukti mengenai kinerja teknologi. Perspektif interpretif membantu memahami pengalaman manusia. Pragmatisme memastikan relevansi dan manfaatnya. Etika dan hukum memberikan batasan normatif. Sementara itu, teori kritis dan post-strukturalisme mengungkap persoalan kekuasaan, ideologi, serta konsekuensi sosial yang mungkin tersembunyi.
Dalam konteks Indonesia, pendekatan multidimensi ini semakin penting seiring meluasnya pemanfaatan AI dalam pelayanan publik, sektor keuangan, kesehatan, pendidikan, dan dunia usaha. Keberhasilan AI tidak semestinya hanya diukur dari peningkatan produktivitas, penghematan biaya, atau kecanggihan algoritma. Kita juga perlu memastikan bahwa manfaatnya dirasakan secara luas, hak masyarakat terlindungi, dan keputusan yang memengaruhi kehidupan manusia tetap dapat dipertanggungjawabkan.
Pada akhirnya, tantangan terbesar kita bukan sekadar bagaimana mengembangkan AI yang semakin cerdas, melainkan bagaimana memastikan kecerdasan tersebut digunakan secara bijaksana.
Teknologi yang baik bukan hanya teknologi yang mampu melakukan sesuatu dengan benar, tetapi juga teknologi yang digunakan untuk tujuan yang benar, melalui cara yang dapat dibenarkan, dan memberikan manfaat yang adil bagi manusia.
Untuk mencapainya, kita membutuhkan lebih dari satu cara pandang. Sebab, memahami AI secara utuh pada hakikatnya juga berarti memahami manusia dan masyarakat yang menciptakan serta menggunakannya.
Catatan Redaksi:
Katadata.co.id menerima tulisan opini dari akademisi, pekerja profesional, pengamat, ahli/pakar, tokoh masyarakat, dan pekerja pemerintah. Kriteria tulisan adalah maksimum 1.000 kata dan tidak sedang dikirim atau sudah tayang di media lain. Kirim tulisan ke opini@katadata.co.id disertai dengan CV ringkas dan foto diri.
