Manusia Dinilai Perlu Hati-hati dengan Jawaban ChatGPT dan Bard
ChatGPT telah digunakan oleh 100 juta lebih pengguna. Namun konsultan McKinsey & Company Robert Zafft menilai manusia perlu hati-hati dengan jawaban dari chatbot berbasis kecerdasan buatan alias artificial intelligence (AI).
Ia mengatakan, Cliff Clavin Effect memberi manusia pilihan. “Membangun kearifan ke dalam pencarian AI generatif, atau mendisiplinkan diri untuk mengantisipasi keterbatasan teknologi,” kata dia dikutip dari Forbes, Senin (13/2).
Kini, raksasa teknologi seperti Microsoft, Google, Baidu hingga JD.Com berlomba-lomba membangun chatbot berbasis AI generatif 2.0. Dua di antaranya yakni ChatGPT dan Bard.
Namun Bard salah menjawab pertanyaan ketika diperkenalkan oleh Google dalam acara Rabu pekan lalu (8/2).
“Model AI generatif saat ini berfokus pada pernyataan yang masuk akal secara statistik. Mereka tidak memeriksa kebenaran seperti yang mungkin dilakukan oleh pemeriksa fakta, atau mencoba untuk memisahkan pernyataan dan pendapat faktual seperti yang terjadi dalam proses pengadilan,” kata Zafft.
Ia mengutip hasil penelitian Senior Partner McKinsey & Company Kevin Buehler dan tim tentang keterbatasan jawaban chatbot AI seperti Bard dan ChatGPT. Kevin juga membangun bagian Risk practice di McKinsey & Company sekaligus ketua firma penasihat Risk Dynamics.
Hasilnya, mereka mengidentifikasi enam area baru yang perlu dikelola dengan hati-hati untuk mengembangkan mesin pembelajar atau machine learning dan model AI yang lebih sesuai untuk tujuan:
- Interpretabilitas: Mampu menggambarkan model dan output
- Bias: Memastikan bahwa model secara akurat mewakili data tanpa pola pembelajaran yang dapat mempengaruhi kelompok yang berbeda
- Rekayasa Fitur: Merakit elemen data individu ke dalam fitur yang mendorong model (misalnya, menggunakan rasio utang terhadap pendapatan sebagai fitur dalam model kredit)
- Hyperparameters: Membuat pilihan tentang desain model (misalnya, jumlah lapisan tersembunyi di jaringan saraf)
- Kesiapan Produksi: Mengantisipasi bagaimana algoritme AI generatif harus beroperasi dalam sistem yang lebih besar. Misalnya, dapatkah setiap bagian dari sistem menangani laju aliran data yang lain? Akankah pemrosesan tambahan yang diperlukan untuk penegasan membuat harga atau margin rusak?
- Kalibrasi Model Dinamis: Menyesuaikan pemrosesan dengan cepat untuk mencerminkan informasi baru — kapan hal ini harus terjadi, dan siapa yang harus menentukannya?
Model bahasa dan untuk aplikasi dialog alias Language and dialogue models can be immense (LaMDA) di balik Bard milik Google, dilatih dengan 1,56 triliun kata. Satu versi terdiri dari 137 miliar parameter model.
Akibatnya, bias dan interpretabilitas mewakili perhatian yang sangat menonjol. Tidak ada manusia yang dapat meninjau lebih dari satu triliun kata untuk memastikan tidak ada ‘bias halus’.
“Paling seseorang harus mengandalkan model lain untuk melakukannya,” kata Zafft.
Demikian pula, ketika model yang kompleks memiliki miliaran parameter, akan sangat sulit untuk menginterpretasikan dengan tepat mengapa model tersebut menghasilkan output tertentu.
“Jadi, misalnya, apa yang dimaksud dengan ‘kearifan’ dalam konteks ini? Apakah ini pencarian ‘kebenaran’? Untuk ‘validasi’? Jika kita mengandalkan pekerjaan ‘otoritas’ untuk memvalidasi pernyataan atau opini, bagaimana seharusnya algoritme menilai dan menimbang ‘otoritas’?” ujar Zafft.
“Ingatlah bahwa survei pada 1905 terhadap semua fisikawan tentang relativitas waktu, akan menghasilkan satu ‘Ya’ dari seorang pegawai paten Swiss yang tidak dikenal bernama Einstein,” tambah dia.
Oleh karena itu, menurutnya manusia harus lebih berhati-hati terhadap potensi penyalahgunaan AI generatif.
“Daripada memutuskan pada titik mana algoritme dapat menyebut sesuatu sebagai hitam atau putih, akan lebih aman dan baik untuk memastikan pemahaman manusia tentang nuansa abu-abu yang sedang kita hadapi,” kata dia.
