Shopee Bikin Model AI Khusus Belanja Online, Bahasa Indonesia Jadi Tantangan

Shopee mengembangkan model bahasa besar alias large language model (LLM) khusus untuk kebutuhan e-commerce setelah menemukan bahwa model AI generik belum cukup mampu menangani tugas-tugas e-commerce yang bersifat khusus dan multibahasa di Asia Tenggara.

Dalam paparan NVIDIA, Shopee disebut melayani ratusan juta pengguna aktif bulanan di delapan pasar di Asia Tenggara, Taiwan, dan Brasil. Platform e-commerce ini menggunakan AI untuk berbagai fungsi, mulai dari pencarian produk, rekomendasi, deteksi penipuan hingga layanan pelanggan.

Namun, penggunaan model AI generik menunjukkan adanya kesenjangan performa ketika model tersebut digunakan untuk kebutuhan e-commerce regional.

Peneliti Shopee menyebut fenomena tersebut sebagai “jagged frontier”, yakni kondisi ketika model dapat memiliki performa baik dalam tugas-tugas berbahasa Inggris, tetapi mengalami penurunan signifikan ketika digunakan untuk tugas e-commerce yang lebih spesifik dan menggunakan bahasa lokal.

Contohnya, model yang sama dapat kesulitan memahami kueri belanja dalam bahasa Indonesia, melakukan kategorisasi produk dalam bahasa Thailand, atau memahami maksud pelanggan berbahasa Vietnam.

“Jagged frontier” itu menjadi persoalan penting bagi Shopee karena platform memproses miliaran kueri setiap bulan dalam enam bahasa. Menurut paparan NVIDIA, kesenjangan kemampuan tersebut dapat berdampak pada pendapatan, kecepatan penyelesaian layanan pelanggan, hingga kemampuan mendeteksi penipuan.

Shopee Bangun LLM Sendiri

Untuk mengatasi persoalan tersebut, tim AI Shopee mengembangkan Compass, LLM yang dirancang khusus untuk kebutuhan e-commerce Asia Tenggara.

Shopee melakukan prapelatihan Compass-v3, model vertical-domain berbasis mixture-of-experts dengan total 245 miliar parameter dan 71 miliar parameter aktif untuk setiap token.

Model AI itu dilatih menggunakan 12 triliun token dari korpus multibahasa yang telah dikurasi. Data tersebut mencakup bahasa Indonesia, Thailand, Filipino, Melayu, Tagalog, dan Portugis.

Selain data multibahasa, pelatihan menggunakan instruksi e-commerce sintetis dalam skala besar.

Shopee juga menggunakan data proprietary dalam jumlah miliaran yang berasal dari judul produk, ulasan, dan rating. Data itu dimanfaatkan untuk membuat model lebih sesuai dengan perilaku dan kebutuhan e-commerce.

Untuk menguji kemampuan model dalam memahami kebutuhan e-commerce Asia Tenggara, tim Shopee mengembangkan EcomEval, benchmark yang ditujukan khusus untuk e-commerce Asia Tenggara.

Menurut NVIDIA, pengujian tersebut menunjukkan bahwa model-model AI generik mengalami penurunan performa pada tugas multibahasa. Beberapa model open-source bahkan mencatat skor di bawah 52% pada kategori tertentu.

Bahasa Lokal Jadi Persoalan AI

Persoalan yang dihadapi Shopee menunjukkan bahwa kemampuan LLM dalam bahasa tertentu tidak otomatis membuatnya mampu memahami konteks belanja online di negara tersebut.

Dalam kasus Shopee, tantangannya bukan hanya menerjemahkan bahasa. Model juga harus memahami kueri belanja, konsep produk, maksud pengguna, hingga konteks e-commerce yang berbeda di berbagai pasar.

Oleh karena itu, Shopee membangun model yang secara khusus dilatih untuk kebutuhan tersebut.

Pada benchmark EcomEval, Compass v3.5 disebut mencatat performa lebih tinggi dibandingkan sejumlah model lain pada lima kategori tugas e-commerce regional.

NVIDIA menyebut Compass v3.5 memperoleh skor 94% pada kategori Ecom QA, dibandingkan 85% untuk GPT-4o. Pada kategori Shopping Concept, Compass mencatat 92%, dibandingkan 82% untuk GPT-4o. Sementara pada User Understanding, Compass mencatat 84%, dibandingkan 76% untuk GPT-4o.

Pengembangan LLM sendiri itu kemudian digunakan dalam berbagai fungsi di platform Shopee.

Compass digunakan untuk pencarian dan rekomendasi produk, yang menurut NVIDIA mendorong peningkatan konversi dan pendapatan iklan.

Model AI itu juga digunakan untuk mendeteksi penipuan. NVIDIA menyebut sistem tersebut mampu meningkatkan efisiensi deteksi fraud hingga 50 kali dibandingkan proses manual, sekaligus menurunkan biaya pemrosesan sebesar 90%.

Di sektor rantai pasok, AI digunakan untuk pemulihan paket berbasis teknologi vision. NVIDIA menyebut penggunaan tersebut menghasilkan penghematan jutaan dolar setiap tahun.

Sementara dalam layanan pelanggan, LLM digunakan untuk menggantikan chatbot berbasis skrip yang kaku dengan interaksi yang lebih kontekstual dan multibahasa.

Dengan demikian, penggunaan LLM di Shopee tidak hanya diarahkan untuk membuat chatbot atau fitur percakapan, tetapi masuk ke sejumlah fungsi inti platform e-commerce.

Skala penggunaan model Compass juga meningkat pesat. Menurut NVIDIA, jumlah token API Compass meningkat dari 3 miliar token per bulan menjadi 340 miliar token per bulan hanya dalam delapan bulan, atau tumbuh 113 kali lipat.

Compass kini menangani mayoritas trafik AI Shopee.

Lonjakan tersebut menunjukkan bahwa model yang awalnya dikembangkan untuk menjawab kebutuhan e-commerce spesifik kemudian digunakan pada semakin banyak fungsi di dalam platform.

Infrastruktur komputasi yang digunakan untuk pengembangan dan pengoperasian model tersebut mencakup ribuan GPU NVIDIA, termasuk A100, H100, dan RTX PRO 6000 Blackwell.

Shopee juga disebut terus menambah GPU setiap tahun untuk memenuhi kebutuhan pelatihan dan inferensi AI yang meningkat.

Shopee Fokus ke AI Khusus E-commerce

Pengembangan Compass menunjukkan pendekatan Shopee untuk membangun AI yang lebih spesifik terhadap domain bisnisnya.

Alih-alih hanya mengandalkan model general-purpose, Shopee mengembangkan model yang dilatih dengan data dan kebutuhan e-commerce, termasuk data produk, ulasan, rating, serta tugas-tugas yang berkaitan dengan perilaku belanja di pasar Asia Tenggara.

NVIDIA menyebut Sea Limited, induk Shopee, juga mendirikan AI Center of Excellence di Singapura pada April 2026 untuk mempercepat pengembangan foundation model dan memperkuat proprietary AI stack perusahaan.

Pengembangan Compass masih berlanjut. Menurut NVIDIA, adopsi Compass tumbuh 100% secara month-on-month, sementara Shopee juga tengah mengembangkan kemampuan baru seperti pencarian multimodal, panduan belanja berbasis percakapan, serta model vision-language untuk logistik.

Seiring ekspansi ke lebih banyak bahasa, pasar, dan use case, Shopee menempatkan model AI yang dibangun khusus untuk kebutuhan e-commerce sebagai bagian dari infrastruktur teknologi platformnya.