Selama beberapa tahun terakhir, perkembangan artificial intelligence identik dengan satu perlombaan besar: siapa yang memiliki model AI paling besar dan paling pintar. Perusahaan teknologi berlomba mengembangkan large language model atau LLM dengan kemampuan semakin luas, konteks semakin panjang, dan kemampuan penalaran yang semakin kompleks. Namun, di balik perlombaan tersebut muncul arah perkembangan yang tidak kalah menarik. Model AI yang lebih kecil justru mulai mendapatkan perhatian karena mampu menjalankan tugas tertentu dengan lebih cepat, murah, dan efisien.
Model tersebut dikenal sebagai Small Language Model atau SLM.
Jika LLM dirancang untuk menangani berbagai macam pekerjaan dengan kemampuan yang sangat luas, SLM mengambil pendekatan yang berbeda. Model dengan ukuran lebih kecil dapat dirancang atau dioptimalkan untuk kebutuhan tertentu sehingga tidak selalu membutuhkan sumber daya komputasi sebesar model raksasa. Dalam kondisi tertentu, model kecil bahkan dapat memberikan hasil yang cukup baik untuk pekerjaan yang sebelumnya dianggap membutuhkan model besar.
Perubahan ini penting karena tidak semua kebutuhan AI membutuhkan model dengan kemampuan paling tinggi. Untuk menjawab pertanyaan sederhana, melakukan klasifikasi dokumen, menjalankan chatbot internal, membantu perangkat tertentu, atau menangani tugas yang sangat spesifik, perusahaan mungkin lebih membutuhkan AI yang efisien daripada AI yang sekadar berukuran besar.
Inilah alasan Small Language Model mulai menjadi bagian penting dalam pembicaraan mengenai masa depan AI.
Apa Itu Small Language Model?
Small Language Model atau SLM adalah model bahasa berukuran relatif kecil yang dirancang untuk memahami dan menghasilkan bahasa atau menjalankan tugas berbasis bahasa dengan kebutuhan komputasi yang lebih rendah dibandingkan model bahasa berukuran besar.
Tidak ada satu angka universal yang menentukan kapan sebuah model dapat disebut "small". Istilah SLM lebih banyak digunakan untuk membedakan model yang memiliki ukuran dan kebutuhan komputasi jauh lebih rendah dari LLM berukuran sangat besar. Ukuran model, jumlah parameter, kemampuan, dataset pelatihan, dan tujuan penggunaan dapat berbeda-beda.
Perbedaan paling mudah terlihat dari kebutuhan infrastrukturnya. Model yang sangat besar membutuhkan sumber daya komputasi dan memori yang besar ketika dijalankan. Sementara itu, model yang lebih kecil dapat dirancang agar mampu berjalan pada perangkat dengan keterbatasan sumber daya, termasuk komputer tertentu, server dengan kapasitas lebih rendah, dan dalam beberapa kasus perangkat edge.
Namun, ukuran yang lebih kecil tentu memiliki konsekuensi. SLM tidak otomatis lebih pintar daripada LLM dalam semua jenis pekerjaan. Keunggulannya justru terletak pada efisiensi dan kemampuan untuk dioptimalkan terhadap kebutuhan tertentu.
Karena itu, membandingkan SLM dan LLM hanya berdasarkan ukuran juga kurang tepat. Pertanyaan yang lebih penting adalah: model mana yang paling sesuai dengan pekerjaan yang ingin diselesaikan?
Mengapa Model AI Tidak Selalu Harus Besar?
Perkembangan AI sebelumnya sering membuat orang berpikir bahwa semakin besar model, semakin baik pula hasilnya. Untuk banyak tugas kompleks, model berukuran besar memang memiliki keunggulan karena mampu menangani konteks dan persoalan yang lebih luas.
Namun, kebutuhan di dunia nyata tidak selalu seperti itu.
Bayangkan sebuah perusahaan hanya ingin membuat sistem AI yang bertugas mengklasifikasikan dokumen masuk menjadi beberapa kategori. Sistem tersebut tidak membutuhkan kemampuan menulis esai panjang, membuat kode dalam berbagai bahasa, atau menjawab pertanyaan tentang seluruh dunia.
Jika kebutuhan hanya klasifikasi dokumen, menggunakan model yang sangat besar mungkin justru tidak efisien.
Model yang lebih kecil dapat dilatih atau dioptimalkan untuk tugas tersebut. Jika hasilnya sudah memenuhi kebutuhan bisnis, perusahaan tidak memiliki alasan kuat untuk menggunakan model yang jauh lebih besar hanya karena model tersebut lebih populer.
Situasi serupa dapat terjadi pada chatbot internal. Jika chatbot hanya perlu menjawab pertanyaan berdasarkan SOP perusahaan, model kecil yang dikombinasikan dengan sistem retrieval dan sumber dokumen yang tepat dapat menjadi pilihan yang menarik.
Dari sinilah muncul perubahan cara berpikir dalam pengembangan AI: bukan selalu mencari model terbesar, tetapi mencari model yang cukup pintar untuk pekerjaan yang dibutuhkan.
Apa Perbedaan SLM dan LLM?
Perbedaan SLM dan LLM bukan hanya mengenai jumlah parameter. Keduanya juga dapat memiliki karakteristik berbeda dalam hal kemampuan, kebutuhan infrastruktur, biaya, kecepatan, dan tujuan penggunaan.
LLM berukuran besar umumnya dibuat untuk menangani berbagai macam tugas. Model seperti ini dapat digunakan untuk menulis, merangkum, menerjemahkan, membantu coding, menganalisis informasi, hingga menangani berbagai bentuk instruksi yang kompleks.
SLM cenderung lebih fokus pada efisiensi. Karena ukurannya lebih kecil, kebutuhan komputasinya dapat lebih rendah dan proses inference dapat menjadi lebih cepat, tergantung model, hardware, dan konfigurasi yang digunakan.
Perbedaan tersebut membuat keduanya tidak selalu berada dalam posisi "saling menggantikan".
Dalam sebuah sistem AI modern, LLM dan SLM bahkan dapat digunakan secara bersamaan. Model kecil dapat menangani tugas-tugas sederhana dan cepat, sementara model yang lebih besar digunakan ketika sistem menghadapi persoalan yang membutuhkan kemampuan penalaran atau pemahaman lebih tinggi.
Pendekatan seperti ini memungkinkan perusahaan memilih model yang tepat untuk setiap jenis pekerjaan, bukan memaksakan satu model untuk seluruh kebutuhan.
Mengapa SLM Bisa Lebih Cepat?
Salah satu daya tarik utama SLM adalah kebutuhan komputasi yang lebih rendah dibandingkan model besar. Ketika sebuah model memiliki ukuran lebih kecil, jumlah komputasi yang dibutuhkan untuk menghasilkan output juga dapat lebih rendah, meskipun performa aktual tetap bergantung pada arsitektur, hardware, optimasi, dan panjang konteks.
Kecepatan ini menjadi sangat penting dalam aplikasi yang membutuhkan respons cepat.
Bayangkan AI digunakan di perangkat kasir, perangkat industri, sistem monitoring, atau aplikasi internal yang harus memberikan respons hampir secara real-time. Mengirim setiap permintaan ke model cloud yang besar mungkin tidak selalu menjadi pilihan paling efisien.
Model kecil yang dapat dijalankan lebih dekat dengan pengguna dapat memberikan keuntungan dari sisi latency.
Inilah salah satu alasan SLM juga sering dikaitkan dengan edge AI dan AI yang berjalan secara lokal.
Semakin banyak proses yang dapat dilakukan di perangkat atau server lokal, semakin kecil ketergantungan terhadap koneksi internet untuk tugas tertentu.
SLM Bisa Berjalan di Perangkat Lokal
Salah satu perkembangan menarik dari model AI kecil adalah semakin terbukanya peluang untuk menjalankan AI secara lokal.
Model besar sering membutuhkan infrastruktur yang mahal, terutama jika ingin dijalankan sendiri. Sebaliknya, model kecil dengan optimasi tertentu dapat dijalankan pada hardware yang jauh lebih terjangkau.
Hal ini membuka peluang penggunaan AI pada laptop, komputer kantor, server lokal, perangkat industri, dan perangkat edge lainnya.
Misalnya sebuah perusahaan ingin menggunakan AI untuk menganalisis dokumen internal tetapi tidak ingin seluruh data dikirim ke layanan cloud. Salah satu pendekatan yang dapat dipertimbangkan adalah menggunakan model yang dapat dijalankan di lingkungan perusahaan.
Tentu saja, menjalankan model secara lokal tidak otomatis membuat sistem aman. Perusahaan tetap harus mengamankan server, mengatur akses pengguna, melindungi data, dan menerapkan kebijakan keamanan yang sesuai.
Namun dari perspektif arsitektur, SLM memberikan lebih banyak pilihan bagi organisasi yang ingin memiliki kontrol lebih besar terhadap lokasi dan proses inference AI.
Apakah SLM Lebih Murah daripada LLM?
Dalam banyak skenario, model yang lebih kecil berpotensi memiliki biaya operasional yang lebih rendah karena kebutuhan komputasinya lebih kecil. Hal ini terutama menarik bagi perusahaan yang menjalankan AI dalam jumlah permintaan yang sangat besar.
Bayangkan sebuah aplikasi menerima jutaan permintaan setiap bulan. Jika seluruh permintaan dikirimkan ke model yang sangat besar, biaya inference dapat menjadi signifikan.
Namun, jika sebagian besar permintaan sebenarnya sederhana, perusahaan dapat menggunakan model kecil untuk menangani pekerjaan tersebut.
Model besar hanya digunakan ketika diperlukan.
Pendekatan ini sering disebut sebagai model routing atau pemilihan model berdasarkan jenis tugas. Sistem dapat menentukan apakah sebuah permintaan cukup ditangani SLM atau perlu diteruskan ke model yang lebih besar.
Dengan cara tersebut, perusahaan dapat mencari keseimbangan antara kualitas, kecepatan, dan biaya.
Bagaimana SLM Bisa Menyaingi Model Besar?
Pertanyaan dalam judul artikel ini tentu menarik: bagaimana mungkin model kecil dapat menyaingi model besar?
Jawabannya bukan karena model kecil tiba-tiba memiliki kemampuan yang sama dalam semua hal. SLM dapat terlihat sangat kompetitif ketika digunakan untuk tugas yang spesifik dan sesuai dengan tujuan desainnya.
Salah satu teknik yang berperan adalah knowledge distillation. Dalam pendekatan ini, model yang lebih kecil dapat belajar dari model yang lebih besar sehingga sebagian kemampuan model besar dapat ditransfer ke model yang lebih kecil.
Selain distillation, pemilihan dataset yang berkualitas, fine-tuning, instruction tuning, quantization, dan berbagai teknik optimasi dapat membantu meningkatkan efisiensi model.
Hasilnya, sebuah model dengan ukuran lebih kecil dapat memberikan performa yang sangat baik pada tugas tertentu.
Analogi sederhananya seperti seorang spesialis.
Seorang dokter umum mungkin memiliki pengetahuan yang luas tentang berbagai kondisi kesehatan, sedangkan seorang spesialis memiliki fokus yang lebih sempit tetapi sangat mendalam pada bidang tertentu. Dalam tugas yang sesuai dengan spesialisasinya, model yang lebih fokus dapat memberikan hasil yang sangat kompetitif.
Begitu juga dengan SLM.
SLM dan Knowledge Distillation
Knowledge distillation menjadi salah satu konsep penting dalam perkembangan model kecil. Dalam proses ini, model yang lebih besar dapat berperan sebagai teacher, sementara model yang lebih kecil berperan sebagai student.
Model student belajar dari informasi yang dihasilkan teacher dengan tujuan mempertahankan sebagian kemampuan penting sambil menggunakan arsitektur yang lebih ringan.
Tujuannya bukan membuat model kecil menyalin seluruh kemampuan model besar secara sempurna. Sebaliknya, proses tersebut berusaha mempertahankan pengetahuan atau perilaku yang paling berguna untuk kebutuhan tertentu.
Pendekatan ini menarik karena model besar biasanya membutuhkan sumber daya yang jauh lebih besar. Jika sebagian kemampuan tersebut dapat dipindahkan ke model yang lebih kecil, perusahaan dapat memperoleh model yang lebih efisien untuk penggunaan tertentu.
Karena itu, perkembangan SLM juga menunjukkan bahwa inovasi AI tidak selalu harus dilakukan dengan memperbesar ukuran model.
SLM untuk Perusahaan
Bagi perusahaan, SLM dapat menjadi pilihan menarik untuk berbagai kebutuhan internal. Salah satu contohnya adalah chatbot yang hanya perlu memahami kebijakan dan dokumen perusahaan.
Sistem seperti ini tidak membutuhkan AI yang mampu menjawab seluruh pertanyaan di internet. Yang lebih penting adalah kemampuan memahami konteks internal dan memberikan jawaban yang relevan.
SLM juga dapat digunakan untuk klasifikasi dokumen, ekstraksi informasi, analisis teks, routing permintaan customer service, atau tugas otomatisasi lain yang memiliki pola cukup jelas.
Dalam sistem customer service, misalnya, model kecil dapat digunakan untuk mengidentifikasi maksud pertanyaan pelanggan. Pertanyaan sederhana dapat langsung ditangani oleh sistem tersebut, sementara kasus yang lebih kompleks diteruskan ke model yang lebih besar atau kepada manusia.
Pendekatan seperti ini dapat membuat arsitektur AI lebih efisien.
SLM untuk Perangkat dan Edge AI
Penggunaan SLM juga menarik ketika AI harus bekerja di dekat sumber data.
Dalam industri manufaktur, misalnya, perangkat tertentu dapat membutuhkan kemampuan AI untuk membaca informasi, mengklasifikasikan kondisi, atau membantu operator. Jika seluruh proses harus dikirim ke cloud, latency dan kebutuhan konektivitas dapat menjadi pertimbangan.
Model kecil dapat memungkinkan sebagian proses dilakukan secara lokal.
Konsep inilah yang sering dikaitkan dengan edge AI, yaitu menjalankan kemampuan kecerdasan buatan lebih dekat dengan perangkat atau sumber data.
Keuntungannya bukan hanya kecepatan. Dalam kondisi tertentu, pemrosesan lokal juga dapat mengurangi kebutuhan mengirim data mentah ke server eksternal. Namun sekali lagi, keamanan perangkat dan pengelolaan model tetap harus diperhatikan.
Apa Kekurangan Small Language Model?
SLM tentu bukan solusi untuk semua kebutuhan AI.
Keterbatasan paling jelas adalah kemampuan model. Model yang lebih kecil biasanya memiliki kapasitas yang lebih terbatas dibandingkan model besar dalam menangani persoalan yang sangat kompleks dan beragam.
Jika tugas membutuhkan penalaran panjang, konteks yang sangat luas, pengetahuan umum yang kompleks, atau kemampuan multimodal tertentu, model besar mungkin masih memiliki keunggulan.
Selain itu, model kecil yang sangat dioptimalkan untuk tugas tertentu dapat kehilangan fleksibilitas ketika diberikan pekerjaan di luar ruang lingkupnya.
Ada juga risiko bahwa pengguna terlalu fokus pada ukuran model tanpa melakukan pengujian yang tepat. Model kecil yang murah tetapi menghasilkan banyak kesalahan belum tentu lebih menguntungkan daripada model besar yang lebih mahal tetapi jauh lebih akurat.
Karena itu, keputusan menggunakan SLM harus didasarkan pada benchmark dan kebutuhan nyata, bukan hanya klaim bahwa model tersebut lebih kecil atau lebih cepat.
SLM atau LLM, Mana yang Lebih Baik?
Tidak ada jawaban tunggal.
Jika Anda membutuhkan AI untuk berbagai pekerjaan kompleks, model besar masih sangat relevan. Model tersebut biasanya memberikan kemampuan yang lebih luas dan fleksibel.
Namun, jika kebutuhan Anda spesifik, volume permintaan tinggi, latency penting, biaya harus ditekan, atau data perlu diproses di lingkungan lokal, SLM dapat menjadi pilihan yang sangat menarik.
Dalam banyak kasus, solusi terbaik bahkan bukan memilih salah satunya.
Perusahaan dapat membangun arsitektur hybrid AI. SLM menangani tugas-tugas sederhana dan berulang, sedangkan LLM digunakan untuk permintaan yang membutuhkan kemampuan lebih tinggi.
Misalnya:
Pertanyaan sederhana → SLM
Pertanyaan kompleks → LLM
Data sensitif → model lokal
Tugas berisiko tinggi → human review
Pendekatan seperti ini membuat AI lebih fleksibel sekaligus membantu perusahaan mengendalikan biaya dan risiko.
Apakah Masa Depan AI Ada di Model Kecil?
Perkembangan SLM tidak berarti era model besar akan berakhir. Justru kemungkinan yang terjadi adalah ekosistem AI akan menjadi semakin beragam.
Model besar akan tetap dibutuhkan untuk pekerjaan yang kompleks. Model kecil akan semakin banyak digunakan untuk tugas yang membutuhkan efisiensi dan kecepatan.
Perusahaan juga akan memiliki lebih banyak pilihan untuk menentukan di mana sebuah model dijalankan, data apa yang boleh diakses, dan model mana yang digunakan untuk jenis pekerjaan tertentu.
Perubahan tersebut dapat membuat arsitektur AI menjadi lebih fleksibel.
Di masa depan, bukan tidak mungkin sebuah aplikasi menggunakan beberapa model sekaligus. Pengguna mungkin tidak pernah mengetahui model mana yang bekerja di belakang layar karena sistem secara otomatis memilih model berdasarkan jenis permintaan.
Jika pertanyaan sederhana, sistem menggunakan model kecil. Jika pertanyaannya kompleks, sistem mengarahkannya ke model yang lebih besar. Jika data bersifat sensitif, sistem dapat memilih model lokal.
Dengan pendekatan tersebut, masa depan AI bukan lagi sekadar perlombaan siapa yang memiliki model terbesar, tetapi juga siapa yang mampu menggunakan model secara paling efisien.
Kesimpulan
Small Language Model atau SLM menunjukkan bahwa perkembangan AI tidak selalu harus bergantung pada model yang semakin besar. Model dengan ukuran lebih kecil dapat memberikan keuntungan dari sisi efisiensi, kecepatan, biaya, dan kemampuan menjalankan AI pada lingkungan dengan sumber daya terbatas.
SLM memang tidak secara otomatis lebih pintar daripada LLM. Namun, ketika dirancang dan dioptimalkan untuk kebutuhan tertentu, model kecil dapat memberikan performa yang sangat kompetitif. Teknik seperti knowledge distillation, fine-tuning, instruction tuning, dan quantization juga membantu membuat model menjadi lebih ringan tanpa harus kehilangan seluruh kemampuan pentingnya.
Bagi perusahaan, pilihan antara SLM dan LLM seharusnya tidak didasarkan pada tren semata. Yang lebih penting adalah melihat kebutuhan bisnis, jenis tugas, tingkat akurasi yang dibutuhkan, biaya operasional, latency, keamanan data, serta infrastruktur yang tersedia.
Pada akhirnya, masa depan AI kemungkinan tidak akan diisi oleh satu jenis model saja. Model besar dan model kecil akan hidup berdampingan dan digunakan sesuai kebutuhan.
Jika LLM ibarat seorang generalis yang mampu menangani banyak pekerjaan, SLM dapat menjadi spesialis yang bekerja lebih cepat dan efisien untuk tugas tertentu.
Dan ketika perusahaan mulai menyadari bahwa tidak semua pekerjaan membutuhkan AI terbesar, pertanyaan dalam industri pun perlahan berubah.
Bukan lagi:
"Seberapa besar model AI yang kita gunakan?"
Melainkan:
"Model mana yang paling tepat untuk pekerjaan yang ingin kita selesaikan?"
