Büyük dil modellerine göre çok daha az parametreyle çalışan, dar bir görev kümesine odaklanan ve cihaz üzerinde ya da düşük maliyetle çalıştırılabilen dil modeli.
SLM nedir?
SLM, "Small Language Model" yani küçük dil modeli demektir. LLM ile aynı temel mimariyi paylaşır ama çok daha az parametreyle çalışır. Bunun sonucu doğrudan pratiktir: daha hızlı cevap verir, daha ucuza çalışır ve çoğu zaman bir sunucu çiftliğine değil tek bir cihaza sığar.
Karşılığında genellik kaybeder. Bir SLM'den her konuda derinlik beklenmez; iyi olduğu yer, sınırları belli tekrarlayan işlerdir — sınıflandırma, etiketleme, kısa özet, biçim dönüştürme, niyet ayırma. "Küçük" burada yetersiz demek değil, dar demektir.
SLM nerede işe yarar?
Doğru soru "hangisi daha iyi" değil, "bu iş için hangisi gerekli". Her görevi en büyük modele yaptırmak, bir zarfı taşımak için tır kiralamaya benzer: çalışır ama gereksiz maliyetlidir ve yavaştır.
- Yüksek hacimli ve tekrarlayan işler (yorum sınıflandırma, ürün etiketleme, form ayrıştırma) küçük modellerle çok daha ucuza çözülür.
- Gecikmenin kritik olduğu yerlerde — cihaz üzerinde çalışan özellikler, anlık öneriler — küçük model bir zorunluluk haline gelir.
- Verinin cihazdan çıkmaması gereken durumlarda yerel çalışabilmesi başlı başına bir avantajdır.
Pratikte iki model tipi rakip değil, birlikte kurgulanır: rutin adımları küçük model, muhakeme gerektiren adımı büyük model üstlenir. Bu iş bölümünün en görünür hali yapay zekâ ajanlarıdır.
Sık sorulan sorular
SLM ile LLM arasındaki fark nedir?
Ölçek ve amaç. LLM çok geniş bir bilgi ve yetenek yelpazesini kapsar, buna karşılık daha pahalı ve yavaştır. SLM çok daha az parametreyle çalışır; genellikten ödün verip hız, maliyet ve cihaz üzerinde çalışabilme kazanır. Dar ve tekrarlayan işlerde SLM, açık uçlu muhakemede LLM daha uygundur.
Küçük model kullanmak kaliteden ödün vermek mi demek?
Görev doğru seçilirse hayır. Sınıflandırma, etiketleme ya da biçim dönüştürme gibi sınırları belli işlerde küçük bir model, büyük modele yakın sonucu çok daha düşük maliyetle verebilir. Ödün, açık uçlu ve derin muhakeme gerektiren işlerde başlar — orada büyük model hâlâ gereklidir.
İlişkili kavramlar
LLM (Büyük Dil Modeli)
Çok büyük metin yığınları üzerinde eğitilmiş, bir sonraki kelimeyi tahmin ederek metin üreten yapay zekâ modeli; ChatGPT, Claude ve Gemini gibi ürünlerin arkasındaki teknoloji.
Yapay Zekâ Ajanları
Bir dil modelinin araç kullanarak, çok adımlı bir hedefi kendi başına planlayıp yürütebildiği sistem; sadece metin üretmez, arama yapar, sayfa okur ve işlem başlatır.