LLM nedir? Büyük dil modelleri nasıl çalışır, markanızı nereden tanır

LLM, çok büyük metin kümeleriyle eğitilen, kendisine verilen metnin devamındaki parçaları tahmin ederek yanıt üreten ve Türkçede büyük dil modeli adıyla anılan bir yapay zekâ modelidir. Bu parçaları tokenTokenModelin işlediği, bir sözcüğe veya sözcüğün bir bölümüne karşılık gelen metin birimi. olarak adlandırırız.

Biz pazarlama işlerinde modelin yazma becerisiyle markaya ilişkin bilgisini ayrı değerlendiririz. Akıcı bir hizmet açıklaması, doğru hizmet açıklaması demek değildir. Marka adını tanıması da güncel adresi veya fiyatı bildiğini göstermez. Bu yüzden hem modele verdiğimiz kaynağı hem ürettiği yanıtı kontrol ederiz.

LLM nedir, ne demek?

LLM, İngilizce “Large Language Model” ifadesinin kısaltmasıdır; Türkçesi büyük dil modelidir. Model, eğitimde karşılaştığı dil örüntülerinden yararlanarak yeni metin üretir. Örneğin bir hizmet metnini e-posta taslağına dönüştürürken aynı bilgiyi başka bir anlatımla kurmasını isteriz. Hizmetin ne olduğunu modelden tahmin etmesini beklemeyiz.

Yapay zekâ modelleri arasında OpenAI’ın GPT, Google’ın Gemini, Anthropic’in Claude ve Meta’nın Llama aileleri bulunur; ChatGPT, GPT ailesiyle ilişkilidir. Biz pazarlama ekibinde model adından önce yapılacak işi tanımlarız: taslak yazmak, verilen belgeleri karşılaştırmak veya sağladığımız veriyi yorumlamak. Her işte yanıtı değerlendirmek için farklı bir kaynak gerekir. Ürün açıklamasında ürün metnini, rapor yorumunda raporun kendisini esas alırız.

Büyük dil modelleri nasıl çalışır?

Büyük dil modelleri, önceki metni dikkate alarak sıradaki token’ı tahmin eder ve bu işlemi tekrarlayarak yanıtı oluşturur. Her yeni parça metne eklenir; ardından model bir sonraki parçayı üretir. Uzun bir paragraf da bu üretim sırasıyla ortaya çıkar.

“Toplantıdan sonra müşteriye” diye başlayan bir cümleyi düşünelim. Devamına yazılacak sözler, öncesindeki metne bağlıdır. Biz istemde bir tekliften söz edersek teklif bağlamı, rapordan söz edersek rapor bağlamı sağlar, yanıtı bu bilgiyle yönlendiririz. Modelin ürettiği devamın akıcı olması, müşteriye ilişkin ayrıntıların doğru olduğunu kanıtlamaz.

Günümüz büyük dil modellerinin çoğu, Google araştırmacılarının önerdiği transformer mimarisine dayanır. Pazarlama açısından belirleyici ayrım şudur: modelin yaptığı üretim, olası metin devamını kurmaktır. Biz şirket bilgisi, fiyat veya hizmet kapsamı istediğimizde doğrulama işini kaynak metinle yaparız. Yazının doğal görünmesiyle bilginin dayanağını aynı ölçüt saymayız.

Token nedir, bağlam penceresi ne işe yarar?

Token modelin işlediği metin birimidir; bağlam penceresi, modelin bir anda dikkate aldığı token sayısının sınırını belirler. Bir sözcük tek token’a ya da birden fazla token’a ayrılır. Türkçe gibi eklemeli dillerde sözcüklerin parçalara bölünmesi sıktır.

Biz bu nedenle kelime sayısını token sayısıyla eşitlemeyiz. Uzun bir kaynak metin hazırlarken yalnız sayfa sayısına bakmayız; görevle ilgili bölümleri seçer, hangi bilgiyi kullanacağımızı açık tutarız. Bağlam penceresini modelin bütün eğitim verisini o anda önünde tuttuğu bir alan gibi düşünmeyiz.

Kullanım ücretleri çoğunlukla token üzerinden hesaplanır. Belge özetleme işinde kaynak metnin uzunluğunu, beklediğimiz yanıtı ve kullanılacak modelin sınırını birlikte değerlendiririz. Gereksiz metni ayıklarız; hizmetin kapsamını değiştiren bir koşulu ise kısaltma uğruna çıkarmayız.

LLM güncel bilgiyi nereden alır?

LLM güncel bilgiyi yanıt sırasında yapılan aramadan veya kendisine sağlanan belgelerden alır. Eğitim verisinin bir kesim tarihi vardır; model bu tarihten sonraki bilgiyi kendi başına bilmez. Biz güncel fiyat, adres veya hizmet kapsamı sorusunda önce kaynağın güncelliğini kontrol ederiz.

Arama, yanıt hazırlanırken dışarıdan bilgi bulmayı sağlar. Belge verdiğimizde ise kullanılacak kaynak metni biz sağlarız. RAG, İngilizce “retrieval-augmented generation” ifadesinin kısaltmasıdır; bilgi getirme destekli üretim anlamına gelir. Bu yaklaşımda yanıt, getirilen kaynak bilgisiyle hazırlanır.

Örneğin bir hizmetin kapsamı değiştiğinde modele güncel hizmet metnini verir, açıklamayı bu metne dayanarak hazırlatırız. Kaynakta bulunmayan bir hizmeti eklemesini istemeyiz. Arama kullanıyorsak yanıtın hangi sayfaya dayandığına bakarız. Güncel soruyu yalnız eğitim verisinden gelen yanıtla kapatmayız; eski bir kaynağı tekrar sunmak da güncellik sorununu çözmez.

Halüsinasyon nedir, model neden uydurur?

Halüsinasyon, modelin gerçek olmayan bilgiyi akıcı ve emin bir dille üretmesidir; model olası sözcük dizisini kurarken eksik bilgiyi uydurarak tamamlar. Yanlış fiyat, yanlış kurucu adı ve gerçekte bulunmayan kaynak bu hatanın örnekleridir.

Biz yanıtın kesin tonunu doğruluk kanıtı saymayız. Bir marka açıklamasını incelerken hizmet adını hizmet sayfasıyla, adresi iletişim bilgisiyle, fiyatı onaylı fiyat kaynağıyla karşılaştırırız. Kaynak gösterilmişse ilgili metnin iddiayı gerçekten destekleyip desteklemediğini okuruz. Yalnız kaynak adının yazılması kontrolü tamamlamaz.

İstemimize “Yalnız verilen metindeki bilgileri kullan; eksik bilgiyi eksik olarak belirt” koşulunu ekleriz. Ardından çıkan yanıtı aynı kaynakla denetleriz. Kaynakta fiyat yoksa yayın taslağına fiyat koymayız. Yanlış kurucu adı varsa önce doğru bilgiyi doğrular, sonra bu bilgiyi taşıyan sayfaları ve yanıtı düzeltiriz. Desteksiz bir iddiayı daha yumuşak yazarak metinde tutmayız.

LLM markanızı nereden tanır?

LLM markanızı eğitim verisinde karşılaştığı bilgilerden ve yanıt sırasında aradığı kaynaklardan tanır. Biz marka görünürlüğünü değerlendirirken modelin ne söylediğini, arama kullanılıp kullanılmadığını ve hangi kaynağa dayandığını birlikte inceleriz.

Üç ihtimal var:

1. Markayı hiç bilmiyor → Eğitim verisinde marka bilgisi bulunmaması ve aramanın açık olmaması durumunda kaynak ve erişimi kontrol ederiz; markayı anlatan sayfaları açık ve anlaşılır hâle getiririz.
2. Eski bilgi veriyor → Eğitim verisinin kesim tarihini dikkate alır, güncel marka sayfasını ve yanıt sırasında arama kullanımını kontrol ederiz; eski adresi güncel kaynakla karşılaştırırız.
3. Yanlış bilgi veriyor → Halüsinasyonu ve kaynak tutarsızlığını araştırırız; yanlış hizmet tanımını, marka adını veya iletişim bilgisini geçtiği kaynaklarda düzeltiriz.

Markanın LLM yanıtlarında doğru görünmesi için şu sırayla çalışırız:

1. Marka bilgisini netleştiririzMarka adını, hizmet tanımını, adresi ve iletişim bilgisini doğrular, esas alacağımız metni belirleriz.
2. Kaynakları eşitlerizWeb sitesini, işletme profillerini ve diğer kaynakları karşılaştırır; çelişen veya eski bilgileri düzeltiriz.
3. Erişimi kontrol ederizArama botlarının ilgili sayfalara erişimini ve robots.txt kurallarını inceler, görünmesini istediğimiz kaynakları erişilebilir tutarız.
4. Doğrudan yanıt yazarızMarkanın ne yaptığını ve hangi hizmeti verdiğini ilgili sayfada açık bir cümleyle anlatırız.
5. Yanıtı doğrularızModelin marka açıklamasını yeniden inceler; hizmet, adres ve iletişim bilgisini kaynaklarla karşılaştırırız.

Tarama denetiminde robots.txt nedir yazısındaki izin çerçevesini kullanırız. Biz GEO danışmanlığı çalışmasında içerik tutarlılığıyla kaynak erişimini birlikte ele alırız. Tek bir doğru yanıtı bütün marka bilgisinin düzeldiğine kanıt saymayız; kontrolü hizmet ve iletişim sorularında da sürdürürüz.

Pazarlama ekibi LLM’i nasıl kullanır?

Pazarlama ekibi LLM’i taslak üretimi, belge özetleme ve sağladığı veriyi analiz etme işlerinde kullanır; sonucu editör olarak doğrularız. Biz görevi seçerken hangi çıktıyı istediğimizi ve doğrulama kaynağımızı baştan belirleriz.

Üç ihtimal var:

1. Taslak üretiyoruz → İstemi ve kaynak bilgiyi verir, çıkan metni editör denetiminden geçiririz; modelin eklediği hizmet ve fiyat iddialarını kontrol ederiz.
2. Belge özetliyor veya karşılaştırıyoruz → Kaynak metinleri sağlarız; özette kapsamı değiştiren eksikleri, karşılaştırmada belgelerle uyuşmayan ifadeleri düzeltiriz.
3. Ölçüm ve analiz yapıyoruz → Veriyi biz veririz; yanıttaki rakamları raporla karşılaştırır, modelin eksik ölçümü kendiliğinden tamamlamasını kabul etmeyiz.

Belge karşılaştırmasında örnek isteğimiz şöyledir: “Verdiğimiz iki hizmet metnini karşılaştır. Ortak hizmetleri ve kapsam farklarını ayrı yaz. Her farkın hangi metne dayandığını belirt; belgelerde bulunmayan hizmet ekleme.” Yanıtı okurken yalnız farklı sözcükleri işaretleyen satırlarla gerçekten farklı hizmet anlatan satırları ayırırız. Editör olarak kararımızı belgenin içeriğine dayandırır, modelin yorumuyla hizmet kapsamını değiştirmeyiz.

İnce ayar, modeli belirli bir görev için ek veriyle eğitmektir. Çoğu pazarlama işini istem ve kaynak metinle çözeriz. Önce görevi netleştirir, kullanılacak belgeyi verir ve çıkan metni denetleriz. İstemi prompt ne demek yazısındaki görev ve kaynak ayrımına göre kurarız.

LLM kullanırken hangi hatalar yapılır?

LLM kullanırken temel hatalar, eğitim bilgisini güncel kabul etmek, eksik kaynağı modele tamamlatmak ve akıcı yanıtı doğrulanmış saymaktır. Biz düzeltmeyi hatanın kaynağından başlatırız.

Uzun istemde ürün bilgisi yoksa yalnız daha fazla talimat eklemeyiz; gerekli kaynak metni sağlarız. Yanlış adres veren yanıtı düzeltirken web sitesindeki eski adresi bırakmayız. Rapor yorumundaki rakamı da modelin açıklaması ikna edici olduğu için kabul etmeyiz.

Yayına hazırladığımız metinde her hizmet, fiyat ve marka bilgisinin dayanağını kontrol ederiz. Kaynak eksikse önce bilgiyi tamamlar, ardından taslağı yeniden değerlendiririz. Markanın yapay zekâ yanıtlarındaki görünürlüğüne ilişkin içeriklerimiz GEO yazılarımız içinde yer alır.

Sık sorulan sorular