Teknoloji & Mimari

VerimliAI Teknoloji Yigini (Tech Stack)

Dogal Dil Isleme (NLP) ve LLM Altyapimiz

VerimliAI, isletmelere ozel AI asistanlari olustururken dunyanin en gelismis buyuk dil modellerini (LLM) kullanir. Bu modeller, insan dilini anlama, yorumlama ve yanit uretme kapasitesine sahiptir. Kullandigimiz modeller:

• OpenAI GPT-4o: OpenAI'nin en guncel ve en hizli cok modlu modeli. Turkce anlama ve uretmede en yuksek performansi gosterir. Saniyeler icinde dogal ve akici yanitlar uretir.
• Anthropic Claude 3.5: Ozellikle uzun dokuman analizi ve karmasik talimatlari takip etme konusunda cok gucludur. Hukuki metinler, teknik dokumanlar ve uzun SSS'ler icin idealdir.
• Meta Llama 3: Acik kaynakli model. Hassas verilerin sirket sunuculari disina cikmamasi gereken kurumsal projelerde tercih edilir.

RAG (Retrieval-Augmented Generation) Sistemi

Standart bir chatbot, egitildigi genel verilerle yanit verir ve sizin isletmenize ozgur bilgileri bilemez. RAG (Dokuman Destekli Uretim) sistemi, AI'in sizin kendi dokumanlarinizi, urun kataloglarinizi, SSS'lerinizi ve politika belgelerini "okuyarak" yanit vermesini saglar.

Calisma prensibi sudur: Isletmenizin tum bilgi tabani (urun aciklamalari, fiyat listesi, iade politikasi, kargo bilgileri) bir vektor veritabaninda saklanir. Musteri bir soru sordugunda, AI bu soruyu vektor veritabaninda aratir, en ilgili bilgileri bulur ve bu bilgilere dayanarak yanit uretir. Bu sayede AI sadece sizin verdiginiz bilgilerle konusur; halusinasyon (uydurma) riski sifira yakin seviyeye iner.

Vektor Veritabani ve Embedding Teknolojisi

Vektor veritabani, metinleri matematiksel vektorlere (embedding) donusturerek saklayan ozel bir veritabani turudur. Bu teknoloji sayesinde AI, "ayni anlama gelen ama farkli kelimelerle ifade edilmis" sorulari da dogru sekilde eslestirebilir. Ornegin "kargo ne zaman gelir" ile "siparisim ne zaman elime ulasir" ayni vektor uzayinda birbirine yakin konumlanir ve AI her iki soruya da dogru yaniti verir.

Entegrasyon Katmani: API Ekosistemi

VerimliAI cozumlerinin en buyuk gucu, dis sistemlerle sorunsuz entegrasyonudur. Kullandigimiz entegrasyon katmani su bilesenlerden olusur:

• ManyChat: Instagram DM ve Facebook Messenger otomasyonu icin endustri standardi chatbot platformu. Gorsel akis tasarimi ve ChatGPT entegrasyonu destekler.
• Make.com (eski Integromat): Gorsel is akisi otomasyon platformu. 2000'den fazla uygulama ile sürükle-bırak mantigiyla entegrasyon kurulabilir. Kod yazmaya gerek kalmaz.
• Zapier: Make.com alternatifi, 5000+ uygulama destekli otomasyon platformu.
• Shopier API, Trendyol API, Shopify API: E-ticaret platformlariyla dogrudan API entegrasyonlari.
• WhatsApp Cloud API (Meta): WhatsApp Business mesajlasma altyapisi.

Veri Guvenligi Mimarisii

Kurumsal firmalarla calisirken veri guvenligi en oncelikli konumuzdur. Tum sistemlerimiz su guvenlik katmanlarini icerir:

1. SSL/TLS Sifreleme (Aktarim Katmani): Kullanici ile sunucu arasindaki tum veri akisi 256-bit sifreleme ile korunur.
2. API Anahtar Yonetimi: Tum API anahtarlari sifreli ortam degiskenlerinde saklanir, kaynak kodda yer almaz.
3. OpenAI/Anthropic Veri Politikasi: API verileri model egitiminde kullanilmaz. Veriler 30 gun sonra otomatik silinir.
4. Iki Faktorlu Kimlik Dogrulama (2FA): Sistem paneline erisim zorunlu 2FA ile korunur.
5. Erisim Loglari: Tum sistem erisimleri kayit altina alinir. Yetkisiz erisim denemeleri aninda bildirilir.
6. Veri Sahipligi: Sisteme yuklenen tum veriler musterinin mulkiyetindedir. Sozlesme sonunda 30 gun icinde tum kopyalar silinir.

RAG Mimarisi: Bilgi Getirme ve Uretim Katmani

Retrieval-Augmented Generation (RAG), buyuk dil modellerinin (LLM) kendi egitim verileriyle sinirli kalmayip, disaridan beslenen ozel bilgi tabanlarina erisebilmesini saglayan bir mimaridir. Standart bir LLM yalnizca egitildigi verilerle yanit uretir; sizin isletmenize ozgu urun katalogunu, iade politikanizi veya kampanya detaylarinizi bilemez. RAG, bu siniri ortadan kaldirir.

RAG mimarisi iki asamali calisir. (1) Retrieval (Getirme) Asamasi: Kullanicinin sordugu soru, bir embedding modeli (OpenAI text-embedding-3-large) tarafindan 3.072 boyutlu bir vektore donusturulur. Bu vektor, vektor veritabaninda (Pinecone, Chroma veya Weaviate) depolanan tum dokuman parcalarinin vektorleriyle karsilastirilir. Kosinus benzerligi (cosine similarity) metrigi kullanilarak en yakin 3-5 dokuman parcasi secilir. (2) Generation (Uretim) Asamasi: Secilen dokuman parcalari, orijinal soruyla birlikte bir prompt sablonunda birlestirilir ve LLM'e gonderilir. LLM, yalnizca bu dokuman parcalarina dayanarak yanit uretir; bu sayede halusinasyon riski minimize edilir ve yanitlar kaynak gosterilebilir hale gelir.

Vektor Veritabani ve Embedding Teknolojisi

Vektor veritabani, metinleri anlamsal olarak indeksleyen ozel bir veritabani turudur. Geleneksel veritabanlari anahtar kelime eslesmesiyle calisirken ("kargo" kelimesini arar), vektor veritabani anlamsal benzerlikle calisir ("kargo ne zaman gelir" ile "siparisim ne zaman ulasir" ayni vektor uzayinda birbirine yakin konumlanir). Bu, AI'in farkli ifade edilmis ayni anlamli sorulari dogru yanitlamasini saglar. Kullandigimiz embedding modelleri, metinleri 1.536 ile 3.072 boyut arasinda degisen yogun vektorlere (dense vectors) donusturur. Her boyut, metnin belirli bir anlamsal ozelligini temsil eder.

Dokuman Parcalama (Chunking) Stratejileri

RAG performansi, dokumanlarin nasil parcalandigina (chunking) dogrudan baglidir. Cok buyuk parcalar (10.000+ token), LLM'in baglam penceresini zorlar ve alakasiz bilgileri de yanita dahil etmesine sebep olur. Cok kucuk parcalar (100 token), yeterli baglami tasimaz ve anlamsiz yanitlara yol acar. VerimliAI olarak su chunking stratejilerini kullaniyoruz: (1) Anlamsal parcalama — paragraf ve baslik sinirlarina saygi gosteren akilli bolme, (2) Kayan pencere (sliding window) — her parcanin bir onceki ve bir sonrakiyle %20 oraninda ortusmesi, baglam surekliligini saglar, (3) Hiyerarsik indeksleme — dokuman once baslik seviyesinde, sonra paragraf seviyesinde indekslenir; soru once basliklarla, yeterli eslesme olmazsa paragraflarla karsilastirilir. Optimal chunk boyutu, kullanim senaryosuna bagli olarak 256-1024 token arasinda degisir. E-ticaret urun aciklamalari icin kucuk chunk'lar (256), hukuki metinler icin buyuk chunk'lar (1024) tercih edilir.

Multi-Model Stratejisi: GPT-4o, Claude ve Llama Karsilastirmasi

VerimliAI, tek bir LLM'e bagimli kalmaz; isletmenin ihtiyacina, butcesine ve guvenlik gereksinimlerine gore farkli modeller kullanir. Bu coklu model stratejisi (multi-model routing), her gorev icin en uygun modelin secilmesini saglar.

• OpenAI GPT-4o: Cok modlu (metin + gorsel + ses), 128K token baglam penceresi. Turkce anlama ve uretmede en yuksek performans. E-ticaret senaryolari, karmasik musteri diyaloglari ve cok adimli satis akislari icin birincil tercih.
• Anthropic Claude 3.5 Sonnet: 200K token baglam penceresiyle piyasadaki en genis baglama sahip modellerden biri. Ozellikle uzun hukuki metinler, detayli teknik dokumanlar ve karmasik talimat zincirlerinin takip edilmesinde ustundur. "Constitutional AI" yaklasimiyla daha guvenli ve etik yanitlar uretir.
• Meta Llama 3 (Acik Kaynak): Hassas verilerin sirket disina cikmamasi gereken kurumsal projelerde, modeli kendi sunucularimizda (on-premise) calistirarak tam veri izolasyonu saglariz. 70B parametreli versiyonu, kapali modellerle karsilastirilabilir performans sunar.