Kendi bilgisayarın üzerinde çalıştırabileceğin Yapay Zeka

Kendi bilgisayarın üzerinde çalıştırabileceğin, internete ihtiyaç duymayan ve verilerinin tamamen sende kaldığı yapay zeka modelleri (Local LLM) mevcuttur.

Bunu yapmanın en popüler ve kullanıcı dostu yolu, karmaşık kodlarla uğraşmadan “program indirip kurar gibi” yapay zekayı çalıştırmaktır.

Senin için LM Studio adında, kullanımı oldukça kolay ve ücretsiz bir aracı seçtim. Adım adım nasıl kuracağımızı anlatıyorum.

1. Gereksinimler (Önce Bunu Kontrol Edelim)

Bu işlem bilgisayarının gücüne dayanır. Verimli bir deneyim için şunlara sahip olman iyidir:

• Ekran Kartı (GPU): Tercihen NVIDIA (RTX serisi çok iyi iş çıkarır). Eğer güçlü bir ekran kartın yoksa işlemci (CPU) üzerinden de çalışır ama cevap vermesi yavaş olabilir.
• RAM: En az 8 GB (16 GB ve üzeri tavsiye edilir).
• Depolama: Modeller 4 GB ile 20 GB arasında yer kaplayabilir.

---

2. Kurulum Adımları: LM Studio

Bu program, ChatGPT benzeri bir arayüz sunar ve modelleri tek tıkla indirmeni sağlar.

Adım 1: Programı İndir

• Resmi sitesine git: lmstudio.ai
• “Download LM Studio for Windows” butonuna tıkla ve kurulum dosyasını indirip kur.

Adım 2: Bir Model İndir (Yapay Zeka Beyni)

Program açıldığında sol tarafta bir büyüteç (arama) simgesi göreceksin. Oraya tıkla. Şimdi bilgisayarına indireceğin “beyni” seçeceğiz. Şu an en popüler ve performanslı olanlardan birini öneriyorum:

1. Arama çubuğuna Llama 3 (Meta’nın modeli) veya Mistral yaz.
2. Sağ tarafta sonuçlar çıkacak. Genellikle en üstteki popüler sonuçları seç.
3. Önemli Not: İndirme seçeneklerinde “Quantization” diye bir şey göreceksin (Q4, Q5, Q8 gibi).
   • Eğer ekran kartın ortalama ise Q4_K_M yazan versiyonu indir (Hem hızlıdır hem de kalitesi iyidir).
   • Yeşil “Download” butonuna bas.

Adım 3: Sohbeti Başlat

1. İndirme bitince sol menüdeki “AI Chat” (konuşma balonu) simgesine tıkla.
2. Üst orta kısımda “Select a model to load” yazan yere tıkla ve az önce indirdiğin modeli seç.
3. Yeşil bir bar dolacak (model RAM’e yükleniyor).
4. Artık “Merhaba, nasılsın?” yazarak Türkçe sohbet etmeye başlayabilirsin!

---

3. Alternatif Yöntem: Ollama (Daha Hafif ve Hızlı)

Eğer LM Studio ağır gelirse veya daha basit, arka planda çalışan bir sistem istersen Ollama harika bir alternatiftir.

1. ollama.com adresinden indir ve kur.
2. Bilgisayarında terminali (Komut İstemi) aç.
3. Şu komutu yaz: ollama run llama3
4. Otomatik indirip terminal üzerinden seninle konuşmaya başlayacaktır.

---

Neden Kendi Bilgisayarında Kurmalısın?

• Gizlilik: Yazdığın hiçbir şey dışarıya gitmez. Şirket sırlarını veya özel hayatını güvenle konuşabilirsin.
• Sansürsüzlük: Bazı modeller (Uncensored olarak geçer) internetteki yapay zekalar gibi “buna cevap veremem” demez, daha özgürdür.
• İnternetsiz Erişim: İnternetin kesilse bile yapay zekan çalışır.