Kendi bilgisayarınızda yapay zeka kullanmak istiyorsanız, Ollama gerçekten başarılı sonuçlar veriyor. Ancak, modelin parametre sayısına bağlı olarak sisteminizin donanım açısından yeterli olması gerekiyor. Benim gibi i5 işlemcili, 8 GB RAM’e sahip bir bilgisayar kullanıyorsanız, yaklaşık 7 milyar parametreli bir modeli çalıştırmanız mümkün. Tabii ki ChatGPT veya Gemini gibi çevrimiçi hizmetlerle aynı hızda çalışmıyor. Ayrıca, modele ve kullanım yoğunluğuna göre enerji tüketiminiz artabilir.
Boşta duran bir bilgisayarı değerlendirmek için oldukça mantıklı bir araç. Hatta Raspberry Pi 3 gibi düşük güçlü bir mini bilgisayarda bile çalışabilecek küçük modeller mevcut. Bu cihazlar, 500 milyon parametrenin altındaki modelleri sorunsuz şekilde çalıştırabiliyor.
Ollama’yı indirmek ve kurulum aşamaları
Bilgisayarınızda kullanabileceğiniz modeller
Bir yanıt yazın