Özel Belge Tabanlı (Offline) Yapay Zeka Asistanı Kurulum ve Kullanım Kılavuzu
1. Amaç
Bu rehberin amacı, yalnızca sizin sağladığınız PDF, Word ve TXT belgelerine dayanarak yanıtlar üreten, internetten veya başka kaynaklardan bilgi çekmeyen özel bir yapay zeka sistemi kurmanızı sağlamaktır. Bu sistem, özellikle gizlilik, denetim ve veri sınırlandırması gereken senaryolar için uygundur.
2. Gerekli Araçlar ve Yazılımlar
- Python 3.10+
- Ollama (yerel model çalıştırma altyapısı)
- LlamaIndex (eski adıyla GPT Index)
- LangChain (isteğe bağlı)
- PDF, Word ve TXT dosyaları
- FAISS veya benzeri vektör veritabanı
- Tüm sistem yerel (offline) çalışacaktır
3. Kurulum Adımları
3.1 Ortam Hazırlığı
python -m venv ai_env
source ai_env/bin/activate
pip install llama-index langchain ollama faiss-cpu python-docx PyMuPDF
3.2 Ollama Modelini Kur
ollama pull llama3
Modelfile örneği:
FROM llama3
SYSTEM """
Sadece yüklenen belgelerdeki bilgilerle cevap ver. Kendi tahminini veya dış bilgi kullanma.
"""
3.3 Belgeleri Yükle
- Belgeleri
docs/ klasörüne koyun: .pdf, .docx, .txt formatları desteklenir.
3.4 Vektör Veritabanı Oluştur
from llama_index import SimpleDirectoryReader, VectorStoreIndex
documents = SimpleDirectoryReader('docs').load_data()
index = VectorStoreIndex.from_documents(documents)
index.storage_context.persist(persist_dir="index_storage")
3.5 Soru Sorma
from llama_index import StorageContext, load_index_from_storage
storage_context = StorageContext.from_defaults(persist_dir="index_storage")
index = load_index_from_storage(storage_context)
query_engine = index.as_query_engine()
while True:
question = input("Soru: ")
print(query_engine.query(question))
4. Kurallar
- Dış bilgiye erişim yoktur.
- İnternet bağlantısı gerekmez.
- Yalnızca sizin yüklediğiniz belgeler üzerinden bilgi sağlar.
- Modeller
llama3 veya mistral gibi offline çalışabilen modeller olmalıdır.
5. Güvenlik ve Gizlilik
- Tüm dosyalar yerelde saklanır.
- Veri sızıntısı veya dış API kullanımı yoktur.
- Belgeye dayalı bilgi işleme tamamen kullanıcı kontrolündedir.
6. Kullanım Senaryoları
- Kapalı devre eğitim sistemleri
- Hukuki danışmanlık (belgeye dayalı)
- Kurumsal iç bilgi sistemleri
- Sadece belirli materyallerle sınırlandırılmış yapay zeka asistanları
7. Sonuç
Bu yapılandırma ile, dış dünyadan izole edilmiş, tamamen belgelerinizden bilgi alan özel bir yapay zeka sistemine sahip olursunuz.
Açık kaynak yazılımlar ve yerel modeller sayesinde, yüksek gizlilikli ve özelleştirilmiş bir asistan elde etmek mümkündür.