📌 Hızlı Özet:
LLM’ler birer hesap makinesi veya terminal değildir; ancak hangi aracı ne zaman kullanacaklarını bilecek kadar iyi birer orkestra şefidirler. Function Calling bu gücün anahtarıdır.


Function Calling ve AI Ajan Döngüsü

Ajan Döngüsü (ReAct Pattern)

Bir otonom ajanın çalışma prensibi üç adımdan oluşur:

  1. Düşün (Reason): Kullanıcının isteğini analiz et ve neye ihtiyaç olduğunu belirle.
  2. Eyleme Geç (Act): Aracı çağır (örn: get_weather(city='Ankara')).
  3. Gözlemle (Observe): Dönen sonucu bağlama ekle ve son kullanıcıya insani bir özet sun.

📌 Sıradaki İlgili Rehber: Google Project Astra Nedir? Canlı Görsel Asistanlar Nasıl Çalışır?
Ajanların kamera ve ses ile gerçek dünyayı yönetmesi.

Function Calling Mimarisi: JSON Şemaları ile Deterministik Çıktı

Büyük dil modelleri (LLM) doğrudan Python kodu veya SQL sorgusu çalıştırmaz. Bunun yerine model, kullanıcının niyetini analiz ederek sistemde tanımlı fonksiyonların JSON şemasına uygun parametre nesnesi üretir:

[Kullanıcı İstemi] ──▶ [LLM Çıkarımı] ──▶ [JSON Tool Call Argümanı]
                                                    │
                                                    ▼
[İstemci / Agent Runtime] ◀── [İş Mantığı & API] ───┘
         │
         ▼
[Araç Yanıtı (Tool Result)] ──▶ [LLM Final Sentezi] ──▶ [Kullanıcıya Yanıt]

Model ile çalışma ortamı arasındaki bu kontrat, OpenAI ve Anthropic tarafından standartlaştırılmış JSON Schema yapısıyla tanımlanır:

{
  "type": "function",
  "function": {
    "name": "get_stock_and_price",
    "description": "Depo veritabanından ürünün stok adedini ve anlık fiyatını getirir.",
    "parameters": {
      "type": "object",
      "properties": {
        "sku": {
          "type": "string",
          "description": "Ürün stok takip kodu, örn. PROD-9812"
        },
        "warehouse_id": {
          "type": "integer",
          "description": "Sorgulanacak depo kimlik numarası"
        }
      },
      "required": ["sku"]
    }
  }
}

ReAct (Reasoning + Acting) Döngüsü ve Durum Yönetimi

Basit bir fonksiyon çağrısının ötesinde özerk AI ajanları (Autonomous Agents), ReAct döngüsü ile çok adımlı problemleri çözer:

  1. Düşünce (Thought): Model mevcut durumu ve hedefe ulaşmak için hangi eksik bilgiye ihtiyacı olduğunu metin olarak açıklar.
  2. Eylem (Action): Belirlenen aracı çağırır (örn. search_database veya fetch_user_profile).
  3. Gözlem (Observation): Aracın döndürdüğü ham veriyi okur ve hafızaya ekler.
  4. Döngü veya Çıkış: Bilgi yeterliyse son cevabı üretir; yetersizse yeni bir düşünce-eylem adımına geçer.
Ajan Çerçevesi (Framework) Öne Çıkan Özellik En İyi Kullanım Senaryosu
LangGraph / LangChain Döngüsel graf mimarisi, checkpointing Karmaşık kurumsal iş akışları, insan onay döngüleri
CrewAI Rol tabanlı çoklu ajan orkestrasyonu Araştırma, içerik üretimi, kod denetim takımları
Autoogen (Microsoft) Konuşma tabanlı ajan iş birliği Çoklu yapay zeka müzakeresi ve otomatik kod çalıştırma
LlamaIndex Agents Veri yapıları ve indeks odaklı Yoğun doküman ve RAG destekli bilgi ajanları

Function Calling Uygularken 3 Kritik Güvenlik Kuralı

  1. Güvensiz Kod Çalıştırma (Code Execution Sandbox): Modelin ürettiği Python kodlarını doğrudan ana sunucuda exec() veya eval() ile çalıştırmayın. Her zaman gVisor, Docker veya WebAssembly (WASM) gibi izole sandbox ortamları kullanın.
  2. SQL Injection Koruması: Ajanın parametre olarak döndürdüğü değerleri dinamik SQL string birleştirmede kullanmayın; daima ORM veya parametreli sorgular (prepared statements) ile çalıştırın.
  3. Yetki Kontrolü (Least Privilege): Ajanın çağırabileceği araçları salt-okunur (read-only) ve yazma (write) olarak ikiye ayırın. Veritabanını güncelleyen veya e-posta gönderen işlemler için her zaman kullanıcı arayüzünde manuel onay (Human-in-the-loop) adımı bırakın.

Ajanlarda Bellek (Memory) Mimarisi ve Token Bütçesi Yönetimi

Yapay zeka ajanları çok adımlı görevleri icra ederken bağlam penceresi (context window) hızla dolar. Etkili bir ajan mimarisinde bellek katmanı üç seviyede yönetilir:

  1. Kısa Süreli Bellek (Short-Term Scratchpad): Modelin anlık konuşma turunda yürüttüğü düşünce adımlarını ve araç çağrı çıktılarını tutar.
  2. Epizodik Bellek (Episodic Memory): Ajanın daha önceki benzer görevlerde hangi adımları izlediğini ve hangi hatalarla karşılaştığını vektör veritabanında saklar.
  3. Anlamsal Özetleme (Semantic Summarization): Konuşma geçmişi belirli bir token eşiğini (örn. 8,000 token) aştığında arka plandaki hafif bir model geçmişi özetleyerek tek bir sistem mesajına dönüştürür.

Üretim Seviyesinde Hata Yakalama ve Kurtarma (Error Recovery)

Ajan harici bir API’yi çağırırken sunucu 500 hatası döndüğünde veya JSON şeması bozulduğunda tüm sürecin çökmemesi için Self-Healing Loop (Kendi Kendini Onarma) döngüsü kurulmalıdır:

  • Hata Mesajını Modele Besleme: Standart exception fırlatmak yerine “API 404 döndürdü; aranan ‘user_id’ bulunamadı. Lütfen kullanıcı e-postasıyla aramayı deneyin.” şeklinde açıklayıcı hata mesajı modele araç yanıtı olarak gönderilir.
  • Maksimum Adım Sınırı (Max Recursion Limit): Modelin sonsuz bir döngüde aynı aracı sürekli çağırmasını engellemek için her ajan görevine mutlak bir sayaç (örn. maksimum 10 döngü) konulmalıdır.

Sıkça Karşılaşılan Sorular ve Sahadan Uzman Yanıtları (FAQ)

1. Bu mimariyi uygularken ilk aşamada en çok yapılan hata nedir?

En sık karşılaşılan tuzak, konfigürasyon parametrelerini ve sistem sınırlarını test etmeden doğrudan varsayılan değerlerle (default values) üretime almaktır. Özellikle yüksek eşzamanlılık (concurrency) ve bellek kısıtlı ortamlarda varsayılan ayarlar ani gecikme artışlarına ve soket tükenmesine (socket exhaustion) yol açar. Sistem her zaman kademeli yük testleriyle doğrulanmalıdır.

2. Performansı optimize ederken hangi metrikler izlenmelidir?

Sistemin sağlığını izlerken tek başına CPU kullanımına bakmak yanıltıcıdır. P95 ve P99 gecikme süreleri (latency percentiles), bellek tahsis hızları (heap allocation rate), I/O bekleme süreleri (iowait) ve hata oranları (error rate) birincil göstergeler olmalıdır. Grafana veya Prometheus gibi araçlarla bu metrikler anlık olarak takip edilmelidir.

3. Geriye dönük uyumluluk (Backward Compatibility) nasıl garanti edilir?

API ve veri formatı güncellemelerinde anlamsal sürümleme (SemVer) kurallarına sıkı sıkıya bağlı kalınmalıdır. Protokol veya şema değişikliklerinde eski versiyon en az iki ara sürüm boyunca desteklenmeli ve geçiş köprüleri (adapter layer) tanımlanmalıdır.

Üretime Alma ve Güvenlik Doğrulama Kontrol Listesi

Sistemi canlıya almadan veya sahaya çıkarmadan önce şu adımları tamamlayın:

  • Hata Yakalama ve Loglama: Tüm kritik akışlarda yapılandırılmış loglama (JSON formatında) ve panik/crash kurtarma mekanizmaları kuruldu.
  • Giriş Doğrulama (Sanitization): Dış dünyadan veya istemciden gelen tüm parametreler sıkı tip ve sınır denetiminden geçirildi.
  • Kaynak Sınırları (Resource Limits): Süreç bazında bellek (cgroups/RAM) ve dosya tanımlayıcı (ulimit -n) sınırları tanımlandı.
  • Otomatik Yedekleme ve Kurtarma: Sistem çökmesi durumunda otomatik yeniden başlama (systemd / restart: always) politikası test edildi.