Yapay Zekâ Ajanı (AI Agent) Nedir?

Ajan döngüsü

Bir ajanın çekirdeği basit bir döngüdür. Model hedefi ve o ana kadar olanları okur, bir sonraki eylemi seçer, uygulama bu eylemi yürütür, sonuç modele geri verilir ve döngü hedefe ulaşılana ya da bir sınıra takılana kadar sürer:

adim = 0
while adim < MAKS_ADIM:
    eylem = model.karar_ver(hedef, gecmis, araclar)
    if eylem.tur == "son_cevap":
        break
    if eylem.geri_donussuz_mu and not kullanici_onayladi(eylem):
        gecmis.ekle("Kullanıcı onay vermedi")
        continue
    sonuc = araci_calistir(eylem)   # yetki kontrolü burada
    gecmis.ekle(sonuc)
    adim += 1

Bu döngüde modelin yaptığı tek şey bir sonraki adıma karar vermektir. Aracı çalıştıran, yetkiyi denetleyen, adım sınırını uygulayan ve onay isteyen her zaman uygulamanın kendisidir.

Bir ajanı oluşturan parçalar

• Model: Talimatları anlayan ve araç çağrısı üretebilen bir dil modeli.
• Araçlar: Modelin isteyebileceği işlemler; teknik olarak fonksiyon çağırma ile tanımlanır. Araçların farklı sistemlerden standart bir yolla sunulması için Model Context Protocol gibi protokoller kullanılabilir.
• Bağlam ve hafıza: Hedef, önceki adımlar, ara sonuçlar ve gerektiğinde kalıcı notlar. Bu bilginin ne kadarının, hangi sırayla modele verileceği bağlam mühendisliği konusudur.
• Planlama: Görevi alt adımlara bölmek ve sonuç beklenen gibi çıkmadığında planı güncellemek.
• Korumalar: Yetki sınırları, onay noktaları, bütçe ve adım limitleri, kayıt.

Korumalar neden tasarımın merkezinde olmalı?

Bir ajan yalnızca kendisine verilen yetki kadar zarar verebilir; bu yüzden ilk kural en az yetki ilkesidir. Yalnızca sipariş durumunu okuması gereken bir ajan, iade yapabilen bir API anahtarı taşımamalıdır.

• Geri dönüşü olmayan eylemlerde insan onayı: Ödeme, silme, e-posta gönderme, yayına alma.
• Güvenilmeyen içerik: Ajanın okuduğu bir web sayfası, e-posta ya da belge, modele yeni talimatlar vermeye çalışan metin içerebilir. Bu risk prompt enjeksiyonu olarak bilinir; araç sonuçları talimat değil veri olarak ele alınmalıdır.
• Limitler: En fazla adım sayısı, toplam maliyet ve süre. Sonsuz döngüye giren bir ajan hem fatura hem de hedef sistem için sorundur.
• İzlenebilirlik: Her araç çağrısının argümanı ve sonucu kaydedilmelidir; bir şey ters gittiğinde neyin neden yapıldığı ancak böyle anlaşılır.
• Yalıtım: Kod çalıştıran ajanlar, gerçek sistemlerden ayrılmış bir ortamda (sandbox) çalışmalıdır.

Her otomasyonun ajana ihtiyacı yoktur

Adımları önceden belli olan bir iş, örneğin “form gelince CRM'e kaydet ve satış ekibine bildirim gönder”, klasik otomasyon ile daha ucuz, daha hızlı ve daha öngörülebilir biçimde yapılır. Ajanlar, hangi adımların gerekeceğinin önceden bilinemediği işlerde anlam kazanır: dağınık bir sorunu araştırmak, farklı kaynaklardan bilgi toplamak, bir kod tabanında hata ayıklamak gibi.

“Ajan” kelimesi pazarlamada çok geniş kullanılıyor; bir sohbet botu da, sabit bir iş akışı da zaman zaman bu adla satılıyor. Bir çözümü değerlendirirken sorulacak somut sorular şunlardır: Model hangi araçları çağırabiliyor, hangi yetkiyle, hangi adımlar insan onayı gerektiriyor ve hata olduğunda kayıtlar nerede?