Orvon
EN

Kurumsal Yapay Zeka

Kurumun yanında değil, içinde çalışan yapay zeka.

Kurumsal yapay zeka çalışmalarının çoğu demo aşamasında kalır. Bizimki kalmıyor, çünkü modelden değil SAP sürecinden yola çıkıyoruz. Gecelik faturalama koşusunun gerçekte ne yaptığını, hangi ABAP raporunun onu yürüttüğünü ve dokunulduğunda neyin bozulacağını biliyoruz. Bu yüzden kurduğumuz otomasyon, mevcut sistemi değiştirmek yerine onu sürüyor.

  • Varsayılan olarak müdahalesiz

    Çalışanı sarmalıyoruz. Mevcut SAP programları sürülür, asla yeniden yazılmaz. Muhasebe açısından kritik bir süreçte bir AI ajanının devreye alınabilmesini sağlayan da budur.

  • Gerektiği yerde deterministik

    Skorlama ve doğrulama her aşamada deterministiktir; model yalnızca kontrolünü geçmiş adımlarda devreye girer. Çıktı denetlenebilir ve tekrarlanabilir kalır.

  • Veri gerektirdiğinde on-premise

    Veri yerelliği gerektirdiğinde GPU ortamını müşteri ağı içinde tasarlayıp devreye alıyoruz; böylece müşteri verisi kurumdan çıkmıyor.

  • Pilottan önce insan

    Benimseme, mühendislik probleminden önce bir eğitim problemidir. Üretime bir şey çıkmadan önce üst yönetim için okuryazarlık oturumları, direktörler için uygulamalı programlar yürütüyoruz.

Uygulama örnekleri

Süreç tasarımı

Agentic AI süreç tasarımları

Çok adımlı iş süreçlerini uçtan uca otomatikleştiren agentic AI sistemleri tasarlıyoruz; mevcut sistemleri değiştirmek yerine, onlara yapılan bir dizi araç çağrısını yöneten bir orkestrasyon katmanı kuruyoruz.

  • Orkestrasyon katmanı, mevcut sistemlere yapılan araç çağrılarını sıralı şekilde yönetir; sistemler yeniden yazılmaz.
  • Model devreye girmeden önce her adım deterministik doğrulama kapılarından geçer; çıktı denetlenebilir kalır.
  • Güven düzeyi düşük adımlar, sessizce başarısız olmak yerine bir insana yönlendirilir.

Muhasebe, lojistik ve operasyon süreçlerinin tümünde devreye alınabilir.

Entegrasyon

SAP ve SAP dışı entegrasyonlar

Agentic AI'ı hem SAP hem SAP dışı sistemlere bağlıyoruz; paralel bir sistem kurmak yerine mevcut işlemleri ve servisleri ajan için çağrılabilir araçlar olarak dışa açıyoruz.

  • SAP web servisleri ve ABAP submit katmanı, mevcut işlemleri çağrılabilir araçlar olarak dışa açar.
  • SAP dışı sistemler de kendi API'leri üzerinden aynı mantıkla entegre edilir.
  • Alttaki programlar yeniden yazılmaz, yalnızca sürülür.

Tüm ortamda, SAP olsun olmasın, tek bir entegrasyon deseni.

Dağıtım

Lokal ve API tabanlı dağıtım

Veri yerelliği gereksinimine göre, modelleri müşteri ağı içinde self-hosted olarak ya da bulut API'leri üzerinden devreye alıyoruz; mimari aynı, dağıtım hedefi değişiyor.

  • Müşteri verisi kurumdan çıkamıyorsa on-premise devreye alım.
  • Çıkabiliyorsa, daha hızlı kurulum ve daha düşük işletim yükü için bulut API'leri.
  • Her iki yolda da aynı orkestrasyon ve doğrulama katmanı çalışır.

Dağıtım modeli veriyi takip eder, tersi değil.

Teknoloji gerçekte nasıl çalışıyor

Soldaki ilkelerin arkasındaki mekanizma, sade bir dille.

  • Dikkat mekanizması (Attention)

    2017'de yayımlanan “Attention Is All You Need” makalesi, bugünün büyük dil modellerinin temelini attı. Önceki modeller metni soldan sağa, kelime kelime işlerken; transformer mimarisi bir cümlenin tamamına aynı anda bakabiliyor ve her kelimeye ne kadar “dikkat” vermesi gerektiğini öğreniyor. Bu sayede “o” gibi bir zamirin neye gönderme yaptığını yalnızca bağlamdan çözebiliyor.

  • Anlamın sayısal temsili (embedding)

    Model metni doğrudan okuyamaz; her kelimeyi çok boyutlu bir vektöre çevirir. Anlamca yakın kelimeler bu uzayda birbirine yakın noktalarda durur; üstelik bu temsil üzerinde gerçek matematiksel işlemler de yapılabilir: “kral − erkek + kadın” vektörel olarak “kraliçe”ye en yakın noktaya düşer.

  • Token ve context window

    Model metni kelime değil, token adı verilen daha küçük parçalar halinde işler; bir kelime ortalama 0,75 token'a karşılık gelir ve Türkçe, eklemeli yapısı yüzünden İngilizce'ye göre belirgin şekilde daha fazla token tüketir. Context window ise modelin aynı anda “görebildiği” toplam alandır: bu alan büyüdükçe daha uzun belgeleri tek seferde işleyebilirsiniz, ama doldukça hem maliyet hem yanıt kalitesi etkilenir.

    Birkaç sayfa 8KUzun bir rapor 32KKısa bir kitap 128KKüçük bir kitap serisi 1M
    Farklı context window büyüklükleri gerçekte ne kadar metin tutar.

    Günümüz yapay zeka modellerinde context window genellikle birkaç bin ile bir milyonun üzerinde token arasında değişir; büyüyen pencere tek seferde daha fazla metni işlemeyi sağlar, ama hem maliyeti hem yanıt kalitesini etkiler.

  • Halüsinasyon neden kaçınılmaz bir risk

    Model “doğruyu bilmez”; bir sonraki en olası kelimeyi tahmin eder. Hangi bilginin doğru olduğunu ayırt etmez; bir bilgi eğitim verisinde ne kadar sık geçtiyse o kadar güçlü öğrenilmiştir. Bu yüzden spesifik sayılar, tarihler ve az bilinen isimler yüksek risk taşır. Bunu; çıktıyı her zaman bir kaynağa bağlayarak, kritik adımları deterministik doğrulama kapılarından geçirerek ve modeli yalnızca bu kontrolleri geçmiş adımlarda devreye sokarak yönetiyoruz.

  • Prompt mühendisliğinin altı bileşeni

    İyi bir prompt; rol, görev, bağlam, format, örnek ve kısıt olmak üzere altı bileşenden oluşur. Transformer her token'ı üretirken bağlamdaki tüm kelimelere ağırlık verdiği için, ne kadar spesifik ve yapılandırılmış bir girdi verirseniz model o kadar isabetli bir sinyal alır. Aynı mantık, modeli çok adımlı problemlerde “adım adım düşün” diye yönlendirmekte (chain-of-thought) de işe yarar: ara adımlar token olarak üretilir ve sonucu daha sağlam kılar.

  • Markdown-öncelikli bilgi tabanı

    Kurumsal bilgiyi doğrudan bir vektör veritabanına gömmek yerine önce doğrulanabilir, insan tarafından da okunabilir markdown formatına dönüştürüyoruz. Doğrulanmamış veriyi vektörleştirmek, yalnızca dağınık veriyi daha hızlı aranabilir hale getirir; önce doğru, sonra hızlı. Vector/RAG katmanı ancak bu doğrulanmış temel üzerine kurulur: hafif, versiyon kontrollü ve aylar süren bir platform kurulumu beklemeden değer üretir.

Masanızda bir S/4HANA veya yapay zeka programı mı var?

Kapsamı ve takvimi bizimle paylaşın; size nasıl değer katabileceğimizi birlikte değerlendirelim.