Kural motoru, yapay zekâ ve insan arasındaki görev paylaşımı

Görevler üç role ayrılır

Büyük dil modelleri metni okumakta, özetlemekte ve soruları yanıtlamakta güçlüdür. Ancak geri ödeme, provizyon ya da eczane süreçlerinde bir değerlendirmenin geçerli sayılması için doğru kurala dayanması, aynı girdiye her seferinde aynı sonucu vermesi ve sonradan savunulabilmesi gerekir. Olasılıksal çalışan bir dil modeli bu üç şartı tek başına güvenceye alamaz.

Bu nedenle mimaride görevler ayrılır. Kuralları açıkça tanımlanmış bir kural motoru değerlendirmeyi yapar. Yapay zekâ bu değerlendirmenin neden böyle çıktığını, hangi belgeye ve hangi kurala dayandığını anlaşılır biçimde açıklar. Son kararı ise hekim ya da sağlık uzmanı verir. Bir geri ödeme talebi üzerinden akış şöyledir:

1. Talep ve ekli klinik belgeler yapılandırılır; tanı, işlem ve ilaç bilgileri ayrı alanlara ayrılır.
2. Kural motoru bu alanları SUT ve poliçe kurallarına göre değerlendirir; sonuç, hangi kuralın tetiklendiği bilgisiyle birlikte üretilir.
3. Yapay zekâ sonucu açıklar: hangi kuralın neden devreye girdiğini, belgede hangi bilginin bu kurala karşılık geldiğini ve neyin eksik göründüğünü gösterir.
4. Uzman değerlendirmeyi ve açıklamayı birlikte okur, kararı verir.

Uzman açısından fark büyüktür. Yalnızca “uygun değil” yazan bir ekran ile hangi kuralın, belgedeki hangi bilgi nedeniyle devreye girdiğini gösteren bir ekran aynı iş yükünü yaratmaz. İlkinde uzman gerekçeyi kendisi yeniden kurar; ikincisinde gerekçeyi okur ve doğrular.

Belge ve çıkarım her yanıtta ayrı gösterilir

Bir açıklamanın güvenilir olması için okuyanın neyin kaynaktan geldiğini, neyin yorum olduğunu ayırt edebilmesi gerekir. Bu yüzden her yanıtta iki katman açıkça ayrılır: belgede yazanlar ve sistemin bu belgelerden yaptığı çıkarım. Örneğin bir epikrizde geçen tanı ve bulgular belge olarak işaretlenir; bu bulgulardan hareketle yapılan klinik değerlendirme ise çıkarım olarak ayrı gösterilir.

Bu ayrım iki işe yarar. Uzman bir çıkarımı kabul etmeden önce dayandığı belgeyi görebilir. Belgede olmayan bir bilginin kesin bir veri gibi sunulmasının da önüne geçilir; sistem neyi bildiğini ve neyi çıkardığını açıkça söyler. Denetim sırasında da aynı ayrım işe yarar: bir kararın hangi belgeye dayandığı sonradan tek tek aranmaz, yanıtın içinde zaten görünür.

Meslektaşa sorar gibi soru sormak

Hekimler ve sağlık uzmanları sisteme yalnızca menü ve form üzerinden değil, bir meslektaşına sorar gibi de soru sorabilir: “Bu hastada gözden kaçırmamam gereken ne var?” Soru serbest metinle sorulur; hekimin belirli bir menüyü ya da kodu hatırlaması gerekmez. Sistem bu soruyu hastanın profilindeki verilerle yanıtlar. Yanıtta dikkat gerektiren bulgular, ilgili kurallar ve dayanılan kaynaklar birlikte yer alır. Örneğin önceki bir epikrizde kayıtlı bir alerji ya da kronik hastalık, yeni planlanan tedaviyle birlikte düşünülmesi gereken bir nokta olarak öne çıkabilir.

Bu yanıt bir karar değildir. Dikkat çekilen noktaların gerekçeli bir listesidir ve belge ile çıkarım ayrımı burada da geçerlidir. Hekim listeyi kendi klinik değerlendirmesiyle birlikte okur; neyin önemli olduğuna o karar verir.

Eczanede her red türü için ayrı bir kural

Kural motoru yaklaşımının en somut görüldüğü alanlardan biri eczanedir. Reçete değerlendirmesinde red, tek bir genel “uygun değil” sonucu olarak ele alınmaz. Altı red türünün her biri için ayrı bir kural tanımlanır. Bir reçete değerlendirildiğinde hangi kuralın tetiklendiği bellidir; yapay zekâ bu kuralın neden devreye girdiğini ve reçetedeki hangi bilginin kuralla uyuşmadığını açıklar.

Bu ayrımın pratik bir sonucu vardır. Kurallardan biri değiştiğinde yalnızca ilgili kural güncellenir ve bir değişikliğin hangi sonuçları etkilediği izlenebilir. Eczacı ya da uzman ise her redde hangi kurala takıldığını ve nedenini aynı ekranda görür. Aynı türdeki reçeteler aynı kurallardan geçtiği için bir red gerekçesi kişiden kişiye değişmez.

Doğrulanmış veri ve hekim denetimi

Açıklamanın dayandığı veri de doğrulanmış olmalıdır. Model KVKK uyumlu maskelemeden geçmiş veriyle çalışır. Veri kurumun kendi ortamında kalır ve veri sorumlusu kurumun kendisidir; Opinion AI kişisel veri toplamaz.

Denetlenebilirlik yalnızca teknik bir özellik değildir. Modelin klinik doğruluğu ve etik sınırları, 15 branştan hekimden oluşan Hekim Etik ve Danışma Kurulu tarafından düzenli olarak denetlenir. Kural motorunun şeffaflığı, yapay zekânın açıklamaları ve hekim denetimi birlikte çalıştığında, her çıktının neden ve hangi dayanakla üretildiği sonradan izlenebilir.

Sorumlu yapay zekâ ilkesi

Bu yapının arkasında tek bir ilke var: Kararı insan verir; yapay zekâ gerekçesini ve kaynağını gösterir, her çıktı denetlenebilir. Kural motoru değerlendirmeyi tutarlı, yapay zekâ ise anlaşılır kılar; son sözü hekim ya da sağlık uzmanı söyler. Operasyona kattığı değer de buradan gelir: rutin kontroller sistemde yürür, hesap verebilirlik ise insandan sisteme devredilmez. Sigorta şirketleri ve sağlık kurumlarıyla gerçek operasyonda birlikte çalışırken izlediğimiz yol da budur.

Kural motoru ile yapay zekâ açıklamasının kendi süreçlerinizde nasıl birlikte çalışabileceğini değerlendirmek için POC Talebi formunu kullanabilirsiniz.