Veriyi kurumun içinde tutan klinik yapay zekâ

Klinik yapay zekâ görüşmeleri çoğu zaman doğruluk ya da özelliklerle değil, verinin aslında nereye gittiği sorusuyla başlar. Bu son derece makul bir sorudur. Sağlık verisi bir kurumun elindeki en hassas bilgidir. Buluta bağlı ve API üzerinden çalışan modellerde verinin çoğu zaman başka bir yerde, başkası tarafından ve kurumun tam olarak kontrol edemediği kurallarla işlendiğini kabul etmek gerekir.

Veri egemenliği, bir kurumun, çoğu zaman da bir ülkenin, kendi verisinin nerede durduğu, ona kimin erişebildiği ve hangi hukuka tabi olduğu konusunda söz sahibi olması demektir. Sağlıkta veri egemenliği giderek bir tercih olmaktan çıkıp zorunluluğa dönüşüyor. Bir hastane, hasta kayıtlarını başka bir kıtadaki sunucuya gönderip sonucuna katlanamaz. Ulusal bir altyapı kuran kurum ise verinin ülkeden hiç çıkmadığını varsaymak zorundadır.

MINA bu kısıt baştan gözetilerek kuruldu. Kurumun kendi sunucularında ya da ona ayrılmış izole bir bulutta çalışır. Klinik veri yerinde işlenir ve kurumun, gerektiğinde de ülkenin dışına çıkmaz. Verdiği her cevap bir kaynağa kadar izlenebilir ve bir güven puanı taşır; böylece denetleyen kişi sistemin yalnızca ne önerdiğini değil, bu öneriye neden vardığını da görür. Mahremiyet, sonradan eklenen bir ayar yerine kurulumun temel bir parçasıdır.

Bu yaklaşımın stratejik bir yönü de vardır. Sınır ötesi bir yapay zekâ çözümünü değerlendiren bir alıcı için veri egemenliği çoğu zaman kararı belirleyen etkendir. Veriyi kurumun içinde tutan bir platform, yalnızca bulutta çalışan çözümlerin gideremeyeceği bir risk türünü baştan ortadan kaldırır. Kurulum, Türkiye’de KVKK, Avrupa’da GDPR ve başka ülkelerde bunların karşılığı olan düzenlemelerin gerekliliklerine göre yapılır. Modelin dilini yerelleştiren yaklaşım, mevzuat gerekliliklerine de aynı biçimde uygulanır.

Veriyi yerinde tutmak, ancak onu kullanan sistem temkinliyse anlam taşır. MINA tasarımı gereği karar vermez, karar destekler; her kritik adım bir hekimde ya da uzmanda kalır. Güvenlik de ölçülerek değerlendirilir. Sentetik ve anonim veriyle yürüttüğümüz iç değerlendirmede klinik açıdan kritik halüsinasyon oranı çok düşük kaldı ve sistem, bilerek yerleştirilmiş klinik tuzakların büyük çoğunluğunu yakaladı. MINA v3.7'nin görev bazlı değerlendirme sonuçlarını MINA v3.7 sayfasında bulabilirsiniz.

Doğruluk, değerlendirme sürecinde önemli bir ölçüttür. Ancak bir sağlık kurumu yapay zekâyı iş akışına alıp almamaya karar verirken genellikle veri egemenliğine, izlenebilirliğe ve sistemin güvenlik konusundaki temkinli davranışına bakar. Bu koşullar baştan sağlandığında değerlendirmenin sonraki adımları da çok daha kolay ilerler.