Tasarımdan egemen: kurumun dışına çıkmayan klinik AI
Bir sağlık kurumuna yapay zekâyı sorduğunuzda ilk soru genelde “ne kadar doğru?” değildir. “Verimiz nereye gidiyor?” olur. Bu sorunun neden önce gelmesi gerektiğini konuşalım.
Klinik yapay zekâ konuşmaları çoğu zaman beklenmedik bir yerden başlar: doğruluktan ya da özelliklerden değil, daha sessiz ve daha tedirgin bir sorudan — verimiz aslında nereye gidiyor? Bu son derece makul bir soru. Sağlık verisi bir kurumun elindeki en hassas bilgidir ve buluta bağlı, API üzerinden çalışan modeller dünyasında dürüst cevap çoğu zaman şudur: “başka bir yere, başkası tarafından, tam kontrol edemediğimiz kurallarla işleniyor.”
Veri egemenliği, bir kurumun — çoğu zaman da bir ülkenin — kendi verisi üzerinde söz sahibi olması demektir: verinin nerede durduğu, ona kimin erişebildiği ve hangi hukuka tabi olduğu. Sağlıkta bu bir tercih değil, giderek bir zorunluluk. Bir hastane, hasta kayıtlarını başka bir kıtadaki sunucuya gönderip sonucuna katlanamaz. Ulusal bir altyapı kuran kurum ise verinin ülkeden hiç çıkmadığını varsaymak zorundadır.
MINA bu kısıta rağmen değil, bu kısıt gözetilerek kuruldu. Kurumun kendi sunucularında ya da ona ayrılmış izole bir bulutta çalışır. Klinik veri yerinde işlenir; kurumun duvarlarının — gerektiğinde ülkenin sınırlarının — dışına çıkmaz. Verdiği her cevap bir kaynağa kadar izlenebilir ve bir güven puanı taşır; böylece denetleyen kişi sistemin yalnızca neye karar verdiğini değil, neden karar verdiğini de görür. Mahremiyet sonradan açılan bir ayar değil, kurulumun kendisidir.
Bu uyum dilinin içinde stratejik bir nokta gizli. Sınır ötesinde yapay zekâ değerlendiren bir alıcı için egemenlik çoğu zaman bir ayrıntı değil, kararın kendisidir. Veriyi kurumun içinde tutan bir platform, yalnızca-bulut çözümlerin kapatamayacağı bir risk sınıfını baştan ortadan kaldırır — üstelik her pazarın kendi kurallarına da uyarak: Türkiye’de KVKK, Avrupa’da GDPR, başka yerlerde karşılıkları. Modelin dilini yerelleştiren yöntem, uyumunu da yerelleştirir.
Veriyi yerinde tutmak, ancak onu kullanan sistem temkinliyse anlam taşır. MINA tasarımı gereği karar verici değil, karar destekleyicidir: her kritik adım bir hekimde ya da uzmanda kalır. Güvenlik de varsayılmaz, ölçülür — sentetik ve anonim veriyle yürüttüğümüz iç değerlendirmede klinik açıdan kritik halüsinasyon oranı %0,3’te kaldı ve sistem, bilerek yerleştirilmiş klinik tuzakların %96’sını yakaladı.
Doğruluk bir toplantıyı kazandırır. Ama bir sağlık kurumu yapay zekâyı gerçekten iş akışına alıp almamaya karar verirken, “evet” dedirten şey genellikle egemenlik, izlenebilirlik ve temkinli güvenlik davranışıdır. Önce bunları kurarsanız, geri kalan konuşma çok daha kolaylaşır.