Hastanede yapay zekâ projesine POC ile başlamak

Yapay zekâ projesinde POC'nin amacı

POC, bir çözümün hastanenin kendi verisi ve iş akışı üzerinde beklenen işi yapıp yapmadığını sınırlı bir kapsamda gösteren çalışmadır; pilot ise çözümün sınırlı bir birimde gerçek kullanıcılarla günlük işe alınmasıdır.

Yapay zekâ projelerinde bu adım daha da önemlidir. Tedarikçinin paylaştığı model sonuçları belirli bir test setine dayanır ve bir model değerlendirmesi olarak okunmalıdır; hastanenin dokümantasyon dili, kodlama alışkanlıkları ve HBYS (hastane bilgi yönetim sistemi) yapısı bu test setinden farklı olabilir. Dil modelleri ayrıca gerçeğe ya da bir kaynağa dayanmayan bir bilgiyi ikna edici bir dille yazabilir. Halüsinasyon denen bu hatanın bir kurumun kendi kayıtlarında ne sıklıkla ortaya çıktığı, ancak her çıktıyı dayandığı belge ve kaynakla karşılaştıran bir değerlendirmeyle ölçülebilir. ChatGPT ya da Gemini gibi genel amaçlı sohbet araçları da belirli bir hastanenin mevzuatına, verisine ve iş akışına göre tasarlanmamıştır; bu araçlarla yapılan genel denemeler kurum içinde yürütülen bir POC'nin yerini tutmaz.

Kapsamı ve veri erişimini belirlemek

POC tek bir süreçle ve mümkünse tek bir modülle başlamalıdır; birden fazla süreci aynı anda denemek, hangi sonucun nereden geldiğini ayırt etmeyi zorlaştırır. Uygun bir süreç genellikle şu özellikleri taşır:

• Sık tekrarlanan bir süreç kısa sürede yeterli sayıda vaka biriktirir.
• Sonucu kayıtlardan ölçülebilen bir süreç önceki durumla karşılaştırmayı mümkün kılar; fatura redleri, kodlama düzeltmeleri ve denetim bulguları zaten kayıt altındadır.
• Sahibi belli bir süreç, çıktıları kimin inceleyeceğini ve sonuca kimin karar vereceğini baştan netleştirir.
• Mevcut iş akışına paralel yürütülebilen bir süreç hasta güvenliğini riske atmadan sınanabilir; yapay zekânın çıktısı ilk aşamada hiçbir karara etki etmeden mevcut süreçle karşılaştırılır.

Epikrizden ICD-10 kod önerisi, fatura öncesi SUT kontrolü, ön provizyon dosyasının hazırlanması ve stok eşiklerinin izlenmesi tipik başlangıç noktalarıdır. Kapsam belgesinde hangi birimin, hangi kayıt türlerinin ve hangi tarih aralığının dahil olduğu, neyin dışarıda kaldığı açıkça yazılmalıdır. Sonucu bilinen geçmiş kayıtlar üzerinde geriye dönük bir değerlendirmeyle başlamak, sistemi hasta bakımını etkilemeden sınamayı sağlar.

Veri erişimi kapsamla birlikte planlanır. Sağlık verileri KVKK'da (Kişisel Verilerin Korunması Kanunu) özel nitelikli kişisel veri, GDPR'da da özel kategori veridir. POC gerçek kayıtlarla yürüdüğü için sistem bu kayıtları kurum dışına çıkarmadan, hastanenin kendi sunucularında ya da hastaneye ayrılmış izole bir bulut ortamında işlemelidir. Veri sorumlusu hastane olarak kalır; tedarikçinin veriye erişip erişmediği, erişiyorsa hangi rolle eriştiği sözleşmede yazılmalıdır. Yalnızca kapsamdaki alanlar kullanılmalı, kimlik bilgileri maskelenmeli, erişim role göre verilmeli ve her erişim kayıt altına alınmalıdır.

Başarı ölçütlerini POC başlamadan tanımlamak

Başarı ölçütleri POC başlamadan yazılır; sonradan belirlenen bir ölçütle her sonuç yoruma açık kalır. Eşikler kurumdan kuruma değişir; aşağıdaki adımlar hazır rakam vermez, ölçütün nasıl tanımlanacağını anlatır:

1. Ölçülecek çıktıyı tek cümleyle tanımlayın; örneğin önerilen ICD-10 kodlarının kodlama biriminin son kararıyla örtüşüp örtüşmediğini ölçün.
2. POC başlamadan aynı sürecin aynı birimde ve benzer bir dönemdeki mevcut durumunu kayıtlardan çıkararak bir karşılaştırma tabanı oluşturun.
3. Çıktıları hangi hekimlerin ya da uzmanların inceleyeceğini ve görüş ayrılığında nasıl karar verileceğini önceden kararlaştırın.
4. Sistemin gereksiz yere işaretlediği ve gözden kaçırdığı durumları ayrı ayrı sayın ve her biri için kabul edilebilir düzeyi ayrıca tanımlayın.
5. Yapay zekâya özgü güvenlik ölçütleri ekleyin; her önerinin gerekçesini ve kaynağını gösterip göstermediğini, kaynağın o bilgiyi gerçekten içerip içermediğini ve belgede yazanla modelin çıkarımının ayrı gösterilip gösterilmediğini kontrol edin.
6. Çıktının iş akışına ek yük getirip getirmediğini ve kullanıcıların öneriyi hangi gerekçeyle kabul ettiğini ya da reddettiğini kaydedin.
7. Eşikleri ve gereken vaka sayısını tedarikçiyle birlikte belirleyin ve paydaşların onayladığı bir belgeye yazın.

Ölçütler denetlenebilirliği de kapsamalıdır: her önerinin hangi veriye, kurala ve kaynağa dayandığı sonradan görülebilmelidir.

Paydaşlar ve yaygınlaştırmaya geçiş

POC'nin tek bir proje sahibi olmalı ve her paydaşın rolü baştan tanımlanmalıdır:

• Başhekim ya da tıbbi direktör klinik sahipliği üstlenir ve hekimlerin katılımını sağlar.
• Bilgi işlem birimi kurulum ortamını, HBYS'den gelen veri akışını ve erişim yetkilerini yönetir.
• Finans ve medikal muhasebe fatura, red ve tahsilat tarafındaki etkiyi değerlendirir.
• Kalite birimi sürecin denetim göstergeleriyle ilişkisini izler.
• Hekimler ve kodlama ekibi çıktıları inceler ve doğru cevabı belirler.
• Kişisel verilerden sorumlu birim ve hukuk birimi veri işleme çerçevesini ve sözleşmeyi POC başlamadan onaylar.

POC sonunda sonuç, başta yazılan ölçütlere göre değerlendirilir. Ölçütler karşılanmışsa yaygınlaştırma kademeli ilerler:

1. Aynı süreci önce benzer birimlere ve branşlara genişletin; her yeni birimde ilk sonuçları karşılaştırma tabanıyla kıyaslayın.
2. İlk süreç kararlı çalıştıktan sonra yeni bir modül ekleyin ve her yeni kapsam için ölçütleri yeniden yazın.
3. Canlı kullanımda izlemeyi sürdürün; model ya da kural sürümü değiştiğinde sonuçları yeniden doğrulayın.

Ölçütler karşılanmadıysa sorunun veriden mi, kapsamdan mı yoksa çözümden mi kaynaklandığı incelenir; karar yaygınlaştırmadan önce verilmiş olur.

Opinion AI ile POC

Opinion AI, hastaneler ve sağlık sigortası şirketleri için Türkçe klinik yapay zekâ MINA üzerine kurulu bir klinik karar destek platformudur. Hastane platformu TIS, mevcut HBYS'nin yerine geçmez; onun üzerine akıllı bir katman olarak eklenir ve hastanenin kendi sunucularında ya da hastaneye ayrılmış izole bir bulutta kurulabilir. Kurulum tek bir modülle başlar ve ihtiyaca göre modül modül genişler; bu yapı tek süreçli POC yaklaşımıyla örtüşür.

POC, hastanenin kendi başvuru ve gösterge örnekleri üzerinde seçilen bir modülle yürür; bu modül örneğin ön provizyon paneli, ICD-10, SUT ve epikriz işlerinde çalışan klinik asistan ya da BH ve ADSH göstergelerini izleyen denetim kokpiti olabilir. Kapsamı hastaneyle birlikte belirliyoruz; takvim de kurumun altyapısına ve seçilen modüle göre birlikte planlanır.

Veri hastanenin içinde kalır, veri sorumlusu hastanedir ve modelin gördüğü veri KVKK uyumlu maskelemeden geçer; Opinion AI kişisel veri toplamaz. Kararı her zaman insan verir. MINA önerisinin gerekçesini ve kaynağını gösterir, belgede yazanla kendi çıkarımını ayrı tutar ve her çıktı sonradan denetlenebilir. Bu sayede POC'de yapay zekâya özgü güvenlik ölçütleri doğrudan incelenebilir.

MINA'nın açık ağırlıklı temel modeli sürekli ön eğitimle (CPT) Türkçeye ve 14 branşın klinik diline uyarlanmış, LoRA adaptörleriyle branş, kurum ve göreve göre uzmanlaştırılmıştır; bilgi erişimi klinik bilgi grafı (GraphRAG) üzerinde ajanik orkestrasyonla yürür. Modelin klinik doğruluğunu ve etik sınırlarını 15 branştan hekimin yer aldığı Hekim Etik ve Danışma Kurulu düzenli olarak denetler.

Türkiye'de birden fazla büyük özel hastane grubunda HBYS'nin üzerinde akıllı bir katman olarak çalışıyoruz; Kuzey Avrupa'daki birçok hastane grubuyla da POC süreçlerine başladık. Ayrıntılar Başarı Hikayeleri sayfasında yer alıyor.

Sık sorulan sorular

Sağlıkta yapay zekâ POC'si nedir, pilottan farkı nedir?

POC (proof of concept, kavram kanıtı), bir yapay zekâ çözümünün hastanenin kendi verisi ve iş akışı üzerinde beklenen işi yapıp yapmadığını sınırlı bir kapsamda ve önceden yazılmış ölçütlerle sınayan çalışmadır. Pilot ise çözümün sınırlı bir birimde gerçek kullanıcılarla günlük işe alınmasıdır. Yaygın sıra POC, pilot ve yaygınlaştırmadır.

Hastanede yapay zekâ POC'si hangi süreçle başlamalı?

POC, sık tekrarlanan, sonucu kayıtlardan ölçülebilen, sahibi belli ve mevcut iş akışına paralel yürütülebilen tek bir süreçle başlamalıdır. Epikrizden ICD-10 kod önerisi, SGK'nın geri ödeme kurallarını belirleyen SUT'a uyumun fatura öncesinde kontrolü, ön provizyon dosyasının hazırlanması ve stok eşiklerinin izlenmesi tipik başlangıç noktalarıdır.

Yapay zekâ POC'sinde başarı ölçütleri nasıl belirlenir?

Başarı ölçütleri POC başlamadan yazılır. Ölçülecek çıktı tek cümleyle tanımlanır, mevcut sürecin kayıtlarından bir karşılaştırma tabanı çıkarılır, doğru cevabı kimin belirleyeceği ve eşikler önceden kararlaştırılır. Yapay zekâya özgü olarak önerilerin gerekçe ve kaynak gösterip göstermediği, kaynağın bilgiyi gerçekten içerip içermediği ve sistemin hangi durumları gözden kaçırdığı da ölçülür.

Yapay zekâ POC'si için hasta verisinin hastane dışına çıkması gerekir mi?

Gerekmez. Sağlık verileri KVKK'da özel nitelikli kişisel veri, GDPR'da da özel kategori veri olduğu için POC'nin hastanenin kendi sunucularında ya da izole bir bulut ortamında yürütülmesi ve veri sorumlusunun hastane olarak kalması önemlidir. Opinion AI'ın POC'leri bu şekilde kurulur: veri hastanenin içinde kalır, modelin gördüğü veri KVKK uyumlu maskelemeden geçer ve Opinion AI kişisel veri toplamaz.

Hastanede yapay zekâ POC'si ne kadar sürer?

Süre, takvimden çok ölçütleri güvenilir biçimde değerlendirmeye yetecek vaka sayısına göre belirlenmelidir. Sık tekrarlanan bir süreçte bu sayıya daha kısa sürede ulaşılır; kurulum ortamının ve veri akışının hazırlanması ile inceleme yapacak hekimlerin zamanı da takvimi etkiler.

Yapay zekâ POC'sinden yaygın kullanıma nasıl geçilir?

Sonuç, POC başında yazılan ölçütlere göre değerlendirilir; ölçütler karşılandıysa kullanım kademeli olarak genişletilir. Aynı süreç önce benzer birimlere taşınır, ardından yeni modüller eklenir ve her yeni kapsam için ölçütler yeniden yazılır. Canlı kullanımda izleme sürer; model ya da kural sürümü değiştiğinde sonuçlar yeniden doğrulanır.

Kendi hastanenizde tek bir süreçle başlayan bir POC'yi birlikte kurgulamak için POC Talebi formunda kurumunuzu ve değerlendirmek istediğiniz süreci kısaca yazabilirsiniz. Değerlendirme ölçütleri için hastanede klinik karar destek sistemi seçerken bakılacak ölçütler, veri çerçevesi için hasta verisi kurum dışına çıkmadan yapay zekâ kullanmak rehberlerine bakabilirsiniz.