Genel amaçlı sohbet botları ile klinik karar destek sistemlerinin farkı

Genel amaçlı sohbet botu ve klinik karar destek sistemi

Genel amaçlı sohbet botları, çok geniş bir metin derlemiyle eğitilmiş ve hemen her konuda soru yanıtlayabilen büyük dil modeli tabanlı araçlardır. Hekimler bunları bir kavramı hatırlamak ya da bir konuda yön bulmak için kullanabiliyor; bu yüzden belirli bir hasta hakkında da bu araçlara danışılıp danışılamayacağı sık sorulur.

Klinik karar destek sistemi, hekimin belirli bir hasta için karar verirken ihtiyaç duyduğu bilgiyi hastanın kaydı, klinik bilgi ve kurallarla birleştirerek sunan sistemdir. İlaç etkileşimi ve alerji uyarıları klasik örnekleridir; yapay zekâ destekli sistemler bunlara serbest metinle yazılmış epikriz ve raporları okumayı ve gerekçeli öneri sunmayı ekler. Temel fark şudur: sohbet botu genel bilgiye, klinik karar destek sistemi ise belirli bir hasta için verilecek karara hizmet eder.

Genel amaçlı sohbet botlarının klinik kullanımdaki sınırları

Genel amaçlı araçlar belirli bir kurumun mevzuatına, verisine ve iş akışına göre tasarlanmadığı için klinik kullanımda şu sınırlar ortaya çıkar:

• Sohbet botu hastanın kaydını görmez; yalnızca kendisine yazılan metni bilir. HBYS'deki (hastane bilgi yönetim sistemi) geçmiş, ilaçlar ve alerjiler yazılmadıkça yanıta girmez.
• Araç yerel mevzuata ve kurumun kurallarına bağlı değildir. SGK'nın yayımladığı Sağlık Uygulama Tebliği (SUT), Medula kuralları ve kurumun klinik protokolleri iş akışında tutarlı biçimde uygulanmaz; sık güncellenen kurallarda modelin bilgisi eskimiş olabilir.
• Dil modelleri halüsinasyon üretebilir; gerçeğe ya da bir kaynağa dayanmayan bir bilgiyi, örneğin var olmayan bir makaleyi ya da yanlış bir dozu, akıcı ve kendinden emin bir dille yazabilir. Yanıtın akıcılığı doğruluğunun göstergesi değildir.
• Yanıtın kaynağı ve gerekçesi her zaman doğrulanabilir değildir. Aynı soruya farklı yanıtlar gelebilir, gösterilen kaynak iddiayı desteklemeyebilir ve belgede yazanla modelin çıkarımı birbirinden ayrılmaz.
• Hasta bilgisini girmek bir veri sorumluluğu sorusu doğurur. Sağlık verileri KVKK'da (Kişisel Verilerin Korunması Kanunu) özel nitelikli kişisel veri, GDPR'da da özel kategori veridir; bulut tabanlı genel bir araca girilen hasta bilgisi kurumun dışına, bazen yurt dışına çıkar. Bu kullanım kurumun veri sorumluluğu açısından değerlendirilmelidir; ayrıntısını hasta verisi kurum dışına çıkmadan yapay zekâ kullanmak rehberinde anlattık.
• Kişisel bir hesapta yürütülen sohbet kurumun denetleyebileceği bir kayıt bırakmaz; hangi öneriye dayanıldığı sonradan izlenemez.

Bu araçlar hastaya özgü olmayan işlerde yararlı kalır; belirli bir hasta hakkındaki karara dayanak olacak yanıt ise hastanın kaydına, güncel kurallara ve doğrulanabilir bir kaynağa bağlı olmalıdır.

Hekimler için güvenli kullanım ilkeleri

Hangi aracı kullanırsanız kullanın, aşağıdaki ilkeler hem hastayı hem hekimi korur:

1. Kimliği belirlenebilir hasta bilgisini kurumun onaylamadığı bir araca girmeyin. Ad ve kimlik numarası gibi tanımlayıcıları çıkarmak yetmeyebilir; nadir bir tanı, yaş, yer ve tarih bir araya geldiğinde hasta yine belirlenebilir.
2. Genel araçları hastaya özgü olmayan işlerde, örneğin bir kavramı hatırlamak için kullanın.
3. Doz, ilaç etkileşimi, kontrendikasyon ve tanı ölçütü gibi her klinik bilgiyi güncel kılavuzdan, ilacın resmî ürün bilgisinden ya da kurumun protokolünden doğrulayın; kaynak gösterilmiyorsa ya da gösterilen kaynak iddiayı desteklemiyorsa yanıtı doğrulanmamış sayın.
4. Kurumun onayladığı bir araçta soruyu kararınızı sınamak için sorun; “Bu hastada gözden kaçırmamam gereken ne var?” gibi açık bir soru, aracın getirdiği olasılıkları kendi ayırıcı tanınızla karşılaştırmanızı sağlar.
5. Kurumunuzun yapay zekâ kullanım politikasına uyun; böyle bir politika yoksa bilgi işlem ve KVKK birimlerine danışın.
6. Kararı ve gerekçesini hasta kaydına kendi klinik değerlendirmeniz olarak yazın; yapay zekâ çıktısını doğrulamadan kayda geçirmeyin.

Klinik karar destek sistemini ayıran özellikler

Yapay zekâ destekli bir klinik karar destek sistemi de dil modeli kullanabilir; fark, modelin hangi veriye, kurala ve denetim düzenine bağlandığındadır. Sorumlu biçimde kurulmuş bir sistemde şu özellikler aranır:

• Sistem kurumun içinde çalışır. Kurumun sunucularına ya da izole bir bulut ortamına kurulur; veri dışarı çıkmaz ve veri sorumlusu kurum olarak kalır.
• Sistem hasta kaydına ve HBYS'ye bağlıdır; yanıt hastanın tetkik sonuçlarına, epikriz ve raporlarına dayanır ve HBYS'nin değiştirilmesi gerekmez.
• Her öneri gerekçesini ve kaynağını gösterir; hangi bilginin hastanın belgesinden geldiği, hangisinin modelin çıkarımı olduğu ayrı görünür.
• Kurallar denetlenebilir bir kural motorunda çalışır. SUT uyumu gibi kurala bağlı kontrollerin sonucunu kural motoru üretir; yapay zekâ bu sonucu ve gerekçesini açıklar.
• Her çıktı sonradan denetlenebilir; kalite birimi ya da denetçi bir kararın arkasındaki veriyi ve kaynağı geri izleyebilir.
• Model yerel klinik dile uyarlanır ve hekimlerce denetlenir; Türkçe epikriz dili, ICD-10 kodlaması ve SUT terminolojisi modelin anladığı bir alan olmalıdır.

Bir sistemi değerlendirirken sorulacak sorular da bunlardır: öneri nereden geliyor, hangi kurala dayanıyor, veri nerede kalıyor ve kararı kim veriyor.

Opinion AI bu süreçte ne yapar

Opinion AI, hastaneler ve sağlık sigortası şirketleri için Türkçe klinik yapay zekâ MINA üzerine kurulu bir klinik karar destek platformudur. Hekim tarafındaki klinik karar platformu TIS, mevcut HBYS'nin üzerine akıllı bir katman olarak eklenir. Hastanın başvuruları, laboratuvar sonuçları, görüntüleme raporları, epikrizleri ve konsültasyonları tek bir canlı profilde, hasta dijital ikizinde birleşir; alerji çatışmaları, ilaç etkileşimleri ve risk sinyalleri karar verilmeden önce taranır.

Hekim sorusunu hasta dosyası açıkken, bir meslektaşına danışır gibi kendi cümlesiyle MINA'ya sorar. Yanıt hastanın dijital ikizine ve klinik kaynaklara dayanır, gerekçesi ve kaynağıyla gelir; hangi bilginin hasta belgesinden geldiği, hangisinin MINA'nın kendi çıkarımı olduğu ayrı görünür. Hekim öneriyi doğrular, düzeltir ya da reddeder.

MINA'nın açık ağırlıklı temel modeli sürekli ön eğitimle (CPT) Türkçeye ve 14 branşın klinik diline uyarlanmış, LoRA adaptörleriyle branş, kurum ve göreve göre uzmanlaştırılmıştır. Bilgi erişimi klinik bilgi grafı (GraphRAG) üzerinde ajanik orkestrasyonla yürür ve PubMed, The Lancet, JAMA ve BMJ gibi 30M+ kaynağa dayanır.

Platform kurumun kendi sunucularında ya da izole bir bulut ortamında çalışır. Veri kurumun içinde kalır, veri sorumlusu kurumdur ve modelin gördüğü veri KVKK uyumlu maskelemeden geçer; Opinion AI kişisel veri toplamaz. Kural değerlendirmesi kural motorunda yapılır. Kararı her zaman insan verir; MINA önerisinin gerekçesini ve kaynağını gösterir, her çıktı denetlenebilir. 15 branştan hekimin yer aldığı Hekim Etik ve Danışma Kurulu, modelin klinik doğruluğunu ve etik sınırlarını düzenli olarak denetler.

Sık sorulan sorular

Hasta hakkında ChatGPT gibi genel amaçlı bir sohbet botuna danışabilir miyim?

Kimliği belirlenebilir hasta bilgisiyle ve klinik karara dayanak olacak biçimde danışmamak gerekir. Genel amaçlı sohbet botları hastanın kaydını görmez, yerel mevzuata ve kurumun protokollerine bağlı değildir ve akıcı ama yanlış bir yanıt üretebilir; hasta bilgisini kurumun onaylamadığı bir araca girmek de verinin kurum dışına çıkması demektir. Bu araçlar hastaya özgü olmayan işlerde kullanılabilir; her klinik bilgi birincil kaynaktan doğrulanmalı ve kararı hekim vermelidir.

Genel amaçlı sohbet botu ile klinik karar destek sistemi arasındaki fark nedir?

Genel amaçlı sohbet botu her konuda soru yanıtlamak üzere tasarlanmıştır ve yalnızca kendisine yazılan metni görür. Klinik karar destek sistemi ise kurumun içinde, hastanın kaydı ve kurumun kuralları üzerinde çalışır; önerisinin gerekçesini ve kaynağını gösterir, belgede yazanla kendi çıkarımını ayırır ve her çıktısı denetlenebilir. Birincisi genel bilgiye, ikincisi belirli bir hasta için verilecek karara hizmet eder.

Yapay zekâ halüsinasyonu nedir, klinik kullanımda neden önemlidir?

Halüsinasyon, bir dil modelinin gerçeğe ya da bir kaynağa dayanmayan bir bilgiyi akıcı ve kendinden emin bir dille üretmesidir; var olmayan bir makale ya da yanlış bir doz bu biçimde yazılabilir. Klinik kullanımda yanlış bir bilgi hastanın tedavisini doğrudan etkileyebilir. Riski azaltmak için yanıtları doğrulanabilir kaynaklara bağlayan ve belge ile çıkarımı ayıran sistemler kullanılmalı, hekim her bilgiyi kaynağından kontrol edebilmelidir.

Hasta adını ve kimlik bilgilerini çıkarırsam genel bir sohbet botunu kullanmak güvenli olur mu?

Tanımlayıcıları çıkarmak riski azaltır, ancak tek başına yeterli olmayabilir. Nadir bir tanı, yaş, yer ve tarih bir araya geldiğinde hasta yine belirlenebilir; sağlık verileri KVKK'da özel nitelikli kişisel veri, GDPR'da da özel kategori veri olduğundan bu kullanım kurumun veri sorumluluğu açısından değerlendirilmelidir. Daha güvenli yol, kurumun kendi ortamında çalışan ve onayladığı bir aracı kullanmaktır.

Hastane hekimlerin yapay zekâ kullanımını nasıl düzenlemeli?

Hastanenin, hangi araçların hangi işler için kullanılabileceğini ve hasta verisinin hangi araçlara girilemeyeceğini yazan bir yapay zekâ kullanım politikası olmalıdır. Yasak tek başına yeterli değildir; hekimlere kurumun kendi ortamında çalışan, hasta kaydına bağlı ve kaynak gösteren onaylı bir araç da sunulmalıdır. Politikayı bilgi işlem, KVKK ve kalite birimleri ile hekim temsilcileri birlikte hazırlamalıdır.

Klinik yapay zekânın kendi HBYS ortamınızda nasıl çalışacağını birlikte değerlendirmek için POC Talebi formunu kullanabilirsiniz. Sistem seçimi için klinik karar destek sistemi seçerken bakılacak ölçütler, soruyu doğru kurmak için hekimler için yapay zekâdan güvenli ikinci görüş almak rehberlerine bakabilirsiniz.