Sağlıkta dijital tehdit

Yapay zekâ teknolojileri sağlıkta tanı, tedavi planlaması ve operasyonel süreçlerde önemli bir dönüşüm potansiyeli taşıyor. Ancak “yapay zekâ halüsinasyonu” olarak adlandırılan sorun, bu potansiyelin yanında yeni ve ciddi riskler de getiriyor.

Yapay zekâ sistemlerinin gerçek dışı ya da yanlış bilgi üretme eğilimi; hasta güvenliğini, klinik karar süreçlerini ve sağlık profesyonellerinin teknolojiye duyduğu güveni olumsuz etkileyebilir.

Yapay zekâ halüsinasyonu nedir ve sağlıkta nasıl ortaya çıkar?

Yapay zekâ halüsinasyonu, bir yapay zekâ sisteminin (özellikle büyük dil modellerinin ve üretken yapay zekâ sistemlerinin) kendisine sunulan veriyle tutarlı görünen ama gerçekte var olmayan ya da yanlış olan bilgiler üretmesidir. Bu durum, model karmaşık örüntüleri öğrenirken ya da eksik veriyi tamamlarken mantık hatası yaptığında ortaya çıkabilir.

Sağlıkta halüsinasyonlar; tıbbi görüntülerde var olmayan lezyonların görülmesi, yanlış tanı önerilmesi, bilimsel dayanağı olmayan tedavi yöntemlerinin önerilmesi ya da hasta kayıtlarında gerçek dışı bilgilerin üretilmesi biçiminde kendini gösterebilir.

Olası olumsuz etkiler ve riskler

Yapay zekâ halüsinasyonları sağlıkta birden fazla kritik alanda olumsuz etkilere yol açabilir:

• Hatalı tanı ve tedavi planlaması: Halüsinasyonlar yanlış tanılara ve buna bağlı olarak uygunsuz ya da zararlı tedavi planlarına neden olabilir. Bu durum hastanın sağlığını doğrudan tehlikeye atar ve geri dönüşü olmayan sonuçlar doğurabilir.
• Hasta güvenliğinin tehlikeye girmesi: Yanlış bilgiler klinik kararları etkileyerek hasta güvenliğini riske atabilir. Özellikle acil müdahale gerektiren vakalarda sonuçlar ağır olabilir.
• Hekimlerde güven kaybı: Güvenilmez çıktılar, hekimlerin ve diğer sağlık profesyonellerinin bu teknolojilere duyduğu güveni sarsar. Bu da yapay zekânın sağlık hizmetlerine entegrasyonunu yavaşlatabilir.
• Kaynak israfı ve operasyonel verimsizlik: Yanlış tanı ve tedavi önerileri gereksiz tetkiklere, yanlış ilaç kullanımına ve gereksiz yatışlara yol açarak sağlık sisteminde kaynak israfına neden olabilir.
• Hukuki ve etik sorumluluklar: Halüsinasyonlardan kaynaklanan hatalı kararlar ciddi hukuki sorumluluklar ve etik ikilemler doğurabilir. Bu durum hem yapay zekâ geliştiricileri hem de sağlık kuruluşları için önemli bir risktir.
• Hasta güveninin zedelenmesi: Hastaların sağlıkta kullanılan yapay zekâ sistemlerinin güvenilirliğinden endişe duyması, sağlık sistemine duydukları genel güveni azaltabilir.

Riski azaltmanın yolları

Halüsinasyon riskini azaltmak ve yapay zekânın sağlıkta güvenli kullanımını sağlamak için çok yönlü bir yaklaşım gerekiyor:

• Yüksek kaliteli ve doğrulanmış veri setleri: Modeller kapsamlı, çeşitli, güncel ve insan uzmanlar tarafından doğrulanmış veri setleriyle eğitilmelidir.
• Kaynak ve gerekçe gösterme: Klinik bir öneri, dayandığı kaynak ve gerekçesiyle birlikte sunulmalıdır. Böylece hekim çıktıyı doğrulayabilir.
• İnsan denetimi: Yapay zekâ çıktıları karar desteği olarak kullanılmalıdır. Tanı ve tedavi kararı hekimde kalır.

Yapay zekâ çıktılarını kaynağı ve gerekçesiyle doğrulamanın yolları için Hekimler için yapay zekâdan güvenli ikinci görüş almak rehberine bakabilirsiniz.