Üretken yapay zeka (GenAI) araçlarının sağlık alanında kullanımı giderek yaygınlaşıyor. Teknoloji devlerinin kullanıcıların tıbbi kayıtlarını yorumlamalarına destek olan sağlık odaklı yapay zeka hizmetlerini devreye alması, dijital sağlık takibini kolaylaştırsa da ciddi riskleri beraberinde getiriyor.

Siber güvenlik kuruluşu ESET, tıbbi tavsiye almak için yapay zeka araçlarını kullanmanın getirdiği güvenlik ve gizlilik risklerine karşı kullanıcılara uyarılarda bulundu. Sağlık teknolojisi alanında yapay zeka sohbet robotlarının kötüye kullanımı şu anda en büyük tehlikelerden biri olarak kabul ediliyor. Bu araçlar hastaları kendinden emin bir üslupla rahatlatsa da, bir doktorun yerini almaları hem tıbbi hem de veri güvenliği açısından büyük tehditler barındırıyor.

Tıbbi kararlarda yapay zeka kullanımının riskleri

Oxford Üniversitesi tarafından yapılan bir araştırma, büyük dil modellerinin (LLM) tıp alanındaki yetersizliklerini ve risklerini ortaya koyuyor:

• Yanlış tavsiye ve halüsinasyon: Yapay zeka modelleri, sorular çok az değişse bile tamamen farklı cevaplar verebiliyor. Modeller iyi ve kötü tavsiyeleri bir arada sunarken, son kullanıcıların bu iki ayrımı yapması oldukça zorlaşıyor.
• Teşhis hataları: Yapay zekanın sunduğu kendinden emin yanıtlar, kullanıcıların acil tıbbi müdahale gerektiren semptomları göz ardı etmesine veya yanlış kendi kendine teşhis koymasına yol açabiliyor.

Sağlık verilerinde kalıcı gizlilik riski

Tıbbi veriler, dondurulabilen veya değiştirilebilen kredi kartı bilgileri gibi değil; bireylere ömür boyu ait ve yapay zeka ile paylaşıldığında kalıcı bir dijital kayıt haline geliyor:

• Model eğitimi ve veri sızıntısı: Kamuoyuna açık sohbet robotlarına girilen hassas veriler, modeli eğitmek için kullanılabiliyor ve sistemler bu verileri kasıtsız olarak diğer kullanıcılara ifşa edebiliyor.
• Üçüncü taraf paylaşımı ve veri toplayıcıları: Sağlık odaklı robotlar verileri eğitim için kullanmayacaklarını taahhüt etseler bile, bilgileri reklam verenlerle veya veri toplayıcı üçüncü taraflarla paylaşabiliyor. Anonimleştirme işlemleri ise riskleri tamamen ortadan kaldırmıyor.
• Siber dolandırıcılık ve şantaj: Sağlık verileri hackerlar için yüksek maddi değere sahiptir. Ele geçirilen bilgiler sahte sigorta talepleri oluşturmak, başkası adına tıbbi hizmet almak veya şantaj yapmak amacıyla kullanılabiliyor.

Güvenli kullanım için öneriler

Yapay zeka araçlarını tıbbi amaçlarla kullanırken güvenliği ve gizliliği korumak için şu önlemlerin alınması şart:

• Belge yüklemeyin: Verilerin nasıl işlendiğinden emin olmadığınız sürece laboratuvar sonuçları, tıbbi belgeler veya reçeteler sisteme yüklenmemeli.
• Kimlik bilgilerini gizleyin: Sohbet ekranına isim, adres, sigorta bilgileri veya hasta numaraları gibi tanımlayıcı veriler yazılmamalı.
• Geçmişi kapatın: Yapay zeka platformlarındaki eğitim ve sohbet geçmişi özellikleri ayarlardan devre dışı bırakılmalı.
• Genel botlardan uzak durun: Sağlık soruları için genel amaçlı robotlar yerine, sadece bu alana özel geliştirilmiş ve gizlilik sözleşmesi olan güvenilir araçlar tercih edilmeli.
• Girdi kontrolü yapın: Sisteme yazılan her verinin saklanabileceği veya ileride ifşa olabileceği varsayılarak hareket edilmeli, sadece minimum düzeyde bilgi paylaşılmalı.

Önemli Not: Yapay zeka, doktora sorulacak soruları yapılandırmak veya tıbbi terimleri anlamak için kullanılabilir. Ancak yapay zekayı tıbbi bakıma hazırlık için kullanmakla, doğrudan tıbbi bakımın yerine koymak arasında büyük bir fark var. Çıktılar hiçbir zaman kesin doğru kabul edilmemeli ve mutlak teşhis için bir tıp uzmanına danışılmalı.