Üretken yapay zekâ araçlarının sağlık hizmetlerinde kullanımı giderek yaygınlaşıyor. Microsoft Copilot Health, ChatGPT Health ve Amazon HealthAI gibi uygulamalar kullanıcıların tıbbi kayıtlarını yorumlamalarına ve semptomları hakkında sorular sormalarına yardımcı oluyor. Ancak ESET'in uyarısına göre, yapay zekâ araçlarının doktor rolüne hazır olmadığı belirtiliyor.
Yanlış tavsiyelerin yanı sıra gizlilik riskleri de önemli bir tehlike oluşturuyor. Hassas tıbbi bilgilerin halka açık chatbotlarla paylaşılması, bu verilerin modeli eğitmek için kullanılmasına ve başkaları tarafından erişilebilir hâle gelmesine neden olabilir. Sağlık verileri, dolandırıcılar tarafından yüksek oranda paraya çevrilebildiği için siber saldırganlar tarafından hedef alınıyor. Verileri elinde bulunduran şirket sayısı arttıkça veri ihlaline uğrama riski de katlanarak artıyor.
ESET, sağlık sorunları konusundaki endişeler için genel amaçlı botlardan uzak durulmasını tavsiye ediyor. Hizmetin veri işleme yöntemini, eğitim amacıyla komutları kullanıp kullanmadığını ve üçüncü taraflarla paylaşım politikasını kontrol etmek önemli. Tıbbi belgeleri, laboratuvar sonuçlarını veya tanımlayıcı bilgileri yapay zekâ araçlarıyla asla paylaşmamak, eğitim geçmişi özelliğini kapalı tutmak ve minimum gerekli bilgiyle sınırlı kalmak gizlilik korumanın temel adımları.