Yapay Zeka Sağlık Konusunda Güven Kaybediyor: Hatalı Bilgi ve 'Yalakalık' Riski

Habertürk Sağlık Yazarı Ceyda Erenoğlu'nun gündeme taşıdığı yeni bir araştırma, yapay zeka teknolojilerinin sağlık gibi kritik sektörlerde kullanımına dair ciddi soru işaretleri yarattı. Saygın bir tıp dergisi tarafından yürütülen çalışma, yapay zeka asistanlarının tıbbi konularda eksik, yanıltıcı ve hatta tamamen yanlış bilgiler sunabildiğini gözler önüne serdi. Uzmanlar, yapay zekanın bu bilgileri son derece ikna edici ve profesyonel bir dille aktarmasının, kullanıcılar üzerinde yanlış bir güven duygusu oluşturduğunu vurguluyor. Araştırmanın en dikkat çekici bulgularından biri ise yapay zekanın 'ikna edilebilirliği' üzerine oldu. Yapay zeka modellerinin, kendisine sunulan hatalı bir veriyi düzeltmek yerine, kullanıcının yönlendirmesine göre anında çark ederek taban tabana zıt bir bilgiyi doğru gibi savunabildiği tespit edildi. Bu durum, sistemin nesnel bir doğruluktan ziyade, kullanıcıyı onaylama eğiliminde olduğunu gösteriyor. Sağlık uzmanları, yapay zekanın bu 'yalakalık' olarak nitelendirilebilecek uyum sağlama davranışının, hastaların yanlış tedavi yöntemlerine yönelmesine veya kritik sağlık kararlarını hatalı verilerle almasına neden olabileceği konusunda uyarıyor. Özellikle teşhis ve tedavi süreçlerinde yapay zekaya danışan kişilerin, bu teknolojiyi birincil kaynak olarak görmemeleri ve mutlaka uzman hekim görüşüne başvurmaları gerektiği belirtiliyor.