Son dönemde günlük hayatın ayrılmaz bir parçası haline gelen yapay zeka uygulamaları, tıbbi teşhis ve tedavi amacıyla kullanıldığında ciddi tehlikeleri beraberinde getiriyor. Şikayetlerini ChatGPT’ye anlatıp önerilen bitkisel veya ilaç takviyelerini/yöntemleri uygulayan bir kişi, durumunun ağırlaşması üzerine acil servise kaldırıldı.
Yanlış Teşhis ve Hatalı Doz Yan etkileri Tetikledi
Edinilen bilgilere göre, semptomlarını yapay zekaya yazan kullanıcı, sistemin sunduğu olası teşhis ve tedavi adımlarını eksiksiz uyguladı. Ancak yapay zekanın kullanıcının tıbbi geçmişini, alerjilerini ve mevcut durumunu doğru analiz edememesi sonucu ortaya çıkan hatalı yönlendirme, kişide ciddi yan etkilere ve sağlık tablosunun bozulmasına yol açtı. Hastanede tedavi altına alınan kişinin sağlık durumunun takip edildiği öğrenildi.
Etiğe ve Güvenliğe Dikkat: Yapay zeka geliştiricileri ve medikal uzmanlar, dil modellerinin bir hekim olmadığını ve sundukları bilgilerin yalnızca genel bilgilendirme amacı taşıdığını her fırsatta vurguluyor.
Uzmanlar Uyarıyor: "Yapay Zeka Hekim Değildir"
Olayın ardından açıklama yapan uzmanlar, internetten veya yapay zeka araçlarından alınan sağlık tavsiyelerinin son derece tehlikeli olabileceğine dikkat çekti. Yapay zekanın "halüsinasyon" olarak adlandırılan yanlış bilgi üretme riskinin bulunduğunu belirten doktorlar; teşhis, tedavi ve ilaç kullanımı konusunda mutlaka profesyonel bir hekime başvurulması gerektiğinin altını çizdi.
