Yapay Zeka Sağlık Alanında Tehlikeli Hatalar Yapıyor: Kanser Hastalarına Yanlış Bilgiler Infial Yarattı

Google tarafından geliştirilen ve dünya genelinde milyonlarca kullanıcının sağlık sorularına yanıt vermesi hedeflenen "AI Overviews" özelliği, sunduğu hayati önem taşıyan yanlış bilgiler nedeniyle büyük tepki topladı. Yapay zekanın özellikle kanser hastalarına yönelik verdiği tavsiyeler, ciddi sağlık riskleri doğurabileceği endişesiyle gündeme oturdu. Bu durum, teknoloji devini geri adım atmaya zorladı.

Kapsamlı İnceleme Yanıltıcı Bilgileri Ortaya Koydu

The Guardian gazetesinin gerçekleştirdiği derinlemesine bir araştırma, yapay zeka destekli bu sistemin sunduğu bilgilerin güvenilirliği hakkında ciddi şüpheler uyandırdı. İnceleme, yapay zekanın özellikle kan tahlili sonuçlarının yorumlanması ve kanser hastalarının beslenme düzeni gibi hassas konularda "tehlikeli ve yanıltıcı" tavsiyelerde bulunduğunu gözler önüne serdi.

Karaciğer Testlerinde Ciddi Hatalar Tespit Edildi

Yapay zekanın en dikkat çekici hatalarından biri, karaciğer fonksiyon testlerinin normal aralıklarına ilişkin verdiği bilgilerde ortaya çıktı. Yapay zeka özetleri, bu değerlerin hastanın yaşı, cinsiyeti veya etnik kökeni gibi bireysel faktörlere göre değişkenlik gösterebileceği gerçeğini göz ardı etti. Uzmanlar, bu durumun ciddi karaciğer hastalığı olan kişilerin kendilerini yanlışlıkla sağlıklı sanmalarına ve gerekli tıbbi takipleri aksatmalarına yol açabileceği uyarısında bulundu.

Farklı laboratuvarlardan gelen sonuçları genel bir çerçevede değerlendiren yapay zekanın, tıbbi standartlarla bağdaşmayan, hatta tehlikeli olabilecek veriler sunduğu raporlandı. Bu tür bir genelleme, bireysel sağlık durumlarının karmaşıklığını yeterince dikkate almadığı için büyük bir risk teşkil ediyor.

Kanser Hastalarına "Ölümcül" Beslenme Tavsiyeleri

Yapılan incelemede, pankreas kanseriyle mücadele eden hastalara yönelik yapay zekanın sunduğu tavsiyeler de büyük endişe yarattı. Sistem, bu hastalara "yüksek yağlı gıdalardan kaçınmalarını" önerdi. Ancak tıbbi uzmanlar, bu tavsiyenin tamamen yanlış olduğunu belirtti. Kanser hastalarının, özellikle kemoterapi süreçlerinde hayatta kalabilmeleri için yüksek kaloriye ihtiyaç duydukları biliniyor.

Bu tip yanıltıcı yönlendirmelerin, hastaların tedavi süreçlerini olumsuz etkileyebileceği ve hatta yaşamlarını tehlikeye atabileceği vurgulandı. Yapay zekanın, karmaşık tıbbi durumları basitleştirerek sunduğu bilgilerin ölümcül sonuçlar doğurabileceği ortaya kondu.

Google'dan Geri Adım ve Tedbirler

Gelen yoğun eleştiriler ve tespit edilen ciddi hataların ardından Google, yapay zeka özetleri özelliğinde belirli alanlarda geri adım attı. Özellikle "karaciğer kan testleri için normal aralık nedir" gibi doğrudan sağlıkla ilgili spesifik sorgular için yapay zeka tarafından üretilen özetler geçici olarak devre dışı bırakıldı. Bu hamle, şirketin olası riskleri azaltma çabası olarak yorumlandı.

Bu olay, yapay zekanın sağlık gibi kritik alanlarda kullanımının getirdiği sorumlulukları ve dikkat edilmesi gereken hassasiyetleri bir kez daha gözler önüne serdi. Teknolojinin hızla geliştiği bu dönemde, doğruluğu ve güvenilirliği kanıtlanmış bilgilerle desteklenmeyen yapay zeka uygulamalarının büyük riskler taşıdığı anlaşılıyor. Bu tür hataların önlenmesi için daha sıkı denetim mekanizmalarının kurulması gerektiği açıktır.