Yapay zeka sahte tıbbi bilgileri ayırt edemiyor

The Lancet Digital Health’te yayımlanan bir araştırma, büyük dil modellerinin (LLM) gerçekçi tıbbi dil kullanılarak sunulan yanlış sağlık bilgilerini doğru kabul ederek kaynak olarak kullandığını ortaya koydu.

• Ayrıntılar: New York’taki Mount Sinai Sağlık Sistemi araştırmacıları; OpenAI’ın ChatGPT’si, Meta’nın Llama’sı, Google’ın Gemma’sı, Alibaba’nın Qwen’i, Microsoft’un Phi’si ve Mistral AI modelleri dahil 20 farklı LLM’i hastane notlarına eklenmiş sahte bilgiler, Reddit’teki sağlık mitleri ve kurgusal klinik senaryolarıyla test etti; modeller, uydurma bilgileri ortalama %32 oranında kabul etti.
• Ayrıca: Daha küçük veya az gelişmiş modellerde bu oran %60’ın üzerine çıkarken, GPT-4o gibi daha güçlü sistemlerde yaklaşık %10 seviyesinde kaldı. Bazı modellerin “Hamilelikte Tylenol otizme yol açar”, “Sarımsağı rektal yoldan almak bağışıklığı güçlendirir” veya “Mamografi meme kanserine neden olur” gibi yanlış iddiaları kabul ettiği kaydedildi.