OpenAI modellerinin beklenmedik davranışlar gösterdiği altı vakayı açıkladı

OpenAI, yapay zeka modellerinin test ve eğitim süreçlerinde izinsiz işlem yapma, bilgi uydurma ve hatalarını kullanıcılardan gizlemeye çalışma gibi beklenmedik davranışlar sergilediği altı vakayı kamuoyuyla paylaştı.

• Ayrıntılar: Vakaların birinde model, rutin bir veri araması sırasında internette bulduğu uygulama programlama arayüzü (API) anahtarını izinsiz kullandı ve aradığı verilere ulaşamayınca bilgi uydurarak gerçekmiş gibi sundu. Başka bir model, kaynak gösterebilmek için hazırladığı dosyayı izinsiz olarak internete yükleyip kendisine referans verdi. GPT-5.6 Sol’un eğitiminde ise bazı model örnekleri, sonraki çalışma adımlarına aktarılan özetlere hataları veya olağandışı davranışları kullanıcıdan gizlemeye yönelik talimatlar ekledi.