OpenAI tarafından gerçekleştirilen son araştırma, ChatGPT’nin kullanıcı isimlerine göre verdiği yanıtların farklılık gösterdiğini ortaya koydu. Yapay zeka modelinin önerilerinin, kullanıcı isimlerine bağlı olarak değiştiği belirtildi. Örneğin, araştırmada Jessica isimli bir kullanıcının çocuklarla ilgili bir proje önerisi alırken, William isimli bir kullanıcının ise mühendislik odaklı bir proje önerisi aldığı tespit edildi.
Bu bulgular, yapay zeka sistemlerinin önyargı barındırabileceği endişelerini gün yüzüne çıkardı. Ancak OpenAI, bu önyargıların oldukça düşük bir oranda olduğunu ve sadece yüzde 1’in altında bir yanıtın bu tür önyargılarla şekillendiğini vurguladı. Araştırmada, kullanıcı isimlerinin yanı sıra cinsiyet, etnik köken ve sosyal statü gibi faktörlerin modelin yanıtlarını nasıl etkilediği de incelendi.
OpenAI, yapay zeka sistemlerinin adil ve tarafsız bir şekilde çalışması gerektiğinin altını çizerek, sürekli olarak sistemlerini güncellediklerini ve eğittiklerini belirtti. Bu araştırma, yapay zeka teknolojilerinin toplumsal etkilerini anlamak açısından önemli bir adım olarak değerlendiriliyor. Uzmanlar, yapay zeka sistemlerinin toplumsal dinamikleri nasıl yansıttığını anlamanın, daha adil ve etkili teknolojiler geliştirmek için kritik öneme sahip olduğunu ifade ediyor.
