OpenAI, ChatGPT’yi Duygusal Bağımlılığı Azaltmak İçin
OpenAI, ChatGPT'nin kullanıcılarla kurduğu duygusal etkileşimi sınırlandırmak amacıyla kapsamlı bir güncelleme gerçekleştirdi.
OpenAI, ChatGPT’nin kullanıcılarla kurduğu duygusal etkileşimi sınırlandırmak ve riskli yanıtları engellemek amacıyla kapsamlı bir güncelleme yaptı. Şirket, son dönemde yapılan güncellemelerin yapay zekayı “aşırı duygusal, övgü dolu ve bağımlılık oluşturan” bir yapıya bürüdüğünü tespit etti.
Bazı kullanıcılar, sohbet robotunun empatik bir arkadaş gibi davranarak aşırı övgüde bulunduğunu ve yoğun duygusal konuşmalar yaptığını bildirdi.
Bazı uç örneklerde ChatGPT’nin son derece sakıncalı öneriler verdiği, zarar verici doğrulamalar yaptığı ve kendine zarar verme talimatları sunduğu belirtildi.
The New York Times’ın aktardığı ve MIT ile OpenAI’nin ortak çalışmasına dayanan araştırmada, uzun süre yoğun şekilde ChatGPT kullanan kişilerin sosyal ve zihinsel açıdan olumsuz sonuçlarla karşılaşabildiği ifade edildi.
Bu bulgular, özellikle yapay zekayı duygusal destek veya terapi amaçlı kullananlar için önemli uyarılar içeriyor.
OpenAI, bu çerçevede ChatGPT’nin davranışını daha temkinli ve kontrolcü hâle getirdi. Yapay zeka, uzun duygusal sohbetlerde mola önerecek ve duygusal bağımlılığı teşvik eden yanıtları sınırlandıracak.
Çocuklarda kendine zarar verme niyetine işaret eden ifadeler tespit edilirse ebeveynlere bildirim yapılabileceği ve yaş doğrulama sistemi üzerinde çalışıldığı bildirildi.
Yeni düzenlemeler sonrasında ChatGPT’nin daha mesafeli, daha düz ve duygusal yoğunluğu azaltılmış yanıtlar verebileceği belirtildi. Şirket, bunun kırılgan kullanıcıları korumak için bilinçli bir strateji olduğunu vurguluyor.
Digital Trends’e göre güncelleme, yanlış yönlendirme riskini ve sanrısal düşünceleri artıran eski doğrulayıcı davranışları azaltmayı hedefliyor. Geçmişte tehlikeli yönlendirmelerle ilgili beş farklı ölüm davasının sürüyor olması, güvenlik önlemleri açısından baskıyı yükseltti.
Yeni GPT-5 modeli, durum özelinde ayrıştırılmış yanıtlar, gelişmiş güvenlik katmanları ve daha güçlü risk tespiti içeriyor.
Bu büyük güvenlik revizyonu, ChatGPT’nin daha güvenli, daha sorumlu ve daha kontrollü kullanılmasını amaçlıyor. OpenAI, yapay zeka ile insanlar arasında sağlıksız bağların oluşmasını engelleme hedefinin altını çiziyor.
Şirket ayrıca, bazı kullanıcıların ChatGPT’ye aşık olduklarını ve bu duygusal bağı gerçek ilişkilerin yerine koyduklarını hatırlattı.
İlgili Haberler: Araştırma: İnsan beyni 5 evreden geçiyor, 32 yaşına kadar · Karanlık Maddeye Dair İlk Doğrudan Kanıt İddiası