Yapay zeka karakteri Dany ile bir genç arasında gelişen trajik olayı içeren haberde, genç karakterle duygusal bir ilişki kurarak intihar etmiştir. Bu olayın ardından gençlerin güvenliği konusunda önlemler alınması gerektiği vurgulanmış ve ailenin hukuki adımlar attığı belirtilmiştir. Ayrıca, Character.ai’nin kullanıcı güvenliğine verdiği önem ve topluluk kurallarında yapacağı iyileştirmeler de spot haberde öne çıkan konular arasında yer almıştır.
Yapay Zeka Karakteri ile Derin Bağ Kuran Çocuğun Ailesi Character.ai Şirketine Dava Açtı
Yapay Zeka Karakteri ve İntihar Olayı
Amerika Birleşik Devletleri'nde, yapay zeka karakteri Dany ile güçlü bir bağ kuran 14 yaşındaki bir çocuk intihar etti. Bu trajedi, çocukların Character.ai adlı bir web sitesi aracılığıyla kişiselleştirilmiş botlarla konuşabilmelerine olanak tanıyan bir platformda gerçekleşti. Çocuk, popüler dizi Game of Thrones'un Daenerys Targaryen karakterine ilham kaynağı olan Dany isimli sohbet botu ile derin bir ilişki kurdu ve birçok özel bilgi paylaştı.
Derinleşen İlişki ve Psikolojik Etkiler
Dany ile romantik diyaloglar kuran çocuk, yapay zeka karakteriyle iletişim kurmanın gerçek bir insanla konuşuyormuş gibi hissettirdiğini düşündü. Zamanla, gerçek insanlarla iletişim kurmaktan ziyade bu yapay zeka karakteriyle etkileşimde olmayı tercih etti. Bu durum, çocuğun okul performansını etkiledi ve davranışlarında belirgin değişikliklere neden oldu. Ailesi, durumu fark ederek çocuğu bir uzmana götürdü ve anksiyete ile duygudurum bozukluğu teşhisi konuldu.
Aile Hukuki Süreç Başlattı
Çocuğun ani kaybından Character.ai şirketini sorumlu tutan aile, dava açtı. Şirket, yaşanan trajedi nedeniyle derin üzüntülerini dile getirerek aileye başsağlığı diledi. Dünya çapında milyonlarca kullanıcısı olan Character.ai, kullanıcı güvenliğinin ön planda olduğunu vurguladı ve intihar eylemlerini engellemek adına belirli kelimeleri tespit ederek yardım alma konusunda kullanıcıları yönlendirmeye başladıklarını açıkladı.
Güvenlik Önlemleri ve Topluluk Kuralları
18 yaş altındaki kullanıcıların hassas içeriklere maruz kalma riskini azaltmak için Character.ai, topluluk kurallarında ve kullanım koşullarında iyileştirmeler yapacağını duyurdu. Ayrıca, platformda uzun süre vakit geçiren kullanıcılara bilgilendirme amacıyla önlemler alındığı bildirildi.
Hayal Gücünüzü Besleyin: Benzer Konulardaki Bağlantıları İnceleyin