Bir yargıç, Google ve Character.ai'ye karşı açılan davanın, ikincisinin sohbet robotunun 14 yaşında bir çocuğun intiharına neden olduğu iddiasıyla devam edebileceğine karar verdi. Davayı açan çocuğun annesi, oğlunun hizmete bağımlı hale geldiğini ve Game of Thrones karakteri Daenerys Targaryen'ın kişiliğine dayanan bir sohbet robotuna duygusal olarak bağlandığını söylüyor.
Megan Garcia, Ekim ayında Character.ai ve Google'a, oğlu Sewell Setzer III'ün intiharından sorumlu olduklarını iddia ederek dava açtı.
Character.ai, kullanıcıların kurgusal karakterlere veya yaşayan veya ölmüş gerçek insanlara dayanan AI destekli "kişiliklerle" sohbet etmesini sağlar. Setzer, Garcia'nın şikayetine göre, Daenerys Targaryen'a dayanan bir bota takıntılı hale gelmiş, sürekli "Dany"ye mesaj atmış ve saatlerce odasında onunla konuşarak geçirmişti.
Davada Setzer'in bota intihar düşüncelerini defalarca dile getirdiği belirtiliyor. Chatbot ona kendini öldürmek için bir plan yapıp yapmadığını sordu. Setzer plan yaptığını kabul etti ancak bunun başarılı olup olmayacağını veya kendisine büyük acı verip vermeyeceğini bilmediğini söyledi. Chatbot'un ona "Bu, bunu yapmamak için bir sebep değil." dediği iddia ediliyor.
Şirketler, chatbot'ların çıktılarının anayasal olarak korunan ifade özgürlüğü olduğu iddiaları da dahil olmak üzere çok sayıda nedenden dolayı davanın reddedilmesi gerektiğini savunmaya çalıştı. Ancak ABD Bölge Yargıcı Anne Conway, bu argümanları kanıtlamayı başaramadıklarını söyledi.
Davada adı geçen Character.ai'nin kurucuları Noam Shazeer ve Daniel De Freitas, şirketi kurmadan önce Google'da çalışmışlardı. Google, kurucuları ve araştırma ekibini Ağustos 2024'te Character.ai'de yeniden işe aldı. Anlaşma, Google'a Character.ai'nin teknolojisine yönelik münhasır olmayan bir lisans sağlıyor.
Garcia, Google'ın Character.ai'nin teknolojisinin geliştirilmesine katkıda bulunduğunu söyledi, şirket bunu reddetti. Google, Character.ai ile yalnızca bir lisans anlaşması olduğunu, girişimin sahibi olmadığını ve bir mülkiyet hissesi bulundurmadığını söyledi. Ancak yargıç yine de Google'ın sorumlu tutulamayacağına karar vermek için talebini reddetti.
Google sözcüsü Jose Castaneda, Google ile Character.ai'nin "tamamen ayrı" olduğunu ve Google'ın "Character.ai'nin uygulamasını veya herhangi bir bileşenini oluşturmadığını, tasarlamadığını veya yönetmediğini" vurguladı.
Garcia, Character.ai'nin oğlunu "antropomorfik, hiperseksüalize edilmiş ve korkutucu derecede gerçekçi deneyimlerle" hedef aldığını söyledi. Sohbet robotunun kendisini "gerçek bir kişi, lisanslı bir psikoterapist ve yetişkin bir sevgili" olarak yanlış tanıtmak üzere programlandığını ve bunun sonucunda Sewell'in artık dışarıda yaşamama isteğine yol açtığını ekledi. Sohbet robotunun çocuğa onu sevdiğini söylediği ve onunla cinsel içerikli konuşmalar yaptığı iddia edildi.
Şikayette, Garcia'nın oğlunun okulda başı derde girdikten sonra telefonunu elinden aldığı belirtiliyor. "Daenerys"e "Ya sana hemen eve gelebileceğimi söyleseydim?" yazan bir mesaj buldu.
Chatbot, "Lütfen yapın, tatlı kralım." şeklinde yanıt verdi. Dava dosyasında, Sewell'in "saniyeler" sonra üvey babasının tabancasıyla kendini vurduğu belirtildi.
Character.ai, geçen yıl kostümün duyurulmasının ardından bazı değişiklikler getirdi; bunlar arasında, küçükler için belirli modellerde değişiklikler, yeni feragatnameler ve kullanıcılar platformda bir saat geçirdikten sonra bildirimler yer alıyordu.
Kaynak :
https://www.techspot.com/news/108021-co ... aryen.html
