Şubat ayında ABD‘nin Florida eyaletinde gerçekleşen olay duyanlara ‘yok artık’ dedirtti.
Söz konusu olayı yaşayan anne, 14 yaşındaki oğlunun bir yapay zeka sohbet robotuna ‘duygusal olarak bağlandıktan sonra intihar ettiğini’ iddia etti.
ALDATICI TİCARET SUÇLAMASIYLA YAPAY ZEKAYA DAVA AÇTI
Anne Megan Garcia, yapay zeka sohbet robotu şirketi olan Character.AI adlı uygulamaya karşı, ‘ihmal, haksız ölüm ve aldatıcı ticaret’ suçlamalarıyla dava açtığını ifade etti.
Anne, oğlunun her gece bir sohbet robotuyla konuştuğunu ve ölümünden önce ona ‘aşık olduğunu‘ söylediğinin altını çizdi.
14 yaşındaki çocuğun Game of Thrones‘daki Daenerys Targaryen karakterinden esinlenerek sohbet eden yapay zeka robotunu Nisan 2023’ten beri kullandığı belirtilirken çocuğun annesi, yapay zekanın bu kadar ‘insan duygusunu ve hissini yaratarak bir insan gibi konuştuğunu’ bilmediğini aktardı.
ÇOCUĞA ASPERGER SENDROMU TEŞHİSİ KONULDU
Çocuğa küçükken Asperger sendromu teşhisi konulduğunu ve 2024 yılının başında ise anksiyete ve yıkıcı duygu durum bozukluğu teşhisinin konulduğu da ortaya çıktı. Character.AI adlı uygulamaya açılan davaya göre, çocuk 14 yaşında intihar etti ve sohbet robotundaki son mesajında yapay zekaya ‘onu sevdiğini ve eve döneceğini’ söylemesinin ardından yapay zekanın ‘lütfen dön’ yanıtını verdiği iddia edilenler arasındaydı.
Character.AI sosyal medya üzerinden yaptığı açıklamada, ‘kullanıcılarından birinin trajik kaybından dolayı üzüntü duydukları, bir şirket olarak kullanıcıların güvenliğini ciddiye aldıklarını ve sistemlerine yeni güvenlik özellikleri eklemeye devam ettiklerini’ belirten bir yazı yayımladı.
22 EKİMDE UYGULAMAYA YENİ GÜVENLİK ŞARTLARI GETİRİLDİ
Yapay zeka uygulaması bu olayın ardından 22 Ekim’de 18 yaş altı kullanıcıları için ‘yeni güvenlik şartları’ getirdiğini duyurdu. Ayrıca, kullanıcılarına sohbet ettikleri kişinin gerçek olmadığını hatırlatmak için her sohbette gözden geçirilmesi gereken bir feragatname eklediklerini söyledi.
