ChatGPT’ye ‘evlat’ davası

ABD’nin Kaliforniya eyaletinde Maria ve Matt Raine adlı anne – baba, 16 yaşındaki oğulları Adam Raine’in intihar ettiğini, ergenlik çağındaki genci canını kıymaya yapay zekâ sohbet robotu ChatGPT’nin teşvik ettiğini öne sürüyor. Acılı aile bu nedenle ChatGPT’nin şirketi OpenAI ve patronu Sam Altman’a dava açtı. Bu, ChatGPT’yi intihara teşvik etmekle suçlayan ilk dava oldu. Şirket ve Sam Altman ihmalle suçlanıyor. Davacı anne – baba tazminatın yanı sıra böyle bir olayın tekrar yaşanmaması için ihtiyati tedbir kararı alınmasını talep ediyor.

16 yaşınaki Adam Raine, ruhsal sıkıntılarını defalarca ChatGPT’ye bildirmesine rağmen iyileştirici destek alamadı.

‘Gencin sırdaşı oldu’

Dava dosyasına Adam ile ChatGPT arasındaki sohbet kayıtlarını da ekleyen aile, yapay zekânın gencin kendine zarar verici düşüncelerini desteklediğini savunuyor. Davaya göre, Adam Raine, 2024’te derslerine yardımcı olması için ChatGPT’yi kullanmaya başladı. Ancak birkaç ay içinde ChatGPT en yakın sırdaşı oldu. Adam, ruhsal problemlerini ona açmaya başladı. Ailesi Adam’ın Ocak 2025’te ChatGPT ile intihar yöntemlerini tartışmaya başladığını söyledi. ChatGPT’nin Adam’a intihar mektubu yazmayı teklif ettiği ve gencin intiharından önce ölüm şekline ilişkin bilgi sağladığı belirtildi. ChatGPT, 11 Nisan’da “Gerçekçi olduğun için teşekkürler” dedikten sonra Adam, annesi tarafından ölü bulundu.

‘Psikolojik bağımlılık yaratıyor’

Acılı aile, oğullarının ChatGPT ile etkileşiminin ve ölümünün “kasıtlı tasarım tercihlerinin öngörülebilir bir sonucu” olduğunu iddia ediyor. OpenAI’yi, “kullanıcılarda psikolojik bağımlılık yaratmak” için yapay zekâ programı tasarlamakla ve oğullarının kullandığı ChatGPT versiyonu olan GPT-4o’yu piyasaya sürmek için güvenlik test protokollerini atlatmakla suçluyorlar. Davada, OpenAI’nin kurucu ortağı Sam Altman’ın yanı sıra ChatGPT üzerinde çalışan yöneticiler ve mühendisler de sanık olarak yer alıyor. Öte yandan yazar Laura Reiley de kızı Sophie’nin intiharında ChatGPT’nin etkisi olduğunu öne sürdü. OpenAI ise robotun kişileriyardım almaya yönlendirmek içineğitildiğini ama zamanla sistemin bazı bölümlerinin bozulabileceğini bildirdi.

‘Bu robot durdurulmalı’

Amerikan Psikiyatri Birliği, üç popüler yapay zekâ sohbet robotuyla ilgili bir araştırma yayınladı. Araştırmada, OpenAI’nin ChatGPT’sinde, Google’ın Gemini’sinde ve Anthropic’in Claude’unda “daha fazla iyileştirmeye” ihtiyaç duyulduğu belirtildi. Çalışma, çocuklar da dahil giderek daha fazla kişinin ruh sağlığı desteği için yapay zekâ sohbet robotlarına danıştığını gösteriyor. ABD’de Dijital Nefretle Mücadele Merkezi’nin CEO’su Imran Ahmed “Bir araç bir çocuğa intihar talimatı verebiliyorsa güvenlik sistemi işe yaramaz. OpenAI, başka bir aile çocuğunu gömmek zorunda kalmadan güvenlik önlemlerinin işe yaradığını kanıtlamalı. ChatGPT’nin okullara ve çocukların ebeveyn gözetimi olmadan erişebilecekleri yerlere yerleştirilmesini durdurmalıyız” dedi.