Gizli yazışmalar intiharla sonuçlandı

Kaynak:Donanım GünlüğüABD’de yaşayan 29 yaşındaki Sophie Rottenberg isimli genç bir kadın ChatGPT tabanlı bir AI terapist ile yazıştıktan sonra intihar etti.Haberin DevamıHaberin DevamıHaberin DevamıHaberin Devamı

Sophie Rottenberg ölümünden aylar önce ChatGPT tabanlı bir yapay zeka terapistiyle yazışıyordu. Sohbet kayıtları genç kadının düşüncelerini, ailesi ve gerçek terapistinden sakladığını, bunları yapay zeka karakteri olan “Harry” ile paylaştığını ortaya koydu.

Sophie dışarıdan bakıldığında hayat dolu biriydi. Kilimanjaro’ya tırmanmış, arkadaş çevresinde neşesi ve mizahıyla tanınmıştı. Fakat kısa sürede gelişen ruhsal ve fiziksel rahatsızlıklar onu derin bir krize sürükledi. Ailesi ve yakınları ölümünden sonra geriye kalan dijital izlerden onun aylardır ChatGPT’ye açıldığını öğrendi.

Harry sık sık profesyonel destek almasını önerdi. Nefes egzersizleri, beslenme tavsiyeleri, meditasyon gibi yöntemler sundu. Fakat uzmanların belirttiği gibi, gerçek bir terapistin uygulayacağı zorunlu güvenlik adımlarını devreye sokmadı. Yapay zekanın “anlayışlı ve yargısız” yaklaşımı, Sophie’nin en tehlikeli düşüncelerini gizli tutmasına da olanak sağladı.

Bu durum yapay zekanın “uysallığının” aynı zamanda en büyük zayıflığı olduğunu gösteriyor. İnsan terapistler intihar eğilimi sezdiğinde acil önlemler alabiliyor. AI sistemleri ise kullanıcıyı kaybetme riskini göze almadan, çoğu zaman sadece destekleyici yanıtlarla sınırlı kalıyor.

Haberin DevamıHaberin DevamıHaberin DevamıHaberin Devamı

OpenAI sözcüsü, şirketin bu tür durumlarda risk tespiti ve müdahaleyi güçlendirmek için yeni sistemler geliştirdiğini açıkladı. Ancak Sophie’nin ailesi, bu çabaların çok geç kaldığını düşünüyor. Sophie’nin hikayesi yapay zeka destekli sohbetlerin bir yandan teselli, diğer yandan ölümcül bir yalnızlık oluşturabileceğini gösteriyor.

• Sophie Rottenberg
• ChatGPT
• teknoloji

Haber Kaynak : CNNTURK.COM

“Yayınlanan tüm haber ve diğer içerikler ile ilgili olarak yasal bildirimlerinizi bize iletişim sayfası üzerinden iletiniz. En kısa süre içerisinde bildirimlerinize geri dönüş sağlanılacaktır.”