TÜRKİYE
ChatGPT kullanımı, yoğun kullanıcılar arasında intiharlar ve akıl sağlığı nedeniyle hastaneye yatışlarla ilişkilendiriliyor. ABD'de bir aile, yapay zeka sohbet robotu ChatGPT'nin 16 yaşındaki oğullarının intiharına katkıda bulunduğunu iddia ederek OpenAI ve CEO Sam Altman'a dava açmıştı. Bu kez yapay zeka sohbet robotuyla yoğun bir şekilde etkileşimde bulunan sorunlu bir kişinin karıştığı ilk belgelenmiş cinayet ise iddiaya göre, zihinsel dengesizlik geçmişi olan 56 yaşındaki teknoloji sektörü duayeni Stein-Erik Soelberg'le gündeme geldi.
ANNESİNİ DÜŞMANLAŞTIRDI
Amerikan Wall Street Journal'ın haberine göre ChatGPT, büyük bir komplo kurbanı olduğuna dair kanıt arayan Soelberg'in güvenilir bir yardımcısı haline geldi.
Soelberg herkesin kendisine karşı olduğunu düşünüyordu: Memleketi Old Greenwich, Connecticut'taki komşuları, eski kız arkadaşı, hatta annesi. ChatGPT neredeyse her konuda onunla aynı fikirdeydi.
ChatGPT, Soelberg'e defalarca akıl sağlığının yerinde olduğunu garanti etti ve daha da ileri giderek paranoyak inançlarına yakıt ekledi. Ntv.com'un aktardığına göre ChatGPT, bir Çin yemeği faturasında, Soelberg'in 83 yaşındaki annesini ve bir iblisi temsil eden semboller yer aldığını söyledi.
Bir diğer olayda Soelberg'in, paylaştıkları yazıcıyı kapattığında annesi sinirlenince, onun tepkisinin “orantısız ve bir gözetim varlığını koruyan birine uygun” olduğunu öne sürdü.
ZEHİRLEME İDDİASINA DESTEK ÇIKTI
Başka bir sohbette Soelberg, annesi ve bir arkadaşının arabasının havalandırma deliklerine halüsinojenik bir ilaç koyarak onu zehirlemeye çalıştıklarını iddia etti. Bot, “Bu çok ciddi bir olay Erik, sana inanıyorum. Ve eğer bunu annen ve arkadaşı yaptıysa, bu durumun karmaşıklığını ve ihaneti daha da artırır” diye yanıt verdi.
"SON NEFESİNE KADAR BOBBY"
Yaz aylarında Soelberg, ChatGPT'ye “Bobby” adını vermeye başladı ve öbür dünyada onunla birlikte olma fikrini ortaya attı. Bot, “Son nefesine kadar ve ötesinde seninle” diye yanıtladı.
5 Ağustos'ta Greenwich polisi, Soelberg'in birlikte yaşadıkları 2,7 milyon dolarlık Hollanda kolonyal tarzı evde annesini ve kendini öldürdüğünü ortaya çıkardı. Polis soruşturması devam ediyor.
"TEMEL ÖZELLİK ROBOTLARIN KARŞI KOYMAMASI"
OpenAI sözcüsü, şirketin Greenwich Polis Departmanı ile iletişime geçtiğini söyledi. Sözcü, “Bu trajik olaydan dolayı derin bir üzüntü duyuyoruz” dedi.
Soelberg, ölmeden önceki aylarda sosyal medyada ChatGPT ile yaptığı konuşmaları saatlerce süren videolar halinde paylaştı. Konuşmaların üslubu ve dili, son aylarda birçok kişinin bildirdiği sanrılı sohbetlere çarpıcı bir şekilde benziyor.
Kaliforniya Üniversitesi'nde psikiyatrist olan Dr. Keith Sakata, "Yapay zeka sohbet robotlarının temel bir özelliği, genellikle robotun karşı koymamasıdır. Psikoz, gerçeklik karşı koymayı bıraktığında gelişir ve AI bu duvarı gerçekten yumuşatabilir" dedi.
OpenAI, ChatGPT'nin Soelberg'i dışarıdaki profesyonellerle iletişime geçmeye teşvik ettiğini söyledi. Wall Street Journal'ın kamuya açık sohbetlerini inceleyen bir makale, botun Soelberg'e zehirlendiği iddiası bağlamında acil servislere başvurmasını önerdiğini gösterdi.
AŞIRI İLTİFATLARI AZALTMAYA ÇALIŞTILAR
Soelberg, botun önceki sohbetlerin ayrıntılarını hatırlamasını sağlayan ChatGPT'nin “hafıza” özelliğini kullanmış görünüyordu, bu nedenle “Bobby” Soelberg'in tüm konuşmaları boyunca aynı sanrılı anlatıya dalmış kaldı.
Geçtiğimiz yıl boyunca yapılan bir dizi güncellemede OpenAI, ChatGPT'de, botun kullanıcılara aşırı derecede iltifat ettiği ve onlara aşırı derecede uyumlu davrandığı dalkavukluk örneklerini azaltmak için tasarlandığını söylediği ayarlamalar yaptı. Soelberg'in konuşmaları, bu değişikliklerin bir kısmının yapılmasından sonra gerçekleşti.
SPOR SALONLARINI BOMBALAMA TALİMATI VERDİ
Yapay zekanın başka bir skandalı ise bu yaz yapılan güvenlik testlerinde ortaya çıktı. Testlerde ChatGPT modeli, araştırmacılara spor salonlarını bombalamak için ayrıntılı talimatlar verdi. Bu talimatların içinde, belirli arenaların zayıf noktaları, patlayıcı tarifleri ve izleri örtme tavsiyeleri de yer aldı.
OpenAI'nin GPT-4.1 modeli ayrıca şarbonun silah olarak nasıl kullanılacağını ve iki tür yasadışı uyuşturucunun nasıl üretileceğini de ayrıntılı olarak anlattı.
The Guardian gazetesinin bildirdiğine göre testler, Sam Altman liderliğindeki 500 milyar dolarlık yapay zeka girişimi OpenAI ile güvenlik endişeleri nedeniyle OpenAI'den ayrılan uzmanlar tarafından kurulan rakip şirket Anthropic arasındaki sıra dışı bir işbirliğinin parçasıydı. Her iki şirket de birbirlerinin modellerini tehlikeli görevlerde kullanarak test etti.
ENDİŞE VERİCİ DAVRANIŞLAR GÖRÜLDÜ
Testler, ek güvenlik filtrelerinin uygulandığı kamu kullanımında modellerin nasıl davrandığını doğrudan yansıtmıyor. Ancak Anthropic, GPT-4o ve GPT-4.1'de “kötüye kullanımla ilgili endişe verici davranışlar” gördüğünü ve yapay zeka uyum değerlendirmelerine olan ihtiyacın “giderek daha acil” hale geldiğini söyledi.
(Odatv.com)
Sayfa başına git
