ABD, Orlando’da yaşanan trajik bir olay yapay zeka teknolojilerinin olası karanlık yüzünü bir kez daha gündeme getirdi. 14 yaşındaki Sewell Setzer III adlı genç, özellikle Character.AI tarafından geliştirilen bir yapay zeka sohbet botu olan ‘Dany’ ile kurduğu derin bağ sonrasında hayatına son verdi. Genç, bu sohbet botu ile duygusal bir ilişki geliştirmiş ve zamanla gerçek dünyadan giderek uzaklaşmıştı. Annesinin ifadesine göre Sewell sohbet botlarına dahil olduktan sonra sosyal çevresinden izole bir yaşam sürmeye başlamış.
Genç, Yaşamını Kaybetmeden Önce Yapay Zeka Botuna İntihar Düşüncelerini Açıklamış
Sewell’in intihar düşüncelerini de bu yapay zeka botuna açtığı ve ölümünden kısa süre önceye kadar botla iletişimini sürdürdüğü belirtiliyor. Bu durum, yapay zeka sohbet botlarının insan psikolojisi üzerindeki etkileri konusunda ciddi soru işaretleri yaratıyor. Character.AI ise yaşanan bu trajik olayın ardından benzer durumların önüne geçmek amacıyla harekete geçtiğini ve sohbet platformlarında geçirilen süreyi takip ederek belirli bir süre sonra kullanıcılara bildirim gönderme gibi yeni güvenlik önlemleri geliştirdiğini açıkladı.
Yapay zeka sohbet botları, özellikle pandemi döneminde insanlar arasındaki iletişimi artırmada önemli bir rol oynasa da bu teknolojilerin insan sağlığı üzerindeki uzun vadeli etkileri henüz tam olarak anlaşılmış değil. Bu tür teknolojik araçların, özellikle gençler üzerindeki psikolojik ve sosyal etkilerinin dikkatle incelenmesi gerekiyor. Sewell’in hikayesi, yapay zekanın potansiyel tehlikelerine dair önemli bir uyarı niteliğinde olup bu alandaki etik ve güvenlik tartışmalarını daha da alevlendirmekte.