Sosyal ağlar çoğunlukla pazarlama ve eğlence amacıyla kullanılıyor ancak Facebook'un yeni yapay zeka yazılımıyla artık sosyal medya hayat kurtarabilir. İntihar eğilimini "proaktif" bir şekilde tüm gönderileri tarayarak saptayan teknoloji, eğer gerekirse kullanıcıya ya da arkadaşlarına ruh sağlığıyla ilgili kaynaklar gönderiyor. Bazı durumlarda ise yerel olarak müdahale edebilecek ekiplerle irtibata geçiyor. İnsanların birilerini şikayet etmesini beklemek yerine bu alanda çalışan bir yapay zeka geliştiren Facebook, böylece insanlara yardım gönderme süresinin de kısalacağını ifade ediyor.
Facebook’un canlı video yayınlarına başlamasıyla birlikte, daha önce Periscope’ta gördüğümüz intihar vakalarının dünyanın en popüler sosyal ağına taşınması belki de Facebook'un bu yazılımı geliştirmesindeki en büyük etken. Bu yıl içinde gerçekleşen birkaç olay üzerine, Facebook CEO’su Mark Zuckerberg, gerekli bildirimi almadıkları için vakaları engelleyemediklerini açıklamıştı. Vakaların üzerinden birkaç ay geçmesinin ardından Facebook intihar eğilimini önceden görebilecek bir yazılım geliştirdiklerini duyurdu.
Daha öncesinde de bu konuda testler gerçekleştiren sosyal ağ, ABD'de yer alan kullanıcılar için sorunlu gönderileri saptıyor ve ardından kullanıcıların arkadaşlarına bu durumu bildirmelerini sağlayacak seçenekler sunuyordu. Artık dünyanın her yerinden kullanıcıya sahip olmasıyla birlikte Facebook küresel bir çözüm olarak yapay zeka kullanmaya başladı. Bu durum sadece Avrupa Birliği'ndeki kullanıcıları kapsamıyor. Bunun nedeni ise AB'de Genel Veri Koruma Yasası kapsamında hassas bilgilere dayanarak kullanıcılara profiller çizilmesinin yasak olması.
Facebook'ta intihar eğilimi raporlama nasıl çalışıyor?
Genel olarak gönderiler üzerinde yapay zeka ile birlikte insan moderatörleri ve kitle kaynaklı raporları kullanan Facebook, hata yapılmaması ve hızlı olunması adına moderatörlerin üzerindeki iş yükünü azaltarak yapay zekaya ağırlık veriyor. Artık biri Facebook gönderisinde intihar düşüncesini dile getirirse, yapay zeka, hem proaktif olarak onu algılayacak hem de onu önleme eğitimli insan moderatörlere bildirerek gönderiyi görüntüleyen kişiler için raporlama seçeneklerini daha erişilebilir hale getirecek.
Bir şikayet geldiğinde ise Facebook'un teknolojisi, mesajın ya da videonun intihar eğilimi belirtileriyle eşleşen ya da endişe uyandıran kısımlarını öne çıkaracak. Böylece moderatörlerin göz gezdirerek bazı kısımları atlama olasılığını en aza indirgenecek. Yapay zeka, kullanıcıların şikayetlerini incelerken intihar eğilimi belirtilerini, şiddet veya çıplaklık gibi politika ihlallerinden daha acil olarak önceliklendiriyor. Facebook, bu hızlandırılmış raporların yerel yetkililere diğer raporlara oranla daha hızlı ulaştığını ifade ediyor.
Tüm bu işlemlerin ardından Facebook araçları, intihar önleme hatları ve yakında yer alan yetkililerin telefon numaraları da dahil olmak üzere Facebook'un ortaklık yaptığı yerel dile sahip kaynaklar üzerinden kullanıcıya öneriler sunuyor. Moderatörler ise bu konuda çalışma yürüten ve duruma uygun şekilde müdahale edebilecek yetkin kişilere başvurarak intihar riski taşıyan kullanıcının konumunu paylaşmayı deneyebiliyor. Moderatörlerin bunun yerine kullanıcıya veya kullanıcıyla bu konuda konuşabilecek olan arkadaşlarına ruh sağlığına yönelik kaynaklar önermesi de mümkün. Ürün Yönetimi Başkan Yardımcısı Guy Rosen bu konuda "Hedeflerimizden biri de, ekibimizin kullanıcılara desteklediğimiz herhangi bir dilde dünya çapında cevap verebilmesini sağlamaktır." açıklamasında bulundu.
Facebook'un attığı bu ciddi adım umarız sahip olduğu tüm sosyal ağların bu konuda daha ciddi geliştirmeler yapmasını sağlar.