Kısa biçimli video formatına öncülük eden sosyal medya platformu TikTok, politikalarını ihlal eden videoları tespit etmek için yapay zeka teknolojisinden faydalanacağını duyurdu. Yaklaşık bir yıldır test sürecinde olan yeni sistemle birlikte çıplaklık ve şiddet içerikli paylaşımlar dahil tüm sakıncalı içerikler otomatik olarak kaldırılacak.
Küçük yaştaki kullanıcıların güvenliğine ağırlık veren yeni algoritma başlangıçta şiddet, sansürlenmemiş içerik, çıplaklık, seksist görüntüler ve yasa dışı faaliyetler için çalışacak. Bu tarz içeriklerin yer aldığı video tespit edilir edilmez hemen yayından kaldırılacak. Gönderinin sahibi isterse buna itiraz edebilecek, akabinde TikTok kaldırılan içeriği manuel olarak değerlendirmeye alacak.
TikTok algoritması “20 videoda 1 hata” yaptı
Şimdiye kadar yapılan test sonuçlarına ilişkin veriler paylaşan TikTok yetkilileri, otomasyon sisteminin doğruluk payının yüksek olduğunu belirtti. Açıklamaya göre, yaptırıma tabi tutulan her 20 videodan sadece 1 tanesi yanlışlıkla kaldırıldı ve platformda bulunmasında herhangi bir sakınca olmadığı tespit edildi. Sistemi iyileştirmek için çaba sarf ettiklerini belirten TikTok, yakında doğruluk payının daha fazla artacağını söyledi.
Sakıncalı videoları önceden TikTok’un güvenlik ekibi manuel olarak incelemek zorundaydı. Bu da doğal olarak ekip çalışanlarının çocuk istismarı veya aşırı şiddet içeren bir görüntüye maruz kalmalarına yol açıyordu. Yeni algoritma bu sorunu da tamamen ortadan kaldıracak.
Peki TikTok kural ihlali yapanlara karşı nasıl bir tutum izliyor? İlk ihlalin gerçekleşmesinin ardından içerik üreticiye öncelikle uyarı gönderiliyor. Aynı hatayı tekrarlamaması gerektiği bildiriliyor. Sonraki ihlallerden sonra ise üç aşamadan oluşan bir yaptırım silsilesi devreye giriyor:
- İhlalin ciddiyetine ve önceki ihlallere bağlı olarak hesabın video yükleme, yorum yapma veya profilini düzenleme özelliği 24 veya 48 saat süreyle askıya alınacak.
- Bir hesabın 72 saat veya bir haftaya kadar yalnızca salt görüntüleme özelliği aktif olacak. İçerik yayınlayamayacak veya yayınlayanlarla etkileşime geçemeyecek.
- Birkaç ihlalden sonra, hesabının yasaklanma eşiğinde olup olmadığı kullanıcıya bildirilecek. Davranış devam ederse hesap kalıcı olarak kaldırılacaktır.
TikTok, içerik üreticilerin paylaştığı bir videonun kural ihlali olup olmadığını yükleme esnasında tespit edecek. Önümüzdeki haftadan itibaren ABD ve Kanada’da uygulanmaya başlanacak sistem sonraki zamanlarda dünya genelinde kullanıma açılacak.