Alphabet’in Google’ı bu yıl, “hassas konular” incelemesi başlatarak bilim adamlarının makaleleri üzerindeki kontrolü sıkılaştırmak için harekete geçti ve en az üç durumda yazarlardan, dahili iletişimlere ve dahil olan araştırmacılarla yapılan röportajlara göre, teknolojisini olumsuz bir şekilde yansıtmaktan kaçınmalarını istedi. iş.
Google’ın yeni inceleme prosedürü, politikayı açıklayan dahili web sayfalarına göre araştırmacıların yüz ve duyarlılık analizi ile ırk, cinsiyet veya siyasi bağlantı kategorileri gibi konuları araştırmadan önce hukuk, politika ve halkla ilişkiler ekiplerine danışmasını istiyor.
Araştırma ekibinin sayfalarından biri, “Teknolojideki gelişmeler ve dış çevremizin artan karmaşıklığı, görünüşte saldırgan olmayan projelerin etik, itibar, düzenleyici veya yasal sorunları ortaya çıkardığı durumlara giderek daha fazla yol açıyor” dedi. Reuters görev tarihini belirleyemese de, mevcut üç çalışan politikanın Haziran ayında başladığını söyledi.
Google bu hikaye için yorum yapmayı reddetti.
Sekiz mevcut ve eski çalışanın söylediğine göre, “hassas konular” süreci, Google’ın ticari sırların ifşa edilmesi gibi tuzaklar için standart makaleler incelemesine bir tur inceleme ekliyor.
Bazı projeler için Google yetkilileri daha sonraki aşamalarda müdahale etti. Bu yaz yayınlanmadan kısa bir süre önce içerik önerisi teknolojisi üzerine yapılan bir çalışmayı inceleyen kıdemli bir Google yöneticisi, Reuters’a yapılan dahili yazışmalara göre yazarlara “olumlu bir üslup oluşturmak için büyük özen göstermelerini” söyledi.
Yönetici ekledi, “Bu, yazılımın ortaya çıkardığı gerçek zorluklardan saklanmamız gerektiği anlamına gelmez”.
Bir araştırmacının incelemecilerle sonraki yazışmaları, yazarların “Google ürünlerine yönelik tüm referansları kaldıracak şekilde güncellendiğini” gösterir. Reuters tarafından görülen bir taslak, Google’ın sahip olduğu YouTube’dan bahsetmişti.
Kıdemli bilim adamı Margaret Mitchell de dahil olmak üzere dört personel araştırmacı, Google’ın potansiyel teknoloji zararlarıyla ilgili önemli çalışmalara müdahale etmeye başladığına inandıklarını söyledi.
Mitchell, “Uzmanlığımıza göre uygun şeyi araştırıyorsak ve bunu yüksek kaliteli meslektaş incelemesine uygun olmayan gerekçelerle yayınlamamıza izin verilmezse, o zaman ciddi bir sansür sorunuyla karşı karşıya kalırız” dedi.
Google, halka açık web sitesinde bilim adamlarının “önemli” özgürlüğe sahip olduğunu belirtiyor.
Mitchell ile yapay zeka yazılımında (AI) etiğe odaklanan 12 kişilik bir ekibin liderliğini yapan bilim adamı Timnit Gebru’nun bu ay aniden ayrılmasıyla Google ile bazı çalışanları arasındaki gerginlikler ortaya çıktı.
Gebru, Google’ın, yapay zekanın konuşmayı taklit ettiğini iddia eden bir araştırma yayınlamama emrini sorguladıktan sonra onu kovduğunu söyledi. Google istifasını kabul ettiğini ve hızlandırdığını söyledi. Gebru’nun gazetesinin “hassas konular” incelemesi yapıp yapmadığı tespit edilemedi.
Google Kıdemli Başkan Yardımcısı Jeff Dean, bu ay yaptığı açıklamada, Gebru’nun makalesinin, bunları ele almak için devam eden çabaları tartışmadan olası zararlar üzerinde durduğunu söyledi.
Dean, Google’ın yapay zeka etik bursunu desteklediğini ve “kağıt inceleme süreçlerimizi iyileştirmek için aktif olarak çalıştığını, çünkü çok fazla kontrol ve bakiyenin külfetli hale gelebileceğini biliyoruz” dedi.
‘Hassas konular’
Teknoloji endüstrisinde yapay zekanın araştırma ve geliştirmesindeki patlama, Amerika Birleşik Devletleri’ndeki ve başka yerlerdeki yetkilileri, kullanımı için kurallar önermeye sevk etti. Bazıları, yüz analizi yazılımının ve diğer yapay zekanın önyargıları devam ettirebileceğini veya gizliliği aşındırabileceğini gösteren bilimsel çalışmalara atıfta bulundu.
Google, son yıllarda karmaşık arama sorgularını yorumlamak, YouTube’daki önerilere karar vermek ve Gmail’de cümleleri otomatik olarak tamamlamak için teknolojiyi kullanarak hizmetlerinin tamamına yapay zekayı dahil etti. Dean, araştırmacılarının geçen yıl içinde yapay zekayı sorumlu bir şekilde geliştirmeye ilişkin toplamda 1.000’den fazla proje arasında 200’den fazla makale yayınladığını söyledi.
Dahili bir web sayfasına göre, Google hizmetlerini önyargılar için çalışmak şirketin yeni politikası kapsamındaki “hassas konular” arasında yer alıyor. Listelenen diğer düzinelerce “hassas konu” arasında petrol endüstrisi, Çin, İran, İsrail, COVID-19, ev güvenliği, sigorta, konum verileri, din, sürücüsüz araçlar, telekomlar ve web içeriğini öneren veya kişiselleştiren sistemler yer alıyor.
Yazarlara olumlu bir üslupla vurmaları söylenen Google makalesi, YouTube gibi hizmetlerin kullanıcıların içerik beslemelerini kişiselleştirmek için kullandığı AI önerisini tartışıyor. Reuters tarafından incelenen bir taslak, bu teknolojinin “dezenformasyonu, ayrımcı veya başka türlü haksız sonuçları” ve “yetersiz içerik çeşitliliğini” teşvik edebileceğine ve “siyasi kutuplaşmaya” yol açabileceğine dair “endişeleri” içeriyordu.
Bunun yerine nihai yayın, sistemlerin “doğru bilgi, adalet ve içerik çeşitliliğini” destekleyebileceğini söylüyor. “Ne için optimize ediyorsunuz? Öneri Sistemlerini İnsan Değerleriyle Hizalama” başlıklı yayınlanan sürüm, Google araştırmacılarına atıfta bulundu. Reuters nedenini belirleyemedi.
Bir kaynak, bu ay bir yabancı dili anlamak için yapay zeka üzerine bir makale, şirket incelemecilerinden gelen bir talep üzerine Google Translate ürününün nasıl hata yaptığına dair bir referansı yumuşattı. Yayınlanan sürüm, yazarların Google Çeviri’yi kullandığını söylüyor ve ayrı bir cümle, araştırma yönteminin bir kısmının “yanlış çevirileri incelemek ve düzeltmek” olduğunu söylüyor.
Geçen hafta yayınlanan bir makale için, bir Google çalışanı, dahili yazışmalara göre, süreci araştırmacılar ve incelemeciler arasında 100’den fazla e-posta alışverişini içeren bir “uzun vadeli” olarak tanımladı.
Araştırmacılar, yapay zekanın, sistemi geliştirmek için internetten alınmış kişisel verileri ve telif hakkıyla korunan materyalleri (bir Harry Potter romanından bir sayfa dahil) öksürebildiğini keşfettiler.
Konuya aşina bir kişi, bu tür ifşaların telif haklarını veya Avrupa gizlilik yasasını nasıl ihlal edebileceğini açıklayan bir taslak olduğunu söyledi. Şirket incelemelerinin ardından, yazarlar yasal riskleri kaldırdı ve Google makaleyi yayınladı.
© Thomson Reuters 2020
MacBook Air M1, her zaman istediğiniz bir dizüstü bilgisayarın taşınabilir canavarı mı? Bunu, Apple Podcasts, Google Podcasts veya RSS aracılığıyla abone olabileceğiniz, bölümü indirebileceğiniz veya aşağıdaki oynat düğmesine basabileceğiniz haftalık teknoloji podcastimiz Orbital’de tartıştık.