Meta’nın bilimsel emekleri hızlandırmak ve arttırmak amacıyla geliştirdiği Galactica adlı suni zekasının demo süreci o kadar da uzun ömürlü olmadı. Suni zekanın, anlamlı görülen sadece anlam ifade etmeyen olan yazıları ve ırkçılığa varan görüşleri sebebiyle fişi çekildi.
Meta, geçtiğimiz Salı günü Galactica adlı suni zekasının bir demosunu yayınlamıştı. Bu suni zekanın “bilimsel bilgiyi depolamak, birleştirmek ve değerlendirebilmek” amacıyla geliştirilmiş bir büyük dil modeli kullandığı belirtilmişti. Görünüşe nazaran bu suni zeka hemen hemen hazır değil.
Demo sürümünü deneyen kullanıcılar, suni zekanın mantıklı benzer biçimde gözükse de herhangi bir anlamı olmayan, anlam ifade etmeyen cümleler kurduğunu açıkladı. Ek olarak suni zekanın ırkçı olabildiği yönünde de etik açıdan eleştirilerde bulunulmuş oldu. Meta da suni zekanın demo erişimini sonlandırdı.
Suni zekanın problemi ne anlattığını anlamamak mı?
LLM adında olan büyük dil modellerine aslen o denli da yabancı değiliz, OpenAI’ın GPT-3 benzer biçimde suni zekaları verimli çalışıyor benzer biçimde gözüküyor, hatta öğrencilerin ödevlerini yapmakta kullandığı bir vasıta olarak görülüyor. Bu modeller milyonlarca metni okuyarak sözcüklerin arasındaki bağları istatistiksel olarak ortaya çıkarıyor ve sonrasında da yeni metinler ortaya çıkarıyor. Şu demek oluyor ki suni zeka size bir hamburger tarifi verecekse yazdığı sos, köfte, ekmek ve öteki malzemeler değişiyor olsa da tarifte kesinlikle sos, köfte, ekmek içeriyor.
Meta’nın Galactica adlı suni zekası, 48 milyondan fazla yazı, ders kitabı ve ders notu, bilimsel site içinde ne olduğu, ansiklopedi içeriyor. Meta’ya nazaran suni zekayı beslemede kullanılan yüksek kaliteli içeriğin yüksek kaliteli çıktı vermesi umut ediliyor.
Hedeflerin aksine bilimsel kıymeti olmayan metinler ortaya çıktı.
Meydana getirilen denemelerin neticeleri ise {hiç de} beklendiği benzer biçimde değil. Suni zeka; taraflı, otoriter bir tona haiz sadece gerçek anlamda bilimsel bir kıymeti olmayan metinler yazıyor. Ek olarak yapmış olduğu atıflar da gerçekte olmayan yazarlara ve makalelere ilişkin olabiliyor. Bu da ciddi bir problem oluşturuyor.
Hamburger örneğinden devam edersek suni zeka bizlere tanım verdiğinde ekmek olarak pasta tabanı, sos olarak enginar püresi, köfte olarak gergedan kıymasından yapılmış köfte içeren bir tanım veriyor. Bu tarifi de doğru hamburger bu şekilde yapılırmış benzer biçimde bir tonlamayla aktarıyor. Referansları ise yarı gerçek, yarı uydurma olarak seçiyor.
İLGİLİ HABER
Meta Çalışanlarının Para Karşılığı Facebook ve Instagram Hesabı Sattıkları Ortaya Çıktı!
Önümüzdeki dönemde suni zekanın oluşturabileceği metinler üstüne bir etik tartışması da devam ediyor. Suni zekaların özgürce insanların kullanımına sunulmasını savunanlar ile suni zekaları oluşturanların, ziyanı en aza indirecek şekilde suni zekayı kısıtlaması icap ettiğini savunanlar iki kampa bölünmüş durumda.
Kaynak :
https://arstechnica.com/information-technology/2022/11/after-controversy-meta-pulls-demo-of-ai-model-that-writes-scientific-papers/