Nesnelerin İnterneti’ndeki (IoT) büyüme ve yapay zekanın kurumsalda kullanılmaya başlaması, uç hesaplamayı (Edge Computing) yeniden gündeme getirdi. Kuruluşlar, IoT cihazlarının uçta ürettiği verilerden yararlanmak, merkezileştirilmiş veri merkezleri veya bulut bilişim ile daha önce imkansız olan zorlukları çözmek istiyor.
Uç AI (Edge Computing+AI) , iş süreçlerinin dijital dönüşümüne güç veren gerçek zamanlı çıkarım (Inference) için kullanılır. Uç AI, verimliliği artıran, iş akışlarını otomatikleştiren, maliyeti azaltan ve müşteri deneyimini iyileştiren akıllı alanlar için temel bir teknolojidir.
Günümüzde neredeyse her sektörden kuruluşlar, fabrikalarda, perakende mağazalarında, petrol platformlarında ve otonom makinelerde uç AI çözümlerini yayma sürecindedir.
Uç hesaplama Nedir?
Uç hesaplama, hesaplama gücünü veri merkezinizden alarak sahaya yani verinin üretildiği bölgeye getirme işlemidir. Uç hesaplama, bulut bilişim (Cloud Computing) ile karşılaştırıldığında, daha düşük gecikme süresi, daha az bant genişliği ihtiyaçları ve ileri düzey veri gizliliği sağlar. Genellikle kullanım durumlarına, ağ gereksinimlerine veya konumlarına göre ayrılan farklı uç hesaplama türleri vardır. Farklı uç hesaplama türleri olmasına rağmen, temelde sağladıkları avantajlar aynıdır; düşük gecikme süresi, azaltılmış bant genişliği gereksinimleri ve veri gizliliği.
Uç Hesaplama Maliyeti Ne Kadar Olabilir?
Uç hesaplama maliyeti, ölçek, veri, konum ve uzmanlığa bağlı olarak farklılıklar gösterebilir. Genel maliyetler, mevcut altyapıya bağlı olarak artabilir veya azalabilir. Aşağıda maliyeti etkileyen birkaç temel faktör gösterilmektedir.
Altyapı Maliyetleri
Maliyet hesabına başlamanız gereken ilk nokta; AI uygulamanızı uçta çalıştırmanızı sağlayacak hesaplama sistemini ve kullanmanız gereken sensörleri belirlemektir. Çünkü uç hesaplama platformlarının en yaygın bileşenleri, sensörler, hesaplama sistemleri ve ağdır.
Hesaplama Sistemleri
Uç hesaplama, maliyeti düşük olan basit bir gömülü cihazda çalışabildiği gibi, yüz binlerce dolarlık sunucularda da çalışabilir. Hesaplama sistemleri, toplanan ve işlenen veri miktarına, AI modelinin kompleksliğine ve çıkarım (inference) sayısına göre boyutlandırılır.
Uç hesaplama sistemi oluştururken, ortamda çalışacak olan hem mevcut hem de gelecekteki kullanım durumlarını göz önünde bulundurmak önemlidir. Bazı uygulamalar yalnızca CPU sistemlerinde çalışabilirken, bazıları GPU’lara ihtiyaç duyar.
Gömülü cihazlar ve tek GPU sistemleri daha ucuzdur. Ancak projenizde çoklu AI modeli çalıştırılması gerekiyorsa, çoklu model çalıştıran, birden fazla GPU’lu tek bir sistem maliyet tasarrufu sağlar. Ayrıca bu durum, kısıtlı alanlarda daha verimli olacaktır.
Sensörler
Projenizde kullanacağınız sensörlerin türü ve sayısı maliyeti etkiler. Birçok firma, IoT sensörlerine şimdiden yatırım yaparak, uç hesaplamadaki roll-out yaklaşımı için gereken genel yatırımı azalttı.
Kameralar, aynı anda çoklu uygulama çalıştırmanızı sağlayan çok yönlü sensörlerdendir. Diğer sensörlere örnek olarak, mikrofonlar, barkod okuyucular, ve RFID (Radyo Frekanslı Tanımlama Teknolojisi) verilebilir.
Network
Kurumsal uç kullanım senaryolarının çoğu, bir ağa veya Wi-Fi’ye bağlı olarak şirket içinde çalıştırılır. Hücresel ağlara dayalı uzak cihazlar, aktarılan verilere bağlı olarak belli bir maliyete neden olur. Bu verilerin video olması da maliyeti artırır.
AI-on-5G, özellikle performans garantisi ve yüksek hızlı kablosuz bağlantıya dayanan kullanım senaryoları arayan kuruluşlar için dikkate alınması gereken önemli bir konudur. Geliştirmenin ilk aşamaları, süreç belirsizliğinden dolayı maliyetin belirlenmesini zorlaştırır.
Uç hesaplama ile ilgili diğer bir ağ konusu, bir veri merkezine veya buluta, ne ve ne kadar verinin geri gönderileceğine bakmaktır. Çoğu kuruluş, yapay zeka modellerini merkezi bir konumda doğrulamak ve yeniden eğitmek için uçtaki verileri kullanır. Ağ ve depolamayı dikkate alan verilere göre strateji oluşturmak, uç uygulamaları korumanın toplam maliyetinin yönetilmesini sağlamada kritik bir öneme sahiptir.
Uygulama Maliyetleri
Üretimdeki yapay zeka uygulamalarının sayısının önümüzdeki birkaç yıl içinde %60’ın üzerine çıkması bekleniyor. Öncelikli olarak, bir kuruluşun bir AI uygulamasını dağıtıp dağıtmayacağı değil, ne zaman oluşturacağı önemli. Kuruluşlar uygulamalar oluşturur, satın alır ya da hibrit bir yaklaşım kullanır.
AI Uygulamaları Oluşturma
Yüksek talep ve nitelikli aday azlığı nedeniyle, sıfırdan bir veri bilimi ekibi oluşturmak maliyetli bir girişim olabilir. Kendi bünyesinde yapay zeka geliştiricileri bulunan kuruluşlar bile, genellikle oluşturma ve satın alma stratejisinin bir kombinasyonunu kullanır ve şirket içi uzmanlıklarını farklılaşmalarına yardımcı olan kritik uygulamalar için korur.
AI Uygulamaları Satın Alma
Halihazırda veri bilimcileri ve yapay zeka geliştiricileri olmayan kuruluşlar için bile, yapay zeka uygulaması satın almak tercih edilen bir yöntemdir.
- Önceden oluşturulmuş uygulamalar tercihe göre özelleştirilebilir. Lisanslamaya bağlı olarak binlerce ila on binlerce dolar arasında değişebilir.
- Sıfırdan oluşturulan özel uygulamalar, geliştirme ve kullanıma sunma dahil yüz binlerce dolara mal olabilir.
- Müşteri ihtiyacına bağlı olarak, bu uygulamaların devam eden yönetimi ve yükseltmeleri için ek hizmet sözleşmeleri satın alınabilir.
Yönetim Maliyetleri
Uçta çalışan sistemler, eğitimli personellerin fiziksel olarak kolayca ulaşamayacağı yerlerde olduğu için veri merkezleri kadar fiziksel güvenlikte olamayabilirler.
Yönetim Yazılımları
Çoğunlukla Uç AI yönetim çözümleri kullanıma dayalı olarak fiyatlandırılır. Bu fiyatlandırmada GPU’lar ve yönetilecek sistemler belirleyici faktörler olarak düşünülebilir. Bu çözümlerin maliyeti arttıkça, ölçeklendirme yeteneği ve uç dağıtımlar için özelleştirilmiş temel özelliklerin avantajı da artar. Çözümlerin bazı örnekleri arasında NVIDIA Fleet Command, Azure IoT ve AWS IoT yer alır.
Diğer bir yönetim seçeneği, geleneksel veri merkezi yönetim çözümlerini uç noktalara kadar genişletmektir. Hem VMware Tanzu hem de RedHat OpenShift, birçok veri merkezi kurulumunda yaygın olarak kullanılır. Bu durum bilgi teknolojileri ekiplerinin bu ürünleri kullanmada deneyim sahibi olduğu anlamına gelir. Bu çözümlerin uç noktalara genişletilmesi, şirketin sözleşmesine bağlı olarak lisans maliyetinde bir artış gerektirebilir.
Ele alınması gereken diğer maliyetler, bu çözümleri uç dağıtımlarla uyumlu hale getirmek için gereken zamanın yanı sıra, ortamların devamlılığıdır.
Yönetilen hizmetler
Bazı kuruluşlar, uç ortamlarının yönetimini dışardan( Outsource) veya partnerlerinden sağlamaya çalışırlar. Bu kişilerin üstlenecekleri görevler farklılık gösterebilir. AI modellerinin geliştirilmesi, altyapının sağlanması ve yönetilmesi, AI uygulamalarının kullanıma sunulması ve güncellenmesi gibi farklı iş tanımları olabilir.
Yönetimin dışardan sağlanmasını seçen şirketler için, şirket içi (Inhouse) uzmanlığın yeterli olmadığı düşünülebilir. Kapsam, ölçek ve süreye bağlı olarak, maliyet yüz binlerce dolardan milyonlarca dolara kadar çıkabilir.
Uç bilişim, Bulut Bilişimden Daha mı Ucuz?
Birçok firma, bulut bilişime büyük yatırımlar yaptı. Şimdilerde uç hesaplamanın yükselişiyle birlikte maliyetten nasıl tasarruf edebileceklerini değerlendiriyorlar. Uç hesaplama, bulut bilişime kıyasla geleceğe yönelik bir yatırım olarak düşünülebilir. Uç hesaplamanın, ilk aşamada azımsanmayacak bir maliyeti vardır. Ancak bu maliyet, akış verilerini (Streaming data) taşımanın ve bulutta depolamanın maliyetiyle karşılaştırıldığında, daha az maliyetli sayılabilir.
Firmaların çoğunlukla uç hesaplamaya geçiş sebebi maliyetten ziyade, sınırlı bant genişliğine sahip uzak konumlarda gerçek zamanlı yanıtlar veya dağıtım gerektiren bir kullanım durumundan kaynaklanır. Örneğin, kestirimci bakım ( Predictive maintanence), güvenlik uyarıları veya otonom makineler gibi iş yükleri gecikme gereksinimleri (latency) nedeniyle bulut ortamında mümkün olmayacaktır.
Uzun vadede düşünüldüğünde, uç hesaplamanın maliyetinin düşürülmesinin büyük bir önemi yoktur. Önemli olan AI modelinin firmaya kattığı değerdir.
Uç Hesaplamanın Değeri
Diğer şirket içi dönüşümsel değişimlerde olduğu gibi, bu süreç de dikkatlice düşünülmezse karmaşık ve pahalı olabilir. Ancak, AI çözümü olarak değerlendirdiğinizde firmanız büyük faydalar görebilir. İleri düzey verimlilikten azaltılmış işletme maliyetlerine, gelişmiş müşteri zekası ve deneyimine kadar, uç yapay zekanın getirdiği ekonomik faydalar milyonlarca dolarla ölçülebilir.
AI, müşterilerin bir mağazaya girebildiği, satın almak istedikleri ürünleri seçebildiği ve ödemeyi otomatik yöntemlerle yaptığı sorunsuz bir alışveriş deneyimi sağlar. (frictionless shopping)
Perakendeciler işgücü eksikliklerini ve tedarik zinciri sorunlarını AI ile çözüyor: Geçen yıl perakendeciler, işgücünün %6,2 oranında azalması ve küresel tedarik zincirlerinde hasara yol açması nedeniyle büyük zorluklar yaşadı. Yapay zeka çözümlerini kullanan mağazalar ve restoranlar, müşterilerine daha da iyi deneyimler sağlamak için otomasyonu, öngörüleri ve lojistiği iyileştirdi.
Yapay zeka denetimi toplam üretim maliyetini düşürür: Herhangi bir üretim hattında manuel denetim çok fazla zaman alır ve kaliteyi yüksek tutmak için nitelikli çalışanlar gerektirir. Doğru ve hızlı hasar tespiti gerektiğinde, AI genel ekipman etkinliğini (OEE) ve bir hattaki üretimi artırmak için mükemmel bir çözüm olabilir. Bu duruma örnek olarak; bir üretici, fabrikada yapay zeka optik denetimi kullanarak denetim maliyetlerini toplam üretim maliyetinin %30’undan düşürmeyi başardı.
Akıllı hastaneler iş akışlarını optimize eder ve klinisyen deneyimlerini iyileştirir: Sağlık çalışanları, genel personel ve bilgi teknolojilerinin daha az kaynakla daha fazlasını yapmak zorunda kalmasıyla, sağlık hizmetlerinin dağıtımı daha zor hale geliyor. AI, sağlık çalışanlarının çalışma performanslarını artırmaya yardımcı olmakla beraber, yalnızca yüklerini azaltmakla kalmayıp aynı zamanda hayat kurtaran değerli ve zamanında bilgiler verir. Hastaları izlemek ve iş akışlarını otomatikleştirmek için yapay zekayı kullanan 100 yataklı bir tesis, yılda 11 milyon dolara kadar tasarruf sağlayabilir.
Uç Hesaplamaya Başlarken
Uç yapay zekanın değeri ele alındığında, başarılı bir uç stratejisinin nasıl hayata geçirileceği konusu kesinlikle kuruluşlar ve BT departmanları için kilit bir odak noktası olacaktır.
Uç hesaplamanın sizin için doğru çözüm olup olmadığını anlamak için Uçta Yapay Zeka Dağıtımına İlişkin Hususlar belgesini indirin.
Yazının kaynağına buradan ulaşabilirsiniz.
OpenZeka, bünyesinde aktif olarak yürütülen Cordatus projesi ile yüksek hızlı görüntü aktarımı, dağıtık görüntü işleme ve yapay zeka bulutu oluşturma alanlarında geliştirme faaliyetlerini sürdürmektedir. Bunun yanında, OpenZeka Akıllı Görüntü Analiz Sistemi, OpenZeka AI Servis-V1, Yangın Tespit Yazılımı adında tamamlanmış projeleri ve “Cordatus”, “OpenZeka AI Servis-V2” adında geliştirilmeye devam eden projelerimiz bulunmaktadır. Ayrıca yeni nesil yapay zeka algoritmaları ve sensörleri kullanarak akıllı şehir ve otonom sistemler konusunda çalışmalarımızı ve işbirliklerimizi sürdürmekteyiz. Detaylı bilgi almak için web sitemizi ziyaret edip, bizimle iletişime geçebilirsiniz.