Edge AI Nedir? Yapay Zekanın Cihaz Üstünde Çalışması

Edge AI nedir?

Edge AI, yapay zeka modelinin uzaktaki bir bulut sunucusu yerine telefon, kamera, bilgisayar ya da sensör gibi verinin doğduğu cihazın üzerinde çalışması demektir. Cihaz girdiyi toplar, modeli yerelde çalıştırır ve sonucu üretir. Veriyi internet üzerinden bir veri merkezine göndermenize gerek kalmaz.

Bir benzetmeyle düşünün. Bulut yapay zeka, her sorunuzu şehir merkezindeki uzmana telefonla sormaya benzer. Edge AI ise o uzmanın bilgisinin bir kısmını cebinizdeki küçük bir rehber kitaba sığdırmaktır. Rehber her konuyu bilmez, ancak çoğu günlük soruya anında cevap verir.

Bu yazıda terimi kavram olarak anlatıyoruz. Yani belirli bir model adına, sürüme ya da donanım rakamına yaslanmıyoruz. Bu tür bilgiler hızla eskir; güncel değerleri sağlayıcının resmi belgesinden kontrol etmenizi öneririz.

Edge AI nedir ve bir tahmin cihazda nasıl çalışır?

Akış beş basit adımdan oluşur. Önce cihazdaki kamera, mikrofon ya da sensör ham veriyi toplar. Ardından yazılım veriyi küçük bir ön işlemden geçirir; örneğin görüntüyü yeniden boyutlandırır. Sonra model bu girdiyi cihazın işlemcisinde işler ve bir tahmin üretir.

1. Cihaz ham veriyi toplar: görüntü, ses ya da sensör ölçümü.
2. Yazılım veriyi modelin beklediği biçime getirir.
3. Model, cihazın işlemcisinde ya da yapay zeka hızlandırıcısında çalışır.
4. Model çıktı üretir: bir etiket, bir sayı, bir metin ya da bir uyarı.
5. Uygulama çıktıyı ekranda gösterir ya da bir alarm tetikler.

Burada kritik ayrım, eğitim ile çıkarım arasındadır. Eğitim modelin öğrenme aşamasıdır ve genellikle güçlü sunucularda olur. Çıkarım ise modelin yeni veriye cevap vermesidir. Edge AI çoğunlukla çıkarımı cihaza taşır; eğitim yine başka bir yerde yapılabilir.

Eğitim konusunda temel kavramları merak ediyorsanız derin öğrenme ve sinir ağları rehberimize göz atabilirsiniz.

Bu akışın hızı, modelin boyutuna ve cihazın donanımına bağlıdır. Aynı model iki farklı telefonda çok farklı sürelerde cevap verebilir. Dolayısıyla Edge AI nedir sorusunu cevaplarken yazılım kadar donanımı da hesaba katmak gerekir.

Edge AI nedir sorusunun işletme tarafındaki karşılığı nedir?

Yönetici açısından Edge AI nedir sorusunun cevabı kısadır: Zekayı, kararın gerçekten verilmesi gereken yere taşımak. Bu yer bazen bir kasanın yanı, bazen bir deponun girişi, bazen de çalışanın cebindeki telefondur.

İş değeri genellikle üç yerde çıkar. Birincisi hızdır; çalışan ya da müşteri beklemez. İkincisi veri sorumluluğudur; hassas görüntü ve ses mümkün olduğunca yerinde kalır. Üçüncüsü süreklilik. Bağlantı sorunu yaşansa bile iş durmaz.

Buna karşılık Edge AI her sorunun ilacı değildir. Ayda birkaç kez çalışan, büyük bağlam isteyen bir rapor özeti için bulut çoğu zaman daha basit ve ucuzdur. Doğru soru şudur: Bu karar için hız, gizlilik ya da süreklilik gerçekten kritik mi?

Edge AI ile cihaz üstü yapay zeka aynı şey midir?

Günlük kullanımda iki ifade çoğunlukla aynı anlama gelir. Cihaz üstü (on-device) yapay zeka, modelin kullanıcının kendi telefonunda ya da bilgisayarında çalışmasını vurgular. Edge AI ise biraz daha geniştir ve kamera, ağ geçidi, fabrika terminali gibi sahadaki yakın cihazları da kapsar.

Yani her cihaz üstü uygulama bir Edge AI örneğidir. Ancak her Edge AI senaryosu bir kullanıcı cihazında geçmez. Mağazadaki küçük bir sunucu kutusu da veriyi kaynağa yakın işlediği için "kenar" (edge) katmanına girer.

Şu üç konumu ayırmak işinizi kolaylaştırır:

• Cihazın kendisi: telefon, kamera, sensör, yazıcı ya da el terminali.
• Yakın ağ geçidi: şubedeki küçük bir sunucu ya da endüstriyel bilgisayar.
• Merkezi bulut: uzaktaki büyük veri merkezi, yani kenarın karşıtı.

Edge AI neden son zamanlarda daha çok konuşuluyor?

Fikir yeni değil, ancak onu pratik kılan parçalar olgunlaştı. Cihazlardaki işlemciler yapay zeka hesaplarına uygun hale geldi. Ayrıca model sıkıştırma teknikleri yaygınlaştı ve küçük modeller daha yetenekli oldu.

Bir de beklenti değişimi var. Kullanıcılar uygulamaların anında cevap vermesini ve kişisel verilerinin kontrolsüz dolaşmamasını istiyor. Dolayısıyla ürün ekipleri "her şeyi buluta gönderelim" refleksini yeniden sorguluyor.

Üçüncü etken maliyettir. Her kamera karesini ya da ses parçasını buluta yollamak, ölçek büyüdükçe bant genişliği ve işlem faturasını şişirir. Bu yüzden ilk filtreyi cihazda yapıp yalnızca önemli olanı yollamak çekici hale gelir.

Cihazda çalışmanın temel faydaları nelerdir?

Google AI Edge dokümantasyonu cihaz üstü yapay zekanın üç ana faydasını öne çıkarır: gecikme, gizlilik ve çevrimdışı çalışma. Bu üç başlık, projelerimizde de en sık duyduğumuz gerekçelerdir. Her birini ayrı ayrı ele alıyoruz.

• Düşük gecikme: Veri ağa çıkmadığı için cevap ağ hızına bağlı kalmaz.
• Gizlilik: Ham görüntü ya da ses cihazdan hiç ayrılmayabilir.
• Çevrimdışı çalışma: Bağlantı koptuğunda bile uygulama işlevini sürdürür.
• Bant genişliği tasarrufu: Yalnızca sonuç gider, ham video ya da ses gitmez.
• Öngörülebilir maliyet: Her istek için bulut çağrısı ücreti ödemezsiniz.

Bu faydaların hepsi her projede aynı ağırlıkta değildir. Örneğin sahada internetin zayıf olduğu bir uygulamada çevrimdışı çalışma belirleyici olur. Müşteri görüntüsü işleyen bir uygulamada ise gizlilik öne çıkar.

Gecikme neden bu kadar önemlidir?

Bulut çağrısında veri önce ağa çıkar, sunucuya ulaşır, sunucu onu işler ve cevabı geri yollar. Bu yolculuk iyi koşullarda hızlıdır. Ancak mobil ağda, kalabalık bir mağazada ya da depo içinde bağlantı dalgalanabilir. Edge AI bu belirsizliği ortadan kaldırır, çünkü sonuç ağa hiç bağlı değildir.

Gecikme özellikle gerçek zamanlı işlerde fark yaratır. Canlı kamera görüntüsünde bir nesneyi işaretlemek, kullanıcı yazarken öneri üretmek ya da bir makinede anormal titreşimi anında yakalamak buna örnektir. Bu işlerde saniyenin küçük bir bölümü bile deneyimi değiştirir.

Yine de "yerel her zaman daha hızlıdır" demek doğru olmaz. Küçük bir cihaz büyük bir modeli yavaş çalıştırabilir. Bu nedenle gecikmeyi tahminle değil, hedef cihazda ölçerek değerlendirmenizi öneririz.

Bir saha ekibinin kullandığı uygulamayı düşünün. Kullanıcı etiketi kameraya tuttuğunda sonucu anında görmek ister. Sonuç birkaç saniye gecikirse çalışan uygulamaya güvenmeyi bırakır ve işi elle yapar. Yani gecikme yalnızca teknik bir ölçü değil, benimsenme sorunudur.

Gizlilik ve çevrimdışı çalışma gerçekte ne sağlar?

Veri cihazda kaldığında üçüncü bir tarafa aktarma ihtiyacı azalır. Bu, kişisel veri taşıyan görüntü ve ses işlemede riski küçültür. Ancak gizlilik kendiliğinden çözülmez. Uygulamanız sonuçları, günlükleri ya da analiz verisini yine de bir sunucuya gönderiyor olabilir.

Bu nedenle "veri cihazdan çıkmıyor" cümlesini yazmadan önce veri akışını tek tek çıkarmanız gerekir. Hangi veri cihazda kalıyor, hangisi telemetri olarak gidiyor? Bu soruya net cevap vermeden gizlilik vaadi vermeyin.

Çevrimdışı çalışma ise saha uygulamalarında somut değer üretir. Bodrum katındaki depoda, kırsalda ya da uçuş modundaki bir cihazda model çalışmaya devam eder. Eşitleme sonra, bağlantı döndüğünde olur.

Kişisel verilerle ilgili yükümlülükler için bu yazı hukuki danışmanlık değildir; uygulamanız için bir hukuk uzmanına danışın.

Pratik bir ipucu verelim: Veri akış şemasını tek sayfada çizin. Kameradan çıkan görüntü nerede işleniyor, sonuç nereye yazılıyor, günlükler kimde? Bu şema hem ekibinize hem müşterinize net bir cevap sunar.

Edge AI'ın sınırları ve riskleri nelerdir?

Cihaz üstü çalışmanın bedeli kaynak sınırıdır. Telefon ya da kamera, bir veri merkezinin işlem gücüne, belleğine ve soğutmasına sahip değildir. Bu yüzden model küçülmek zorundadır ve küçülen model çoğu zaman daha az yeteneklidir.

• Donanım sınırı: Bellek, işlemci gücü ve batarya sınırlıdır.
• Model boyutu: Büyük modeller cihaza olduğu gibi sığmaz.
• Doğruluk kaybı: Sıkıştırma bazı ayrıntıları bozabilir.
• Cihaz çeşitliliği: Aynı model farklı cihazlarda farklı hızda çalışır.
• Güncelleme zorluğu: Binlerce cihazdaki modeli yenilemek planlı bir süreç ister.
• Fiziksel güvenlik: Cihaz kaybolursa içindeki model ve veri ele geçirilebilir.

Ayrıca bulutta tek bir yerde düzelttiğiniz hatayı, kenarda her cihaza ayrı ayrı yaymanız gerekir. Bu operasyonel yükü baştan hesaba katmak, projenin başarısını belirler.

Sınırların çoğu proje başında kolayca görünmez. Demoda her şey çalışır, ardından yüzlerce cihaza yayılınca farklı işlemciler, farklı bellek miktarları ve farklı işletim sistemi sürümleri ortaya çıkar. Bu yüzden sınırları listeleyip her biri için bir önlem yazın.

NPU nedir ve Edge AI için neden önemlidir?

NPU (neural processing unit), yapay zeka hesaplarını hızlı ve düşük enerjiyle yapan özel bir işlemci birimidir. Sinir ağlarının temel işlemi olan yoğun matris çarpımlarını genel amaçlı işlemciden çok daha verimli yürütür.

Bir mutfak benzetmesi işe yarar. CPU her işi yapan çok yönlü bir aşçıdır. GPU aynı işi aynı anda yüzlerce kez yapan bir üretim hattıdır. NPU ise yalnızca belirli bir tarifi, çok az enerjiyle, çok hızlı pişiren özel bir ocaktır.

Cihaz üreticileri bu birimlere farklı adlar verir. Ayrıca her biri kendi yazılım katmanıyla çalışır; Google tarafında LiteRT, Apple tarafında Core ML bu işi üstlenir. Hangi donanımın hangi modeli desteklediği sık değiştiği için resmi geliştirici sayfalarını kontrol edin.

Özetle NPU, batarya ömrünü ve hızı birlikte korumanıza yardım eder. Yoksa aynı model CPU üzerinde cihazı ısıtabilir ve bataryayı hızla tüketebilir.

NPU olmayan cihazlarda model yine çalışır, yalnızca daha yavaş ya da daha enerji tüketen bir yoldan. Bu yüzden iyi tasarlanmış bir uygulama, cihazda hangi hızlandırıcı varsa onu kullanır; yoksa CPU ya da GPU'ya geri döner. Bu esnekliği baştan planlayın.

TinyML ve mikrodenetleyici cihazlar Edge AI içinde nerede durur?

TinyML, çok küçük ve düşük enerjili donanımlarda, örneğin mikrodenetleyicilerde, minik modeller çalıştırmayı anlatan bir alt alandır. Edge AI şemsiyesinin en uç noktası gibi düşünebilirsiniz.

Telefon ya da kamera gibi nispeten güçlü cihazlarda daha geniş modeller çalışır. Pille çalışan bir sensörde ise yalnızca birkaç basit görev mümkündür. Örneğin bir titreşim örüntüsünü tanımak ya da bir anahtar kelimeyi duymak gibi.

Seçiminiz, cihazın bellek ve enerji bütçesine bağlıdır. Bu nedenle donanım seçimini model seçiminden ayırmayın; ikisini birlikte planlayın.

Büyük modeller cihaza nasıl sığar?

Doğrudan sığmazlar; önce küçültülürler. Bu küçültme tek bir hamle değil, bir araç kutusudur. Model mimarisini baştan hafif tasarlamak, gereksiz bağlantıları budamak, sayıların hassasiyetini düşürmek ve büyük modelin bilgisini küçüğe aktarmak bu kutunun içindedir.

Edge AI çalışmalarında en sık iki teknik öne çıkar. Birincisi kuantizasyondur: Modelin ağırlıklarını daha az bitle saklayarak boyutu ve bellek ihtiyacını azaltır. İkincisi distilasyondur: Büyük bir "öğretmen" modelin davranışını küçük bir "öğrenci" modele öğretir.

Bu iki tekniği burada yalnızca tanıtıyoruz, çünkü her biri ayrı bir terimdir. Ayrıntı için kuantizasyon rehberimizi okuyabilirsiniz.

Küçültmenin amacı "mümkün olduğunca küçük" olmak değildir. Amaç, işiniz için yeterli doğruluğu koruyan en küçük modeli bulmaktır.

Kuantizasyon ve distilasyon pratikte neyi değiştirir?

Kuantizasyon, aynı modeli daha hafif sayı biçimleriyle saklar. Sonuçta dosya küçülür, bellek ihtiyacı düşer ve birçok donanımda çıkarım hızlanır. Bedeli küçük bir doğruluk kaybı olabilir; bu kaybı kendi verinizle test etmeniz gerekir.

Distilasyon ise farklı bir yol izler. Elinizde güçlü ama ağır bir model varsa, onun çıktılarından yararlanarak daha küçük bir model eğitirsiniz. Böylece küçük model, tek başına eğitilseydi ulaşamayacağı bir davranışa yaklaşabilir.

İkisi birbirinin rakibi değil, tamamlayıcısıdır. Örneğin önce distilasyonla küçük bir model elde edip sonra kuantizasyonla cihaza uygun hale getirebilirsiniz. Ayrıca budama gibi başka teknikler de aynı hatta yer alır.

Sonuç olarak cihaza uygun model seçerken şu soruyu sorun: Bu iş için en küçük yeterli model hangisi? Cevabı bir bulut demosunda değil, hedef cihazda yaptığınız ölçümde bulursunuz.

Bu tekniklerin etkisini tahmin etmeyin, ölçün. Aynı görevi hem özgün hem küçültülmüş modelle çalıştırıp doğruluk ve hız farkını tabloya dökün. Fark kabul edilebilirse küçültmeyi sürdürün; değilse bir üst boyuta çıkın.

Edge AI hangi alanlarda işe yarar?

Edge AI, aslında hepimizin her gün kullandığı bir yaklaşım. Telefonda yüz kilidi, klavyede sonraki kelime önerisi, kamerada otomatik odaklama ve fotoğrafta nesne ayırma bunun örnekleridir. Çoğu zaman kullanıcı bunların yapay zeka olduğunu fark etmez.

İşletme tarafında ise tipik alanlar şunlardır:

• Perakende: mağaza kamerasında yoğunluk ve raf doluluğu takibi.
• Üretim ve lojistik: bant üzerinde kusurlu ürün ayıklama, depoda palet sayımı.
• Saha hizmetleri: telefonla belge, etiket ya da seri numarası okuma.
• Akıllı bina: bir odadaki doluluğa göre aydınlatma ve iklimlendirme.
• Erişilebilirlik: cihazda canlı altyazı ve sesli komut.

Bu örneklerin ortak noktası, hızlı ve yerel karar ihtiyacıdır. Görüntü işleme tarafını daha geniş görmek için bilgisayarlı görü yazımıza bakabilirsiniz.

Bu alanların her birinde kararı veren model genellikle dardır ve tek bir işe odaklanır. Geniş bir sohbet asistanı yerine, "bu fotoğrafta etiket var mı" gibi tek soruya cevap veren model cihaza çok daha rahat sığar. Edge AI nedir diye soran işletmelere bu yüzden önce dar bir görev seçmelerini söylüyoruz.

Mağaza kamerası sayımı Edge AI ile nasıl çalışır?

Aşağıdaki bir örnek senaryodur; gerçek bir müşteri sonucu değildir. Orta ölçekli bir mağazada giriş kapısının üzerine bir kamera yerleştirdiğinizi düşünün. Amaç, saatlik ziyaretçi yoğunluğunu görmek ve kasa vardiyasını buna göre planlamak.

Bulut yaklaşımında kamera sürekli video gönderir. Bu hem bant genişliği harcar hem de müşteri görüntülerinin dışarı çıkması anlamına gelir. Edge AI yaklaşımında ise kameranın yanındaki küçük bir cihaz görüntüyü yerelde işler ve yalnızca "bu saatte şu kadar kişi girdi" bilgisini gönderir.

Böylece ham video mağazada kalır, rapor ise yine merkezde birleşir. Ayrıca internet kesilse bile sayım sürer; bağlantı dönünce özet veri merkeze akar.

Yine de dikkat etmeniz gereken noktalar var. Kamera açısı, ışık değişimi ve kalabalık anları doğruluğu etkiler. Mağaza içinde kişisel veri işlendiği için tabela, saklama süresi ve erişim yetkisi gibi konularda hukuki destek almanızı öneririz.

Pilot için basit bir plan yeterlidir: Tek bir mağaza, tek bir kamera ve kısa bir test süresi seçin. Sayımı kâğıt üzerinde elle yapılan sayımla karşılaştırın. Farkı kabul edilebilir bulursanız ikinci mağazaya geçin. Bu sıralama, büyük yatırımdan önce riski küçültür.

Sahada belge okuma işini cihaz nasıl çözer?

Bu da bir örnek senaryodur. Bir saha ekibi, teslimat sırasında irsaliye ya da ürün etiketi fotoğrafı çekiyor olsun. Bölge çoğu zaman zayıf bağlantılıdır ve her fotoğrafın yüklenmesini beklemek işi yavaşlatır.

Cihaz üstü bir metin tanıma modeli, fotoğraftaki alanları telefonda okur. Uygulama okunan değerleri forma otomatik yazar, kullanıcı gerekirse düzeltir. Bağlantı geldiğinde yalnızca doğrulanmış kaydı merkeze yollarsınız.

Bu akış iki kazanç sağlar. Birincisi, saha çalışanı beklemeden ilerler. İkincisi, belge görüntüsünün bir kısmı yerelde kalır.

Elbette karmaşık belgeler için tek başına küçük bir model yetmeyebilir. Bu durumda zor vakaları buluta aktaran hibrit bir yapı kurarsınız. Kurumsal belge akışları için yapay zeka ile belge işleme çözümümüze göz atabilirsiniz.

Edge AI ve bulut yapay zekayı nasıl karşılaştırırsınız?

İki yaklaşım rakip değil, farklı ihtiyaçlara hizmet eden araçlardır. Aşağıdaki tablo, karar verirken en çok önem taşıyan boyutları yan yana koyar.

Bu tablo bir yönlendirmedir. Gerçek karar, kendi verinizle ve hedef cihazınızla yapacağınız küçük bir denemeye dayanmalıdır.

Tabloda tek bir sütunun üstünlüğüne bakmayın. Önemli olan, işiniz için hangi satırların kritik olduğudur. Örneğin gizlilik sizin için belirleyiciyse tablodaki diğer satırlardaki bulut avantajları ikinci plana düşebilir.

Edge AI yakın terimlerden nasıl ayrışır?

İnsanlar Edge AI'ı sıkça komşu kavramlarla karıştırır. Aşağıdaki tablo yalnızca ayrımı gösterir; her terimin kendi yazısı ayrıntıyı anlatır.

Eğitimi dağıtma fikri için federe öğrenme yazımızı, kendi makinenizde dil modeli çalıştırmak için Ollama rehberimizi inceleyebilirsiniz.

Hibrit yapı ne zaman daha mantıklı olur?

Birçok gerçek projede tek bir yer seçmezsiniz; iş yükünü paylaştırırsınız. Hızlı, sık ve basit kararları cihaz verir. Nadir, zor ya da büyük bağlam isteyen kararlar buluta gider. Bu yapıya hibrit mimari diyoruz.

Örneğin bir saha uygulamasında metin okumayı cihaz yapar, ama okunan değeri şirket kayıtlarıyla merkez eşleştirir. Benzer şekilde cihaz önce kendi modeline güvenir; güven puanı düşükse isteği buluta devreder.

Hibrit yapının güzel yanı, birini diğerine feda etmemenizdir. Zor yanı ise iki ortamı da yönetmeniz gerekmesidir. Bu yüzden önce küçük bir pilotla başlayın.

Şirket belgelerine dayanan akıllı asistanlar için ayrıca RAG yaklaşımını incelemeniz faydalı olur.

Hibrit yapıda bir kural koymak işe yarar: Cihaz cevabından emin değilse işi buluta devretsin. Böylece kolay vakalar hızlı ve ucuz, zor vakalar ise daha yetenekli modelde çözülür. Devir oranını izlerseniz, cihaz modelinin ne zaman yeniden eğitilmesi gerektiğini de görürsünüz.

Edge AI cihazlarını nasıl güvende tutarsınız?

Model cihaza yerleştiğinde saldırı yüzeyi de cihaza taşınır. Cihaz kaybolabilir, çalınabilir ya da bir kullanıcı uygulamayı kurcalayabilir. Bu yüzden yalnızca sunucuyu değil, cihazı da korumanız gerekir.

• Model dosyasını ve yerel veriyi cihazda şifreli saklayın.
• Uygulama güncellemelerini imzalı kanaldan dağıtın.
• Cihaz kimliğini doğrulayın ve yetkisiz cihazı ağdan çıkarın.
• Telemetriyi minimumda tutun ve kişisel veri içermesin.
• Kaybolan cihaz için uzaktan silme planı hazırlayın.

Ayrıca modelin kendisi de bir varlıktır. Kimlerin eriştiğini ve hangi lisansla dağıttığınızı belgeleyin. Güvenlik kararlarında yetkili bir uzmanın görüşünü almanızı öneririz.

Edge AI doğruluğunu hedef cihazda nasıl ölçersiniz?

Ölçüm, Edge AI projelerinin kalbidir. Önce gerçek kullanımı yansıtan küçük ve temsilci bir örnek veri kümesi hazırlayın. Örneğin mağaza kamerası için farklı saat ve ışık koşullarından görüntüler toplayın.

Ardından aynı veriyi hem referans modelde hem de sıkıştırılmış modelde çalıştırın. Doğruluk farkına ve cihazdaki hıza birlikte bakın. Çünkü hızlı ama yanlış bir model de, doğru ama yavaş bir model de işe yaramaz.

Batarya ve sıcaklık da ölçüm listesine girer. Birkaç saatlik sürekli çalışma testi, kısa demolardan çok daha dürüst bir tablo verir.

Edge AI projesine başlamadan önce hangi kontrol listesini izlemelisiniz?

Teknik bir karara girmeden önce şu soruları yanıtlayın. Listeyi proje toplantısına olduğu gibi taşıyabilirsiniz.

1. Cihaz hangi kararı vermeli, gecikme ya da gizlilik gerçekten şart mı?
2. Hedef cihazlar hangileri ve bellek, işlemci, NPU durumları nedir?
3. Hangi doğruluk düzeyi iş için yeterli? Bunu kendi örnek verinizle tanımladınız mı?
4. Model sıkıştırması sonrası doğruluğu hedef cihazda ölçtünüz mü?
5. Hangi veri cihazda kalacak, hangisi sunucuya gidecek? Veri akışı yazılı mı?
6. Modeli cihaz filosunda nasıl güncelleyeceksiniz?
7. Bağlantı koptuğunda uygulama ne yapacak?
8. Pilot ölçütleri neler? Başarıyı hangi sayıyla değerlendireceksiniz?

Bu listede cevaplayamadığınız madde varsa, o madde projenizin ilk riskidir. Önce onu çözün.

Edge AI projelerinde sık yapılan hatalar nelerdir?

Ekiplerin en sık düştüğü hata, modeli güçlü bir geliştirme bilgisayarında test edip hedef cihazda denememektir. Laboratuvarda hızlı çalışan model, gerçek cihazda yavaşlayabilir ya da bataryayı tüketebilir.

• Hedef cihazda ölçüm yapmadan karar vermek.
• Gizliliği otomatik varsaymak ve veri akışını belgelememek.
• Sıkıştırma sonrası doğruluğu yeniden test etmemek.
• Güncelleme ve izleme planını sona bırakmak.
• Her işi cihazda çözmeye çalışıp hibrit seçeneği hiç düşünmemek.
• Tek bir ürünü mutlak çözüm gibi seçip bağımlı kalmak.

Erken bir pilot bu hataların çoğunu ortaya çıkarır. Dolayısıyla küçük başlayın, ölçün ve sonra genişletin.

Bir başka sık hata, kullanıcıya cihazın kısıtlarını anlatmamaktır. Örneğin bataryası zayıf bir telefonda model yavaşlayabilir. Uygulama bu durumda sessizce hata vermek yerine basit bir uyarı gösterirse kullanıcı güvenini kaybetmez.

Edge AI için nereden başlamalısınız?

En sağlıklı başlangıç, tek bir dar iş seçmektir. Örneğin yalnızca giriş sayımı ya da yalnızca etiket okuma gibi. Ardından resmi geliştirici dokümanlarından uygun çalışma katmanını inceleyin. Google AI Edge Android, iOS ve web için cihaz üstü yığınını anlatır; Apple Core ML belgeleri ise Apple cihazlarındaki yaklaşımı açıklar.

Model, sürüm ve donanım bilgileri hızla değişir. Bu yüzden güncel desteği her zaman sağlayıcının resmi sayfasından doğrulayın.

Kurumunuzda yerel çalışan bir model fikri varsa, yerel LLM kurulumu sayfamızdan bilgi alabilirsiniz. Talha Aslan ve ekibi olarak önce ihtiyacı dinler, ardından cihazda mı, bulutta mı yoksa hibrit mi çalışacağınıza birlikte karar veririz.

Büyük modellerin neden pahalı çalıştığını anlamak için token ve API maliyeti yazımız ile GPU sunucu rehberimiz da yardımcı olur.

Son olarak ekibinizle bir deneme planı yazın. Hangi cihazda, hangi veriyle, hangi ölçütle test edeceğinizi netleştirin. Bu plan hazırsa Edge AI nedir sorusu teoriden çıkıp işinize dokunan somut bir karara dönüşür.