Birçok yapay zeka modeli enerjiye aç ve pahalı. Küresel araştırmacılar, giderek artan şekilde düşük maliyetli ve düşük güçlü alternatifleri benimsiyor.
Küçük drone, kaju ağacının etrafında daireler çiziyor. Rotor kolları, kompakt gövdesinden su üstünde yürüyen bir böceğin bacakları gibi dışa doğru açılmış. Yükseldikçe, kamerası yaprakların kuşbakışı görüntüsünü yakalar; ağacın alt kısmındaki koyu, parlak yeşilden, üst kısımlarında morumsu yeşile dönüşen bir gölgelendirme görülür. Bu sırada, drone’un içine yerleştirilmiş bir yapay zeka (YZ) modeli, yaprakların hastalıklı olup olmadığını belirler. Bunu, karakteristik siyah veya kahverengi lekelerden anlar. Eğer hastalık tespit edilirse, sistem gelecekte başka dronları yönlendirerek hastalıklı bitkilere böcek ilacı püskürtebilir.
Bu sistem, Hindistan’ın Chennai kentindeki Vellore Teknoloji Enstitüsü’nden bilgisayar bilimci Bala Murugan’ın eseri. Murugan, babası ve amcası da dahil olmak üzere bir kaju çiftçisi ailesinden geliyor. “Kajulara çok fazla böcek ilacı uygulanıyor,” diyor. “Bunu minimize edecek bir çözüm oluşturmak istedim.” Ancak, Hindistan’ın kırsal kesimlerinde internet bağlantısının sınırlı olması nedeniyle bir çözüme ihtiyacı vardı.
Murugan, doktora sırasında küçük, ucuz işlemciler üzerinde çalışmıştı. Şimdi, bu tür küçük cihazlarda çalışan yapay zeka modellerinin, ailesi gibi çiftçilere hastalıklı kaju yapraklarını hızlıca tespit edip tedavi etmeleri için yardımcı olabileceğini fark etti. “İşte o zaman tinyML kullanmaya başladım,” diyor.
TinyML (machine learning yani makine öğrenmesi) düşük maliyetli, düşük güçlü bir yapay zeka uygulamasıdır ve özellikle Küresel Güney’deki kaynakları kısıtlı bölgelerde giderek yaygınlaşmaktadır. Haberlerde sıklıkla yer alan büyük dil modellerinin (LLM’ler) aksine, tinyML cihazlarının şu an için mütevazı, özelleşmiş yetenekleri var. Yine de etkileri büyük olabilir. Örneğin, Murugan’ın tinyML donanımlı dronları, kaju yapraklarındaki Anthracnose mantar hastalığını %95 ila %99 doğrulukla tespit edebiliyor. Bu, çiftçilerin hastalık belirtilerini manuel olarak aramak için harcadıkları zamanı önemli ölçüde azaltabilir. Aynı zamanda, yalnızca hastalıklı bitkileri hedef alarak ilaçlama yapılmasını sağlayarak, pahalı ve çevreye zararlı geniş çaplı böcek ilacı kullanımına duyulan ihtiyacı da ortadan kaldırabilir.
Murugan, tinyML’yi kullanarak çözümler üreten Küresel Güney’deki birçok araştırmacıdan biri. Bu cihazlar, yapay zeka becerilerini öğretmek için düşük maliyetli yardımcı araçlar olmasının yanı sıra, bitki hastalıklarının tespitinden yabani hayatın izlenmesine kadar, büyük teknoloji şirketlerinin ele almadığı sorunlara yönelik yerel çözümler de sağlıyor. 2020 yılında yaklaşık 15 milyon tinyML cihazı sevk edildi ve bu rakamın 2030 yılına kadar 2,5 milyara ulaşabileceği tahmin ediliyor.
Murugan ve diğer araştırmacılar için tinyML’nin cazibesi, YZ modelinin bir kişisel bilgisayarda eğitildikten sonra, sıradan pillerle çalışan tinyML cihazlarında haftalarca çalışabilmesi. Bu cihazlar, lazer işaretleyiciden bile daha az elektrik tüketerek çok düşük güç harcıyor. İnternet bağlantısı gerektirmemeleri, yapay zeka çözümlerini benimsemeye çalışan ancak internet erişiminin kıt olduğu bölgeler için büyük bir avantaj sağlıyor. “Bence tinyML gelecektir,” diyor Brezilya’daki Federal Itajubá Üniversitesi’nden veri bilimci Marcelo Jose Rovai. “Gelişmekte olan ülkeler için harika bir teknoloji.”
Büyük YZ modelleri: Pahalı, enerji aç ve çevresel etkileri büyük
Birleşmiş Milletler Uluslararası Telekomünikasyon Birliği’nin Standartlaştırma Politikası Departmanı’nda program yetkilisi olan Thomas Basikolo, “YZ’de trend hep ‘ne kadar büyükse o kadar iyi’ oldu” diyor. Bu eğilim, ChatGPT gibi büyük dil modelleri dahil olmak üzere, yeni içerik üreten generatif yapay zeka modellerinin ortaya çıkmasına yol açtı. Ancak Basikolo, bu modellerin birçok sorunla birlikte geldiğini söylüyor.
Bu büyük dil modelleri (LLM’ler), giderek daha fazla veri ve parametreyle eğitildikçe, maliyetleri de hızla arttı. En yeni yapay zeka donanımı çipleri yaklaşık 40.000 dolara mal oluyor ve yalnızca ChatGPT’nin bile on binlerce çipe ihtiyaç duyduğu biliniyor. Ayrıca, generatif YZ modelleri büyük miktarda enerji tüketiyor; bu da su kullanımını ve sera gazı emisyonlarını artırıyor. Bazı tahminlere göre, ChatGPT her gün neredeyse 600 megavat-saat enerji tüketiyor—bu, ortalama bir ABD hanesinin bir yılda tükettiği enerjinin 50 katından fazla. (Üstelik, ChatGPT’nin ilk eğitimi sırasında bundan çok daha fazla enerji harcanmıştı.)
Bu modeller genellikle uzaktaki büyük veri merkezlerinde çalışıyor ve internete erişimi gerektiriyor. Veri merkezlerini soğutmak için her yıl on milyarlarca litre içme suyuna ihtiyaç duyulması, özellikle içme suyu sıkıntısı çeken bölgelerde derin çevresel etkilere yol açıyor. “ChatGPT’ye her soru sorduğunuzda, buluttaki büyük veri merkezlerini çalıştıran makineleri soğutmak için birkaç litre su harcanıyor,” diyor Rovai.
2019 yılında eski bir Google mühendisi olan Pete Warden, çok daha az kaynak tüketen bir yöntem keşfetti. O ve ekibi, geleneksel makine öğrenimi modellerinin sayısal değerlerini değiştirerek gereksiz hesaplamaları azalttılar. Bu, modellerin sınırlı bellek ve işlem gücüne sahip bilgisayar çiplerinde çalışmasını sağladı.
TinyML: Küçük ama güçlü
TinyML modelleri, çamaşır makinelerinden otomobil hava yastıklarına kadar her yerde bulunan mikrodenetleyici çiplerine dayanıyor. Warden ve diğerleri, tinyML’nin o kadar az güç tüketmesini hedefledi ki, teorik olarak bir düğme piliyle bir yıl boyunca çalışabileceği veya güneş enerjisiyle neredeyse sonsuz bir süre dayanabileceği düşünüldü. “1 milivatın altına indiğinizde sihirli şeyler oluyor,” diyor Warden. Henüz bu eşiğe geniş çapta ulaşılmış değil, ancak tinyML cihazları AA pillerle haftalarca, hatta bazen aylarca çalışabiliyor.
Bu çipler ucuz ve birçok farklı üretici tarafından ticari olarak temin edilebiliyor. Sonuç olarak, tinyML cihazları birkaç dolardan onlarca dolara kadar değişen fiyatlarla sunuluyor. Çipler, genellikle kameralar ve sensörler gibi donanımlarla bir araya getirilerek, YZ modellerinin görüntüleri ve sesleri analiz etmesini sağlıyor.
TinyML’nin potansiyeli, tarımdan sağlık hizmetlerine ve çevre korumaya kadar birçok alanda kendini gösteriyor. TinyML ile donatılmış cihazlar, çiftçilere mahsul hastalıklarını tespit etmede yardımcı olurken, sağlık alanında atriyal fibrilasyon ve anemi gibi hastalıkların teşhisinde kullanılabiliyor.
Gelecekte, daha büyük YZ modellerinin bile tinyML benzeri düşük güçlü cihazlara taşınabileceği öngörülüyor. Warden, “Bence büyük yapay zeka modelleri, bulut merkezlerine bağımlı olmaktan çıkıp bu küçük ve enerji tasarruflu cihazlara kayacak,” diyor.
TinyML ile neleri yapabileceğin ve yapamayacağın konusunu netleştirmek için iki ana başlık altında inceleyelim:
TinyML ile Yapabileceklerin
TinyML, düşük güç tüketimli ve küçük cihazlarda çalışan makine öğrenimi modellerine dayanır. Aşağıdaki alanlarda etkili çözümler sunabilir:
1. Tarım ve Çevre İzleme
- Bitki Hastalıklarının Erken Tespiti: Dronlar veya sensörler aracılığıyla bitkilerdeki hastalık belirtilerini algılayabilirsin.
- Toprak ve Nem Takibi: Tarımsal sulama sistemlerinde su kullanımını optimize edebilirsin.
- Orman Yangını Algılama: Düşük güçlü sensörler ile yangın belirtilerini (duman, sıcaklık artışı vb.) algılayıp erken uyarı verebilirsin.
- Hava Kalitesi İzleme: Şehirlerde veya endüstriyel bölgelerde hava kirliliğini ölçen sistemler geliştirebilirsin.
2. Sağlık ve Biyomedikal Cihazlar
- Kalp Ritmi Algılama: Akıllı saatler veya küçük giyilebilir cihazlarla kalp ritmini takip edip anormallikleri tespit edebilirsin.
- Uyku İzleme: Hareket sensörleri ve basit ses analiziyle uyku kalitesini değerlendirebilirsin.
- Düşme Algılama: Yaşlılar için giyilebilir cihazlarla düşmeleri tespit edip acil durum uyarıları gönderebilirsin.
- Hastalık Teşhisi: TinyML, belirli biyolojik parametreleri analiz ederek anemi veya atriyal fibrilasyon gibi hastalıkları tespit edebilir.
3. Endüstriyel Uygulamalar
- Makine Bakım Tahmini (Predictive Maintenance): Titreşim ve ses analizleriyle makinelerde olası arızaları önceden tahmin edebilirsin.
- Enerji Verimliliği Optimizasyonu: Akıllı binalarda ışıklandırma, ısıtma ve soğutma sistemlerini enerji tasarrufu sağlayacak şekilde optimize edebilirsin.
- Üretim Hatalarını Tespit Etme: Üretim hattındaki anormallikleri (kırık parçalar, hatalı üretimler) sensörler ve kameralar ile algılayabilirsin.
4. Akıllı Cihazlar ve IoT (Nesnelerin İnterneti)
- Sesle Komut Veren Sistemler: Küçük mikrofonlarla ses tanıma sistemleri yapabilirsin (örneğin, akıllı bir lamba “ışıkları aç” komutunu algılayabilir).
- Görüntü İşleme (Edge AI ile): Basit nesne tanıma (örneğin, güvenlik kameraları insan veya hayvan algılama yapabilir).
- Akıllı Ev Otomasyonu: Kapıların otomatik açılması, termostat kontrolü veya hareket sensörleri ile enerji tasarrufu sağlama.
5. Hayvan Takibi ve Doğa Gözlemi
- Vahşi Yaşam İzleme: Hayvanların hareketlerini takip eden sensörler geliştirebilirsin.
- Arıcılık ve Koloni Sağlığı Takibi: Kovan içindeki sıcaklık, nem ve ses verilerini analiz ederek arı kolonilerinin sağlığını izleyebilirsin.
- Balık Göçünü Takip Etme: TinyML cihazları, su altı sensörleri ile göç eden balıkların hareketlerini analiz edebilir.
TinyML ile Yapamayacağın Şeyler
TinyML, büyük ölçekli ve hesaplama gücü yüksek uygulamalar için uygun değildir. İşte yapamayacağın bazı şeyler:
1. Büyük Dil Modelleri ve Doğal Dil İşleme
- ChatGPT gibi Geniş Kapsamlı Modeller: Büyük dil modelleri milyarlarca parametre içerir ve devasa sunucu altyapısı gerektirir. TinyML ile bu tarz bir yapay zeka modeli çalıştırmak mümkün değildir.
- Çeviri ve Karmaşık Metin İşleme: TinyML, basit ses veya yazı tanıma işlemleri yapabilir, ancak cümle analizi, içerik oluşturma veya metin çevirisi gibi görevler için yetersizdir.
2. Yoğun Grafik İşleme ve Görüntü Analizi
- Gelişmiş Bilgisayarlı Görü (Computer Vision): TinyML, temel nesne algılama yapabilir, ancak yüz tanıma, detaylı görüntü analizi veya derin öğrenme tabanlı video işleme gibi karmaşık işlemleri kaldıramaz.
- Yüksek Çözünürlüklü Video Analizi: Canlı video akışı üzerinden gerçek zamanlı analizler yapmak için büyük GPU’lar gerekir.
3. Büyük Ölçekli Veri İşleme ve Depolama
- Büyük Veri Analizi (Big Data Processing): Terabaytlarca veriyi analiz etmek için büyük veri merkezleri ve güçlü bulut sistemleri gerekir. TinyML, yalnızca küçük veri setleriyle çalışabilir.
- Gerçek Zamanlı Trafik Analizi: Şehir çapında büyük veri analizleri yapmak için merkezi sunucular ve büyük ölçekli yapay zeka modelleri gereklidir.
4. Yüksek Güç Gerektiren Yapay Zeka Modelleri
- Generatif Yapay Zeka (DALL·E, Stable Diffusion, Midjourney vb.): TinyML, yeni görüntüler veya müzikler oluşturamaz.
- Finansal Tahmin ve Karmaşık İstatistiksel Modeller: Borsa tahmini gibi veri yoğunluklu işlemler, büyük sunucu sistemleri gerektirir.
- Otonom Araç Kontrolü: TinyML, basit sensör tabanlı otomasyonlar yapabilir ama otonom bir arabayı yönetecek kadar güçlü değildir.
Sonuç: TinyML Neyi Başarabilir, Neyi Başaramaz?
| Özellik | TinyML ile Yapılabilir mi? |
|---|---|
| Bitki hastalık tespiti | ✅ Evet |
| Kalp ritmi algılama | ✅ Evet |
| Enerji verimliliği analizi | ✅ Evet |
| Ses komut algılama | ✅ Evet |
| Basit nesne tanıma | ✅ Evet |
| Gelişmiş yüz tanıma | ❌ Hayır |
| ChatGPT benzeri sohbet botları | ❌ Hayır |
| Yüksek çözünürlüklü video analizi | ❌ Hayır |
| Derin öğrenme tabanlı görüntü oluşturma | ❌ Hayır |
| Büyük veri analizi | ❌ Hayır |
