Yapay zekada ‘yeşil’ dönem: Modellerin elektrik tüketimi artık şeffaf

Küresel yapay zeka yarışında performans kadar ‘enerji maliyeti’ de kritik bir rekabet unsuru haline geliyor. Michigan Üniversitesi araştırmacıları, yapay zeka modellerinin görevleri tamamlarken ne kadar elektrik tükettiğini ölçen açık kaynaklı bir yazılım ve çevrimiçi bir sıralama tablosu geliştirdi.

Teknoloji dünyası, yapay zekanın sunduğu imkanları kutlarken, madalyonun diğer yüzündeki enerji faturasıyla yüzleşmeye başladı. Michigan Üniversitesi mühendisleri tarafından geliştirilen yeni yazılım, açık kaynaklı yapay zeka modellerinin ‘enerji karnesini’ çıkararak, geliştiricilere çevresel etkileri en aza indirme imkanı sunuyor.

GÖRÜNMEZ MALİYET: ÇIKARIM SÜRECİ 

Yapay zeka sektöründe tüketilen enerjinin yüzde 80 ila yüzde 90'ı, modellerin eğitimi sırasında değil, eğitilmiş bir modelin kullanıcıdan gelen talebi işlediği ‘çıkarım’ (inference) aşamasında harcanıyor. Araştırmayı yürüten Doç. Dr. Mosharaf Chowdhury, mevcut performans ölçütlerinin enerji verimliliğini göz ardı ettiğine dikkat çekerek, bu yeni aracın daha doğru kararlar verilmesini sağlayacağını vurguladı.

Enerji tüketimini etkileyen temel faktörler:

• Belirteç (Token) sayısı: Modelin ürettiği kelime parçaları arttıkça enerji kullanımı doğrudan yükseliyor.
• Akıl yürütme modelleri: Problem çözme ve ‘düşünce zinciri’ oluşturan modeller, standart modellere göre 10 ila 100 kat daha fazla belirteç ürettiği için enerji talebi katlanıyor.
• Yazılım ve donanım uyumu: Sorguların toplu işlenmesi ve bilgisayar belleği tahsis eden yazılımların seçimi, aynı modelde bile enerji gereksinimlerini değiştirebiliyor.

PAKİSTAN KADAR ENERJİ TÜKETİYOR 

2024 yılı verilerine göre, Amerika Birleşik Devletleri’ndeki veri merkezleri ülkenin toplam enerji tüketiminin yüzde 4’ünü gerçekleştirdi. Bu miktar, yaklaşık 250 milyon nüfuslu Pakistan'ın yıllık enerji kullanımına eşdeğer. Uzmanlar, 2030 yılına kadar bu oranın iki katına çıkacağını öngörüyor. Michigan ekibinin geliştirdiği yazılım, bu devasa enerji talebini kontrol altına almak için ‘zarf’ hesaplamalarının ötesinde doğrudan ölçüm imkanı tanıyor.

PARAMETRE UZAYINDA VERİMLİLİK ARAMASI 

Çalışmanın ilk yazarı Jae-Won Chung, geliştirdikleri aracın kullanıcı ihtiyaçlarına göre en verimli parametre kümesini otomatik olarak bulabildiğini belirtiyor. Bazı görevlerde açık ağırlıklı modellerin enerji gereksinimleri arasında 300 kata varan farklar olduğu tespit edildi. Bu durum, doğru model seçiminin sadece çevresel değil, ciddi anlamda finansal bir tasarruf anlamına geldiğini kanıtlıyor.

SANAYİ İÇİN STRATEJİK ÇIKARIM 

Yazılım, özellikle özel veri merkezlerine sahip olan ve kendi donanımları üzerinde tescilli modellerini çalıştıran şirketler için indirilebilir formatta sunuluyor. Michigan ekibi, Aralık ayında düzenlenen NeurIPS Konferansı'nda geliştiricilere yönelik eğitim materyallerini de paylaşarak sektördeki ‘enerji okuryazarlığını’ artırmayı hedefliyor.