Guangdong Akıllı Bilim ve Teknoloji Enstitüsü, iki kuluçka firmasıyla iş birliği içinde, gelişmiş veri merkezlerinin gücünü ev tipi donanımlarla birleştiren çığır açıcı bir yapay zeka sistemi olan ‘BIE-1’i tanıttı. Yaklaşık olarak tek kapılı bir mini buzdolabı büyüklüğündeki bu ünite, 1.152 CPU çekirdeği, 4,8 terabayt bellek ve 204 terabayt depolama alanına sahip.
YÜKSEK VERİM, DÜŞÜK GÜRÜLTÜ
Cihaz, işlem yoğunluğuna rağmen sadece 45 desibelden daha az gürültü üretiyor, yani normal bir konuşmadan daha sessiz. Geleneksel bir süper bilgisayarın yaklaşık onda biri kadar güç tüketiyor ve istikrarını koruyor. Mühendisler, enerji verimliliği ve düşük gürültü seviyelerinin, özel soğutma sistemlerine ihtiyaç duymadan ofislerde veya laboratuvarlarda çalışmasına olanak sağladığını belirtti. Neogene Akıllı Teknoloji Başkanı Nie Lei, tasarımı "devasa bir kütüphanenin kapasitesini tek bir sessiz kitaplığa sıkıştırmaya" benzetti.
İNSAN AKIL YÜRÜTMESİ
Bu buluş, geleneksel desen tanımaya güvenmek yerine sayısal, sembolik ve mantığa dayalı hesaplamaları birleştiren Sezgisel Sinir Ağı (INN) mimarisine dayanıyor. Geleneksel ‘kara kutu’ modellerinin aksine, INN ağları çıktılarının ardındaki akıl yürütme adımlarını gösterebiliyor.
Araştırmacılar, bu sistemin ‘felaket unutma’ sorununu aşarak, önceki bilgileri kaybetmeden yeni bilgilere uyum sağladığını ve model eğitimini daha verimli hale getirdiğini ifade etti.
MALİYETİ YARIYA İNDİRİYOR
Test sonuçları, BIE-1'in tek düğümlü bir kurulumla on milyarlarca token üzerinde eğitimi sadece 30 saatte tamamladığını gösteriyor. Elde edilen eğitim ve çıkarım verimi, mevcut büyük GPU tabanlı kümelere benzer düzeyde. Geliştirme ekibine göre, bu performans seviyeleri donanım maliyetlerini yaklaşık yarı yarıya azaltıyor ve geleneksel yüksek performanslı bilgi işlem sistemlerine kıyasla enerji tüketimini yüzde 90'a kadar düşürüyor.
Guangdong Enstitüsü Müdürü Zhang Xu, bu başarının "bilgi işlem gücünün nasıl üretildiğini ve dağıtıldığını yeniden tanımlayabileceğini" söyledi. Xu, cihazın kompakt form faktörünün BIE-1'in araştırma laboratuvarları ve veri merkezlerinin ötesine, evlere ve küçük işletmelere kadar yayılmasına olanak sağlayacağına inanıyor. Proje liderleri, BIE-1'i akıllı hesaplamanın "daha yeşil, daha çevik ve daha yorumlanabilir bir çağına" doğru atılmış bir adım olarak nitelendiriyor.
