Üretken Yapay Zekalar Muazzam Düzeyde Elektrik Tüketiyor!

Üretken yapay zekanın işçi verimliliğini artırmadan bilimsel araştırmaları geliştirmeye kadar uzanan potansiyel faydalarına duyulan geniş çaplı heyecan, birçok yerde karşımıza çıkmaktadır. Bu yeni teknolojinin hızlı gelişimi birçok sektörde kullanılmak üzere güçlü modellerin üretilmesini sağlamışsa da bırakın potansiyel zararları azaltmayı, bu üretken yapay zeka furyasının çevresel sonuçlarının neler olacağını kestirmek bile çok zordur.

Her biri milyarlarca parametre kullanan GPT-4 gibi üretken yapay zeka modellerini eğitmek için gereken bilgisayar gücü, muazzam miktarlarda elektrik kullanılmasını gerektirir. Bu kullanım karbon emisyonlarının yükselmesine ve elektrik şebekelerine ekstra bir yük yüklenmesine sebep olur.

Dahası, bu modelleri gerçek dünyada kullanıma sunarak milyonların bu modelleri kullanmasına şans tanımak ve sonrasında bu modellerin daha da ileri düzeyde yeniden eğitilmesi (İng: "fine-tuning", "ince ayar") modelin geliştirilme aşamasından sonra bile enerji tüketimine yol açmaya devam etmesi anlamına gelir.

Elektrik tüketimini bir kenara bıraksak bile model eğitmek, yayınlamak ve ince ayar vermek için kullanılan donanım sistemlerinin soğutulması büyük miktarlarda su kullanılmasını gerektirir. Bu düzeyde su kullanımı belediyelerin su kaynaklarını zora sokabilir ve lokal ekosistemlere zarar verebilir. Üretken yapay zeka modellerinin kullanıldığı uygulamaların hızla artması, aynı zamanda yüksek performanslı bilgisayar donanımlarına olan talebi de artırarak üretim ve lojistik süreçlerinde dolaylı çevresel etkilerin ortaya çıkışına yol açmıştır. Malzeme Bilimi ve Mühendisliği Bölümü profesörü ve MIT'nin yeni İklim Projesi'nin Karbonsuzlaştırma Misyonunun lideri Elsa A. Olivetti, bu konuda şunları söylüyor:^[1]

Üretken yapay zekanın çevresel etkilerini düşündüğümüzde akla ilk olarak kullandığımız bilgisayarların tükettiği elektrik geliyor, ancak modellerin etkileri bununla sınırlı değil. Bu modellerin kullanımının sistemsel düzeyde geniş ve kullanım şeklimize bağlı olarak kalıcı olabilecek sonuçları var.

Olivetti ve MIT'den meslektaşları, 2024'te üretken yapay zekanın dünyamızı değiştirebilecek olumlu veya olumsuz etkilerini keşfetmek üzere yapılan bir makale çağrısına cevaben "Üretken Zeka'nın İklim ve Sürdürülebilirlik Üzerindeki Etkileri" isimli bir makale yayınlamıştı.^[2]

Veri Merkezleri Elektriğe Doymuyor!

ChatGPT ve DALL-E gibi popüler derin öğrenme modellerinin eğitilmesinde ve hatta kullanılmasında kullanılan veri merkezlerinin kullandığı muazzam miktarlarda elektrik, üretken yapay zekanın çevresel etkilerine katkı sağlayan büyük bir etkendir.

Veri merkezleri; temelde sunucular, veri depolama diskleri ve ağ ekipmanları gibi bilgisayar altyapısı elemanlarının bulunduğu; belirli bir sıcaklıkta tutulan binalardır. Birçok küresel şirket onlarca veri merkezi inşa eder. Örneğin Amazon'un dünya çapında yüzden fazla veri merkezi vardır.^[3] Bu merkezlerin her birinde şirketin bulut bilişim sistemlerini sağlayabilmek için kullandığı 50.000'er, hatta daha fazla sunucu bulunmaktadır.

Veri merkezleri 1940'lardan beri dünyanın birçok bölgesinde aktiftir. İlk veri merkezi 1945'te ilk genel amaçlı bilgisayarı, yani ENIAC'ı hayata geçirmek üzere University of Pennsylvania tarafından kurulmuştur.^[4] Veri merkezi sistemi yeni bir uygulama olmamasına karşın üretken yapay zekaların dramatik yükselişi bu merkezlerin inşasını da hızlandırmıştır. Daha önce bahsedilen makalenin baş yazarı, MIT İklim ve Sürdürülebilirlik Konsorsiyumu'nda (MCSC) Bilgisayar ve İklim Etkisi Üyesi ve Bilgisayar Bilimi ve Yapay Zeka Laboratuvarı'nda (CSAIL) doktora sonrası araştırmacı olan Noman Bashir, şunları söylüyor:

Üretken yapay zeka sistemlerinin önceki sistemlerden farkı, çok daha fazla güç gerektirmelerdir. Temelde yapay zeka sunucuları herhangi bir bilgisayarın yaptığından farklı bir şey yapmaz, ancak üretken yapay zekayı eğitmek normal bir bilgisayar işleminin yedi sekiz katı kadar fazla enerji gerektirir.

Bilim insanlarına göre, Kuzey Amerika'daki veri merkezlerinin enerji ihtiyaçları 2022'nin sonunda 2,688 megawatt iken 2023'te bu ihtiyaç 5,341 megawatta çıkmıştır. Bu artışın kısmen üretken yapay zekanın yarattığı talepten kaynaklandığı bilinmektedir. Küresel anlamda bakıldığında veri merkezlerinin elektrik tüketimi 2022'de 460 terawatt'a kadar çıkmıştır. Bu da veri merkezlerini dünya üzerinde en çok elektrik tüketen 11. tüketici konumuna koyar. Bu miktar öyle büyüktür ki bazı ülkelerin yıllık toplam tüketimi aynı sıralamada daha düşük sıralardadır. Ekonomik İş Birliği ve Kalkınma Örgütü'nün hazırladığı sıralamada veri merkezlerinden hemen önce Suudi Arabistan (371 terawatt) ve hemen sonra Fransa (463 terawatt) gelmektedir. 2026 yılından itibaren veri merkezlerinin elektrik tüketiminin 1,050 terawatt'a ulaşması beklenmektedir. Bu miktara ulaşılması, veri merkezlerini dünya çapında 5. sıraya, Japonya ve Rusya arasına yerleştirecektir.

Her ne kadar veri merkezlerinin tamamı üretken yapay zeka taleplerini karşılamak üzere kullanılmasa da teknolojik araçlar genel olarak yükselen enerji taleplerinin en büyük sebeplerinden biridir. Bashir bu konuda şunları söylüyor:

Artmakta olan veri merkezi talebini sürdürülebilir şekilde karşılamak mümkün değil. Şirketlerin yeni veri merkezleri inşa etme hızını düşündüğümüzde bu merkezlerin elektrik ihtiyacının fosil kaynaklı enerji santrallerinden karşılanması kaçınılmazdır.

OpenAI'ın GPT-3 modeli gibi modellerinin eğitilmesi ve piyasaya sürülmesi için gereken güç miktarını tespit etmek oldukça zordur. Google ve University of California'dan araştırmacıların yazdığı 2021 tarihli bir makalede sadece eğitim sürecinin 1.287 megavat saat elektrik tükettiği tahmin edilmiştir. Bu rakam, ABD'deki ortalama düzeyde tüketim yapan 120 evin bir yıllık elektrik tüketimine denktir. Ayrıca sadece eğitim sürecinin yaklaşık 552 ton karbon dioksit ürettiği makalede belirtilmiştir.

Eğitim süreci her makine öğrenmesi modelinin vazgeçilmez bir parçasıdır. Bunun yanında üretken yapay zeka modellerinin eğitimi esnasında uygulanan farklı prosedürler oldukça farklı miktarlarda enerji tüketerek elektrik şebekelerinde ciddi dalgalanmalara sebep olmaktadır. Güç şebekelerinin işletmecileri, şebekeyi korumak için bu enerji dalgalanmalarını tolere edebilecek yöntemler bulmalıdır. Şu anda bu iş için genelde dizel bazlı jeneratörler tercih edilmektedir.^[5]

Modeller Farklı Süreçlerde Farklı Düzeyde Enerji Tüketir!

Üretken yapay zeka modellerinin enerji talepleri sadece eğitim süreciyle sınırlı değildir. Modelin kullanıldığı her anda, örneğin Chat-GPT'den bir e-postayı özetlemesini istediğinizde bilgisayar donanımları enerji tüketen birtakım operasyonlar gerçekleştirir. Araştırmacılar Chat-GPT'ye gönderdiğiniz tek bir mesajın basit bir Google aramasının yaklaşık beş katı kadar enerji tükettiğini tahmin etmektedir. Bashir bu konuda şöyle söylüyor:

Tüm bu sorunlara rağmen, günlük yaşamında bu modelleri kullanan insanlar bu konulara pek kafa yormaz. Üretken yapay zeka arayüzlerinin kullanımlarının kolay olması ve kullanıcı olarak seçimlerimizin yaratacağı etkilerden bihaber olmamız üretken yapay zeka kullanımımızı kısıtlamak için pek de bir sebebimiz olmadığını düşündürür.

Geleneksel yapay zeka sistemlerinin enerji kullanımı veri işleme, model eğitme ve çıkarım yapma (modelin yeni veriler üstünden tahminlerde bulunması) görevlerine eşit şekilde dağılır. Buna karşın Bashir, üretken modellerin elektrik gereksinimlerinin çıkarım yapma aşamasında yoğunlaşmasını bekliyor. Çünkü bu modeller çok fazla uygulamada çok sık kullanılıyor ve çıkarım aşamasının gerektirdiği elektrik kullanımı yeni nesil modeller daha büyük ve daha karmaşık hale geldikçe daha da artacak. Burada önemli bir nokta, kullanıcı olarak eriştiğimiz modellerin hepsinde bu çıkarım aşamasında bulunmamız. Yani Chat-GPT'ye sorulan her soru veya Ghibli tarzına çevrilmesini istediğimiz her bir resim modellerin çıkarım yaptığı kullanıldığı senaryolar.

Ek olarak, üretken modellerin çok kısa bir "raf ömrü" olduğuna dikkat çekmek gerekiyor, çünkü sürekli yeni yapay zeka uygulamaları çıkıyor ve bunlara olan talep de yüksek. Şirketler birkaç haftada bir yeni modellerini piyasaya sürüyor, bu da bir önceki modeli eğitirken kullanılan enerjinin boşa gitmesi anlamına geliyor. Yeni modeller genellikle öncekilerden daha çok parametre kullandığından eğitilmeleri için de daha çok enerji gerekiyor.

Akademik literatür daha çok veri merkezlerinin enerji talebine yoğunlaşsa da bu tesislerin tükettiği su miktarı da çevresel etkilere yol açıyor. Tesislerde donanımsal cihazların ürettiği ısıyı absorbe etmek için soğuk su kullanılıyor. Bashir, veri merkezinin tükettiği her bir kilowatt saatlik enerjinin neden olduğu sıcaklığı düşürmek için tahminen iki litre su gerektiğini söylüyor ve ekliyor:

Bu işlemlerin bulut bilişimiyle yapıldığı söylense de işlemlerin yapıldığı donanımlar bulutların üstünde değil, dünyamızda yer alıyor. Veri merkezleri fiziksel dünyamızda belirli bir yer kaplıyor ve harcadıkları su biyoçeşitlilik açısından hem dolaylı hem de dolaysız etkilere sebep oluyor.

Enerji ve su tüketiminin yanında, veri merkezlerindeki donanım cihazlarının varlığı bile dolaylı yoldan bazı çevresel etkilere sebep oluyor. Bir GPU (ekran kartı, grafik işlem birimi) üretiminin ne kadar güç gerektirdiğini kestirmek zor olsa da bunların üretiminin basit bir CPU (merkezi işlemci, merkezi işlem birimi) üretiminden çok daha karmaşık olduğunu biliyoruz. Yapay zeka eğitiminde gerekli olan işlemci gücü, genellikle GPU'lardan sağlanıyor çünkü bu işlemciler üretken yapay zekanın gerektirdiği yoğun matematiksel işlemleri daha etkin şekilde yürütebiliyor. Ayrıca yapay zeka furyasıyla birlikte üretimi hızlanan GPU'ların karbon ayak izi malzeme ve taşıma esnasındaki emisyonlarla birlikte daha da artıyor.

Bunlara ek olarak GPU üretiminde kullanılan ham maddelerin elde edilmesi süreci de çevresel anlamda bazı etkilere neden oluyor. Bu esnada ham made işleme sürecinde zehirli kimyasalların kullanılması veya "kirli madencilik" denen, madenlerdeki çalışma koşullarının veya madencilik çalışmalarının doğaya etkilerinin göz ardı edildiği etik olmayan pratiklere de rastlanıyor.

TechInsights tarafından yürütülen piyasa araştırması, 2023 yılında üç büyük işlemci üreticisinin (NVIDIA, AMD ve Intel) veri merkezlerine 3.85 milyon GPU gönderdiğini belirtmektedir. Bu miktar, 2022 yılındaki arzdan 2.67 milyon daha fazladır. 2024 yılında bu sayının daha da artması beklenmektedir.

Buraya kadar anlattıklarımızın gösterdiği üzere, yapay zeka sektörü sürdürülemez bir şekilde ilerlemektedir. Buna rağmen Bashir, üretken yapay zeka geliştirilmesi sürecinde daha sorumlu davranılmasının ve çevresel faktörlerin de göz önünde bulundurulmasının teşvik edilebileceğini söylüyor. Bashir, Olivetti ve MIT'den meslektaşları; böyle bir teşviğin üretken yapay zekanın çevresel ve toplumsal tüm maliyetlerini tespit edecek kapsamlı bir çalışmanın ve bu modellerin sağladığı düşünülen faydaların gerçek anlamda değerlendirilmesinin gerekli olduğunu düşünüyor. Olivetti bu konuda şunları söylüyor:

Bu alandaki yeni gelişmelerin sonuçlarını sistematik ve kapsamlı bir şekilde, bağlamına göre değerlendirmenin bir yolunu bulmalıyız. Yaşanan gelişmelerin hızına bakılırsa elde ettiğimiz faydaları maliyetlerle kıyaslama yeteneğimizi henüz yeterince geliştirememişiz gibi görünüyor.