OpenAI CEO’sı Sam Altman, veri merkezleriyle dolu bir belleğe sahip olsa da, görünüşe göre sorun masaüstünüzdeki 32GB RAM. Cheeky Pint YouTube kanalıyla biralar eşliğinde verdiği bir röportajda Altman, yerel çıkarımın ve dolaylı olarak insanların evdeki bilgisayarlarda DRAM bulundurmasının “oldukça kötü” olduğunu söyledi.
Açık kaynaklı modellerle masaüstü bilgisayarlarda yerel çıkarım tartışılırken Altman, insanların kendi bilgisayarlarında, zaten sahip oldukları veya kurmak isteyebilecekleri bilgisayarlarda yerel AI çalıştırabileceği varsayımı üzerinde durdu. Ardından bunun neden kötü bir fikir olduğunu açıkladı (29. dakikada):
” küresel dağılım açısından bakıldığında, aslında herkesin dünyanın sınırlı DRAM arzının bir kısmını kendi bilgisayarında bulundurup zamanın ancak %5’inde kullanması oldukça kötü,” dedi Altman. “Eğer bu oldukça kısıtlı arz ortamıyla uğraşıyorsanız, bulutta maksimum kullanım istersiniz. Ve yine de birçok kişinin içgüdüsü bunun tam tersi.”
OpenAI’nin bazı açık kaynaklı modelleri olsa da, temel işi veri merkezlerinde çalışan kapalı kaynaklı modellerde olduğu için aslında şirketinin iş modelini savunuyor.
OpenAI henüz birkaç dizüstü bilgisayar veya oyun makinesi tarafından tehdit edilmiyor, ancak yerel AI, bir gün evlerinde çalıştırma gücüne sahip insanlar gibi GPT-6 Luna gibi modellere yapılan abonelik ödemelerinin azalması anlamına gelebilir. Altman’ın konuşması, şirketin daha fazla RAM’in OpenAI’nin veri merkezlerine gitmesini, masaüstü bilgisayarlara değil tercih edeceğini öne sürüyor; bu da aynı zamanda kendi donanımınızı veya yazılımınızı sahip olmak yerine bulutta bir ajan ve bir bilgisayar kiralamanız mümkün olmayacağı endişesini de uyandırıyor. Altman’ın söylediklerinin bir kısmı, veri merkezi yatırımlarının yavaşlamayacağı fikrine dayanıyor. Ayrıca RAM’in AI veri merkezlerinde 7/24 kullanmanın, yaprak tabloları, web gezintisi, oyun ve belki de ara sıra yerel için kullanılan RAM’den daha değerli olduğu varsayımını içeriyor.
Geniş kapsamlı röportajın geri kalanı, bu haftanın PHP açıklarını, eğitimde modellerin sandbox’lanmasını ve OpenAI’nin matematik alanındaki araştırmalarını içeriyor.
Son haberler, analizler ve incelemeler için ya da hesaplarını takip edin.
Bu gelişme hakkında düşüncelerinizi, donanım deneyimlerinizi veya sorularınızı Topluluk Forumumuzda paylaşın.
Foruma Katıl & Yanıtla ➔
