Deepseek'in karşılanabilirliği bir efsanedir: Devrimci AI aslında 1,6 milyar dolara mal oldu

Deepseek'in yeni sohbet botu etkileyici bir tanıtımla övünüyor: "Merhaba, yaratıldım, böylece bir şey sorabilir ve sizi şaşırtabilecek bir cevap alabilirsiniz." Çin girişiminin bir ürünü olan bu AI, hızla önemli bir oyuncu haline geldi ve hatta Nvidia'nın hisse senedi fiyatında önemli düşüşlere neden oldu.

Deepseek'in rekabet avantajı yenilikçi mimarisi ve eğitim yöntemlerinde yatmaktadır. Anahtar teknolojiler şunları içerir:

• Çoklu Tahmini Tahmin (MTP): Kelimeleri ayrı ayrı tahmin etmek yerine, MTP aynı anda birden fazla kelimeyi tahmin ederek doğruluğu ve verimliliği artırır.
• Uzmanların Karışımı (MOE): Bu mimari, eğitimi hızlandıran ve performansı artıran çoklu sinir ağı (Deepseek V3'te 256, jeton başına sekiz etkinleştirilmiş) kullanır.
• Çok Baş Gizli Dikkat (MLA): MLA defalarca önemli cümle parçalarına odaklanır ve önemli bilgileri gözden geçirme riskini en aza indirir.

Deepseek'in sadece 2048 GPU kullanan Deepseek V3 için sadece 6 milyon dolarlık bir eğitim maliyeti iddiası meydan okundu. Semianaliz, birden fazla veri merkezine yayılmış yaklaşık 50.000 NVIDIA Hopper GPU'ları (10.000 H800, 10.000 H100s ve ek H20s dahil) kapsayan çok daha kapsamlı bir altyapı ortaya çıkardı. Bu, yaklaşık 1,6 milyar dolarlık bir sunucu yatırımına ve 944 milyon dolar olarak tahmin edilen operasyonel giderlere dönüşüyor.

Bir Çin Hedge Fonu olan High Flyer'in bir yan kuruluşu olan Deepseek, veri merkezlerinin sahibi, kontrol ve yeniliği teşvik ediyor. Kendi kendini finanse eden doğası hızlı karar vermeye izin verir. Dahası, şirket en iyi yetenekleri çekiyor ve bazı araştırmacılar yılda 1.3 milyon doların üzerinde, öncelikle Çin üniversitelerinden kazanıyor.

Deepseek'in 6 milyon dolarlık eğitim maliyet talebi yanıltıcı olsa da (araştırma, arıtma, veri işleme ve altyapı hariç, yalnızca eğitim öncesi GPU kullanımını yansıtır), şirket AI gelişimine 500 milyon doların üzerinde yatırım yapmıştır. Yalın yapısı verimli yeniliği kolaylaştırır.

Deepseek'in başarısı, iyi finanse edilmiş, bağımsız bir AI şirketinin endüstri devleriyle rekabet etme potansiyelini göstermektedir. Bununla birlikte, başarıları önemli yatırımlar, teknik gelişmeler ve güçlü bir ekip üzerine inşa edilmiştir, bu da "devrimci bütçe" anlatısını aşırı basitleştirme haline getirir. Buna rağmen, Deepseek'in maliyetleri rakiplerden önemli ölçüde daha düşük kalır. Örneğin, Deepseek'in R1 modeli, ChatGPT4'ün 100 milyon dolarına kıyasla eğitilmesi için 5 milyon dolara mal oldu.