Çin chatbot'unun en son modeli olan DeepSeek-V3.2-Exp, DSA, verimlilik, API ve dağıtımı tanıtıyor

  • V3.2-Exp, minimum kalite kaybıyla uzun bağlamı hızlandırmak için DSA'yı tanıtıyor.
  • V3.1-Terminus ve API fiyatlandırmasıyla performans eşitliği -%50 artık yayında.
  • Açık kaynak: Hugging Face'deki ağırlıklar, TileLang, DeepGEMM ve FlashMLA'daki çekirdekler.
  • Pratik rehber: uç noktalar, akış, fonksiyon çağırma ve yerel yürütme.

DeepSeek-V3.2-Exp

DeepSeek-V3.2-Exp, büyük ölçekli verimliliğe ve uzun vadeli bağlamlara odaklanan deneysel bir sürüm olarak geldi ve açık kaynak kodlu yapısı, yayınlanmış çekirdekleri ve daha ucuz API'siyle topluluğa açık bir şekilde önem veriyor.

Abartılı söylemlerin ötesinde, asıl önemli olan, V3.1-Terminus tabanlı bu modelin, kaliteyi korurken eğitimi ve çıkarımı hızlandıran DeepSeek Sparse Attention (DSA) adı verilen ince taneli seyrek dikkat mekanizmasını sunmasıdır. Şirket bunu zaten Uygulamasında , Web'inde ve API'sinde kullanıma sundu ve kullanım fiyatlarını %50'den fazla düşürdü ; bu, açıkçası rekabet üzerinde baskı oluşturan agresif bir hamle.

DeepSeek-V3.2-Exp'in temel yeni özellikleri

En önemli yenilik olan DSA, tüm diziyi kapsamlı bir şekilde taramadan bağlamın ilgili kısımlarına seçici olarak odaklanmayı sağlar . Şirkete göre, kalite üzerindeki etkisi minimum düzeydedir, ancak uzun bağlamlı verimlilikteki kazanım önemli ölçüdedir.

Kullanılabilirlik açısından, model uygulama, web ve API genelinde ilk günden itibaren çalışır durumda olup, test ve benimsemeyi kolaylaştırmak için önemli bir fiyat indirimi (%50'den fazla) ile birlikte sunulmaktadır. Karşılaştırma yapmak isteyenler için DeepSeek, V3.1-Terminus için 15 Ekim 2025, 15:59 UTC'ye kadar geçici bir uç nokta bulundurmaktadır.

DeepSeek-V3.2-Exp performansı ve kıyaslamaları: V3.1-Terminus ile eşitlik

DeepSeek , özellikle dağınık dikkat mekanizmasının etkisini izole etmek amacıyla, çok çeşitli testlerde V3.1-Terminus ile eşdeğer sonuçlar elde etmeyi hedeflemiştir . Pratikte bu, akıl yürütme, kodlama ve ajan benzeri araç kullanımında karşılaştırılabilir ölçümler anlamına gelir.

Çeşitli kaynaklar, beklentileri istikrara kavuşturmaya yardımcı olan rakamlara işaret ediyor: V3.2-Exp, 685 milyar parametreye sahip ve alana bağlı olarak benzer veya biraz farklı performans gösteren bir model olarak tanımlanıyor. Araçsız akıl yürütmede, MMLU-Pro'da 85.0 ve AIME 2025'te 89.3 gibi puanlar ; ajan tabanlı senaryolarda ise BrowseComp'ta 40.1 ve SWE Verified'da 67.8 gibi puanlar belirtiliyor. Bu sonuçlar , doğrulukta önemli bir sıçrama yerine verimliliğe öncelik verilmesi yönündeki resmi anlatıyla örtüşüyor .

Hatta ince karşılaştırmalar bile mevcut: kodlama görevlerinde, Codeforces'ta 2046'ya kıyasla 2121'e yükselişten bahsedilirken, daha çok beşeri bilimler odaklı testlerde hafif düşüşler gözlemleniyor (örneğin, Humanity's Last Exam'de 21.7'ye karşılık 19.8). Genel olarak, grafik bir dengeyi gösteriyor : ara sıra iyileşmeler ve küçük tavizler, hız ise kilit faktör.

DSA: İnce ayrıntılı, dağınık dikkat, açıkça anlatılmış

Geleneksel dikkat yönetimi geniş bağlamlarda maliyetli hale gelir; DSA, katkının az olduğu yerlerde iş yükünü en aza indirir. Model, ince kontrolle seyreklik uygulayarak, sinyali gerçekten bulduğu yerde hesaplamayı yoğunlaştırır, gecikmeyi azaltır ve çıktıyı bozmadan tüketimi düşürür.

Gerçek dünya deneyiminde bu durum, özellikle bağlam yoğun görevlerde en belirgin şekilde görülür : uzun belgelerin özetlenmesi, günlüklerin analiz edilmesi, uzun diyaloglara giren ajanlar veya alma ve üretmeyi birleştiren işlem hatları. Bu durumlarda verimlilik bir lüks değil; bir şeyin büyük ölçekte kullanılabilir olup olmaması arasındaki farktır.

DeepSeek-V3.2-Exp kullanılabilirliği, fiyatlandırması ve karşılaştırmaları

DeepSeek, 3.2-Exp sürümünün artık uygulama, web ve API platformlarında kullanıma sunulduğunu duyurdu . Ayrıca, benimsenmeyi artırmak ve performans testlerini teşvik etmek amacıyla API fiyatını %50'den fazla düşürdü.

Önceki modelle karşılaştırma yapmak isteyenler için, V3.1-Terminus 15/10/2025 15:59 (UTC) tarihine kadar geçici bir son nokta olarak kalacaktır . Şirket ayrıca , toplulukla sürekli iyileştirme dinamiğini güçlendirmek amacıyla, herkese açık bir form aracılığıyla geri bildirimleri teşvik etmektedir.

Açık kaynak durumu: ağırlıklar, teknik rapor ve çekirdekler

DeepSeek, değişiklikleri ve sonuçları belgeleyen teknik bir raporla birlikte modeli Hugging Face'te yayınladı . Şeffaflığa ve daha düşük maliyetlerle uzun vadeli uygulamalı araştırmaları teşvik etmeye yönelik açık bir taahhüt bulunmaktadır.

Çekirdek düzeyinde iki yol vardır: Daha kolay okuma ve prototipleme için TileLang ve maksimum performans için CUDA. Logit indeks çekirdekleri (sayfalı varyantlar dahil) DeepGEMM'de , seyrek dikkat mekanizması çekirdekleri ise FlashMLA'da yayınlanmaktadır . Bu ayrım, araştırma ve üretim topluluklarının kendi nişlerini bulmalarını kolaylaştırır.

DeepSeek-V3.2-Exp'in yerel yürütülmesi ve çıkarım demoları

DeepSeek, hızlı bir şekilde başlamak ve mimariyi incelemek için güncellenmiş bir demo içeren bir çıkarım deposu sunmaktadır . İlk adım, uzman sayısını ve model paralelliğini tanımlayarak Hugging Face ağırlıklarını demo tarafından beklenen formata dönüştürmektir.

Etkileşimli dönüştürme ve oluşturma için örnek komutlar (EXPERTS=256 ve MP'yi GPU sayısına ayarlayın): hazırlanmış bir ortamda olduğu gibi kullanılabilir .

cd çıkarımı dışa aktar EXPERTS=256 python convert.py --hf-ckpt-path ${HF_CKPT_PATH} --save-path ${SAVE_PATH} --n-experts ${EXPERTS} --model-parallel ${MP} dışa aktar CONFIG=config_671B_v3.2.json torchrun --nproc-per-node ${MP} generate.py --ckpt-path ${SAVE_PATH} --config ${CONFIG} --interactive

SGLang'ı tercih edenler için önceden hazırlanmış imajlar ve önyükleme komutu mevcuttur. Uyumluluk, NVIDIA (H200), AMD (MI350) GPU'larını ve belirli etiketlere sahip bazı NPU'ları içerir.

# H200 docker çekme lmsysorg/sglang:dsv32 # MI350 docker çekme lmsysorg/sglang:dsv32-rocm # NPU'lar docker çekme lmsysorg/sglang:dsv32-a2 docker çekme lmsysorg/sglang:dsv32-a3 python -m sglang.launch_server --model deepseek-ai/DeepSeek-V3.2-Exp --tp 8 --dp 8 --page-size 64

Eğer vLLM'yi tercih ederseniz , ilk günden itibaren desteklenmektedir. Güncel parametreler ve donanım optimizasyonları için resmi kılavuzları incelemeniz önerilir.

API: Son Noktalar, Uyumluluk ve Son Kullanma Tarihleri

DeepSeek API'si standart kurallara uyar ve popüler SDK'larla uyumludur. Varsayılan olarak, https://api.deepseek.com temel URL'si V3.2-Exp'ye işaret eder; bu da ilk entegrasyonu ve indirimli fiyata erişimi kolaylaştırır.

Performans testleri için V3.1-Terminus için geçici bir uç nokta mevcuttur: https://api.deepseek.com/v3.1_terminus_expires_on_20251015 . Performans testlerini planlarken son kullanma tarihini ve saatini (15 Ekim 2025, 15:59 UTC) göz önünde bulundurun.

Ayrıca, Anthropic ekosistemiyle uyumluluk da mevcuttur. Claude tarzı etkileşimler için https://api.deepseek.com/anthropic adresini veya önceki modelle karşılaştırmanız gerekiyorsa geçici uç noktayla ilişkili varyantı kullanabilirsiniz .

Kimlik doğrulama ve anahtar yönetimi

İstekler , Authorization başlığındaki Bearer kullanılarak doğrulanır . Anahtarınızı DeepSeek kontrol panelinden oluşturun ve örneğin ortam değişkenlerinde veya AWS Secrets Manager gibi gizli anahtar yöneticilerinde güvenli bir şekilde saklayın.

Kontrol paneli, token tüketimini izlemek için kullanım ve faturalama verilerini görüntüler . Fiyatlar düşmüş olsa da, bilgisayarlarda hız sınırlamaları ve periyodik anahtar rotasyonu uygulamak ve tehlikeye atılmış anahtarları gecikmeden iptal etmek tavsiye edilir.

Sohbet tamamlamaları, şablonlar ve temel istekler

Merkezi uç nokta , çok turlu diyalogları işleyen ve aramalar arasında bağlamı koruyan /chat/completions'tır ; bu, V3.2-Exp'nin uzun bağlamlı güçlü yönleri için ideal bir senaryodur. İki tipik model modu vardır: deepseek-chat ve deepseek-reasoner.

Basit bir istek gövdesi, kaçış karakterleriyle (burada açıklık için """ olarak gösterilmiştir) JSON kullanılarak şu şekilde görünebilir: bir sistem istemi ve bir kullanıcı istemi içerir.

{ "model": "deepseek-chat", "messages": [ { "role": "system", "content": "Teknik bir uzmansınız." }, { "role": "user", "content": "Dikkat eksikliğini açıklayın." } ], "stream": false }

Gerçek zamanlı yanıtlar almak istediğinizde `stream=true` özelliğini etkinleştirin . Başlıklar `Content-Type: application/json` ve `Authorization: Bearer ${DEEPSEEK_API_KEY}` içindeki belirteci içermelidir. Açık akıl yürütme ile çalışıyorsanız, davranışı `reasoning.enabled` bayrağıyla kontrol edebilirsiniz.

Yanıt yapısı ve SSE akışı

Akış dışı yanıtlar, id , object, created, model, choices ve usage gibi alanları içerir. Choices alanında oluşturulan içeriği (rol: "asistan"), usage alanında ise prompt_tokens , completion_tokens ve total_tokens detaylarını bulabilirsiniz .

Akış modunda, API sunucu tarafından gönderilen olaylar (Server-Sent Events) gönderir. Her bir parça, biriktirmeniz gereken bir delta değeri içeren bir veri olayı olarak gelir. Bu, artımlı çıktıya sahip etkileşimli arayüzler veya terminaller için ideal seçenektir .

Fonksiyon çağrısı ve sıkı JSON'da çıktı

Modelin, örneğin veri almak veya eylemleri gerçekleştirmek için ne zaman bir fonksiyonu çağıracağına karar vermesini sağlayacak araçlar tanımlayabilirsiniz . Bu, aracı akışları ve arka uç entegrasyonlarıyla iyi uyum sağlar.

Yapılandırılmış çıktıya ihtiyacınız varsa, `response_format` kullanarak JSON modunu zorlayın. Bu, veri çıkarma veya işlem hatlarında otomatik doğrulama için kullanışlıdır .

OpenAI tarzı SDK ile Python örnekleri

Python ile öğrenme eğrisi oldukça yumuşak. Temel API'yi DeepSeek'inkiyle eşleşecek şekilde yapılandırın, anahtarı tanımlayın ve istekleri gönderin; kullanım durumuna bağlı olarak standart mod ile akış modu arasında geçiş yapabilirsiniz.

import openai openai.api_base = "https://api.deepseek.com" openai.api_key = "your_api_key_here" response = openai.ChatCompletion.create( model="deepseek-chat", messages=[ {"role": "system", "content": "Siz bir kodlama asistanısınız."}, {"role": "user", "content": "Fibonacci sayılarını hesaplamak için bir Python fonksiyonu yazın."} ], stream=False ) print(response.choices[0].message.content) # Akış stream = openai.ChatCompletion.create(model="deepseek-chat", messages=[...], stream=True) for chunk in stream: if chunk.choices[0].delta.content is not None: print(chunk.choices[0].delta.content, end="") # Fonksiyon çağırma (araç tanımı) tools = [ { "type": "function", "function": { "name": "get_weather", "description": "Güncel hava durumunu al", "parameters": { "type": "object", "properties": { "location": {"type": "string"} }, "required": [ "location" ] } } } ]

Kesin JSON çıktısı için `response_format` özelliğini `{"type": "json_object"}` olarak ayarlayın. Ayrıca, uzun diyaloglar oluşturacaksanız, sınırları aşmamak ve verimliliği en üst düzeye çıkarmak için içeriği kısıtlamayı unutmayın.

Apidog ile Entegrasyon

Apidog, çağrı prototipleme sürecini hızlandırır : spesifikasyonları içe aktarır, ortam değişkenlerini (anahtar gibi) kaydeder, POST istekleri oluşturur ve anında test eder. Yanıt simülatörü, belirteçler kullanmadan uç durumları test etmeyi kolaylaştırır.

Ayrıca çeşitli dillerde kod parçacıkları üretir ve kimlik doğrulama veya parametrelerde hata ayıklama için zaman çizelgesi görünümü sunar. V3.2-Exp büyük bağlamları işleyebildiği için Apidog, uzun komut istemleriyle denemeler yapmak ve performansı test etmek için idealdir .

En iyi şekilde yararlanmak için iyi uygulamalar

Davranışı özetleyen net ve özlü sistem komutları tanımlayın . Karmaşık problemler için, durumunuza uygun düşünce yapısı teknikleriyle birleştirilmiş mantık yürütme modu faydalı olabilir.

Bağlamı akıllıca yönetin : V3.2-Exp uzun bağlamı tolere etse de (128K'ya kadar olan durumlar belirtiliyor), aşırı geçmiş verisi verimliliği olumsuz etkileyebilir. Uygun yerlerde akıllı kırpma, sık sorgular için önbellekleme ve toplu işleme uygulayın.

Güvenlik için, istem dışı müdahaleleri önlemek amacıyla girdileri temizleyin ve denetim için etkileşimleri kaydedin . Hedefinize göre sıcaklık ve top_p değerlerini ayarlayın: düşük değerler belirleyicilik, yüksek değerler yaratıcılık içindir.

En uygun modu seçmek için deepseek-chat ve deepseek-reasoner arasında A/B testleri yapın . Ve faturalandırmada sürprizlerle karşılaşmamak için hız sınırını unutmayın.

V3.1-Terminus ile karşılaştırma

DSA'nın devreye girmesiyle , bazı senaryolarda genel kalite eşitliğinden ödün vermeden yaklaşık 3 kat daha hızlı gecikme iyileştirmeleri sağlanmıştır. Bu, rekor kıran doğruluktan ziyade güç-verimlilik oranına odaklanan bir evrimdir.

Kodlamadaki küçük artışlar ve beşeri bilimler alanlarındaki hafif düşüşler, tasarım gereği deneysel olan bir modelin doğasında var olan ince ayarı yansıtmaktadır . V3.1 zaman noktası, uzun bir süre boyunca DSA kazanımlarını gösteren doğrudan karşılaştırmalara olanak tanır.

Gelişmiş yerel dağıtım

Gizlilik hassasiyeti gerektiren veya çevrimdışı dağıtımlar için, Hugging Face'ten ağırlıkları indirmek ve resmi dönüştürme komut dosyalarını kullanmak en doğru yöntemdir. Uzman sayısını (örneğin, 256) yapılandırın ve model paralelliğini GPU'larınızla eşleşecek şekilde ayarlayın.

Çıkarım demosu etkileşimli testlere olanak tanır ve TileLang veya CUDA çekirdekleri, önceliklere göre performansı en üst düzeye çıkarmanıza yardımcı olur: prototipleme hızı veya üretimde maksimum verimlilik .

Açık çekirdekler ve performans

TileLang, araştırma amaçlı kullanımda okunabilirliği ve tasarımı önceliklendirir , böylece yeni fikirler üzerinde hızlıca yineleme yapabilirsiniz. Dağınık dikkat varyasyonlarını veya bellek optimizasyonlarını araştırıyorsanız mükemmel bir araçtır .

Her milisaniyeden en iyi şekilde yararlanmak için CUDA çekirdekleri devreye giriyor: logit indeksleri (sayfalı sürümleriyle birlikte) DeepGEMM'de , seyrek dikkat indeksleri ise FlashMLA'da yer alıyor. Bu bölümlendirme, her ekibin işi tekrar yapmadan en uygun yığını seçmesine olanak tanıyor .

DeepSeek-V3.2-Exp Lisans, Randevu ve İletişim

Depo ve model ağırlıkları MIT lisansı altında yayınlanmaktadır. Bu, son derece esnek ticari kullanıma olanak tanıyarak ekosistem içinde benimsemeyi ve yeniliği teşvik eder.

Yayınlarda V3.2-Exp'ye atıfta bulunmak için DeepSeek, "DeepSeek-V3.2-Exp: DeepSeek Seyrek Dikkat ile Uzun Bağlamlı Verimliliği Artırma" başlığı ve "DeepSeek-AI" yazarlığı (2025 yılı) ile bir @misc atıf girişi sağlar. Sorularınız veya sorunlarınız için lütfen [email protected ] adresinden iletişime geçin.

DeepSeek-V3.2-Exp hakkında resmi kaynaklar ve faydalı bağlantılar

Modeli indirmek isterseniz, Hugging Face adresinde bulabilirsiniz . Teknik rapor, uygulama detayları ve değerlendirmelerle birlikte GitHub'da mevcuttur.

V3.2-Exp ve V3.1-Terminus sürümleri arasındaki karşılaştırma testleri için lütfen resmi kılavuza bakın . Önerilerinizi iletmek isterseniz, https://feedback.deepseek.com/dsa adresinde herkese açık bir geri bildirim kanalı bulunmaktadır.

DeepSeek, V3.2-Exp sürümüyle basit bir fikre öncelik veriyor: kaliteden ödün vermeden verimlilik . DSA, makul bir maliyetle büyük bağlamları destekleyen modellerin yolunu açıyor, sadeleştirilmiş API bu yetenekleri daha fazla ekibe sunuyor ve açık kaynaklı yapı (ağırlıklar, çekirdekler ve dokümantasyon), topluluğun gerçek dünya ürünlerini sorunsuz bir şekilde araştırmasını, karşılaştırmasını ve geliştirmesini kolaylaştırıyor.


Google'da tercih edilen kaynak olarak ekleyin.