selfhosted open src ai model?

Memintegrity

Diamond Üye
Katılım
24 May 2025
Mesajlar
623
Beğeniler
155
Selamlar dostlar kendim hostladıgım deepseek R1:8B modeli var ancak cevaplar çok yavaş.
llama kullanarak yaptım, kendim kodlama dili üzerine tunelamıştım.
Büyük ihtimalle sistemim yüzünden, sistem :
Rtx 3050 4GB Vram Laptop
Intel 12450H
8GB Ram
Evet sistem çok iyi değil ancak bu cevapları daha hızlı yapmanın bir yolu yokmu?
 
Bu kullanıcıyla herhangi bir iş veya ticaret yapmak istiyorsanız, forumdan uzaklaştırıldığını sakın unutmayın.
Selamlar dostlar kendim hostladıgım deepseek R1:8B modeli var ancak cevaplar çok yavaş.
llama kullanarak yaptım, kendim kodlama dili üzerine tunelamıştım.
Büyük ihtimalle sistemim yüzünden, sistem :
Rtx 3050 4GB Vram Laptop
Intel 12450H
8GB Ram
Evet sistem çok iyi değil ancak bu cevapları daha hızlı yapmanın bir yolu yokmu?
ekran kartı kiralayabilirsin. hayır sahibindende felan değil yapay zeka için internetten yeni modeller için ekran kartı kiralayabiliyorsun.
 
Selamlar dostlar kendim hostladıgım deepseek R1:8B modeli var ancak cevaplar çok yavaş.
llama kullanarak yaptım, kendim kodlama dili üzerine tunelamıştım.
Büyük ihtimalle sistemim yüzünden, sistem :
Rtx 3050 4GB Vram Laptop
Intel 12450H
8GB Ram
Evet sistem çok iyi değil ancak bu cevapları daha hızlı yapmanın bir yolu yokmu?
laptop gpusu ile llm barındaramazsın barındırsan bile 6b üstünde çok yavaşlar en idiali 6b dene onunla da bir yere kadar gidersin :D
 
Selamlar dostlar kendim hostladıgım deepseek R1:8B modeli var ancak cevaplar çok yavaş.
llama kullanarak yaptım, kendim kodlama dili üzerine tunelamıştım.
Büyük ihtimalle sistemim yüzünden, sistem :
Rtx 3050 4GB Vram Laptop
Intel 12450H
8GB Ram
Evet sistem çok iyi değil ancak bu cevapları daha hızlı yapmanın bir yolu yokmu?
git deneme sürümleri olan aiları çek sanal kartla
 
gemma3 veya dolphin modellerinden tercih et
Selamlar dostlar kendim hostladıgım deepseek R1:8B modeli var ancak cevaplar çok yavaş.
llama kullanarak yaptım, kendim kodlama dili üzerine tunelamıştım.
Büyük ihtimalle sistemim yüzünden, sistem :
Rtx 3050 4GB Vram Laptop
Intel 12450H
8GB Ram
Evet sistem çok iyi değil ancak bu cevapları daha hızlı yapmanın bir yolu yokmu?
 

Şuanda konuyu görüntüleyen kullanıcılar

Geri
Üst Alt