Create personal AI Agent - 5
အရင် တစ်ပါတ်က Ollama နဲ့ local LLM တွေကို စမ်းဖို့ ပြောပြီးပြီမို့ ဒီတစ်ပါတ် vLLM Inference ကို သုံးပြီး LLM ကို စမ်းကြည့်ရအောင်ပါ။ ပထမဆုံး Ollama နဲ့ vLLM ဘာကွာလဲ မေးရင် Ollama က graphic card မရှိတဲ့ laptop
အရင် တစ်ပါတ်က Ollama နဲ့ local LLM တွေကို စမ်းဖို့ ပြောပြီးပြီမို့ ဒီတစ်ပါတ် vLLM Inference ကို သုံးပြီး LLM ကို စမ်းကြည့်ရအောင်ပါ။ ပထမဆုံး Ollama နဲ့ vLLM ဘာကွာလဲ မေးရင် Ollama က graphic card မရှိတဲ့ laptop