當DeepSeek遇見鯤鵬:SK90 DeepSeek智算一體機超融合AI部署實戰(zhàn)全解析
發(fā)表時間:2025-02-27
返回列表伴隨DeepSeek的開源和爆火,恒揚數(shù)據(jù)快速推出SK90 DeepSeek智算一體機。對于想要深入探索SK90 DeepSeek智算一體機強大功能的伙伴們來說,了解其部署環(huán)境與步驟是開啟高效AI之旅的關鍵。恒揚數(shù)據(jù)SK90 DeepSeek智算一體機搭載鯤鵬920模組和昇騰310智算芯片,擁有 64 核強勁算力,運行openEuler 22.03 (LTS-SP3)系統(tǒng),可為企業(yè)數(shù)字化轉(zhuǎn)型和加速開發(fā)者 AI 應用落地賦能助力。今天,就為大家詳細拆解在SK90 DeepSeek智算一體機上進行超融合 AI 部署的全過程,從環(huán)境搭建到模型部署,步步為營,助你輕松掌握,快跟上腳步,一同開啟這場智算探索之旅!
部署環(huán)境
SK90 DeepSeek智算一體機包含2個鯤鵬920模組,單模組配置64核,實際配置如下:
部署步驟
步驟一:下載安裝Ollama
Ollama是一個開源的本地模型運行工具,可以方便地下載和運行各種開源模型,如 Llama、Qwen、DeepSeek等。Ollama提供高效、靈活的大模型部署和管理解決方案,可以簡化模型的部署流程。支持macOS、Linux、Windows操作系統(tǒng)。
下載Ollama安裝命令:
curl -fsSL https://ollama.com/install.sh | sh |
手動下載鏈接:
https://ollama.com/download/OllamaSetup.exe |
直接解壓安裝:
tar -C /usr -xzf ollama-linux-arm64.tgz |
步驟二:啟動運行Ollama
啟動運行Ollama
ollama -v # 查看版本信息 ollama serve # 啟動ollama |
https://ollama.com/search |
1.5b 的命令為: "ollama run deepseek-r1:1.5b" 7b 的命令為: "ollama run deepseek-r1:7b" 8b 的命令為: "ollama run deepseek-r1:8b" 14b 的命令為: "ollama run deepseek-r1:14b" |
步驟三:啟動運行Ollama
推薦大家先下載較小的1.5b模型,把安裝程序跑通,再根據(jù)自己的硬件配置和需求安裝適當?shù)陌姹尽?/p>
ollama run deepseek-r1:1.5b |
ollama run deepseek-r1:8b |
運行和簡單提問輸出效果
以此類推,可以運行32B模型:ollama run deepseek-r1:32b
輸入 “/?”,可以獲得幫助。
至此,SK90 DeepSeek智算一體機的超融合AI部署實戰(zhàn)全解析就結束了。從前期的部署環(huán)境準備,到一步步完成Ollama的安裝、啟動以及DeepSeek模型的下載運行,每一個環(huán)節(jié)都緊密相連。通過這些操作,大家已經(jīng)能夠在這臺智算一體機上初步體驗到AI的魅力。在實際運用中,大家可以根據(jù)自身需求,靈活調(diào)整模型版本和使用方式。要是在部署過程中遇到難題,別擔心,多嘗試文中的方法,也歡迎與我們聯(lián)系交流探討。