Phi-3.5-mini-instruct快速部署:VMware虚拟机中Ubuntu环境配置
1. 准备工作:搭建Linux开发环境
对于习惯Windows但需要Linux环境的开发者来说,VMware虚拟机是最便捷的解决方案之一。我们将从零开始,一步步完成整个部署过程。
你需要准备:
- 一台Windows电脑(建议8GB内存以上)
- VMware Workstation Player(免费版即可)
- Ubuntu 22.04 LTS镜像文件
- 稳定的网络连接
2. 创建并配置虚拟机
2.1 安装VMware Workstation Player
首先从VMware官网下载并安装Workstation Player。安装过程非常简单,基本上一路"Next"即可完成。
2.2 新建虚拟机
打开VMware后,点击"创建新虚拟机",选择"自定义(高级)"选项。关键配置如下:
- 选择Ubuntu ISO镜像文件
- 虚拟机名称:建议包含"Ubuntu"和"Phi-3"等关键词方便识别
- 处理器数量:建议2核以上
- 内存:至少分配4GB(如果主机内存充足可给更多)
- 网络类型:选择"NAT"模式(默认选项)
- 磁盘空间:建议40GB以上
3. 安装Ubuntu系统
3.1 启动安装程序
配置好虚拟机后,点击"开启此虚拟机"开始安装Ubuntu。你会看到熟悉的Ubuntu安装界面。
3.2 关键安装步骤
- 语言选择:建议选择English(后续命令操作更顺畅)
- 键盘布局:保持默认
- 安装类型:选择"最小安装"(节省空间)
- 磁盘分区:选择"清除整个磁盘并安装Ubuntu"
- 时区设置:根据实际位置选择
- 用户信息:设置用户名和密码(记住这些凭证)
安装过程大约需要15-30分钟,取决于你的硬件配置。安装完成后系统会提示重启。
4. 虚拟机优化配置
4.1 安装VMware Tools
重启进入Ubuntu后,第一件事就是安装VMware Tools:
- 在VMware菜单选择"虚拟机"→"安装VMware Tools"
- 在Ubuntu中会自动挂载CD镜像
- 打开终端,执行以下命令:
tar -xzvf /media/$USER/VMware\ Tools/VMwareTools-*.tar.gz -C /tmp/ cd /tmp/vmware-tools-distrib/ sudo ./vmware-install.pl按照提示一路回车即可完成安装。
4.2 设置共享文件夹
为了方便在Windows和Ubuntu之间传输文件,我们需要设置共享文件夹:
- 在VMware中右键虚拟机→设置→选项→共享文件夹
- 添加一个主机文件夹(如"D:\Share")
- 在Ubuntu中安装open-vm-tools:
sudo apt update sudo apt install open-vm-tools open-vm-tools-desktop- 共享文件夹会自动挂载到/mnt/hgfs/
5. 部署Phi-3.5-mini-instruct模型
5.1 安装必要依赖
首先更新系统并安装Python和pip:
sudo apt update && sudo apt upgrade -y sudo apt install python3 python3-pip git -y5.2 创建Python虚拟环境
为了避免依赖冲突,我们创建一个专用环境:
python3 -m venv phi3-env source phi3-env/bin/activate5.3 安装模型依赖
激活环境后,安装必要的Python包:
pip install torch transformers5.4 下载并运行模型
现在可以下载并运行Phi-3.5-mini-instruct模型了:
from transformers import AutoModelForCausalLM, AutoTokenizer model_name = "microsoft/Phi-3-mini-4k-instruct" tokenizer = AutoTokenizer.from_pretrained(model_name) model = AutoModelForCausalLM.from_pretrained(model_name) input_text = "解释量子计算的基本原理" inputs = tokenizer(input_text, return_tensors="pt") outputs = model.generate(**inputs, max_length=200) print(tokenizer.decode(outputs[0], skip_special_tokens=True))6. 常见问题解决
如果在部署过程中遇到问题,可以尝试以下解决方案:
- 网络连接问题:确保虚拟机网络设置正确,可以尝试ping外网测试
- 共享文件夹不可见:重启虚拟机或手动挂载:
sudo mount -t fuse.vmhgfs-fuse .host:/ /mnt/hgfs -o allow_other - 模型下载慢:可以考虑使用国内镜像源或提前下载好模型文件
- 内存不足:关闭不必要的程序,或给虚拟机分配更多内存
7. 总结与下一步
通过本教程,我们成功在VMware虚拟机中搭建了Ubuntu环境,并部署了Phi-3.5-mini-instruct模型。整个过程虽然步骤不少,但每一步都很明确。实际用下来,这种开发环境配置方式既保留了Windows的便利性,又获得了Linux的开发优势。
如果你需要更强大的性能,可以考虑直接安装双系统,或者使用云服务器。对于大多数开发测试场景,这个虚拟机方案已经足够用了。接下来你可以尝试用这个环境开发更多AI应用,或者探索Phi-3模型的其他功能。
获取更多AI镜像
想探索更多AI镜像和应用场景?访问 CSDN星图镜像广场,提供丰富的预置镜像,覆盖大模型推理、图像生成、视频生成、模型微调等多个领域,支持一键部署。