Fun-ASR-MLT-Nano-2512部署教程Nginx反向代理HTTPS配置实现公网安全访问语音识别模型二次开发构建by113小贝1. 项目概述Fun-ASR-MLT-Nano-2512是阿里通义实验室推出的多语言语音识别大模型支持31种语言的高精度语音识别。这个模型特别适合需要处理多语言语音场景的开发者和企业。核心特性多语言支持中文、英文、粤语、日文、韩文等31种语言特色功能方言识别、歌词识别、远场识别轻量高效800M参数规模推理速度快高准确率在远场高噪声环境下仍能达到93%的识别准确率本地部署后默认只能通过localhost访问这限制了实际应用。本文将带你完成从本地部署到公网安全访问的完整流程。2. 环境准备与快速部署2.1 系统要求在开始之前请确保你的服务器满足以下要求操作系统Ubuntu 20.04或更高版本Python3.8及以上版本内存至少8GB磁盘空间5GB以上可用空间GPU可选但推荐CUDA兼容显卡2.2 快速安装部署首先我们来快速部署Fun-ASR模型# 克隆项目如果尚未下载 git clone https://github.com/FunAudioLLM/Fun-ASR-MLT-Nano-2512.git cd Fun-ASR-MLT-Nano-2512 # 安装Python依赖 pip install -r requirements.txt # 安装FFmpeg音频处理必备 sudo apt-get update sudo apt-get install -y ffmpeg # 启动Web服务 nohup python app.py /tmp/funasr_web.log 21 echo $! /tmp/funasr_web.pid现在你的语音识别服务已经在本地7860端口运行了可以通过http://localhost:7860访问测试。3. Nginx反向代理配置3.1 安装Nginx如果你的系统还没有安装Nginx可以通过以下命令安装sudo apt update sudo apt install nginx -y # 启动Nginx并设置开机自启 sudo systemctl start nginx sudo systemctl enable nginx3.2 配置反向代理创建Nginx配置文件将外部请求转发到本地的语音识别服务sudo nano /etc/nginx/sites-available/funasr-proxy将以下配置内容粘贴到文件中server { listen 80; server_name your-domain.com; # 替换为你的域名或服务器IP # 反向代理到本地7860端口 location / { proxy_pass http://127.0.0.1:7860; proxy_set_header Host $host; proxy_set_header X-Real-IP $remote_addr; proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for; proxy_set_header X-Forwarded-Proto $scheme; # WebSocket支持如果Gradio使用 proxy_http_version 1.1; proxy_set_header Upgrade $http_upgrade; proxy_set_header Connection upgrade; } # 静态文件缓存设置 location ~* \.(js|css|png|jpg|jpeg|gif|ico|svg)$ { expires 1y; add_header Cache-Control public, immutable; } }启用配置并重启Nginx# 创建符号链接 sudo ln -s /etc/nginx/sites-available/funasr-proxy /etc/nginx/sites-enabled/ # 测试配置是否正确 sudo nginx -t # 重启Nginx使配置生效 sudo systemctl restart nginx现在你的语音识别服务已经可以通过HTTP访问了但为了安全我们需要配置HTTPS。4. HTTPS安全配置4.1 安装Certbot和SSL证书使用Lets Encrypt免费SSL证书为你的服务添加HTTPS加密# 安装Certbot sudo apt install certbot python3-certbot-nginx -y # 获取并安装SSL证书 sudo certbot --nginx -d your-domain.com # 替换为你的域名Certbot会自动修改Nginx配置添加SSL相关设置。过程中会询问是否强制重定向HTTP到HTTPS建议选择2强制重定向。4.2 手动配置HTTPS可选如果你需要更精细的控制可以手动配置SSLserver { listen 443 ssl http2; server_name your-domain.com; # SSL证书路径 ssl_certificate /etc/letsencrypt/live/your-domain.com/fullchain.pem; ssl_certificate_key /etc/letsencrypt/live/your-domain.com/privkey.pem; # SSL优化配置 ssl_protocols TLSv1.2 TLSv1.3; ssl_ciphers ECDHE-ECDSA-AES128-GCM-SHA256:ECDHE-RSA-AES128-GCM-SHA256:ECDHE-ECDSA-AES256-GCM-SHA384:ECDHE-RSA-AES256-GCM-SHA384:ECDHE-ECDSA-CHACHA20-POLY1305:ECDHE-RSA-CHACHA20-POLY1305:DHE-RSA-AES128-GCM-SHA256:DHE-RSA-AES256-GCM-SHA384; ssl_prefer_server_ciphers off; ssl_session_cache shared:SSL:10m; ssl_session_timeout 1d; # 反向代理配置 location / { proxy_pass http://127.0.0.1:7860; proxy_set_header Host $host; proxy_set_header X-Real-IP $remote_addr; proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for; proxy_set_header X-Forwarded-Proto $scheme; } } # HTTP重定向到HTTPS server { listen 80; server_name your-domain.com; return 301 https://$server_name$request_uri; }4.3 配置防火墙确保防火墙只允许必要的端口# 查看当前防火墙规则 sudo ufw status # 允许HTTP和HTTPS sudo ufw allow 80/tcp sudo ufw allow 443/tcp # 启用防火墙如果尚未启用 sudo ufw enable5. 安全加固措施5.1 限制访问频率防止恶意请求在Nginx配置中添加限流设置# 在http块中添加限流配置 http { limit_req_zone $binary_remote_addr zoneapi:10m rate10r/s; # 其他配置... } # 在server块中应用限流 server { # 其他配置... location / { limit_req zoneapi burst20 nodelay; # 代理配置... } }5.2 添加基础认证为管理界面添加密码保护# 创建认证文件 sudo sh -c echo -n username: /etc/nginx/.htpasswd sudo sh -c openssl passwd -apr1 /etc/nginx/.htpasswd # 在Nginx配置中添加认证 location / { auth_basic Restricted Access; auth_basic_user_file /etc/nginx/.htpasswd; # 代理配置... }6. 服务管理与监控6.1 创建系统服务为了让语音识别服务更稳定我们可以创建systemd服务sudo nano /etc/systemd/system/funasr.service添加以下内容[Unit] DescriptionFun-ASR MLT Nano Speech Recognition Service Afternetwork.target [Service] Typesimple Userroot WorkingDirectory/root/Fun-ASR-MLT-Nano-2512 ExecStart/usr/bin/python app.py Restartalways RestartSec5 [Install] WantedBymulti-user.target启用并启动服务sudo systemctl daemon-reload sudo systemctl enable funasr sudo systemctl start funasr6.2 日志监控设置日志轮转防止日志文件过大sudo nano /etc/logrotate.d/funasr添加以下内容/root/Fun-ASR-MLT-Nano-2512/*.log /tmp/funasr_web.log { daily missingok rotate 7 compress delaycompress notifempty copytruncate }7. 性能优化建议7.1 Nginx性能调优根据你的服务器配置调整Nginx性能参数# 在nginx.conf的http块中添加 http { # 连接超时设置 keepalive_timeout 65; keepalive_requests 1000; # 缓冲区大小 client_body_buffer_size 128k; client_max_body_size 100M; # 允许上传大音频文件 # 代理缓冲 proxy_buffering on; proxy_buffer_size 4k; proxy_buffers 8 4k; # 其他优化... }7.2 模型加载优化首次启动时模型需要加载30-60秒可以通过预热减少首次请求延迟# 创建预热脚本 nano warmup.pyfrom funasr import AutoModel import time print(预热加载模型...) start_time time.time() model AutoModel( model., trust_remote_codeTrue, devicecuda:0 if torch.cuda.is_available() else cpu ) print(f模型加载完成耗时: {time.time() - start_time:.2f}秒)8. 常见问题解决8.1 端口冲突问题如果7860端口已被占用可以修改服务端口# 修改app.py中的启动代码 demo.launch( server_name0.0.0.0, server_port7860, # 修改为其他端口如7861 shareFalse )同时更新Nginx配置中的proxy_pass地址。8.2 SSL证书续期Lets Encrypt证书有效期为90天设置自动续期# 测试续期 sudo certbot renew --dry-run # 添加定时任务自动续期 sudo crontab -e添加以下行0 12 * * * /usr/bin/certbot renew --quiet8.3 性能监控使用以下命令监控服务状态# 查看服务状态 sudo systemctl status funasr sudo systemctl status nginx # 查看资源使用情况 top -p $(pgrep -f python app.py) nginx -t # 检查配置是否正确 # 查看日志 tail -f /tmp/funasr_web.log tail -f /var/log/nginx/access.log tail -f /var/log/nginx/error.log9. 总结通过本教程你已经成功将Fun-ASR-MLT-Nano-2512语音识别服务从本地部署扩展到了公网安全访问。关键步骤包括基础部署完成模型的本地安装和测试反向代理使用Nginx将本地服务暴露到公网安全加固配置HTTPS加密和访问控制性能优化调整参数提升服务稳定性运维管理设置系统服务和监控机制现在你的多语言语音识别服务已经可以安全地通过互联网访问支持31种语言的实时语音转文字功能。无论是中文普通话、英文、粤语还是其他支持的语言都能获得高精度的识别结果。这种部署方式不仅保证了服务的安全性还提供了良好的可扩展性。当流量增加时你可以轻松地扩展服务器资源或配置负载均衡。获取更多AI镜像想探索更多AI镜像和应用场景访问 CSDN星图镜像广场提供丰富的预置镜像覆盖大模型推理、图像生成、视频生成、模型微调等多个领域支持一键部署。