圣者
精华
|
战斗力 鹅
|
回帖 0
注册时间 2019-1-7
|
本帖最后由 泰坦失足 于 2025-2-27 18:43 编辑
国产大模型DeepSeek近期成为AI领域的焦点，越来越多的企业和个人开始尝试搭建DeepSeek等大模型的私有化部署。然而，网络安全公司奇安信近日发布的监测数据显示，目前活跃的DeepSeek大模型服务器中，高达88.9%未采取任何安全措施，存在严重的安全隐患。奇安信资产测绘鹰图平台的监测数据显示，在8971个Ollama大模型服务器中，有6449个为活跃服务器，其中88.9%的服务器暴露在互联网上，没有任何安全防护措施。这意味着任何人均可通过互联网直接访问这些服务器，甚至在未经授权的情况下调用大模型，导致算力被盗取、数据泄露，甚至大模型文件被恶意删除。Ollama是一款支持多种大模型运行的工具，包括DeepSeek-R1、Qwen和Llama等。然而，Ollama在默认情况下并未提供安全认证功能，这使得许多用户在部署大模型时忽视了必要的安全配置。奇安信技术人员将这种状态形容为“裸奔”，即服务器如同一间装满智能设备的仓库，但大门却没有上锁。监测数据显示，已有恶意攻击者通过自动化脚本扫描到这些“裸奔”服务器，并恶意占用大量计算资源，导致部分用户服务器崩溃。奇安信专家建议，所有部署DeepSeek服务的企业和个人应立即修改Ollama配置，加入身份认证手段，并及时调整防火墙、WAF等安全配置。同时，用户应定期检查和关闭不必要的端口，并对传输的数据进行加密，以防止敏感信息泄露。
除了登录认证问题, 交互的网络流量的安全性也是个大问题. 主流的Ollama/VLLM/llama.cpp也没考虑给连接进行TLS加密吧. 懒得抓包了, 至少endpoint是http. 而且VLLM/lama.cpp/ollama在输入进模型时也全是明文的, 管理员看一眼就知道有谁(或者匿名)输入了什么文本. 最后这一点短时间内完全无解, 作为目标的全同态加密没有任何成熟的解决方案. 还是需要有关机构统筹安排来建算力机房和对应的网络系统/管理系统. 绝对不能联网的, 则使用定制化硬件/软件实现统一标准化做到开箱即部署. 现在这个和土法炼钢大炼钢铁似得.
|
评分
-
查看全部评分
|
沪公网安备 31010702007642号 )
发表于 2025-2-27 18:32
敢攻击就不干了
那是局域网共享用的，不映射到外网那理论上还是比较安全的
