2024年10月

基于vLLM的大模型部署

一、前言vLLM是一种优化大语言模型（LLM）推理的开源系统，核心优势在于显著提升了大模型的推理速度和计算资源的利用率，适合高并发请求的场景。本文档搭建一套使用vLLM+OpenWebUI的环境...

跳转时拼接location路径的规则：参数项加“/”不加"/"proxy_pass不会会root会会alias不会会报错

一、概述在 TCP Wrappers 中，allow 的优先级高于 deny。具体来说：访问顺序：当一个连接请求到达时，TCP Wrappers 会首先检查 /etc/hosts.allow 文...

一、配置http代理访问docker hub方法一：#创建docker.service的自定义配置的扩展 sudo mkdir -p /etc/systemd/system/docker.ser...

Linux系统中/tmp目录清理机制1.使用systemd的系统：默认情况下，未被访问10天的文件会被自动清理。清理由systemd-tmpfiles-clean服务执行，配置文件位于/usr/...

22.04版本-阿里云仓库源备份并添加新源sudo mv /etc/apt/sources.list /etc/apt/sources.list.bak sudo bash -c "...