【记录】win10平台6G显存运行Qwen-1.8B Llama.cpp 能 CPU & GPU 环境混合推理,这里记录一下在 windows10 平台上运行 Qwen-1.8B 的过程,显卡是 1660Ti 。 准备模型 安装conda Tun模式(管理员权限) 1234567conda create -n llamaConvert python=3.10 git -c conda-forgeconda activate llamaCo 2024-01-01 #llama
【记录】轻量个人导航页面 Flare Flare 是一款轻量、快速、美观的个人导航页面,适用于 HomeLab 或其他注重私密的场景。 反向代理服务 访问 https://flare.limour.top/editor 进行书签编辑 123mkdir -p ~/app/flare && cd ~/app/flare && nano docker-compose.ymlsudo docker-comp 2024-01-01 #docker #ngpm #homepage
【记录】Win10平台使用MLC-LLM编译Qwen-1.8B-Chat MLC-LLM 是一种大模型高性能通用部署解决方案,可以通过预编译加速使用本机API原生部署任何大型语言模型。该项目的使命是利用ML编译技术,使每个人都能在其设备上本地开发、优化和部署AI模型。 Qwen-1.8B 是阿里云研发的通义千问大模型系列的18亿参数规模的模型。在Qwen-1.8B的基础上,使用对齐机制打造了基于大语言模型的AI助手 Qwen-1.8B-Chat。 配置环境 安装con 2023-12-09 #llama
【探索】外科打结法中的等价操作 手术中的止血和缝合,均需要进行结扎,而结扎是否牢固,又与打结有密切关系,结一定要打得牢固,不能松动、滑脱。 常用的结扣是方结,结扎后极为牢固,在手术中最常用。而打方结时,手法顺序错误就容易打成假结或滑结。因此这里将探讨基础打结手法的等价性,帮助快速理解不同手法所成结的本质。 除不易混淆的外科结外,无论是单手打结还是持钳打结,均由基础动作组合而成,基础动作所成的结都对应纽结理论中的三叶结。三叶结有两 2023-12-02 #探索
【翻译】多重免疫分析揭示了血清免疫蛋白质组学在预测胃癌术前化疗反应中的作用 原文链接:Multiplex immune profiling reveals the role of serum immune proteomics in predicting response to preoperative chemotherapy of gastric cancer 摘要 对于胃腺癌患者,对术前化疗的反应存在异质性。该领域现有 2023-12-01 #翻译 #预后模型
【转载】圈中人 《圈中人》 from CXPLAY World 序 外面很危险, 于是有人在地上画了一圈并对我说: “这个圈外很危险, 你不要随便出去, 我会帮你对付这些危险, 所以我很忙, 但我也会派人监督你.”; 监督人来了, 他对我说: "你知道要怎么做了吧?但为了防止你总是不小心碰到边界, 我会给你的粗心大意一些小小的惩罚, 好让你长记性, 毕竟我要监督的人可不止你一个. ", 于 2023-11-16 #转载
【探索】基于WebSocket的内网穿透工具 国内的服务器备案麻烦,所以很多内网服务需要使用内网穿透工具。之前尝试使用QUIC来伪装,但不稳定。现在找到了一个特征少的内网穿透工具ProxyNT,可以通过NAT和防火墙将本地服务器暴露到公网上。使用Docker部署服务端和客户端,配置相应的参数后即可使用。 2023-11-09 #探索 #docker #ngpm #内网穿透 #ssh #ws
【记录】自建去广告的DoH服务器 进行部署 反代服务 12345mkdir -p ~/app/adguard && cd ~/app/adguard && nano docker-compose.ymlsudo docker-compose up -d # 面板端口 3000# /opt/adguardhome/letsencrypt/live/npm-1/fullchain.pem# /opt 2023-10-28 #docker #ngpm #DoH
【探索】基于QUIC的内网穿透协议 环境和依赖 内网穿透服务 证书自动申请服务 123456mkdir -p ~/base/NPS && cd ~/base/NPS && mkdir confnano docker-compose.ymlnano conf/nps.conftouch conf/{clients,hosts,tasks}.jsonsudo docker-comp 2023-10-27 #探索 #docker #ngpm #内网穿透
【学习】孟德尔随机化 MR定义 孟德尔随机化是一种基于全基因组测序数据(GWAS数据),利用单核首酸多态性(SNPs)作为工具变量(IV),用于揭示因果关系的新型流行病学方法,相较于队列研究等观察性研究,暴露在出生前便已确定,较少受到反向因果及混杂因素的影响,因而能够有效减少偏倚。 MR的核心是运用遗传学数据作为桥梁,来探索某一暴露和某一结局之间的因果关联。与RCT将参与者随机分配到试验组或对照组类似,MR研究基于影 2023-10-14 #SNP #MR