You may also like
My goal here is only to test & research, practise and get to know more about WebRTC & its codes, so here […]
Although left UniSVR for a year, yet proud to say, I had particapted in this product, and played a role in this […]
[TOC] 由于模型、权重文件已经下载好了，所以跳过这些步骤。open-webui也在昨天已经安装好，同样跳过。无废话流程 硬件环境 租的AutoDL的GPU服务器做的测试•软件环境PyTorch 2.5.1、Python 3.12(ubuntu22.04)、Cuda 12.4•硬件环境￮GPU：RTX 4090(24GB) * 4（实际只使用一张GPU）￮CPU：64 vCPU Intel(R) Xeon(R) Gold 6430￮内存：480G（至少需要382G）￮硬盘：1.8T（实际使用需要380G左右） 一、创建环境 创建虚拟环境 安装 PyTorch、packaging、ninja 安装flash-attn 安装libstdcxx-ng 二、编译安装ktransformers […]
一、前言 小落同学原先没有做多用户，想改版一下可以支持多用户，所以需要改造原来的websocket API接口目标示例的请求如下：ws://x.rg4.net/ws/b7e14e7c1a1d42019d866166c81119d1?llm=chatgpt&character_id=2&chatmode=text&token= OK，那让我们来试试。 二、让Django支持websocket 在 Django 中启用 WebSocket 通常需要借助第三方库，因为 Django 自身的框架并不直接支持WebSocket。一个流行的选择是使用 Django Channels，这是一个为 Django 提供异步能力的扩展，包括 WebSocket 支持。 以下是如何在 Django 项目中启用 WebSocket […]