发帖

扫码访问

立即注册

登录

运营动脉»社区 › 经验交流 › 随便聊聊 › 想本地部署一个大语言模型

返回列表发新帖

查看: 350|回复: 1

[聊技术] 想本地部署一个大语言模型

小白兔〤奶糖

7 主题	16 回帖	48 积分

Rank: 2

积分: 48

发表于 2024-12-22 19:10:21 | 显示全部楼层 |阅读模式

只测试了ollama，下载了上百G的大模型，测试结果都是流模式输出，有没有又快又非流模式输出的？
如果想让大语言模型给上百万字的文本文件总结文章大纲、西纲等要如何弄？

回复

使用道具举报

4 主题	16 回帖	43 积分

Rank: 2

积分: 43

发表于 2024-12-22 19:31:34 | 显示全部楼层

秀起来~

回复支持反对

使用道具举报

返回列表发新帖

特惠

限量优惠活动

正在火热进行

站长

添加站长微信

领取新人礼包

下载

便携运营智库

立即下载APP

工具

运营导航

工具推荐

帮助

帮助中心

常见问题

分销

50%直推收益

30%间推分成

AI

智能对话

办公助手

顶部