在自己电脑上部署没有禁忌的AI大模型-它是真敢骂啊

--> 本頁主題: 在自己电脑上部署没有禁忌的AI大模型-它是真敢骂啊

路人乙而已

級別：新手上路 ( 8 )
發帖：139
威望：18 點
金錢：1645 USD
貢獻：0 點
註冊：2021-10-24

前几天看到一些本地部署AI大模型的视频，想到我还有好久没开机的一台台式机，当时配了2张1080Ti的显卡，显存总共22GB。
于是试着部署了一下，具体教程大家可以搜网上教程一大堆。简单来说也就两步：
1、下载安装部署工具，我用的是LM Studio；
2、下载运行AI大模型，推荐在huggingface上找。
大模型就有非常多的选择了，huggingface上有几千个吧，比如比较火的deepseek的R1蒸馏版。
这个帖子主要想说说无审核的AI大模型，真是百无禁忌火力全开呀。下面是演示(正好有小m想让我骂她)，大家在这方面有兴趣的话可以多多交流。

[ 此貼被路人乙而已在2025-02-17 13:20重新編輯 ]

DMCA / ABUSE REPORT | TOP Posted: 02-17 13:06 樓主引用 | 發表評論

ytinfo

級別：俠客 ( 9 )
發帖：2025
威望：220 點
金錢：10186 USD
貢獻：385 點
註冊：2013-12-15

赞(8) | 資料短信推薦編輯

我靠，还能这么晚。高级啊。

點評

TOP Posted: 02-17 13:12 #1樓引用 | 點評

国家赔偿

級別：精靈王 ( 12 )
發帖：11411
威望：1334 點
金錢：3121 USD
貢獻：0 點
註冊：2011-06-06

赞(0) | 資料短信推薦編輯

楼主这和deep seek啥区别

點評

TOP Posted: 02-17 13:14 #2樓引用 | 點評

五中全会

級別：新手上路 ( 8 )
發帖：66
威望：7 點
金錢：166 USD
貢獻：0 點
註冊：2025-02-12

赞(1) | 資料短信推薦編輯

哈哈，有点意思

TOP Posted: 02-17 13:17 #3樓引用 | 點評

深渊两腿之间

級別：精靈王 ( 12 )
發帖：4036
威望：404 點
金錢：6987 USD
貢獻：30001 點
註冊：2022-03-13

赞(1) | 資料短信推薦編輯

谢谢分享

TOP Posted: 02-17 13:20 #4樓引用 | 點評

茅家老道

級別：聖騎士 ( 11 )
發帖：2408
威望：757 點
金錢：35000 USD
貢獻：300 點
註冊：2024-03-18

赞(1) | 資料短信推薦編輯

感谢分享，不喂数据，会自动生成吗？

點評

TOP Posted: 02-17 13:24 #5樓引用 | 點評

义父

級別：聖騎士 ( 11 )
發帖：3083
威望：314 點
金錢：5511 USD
貢獻：30000 點
註冊：2021-01-06

赞(0) | 資料短信推薦編輯

卧槽，真会玩！

TOP Posted: 02-17 13:25 #6樓引用 | 點評

佛魔一念间

級別：精靈王 ( 12 )
發帖：19850
威望：2159 點
金錢：1896 USD
貢獻：2768 點
註冊：2020-04-24

赞(1) | 資料短信推薦編輯

谁喂的数据

點評

TOP Posted: 02-17 13:27 #7樓引用 | 點評

神棍仌混沌

級別：騎士 ( 10 )
發帖：3530
威望：394 點
金錢：3653 USD
貢獻：16 點
註冊：2017-01-07

赞(1) | 資料短信推薦編輯

这数据从哪里喂的？

------------------------

.

點評

TOP Posted: 02-17 13:30 #8樓引用 | 點評

shineyg

級別：聖騎士 ( 11 )
發帖：7523
威望：899 點
金錢：24247 USD
貢獻：668 點
註冊：2021-06-08

赞(0) | 資料短信推薦編輯

感谢分享

TOP Posted: 02-17 13:47 #9樓引用 | 點評

真正的马甲

級別：俠客 ( 9 )
發帖：1630
威望：165 點
金錢：8411 USD
貢獻：406 點
註冊：2021-10-15

赞(0) | 資料短信推薦編輯

可惜不是你

TOP Posted: 02-17 13:50 #10樓引用 | 點評

fm1062

級別：聖騎士 ( 11 )
發帖：7960
威望：843 點
金錢：9689 USD
貢獻：4329 點
註冊：2020-02-20

赞(0) | 資料短信推薦編輯

会玩儿。
这要点技术吧

TOP Posted: 02-17 13:52 #11樓引用 | 點評

布拉德·皮特

級別：精靈王 ( 12 )
發帖：4705
威望：2567 點
金錢：13200 USD
貢獻：22400 點
註冊：2024-02-10

赞(0) | 資料短信推薦編輯

感谢分享

TOP Posted: 02-17 13:54 #12樓引用 | 點評

www.xxx

級別：騎士 ( 10 )
發帖：2884
威望：324 點
金錢：7458 USD
貢獻：11269 點
註冊：2007-12-06

赞(1) | 資料短信推薦編輯

有时间可以玩玩

TOP Posted: 02-17 13:54 #13樓引用 | 點評

entive

級別：俠客 ( 9 )
發帖：1017
威望：157 點
金錢：3910 USD
貢獻：55 點
註冊：2025-01-01

赞(0) | 資料短信推薦編輯

童叟无欺

TOP Posted: 02-17 13:56 #14樓引用 | 點評

穆尚

級別：光明使者 ( 14 )
發帖：27298
威望：9094 點
金錢：1431619 USD
貢獻：262296 點
註冊：2016-12-15

赞(1) | 資料短信推薦編輯

本地部署可以玩，前提是有个现存大的显卡

TOP Posted: 02-17 13:56 #15樓引用 | 點評

醉纱心

級別：精靈王 ( 12 )
發帖：10668
威望：1915 點
金錢：892546 USD
貢獻：4000 點
註冊：2020-02-08

赞(1) | 資料短信推薦編輯

这么牛的嘛，厉害了

TOP Posted: 02-17 14:04 #16樓引用 | 點評

噼哩啪啦啊

級別：俠客 ( 9 )
發帖：329
威望：142 點
金錢：3242 USD
貢獻：0 點
註冊：2024-10-18

赞(0) | 資料短信推薦編輯

感谢分享

TOP Posted: 02-17 14:06 #17樓引用 | 點評

Peterorn

級別：俠客 ( 9 )
發帖：686
威望：204 點
金錢：1027 USD
貢獻：0 點
註冊：2020-04-03

赞(0) | 資料短信推薦編輯

玩玩还可以

TOP Posted: 02-17 14:09 #18樓引用 | 點評

科比日

級別：騎士 ( 10 )
發帖：2771
威望：293 點
金錢：7038 USD
貢獻：479 點
註冊：2020-08-24

赞(0) | 資料短信推薦編輯

有点意思了

TOP Posted: 02-17 14:21 #19樓引用 | 點評

hzcydh

級別：俠客 ( 9 )
發帖：1032
威望：104 點
金錢：2967 USD
貢獻：0 點
註冊：2013-06-05

赞(0) | 資料短信推薦編輯

有点意思啊，有机会试试

TOP Posted: 02-17 14:28 #20樓引用 | 點評

负担飞鸟苷

級別：新手上路 ( 8 )
發帖：774
威望：78 點
金錢：2275 USD
貢獻：0 點
註冊：2022-07-18

赞(1) | 資料短信推薦編輯

感谢分享

TOP Posted: 02-17 14:42 #21樓引用 | 點評

韭菜镰刀

級別：俠客 ( 9 )
發帖：1699
威望：194 點
金錢：3522 USD
貢獻：0 點
註冊：2022-07-10

赞(1) | 資料短信推薦編輯

与时俱进啊

TOP Posted: 02-17 15:32 #22樓引用 | 點評

top10

級別：聖騎士 ( 11 )
發帖：2383
威望：229 點
金錢：11683 USD
貢獻：27452 點
註冊：2014-09-01

赞(0) | 資料短信推薦編輯

1024

TOP Posted: 02-17 16:10 #23樓引用 | 點評

圆圆的

級別：精靈王 ( 12 )
精華：6
發帖：396
威望：485 點
金錢：236715 USD
貢獻：57000 點
註冊：2022-07-19

赞(0) | 資料短信推薦編輯

牛啊！

TOP Posted: 02-17 16:14 #24樓引用 | 點評

快速回帖	頂端
內容： HTML 代碼不可用使用簽名 Wind Code自動轉換	按 Ctrl+Enter 直接提交

.:. 草榴社區 » 技術討論區 » 在自己电脑上部署没有禁忌的AI大模型-它是真敢骂啊
＜上一頁 1 2 3 下一頁＞	手機版回帖發布主題

＜上一頁 1 2 3 下一頁＞
.:. 草榴社區 -> 技術討論區