※ 本文轉寄自 ptt.cc, 文章原始頁面
看板AI_Art
標題

[問題]想請問chatgpt 是否有離線部署版

最新2024-05-08 01:21:00
留言27則留言,7人參與討論
推噓7 ( 7020 )
如題,請問各位,像是文生圖、圖生圖有stable diffusion可以離線自行操作使用 卻好像沒有看過chatgpt的開源軟件有類似Stable diffusion開放離線使用 是否chatgpt 只有線上版的呢?謝謝 -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 101.9.53.161 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/AI_Art/M.1714803479.A.A9C.html

27 則留言

Supasizeit, 1F
你有三張4090嗎

kukulza, 2F
意思是stable diffusion對硬體的要求較小

Supasizeit, 3F
GPT 沒有開源 你可以跑Llama7b

kukulza, 4F
謝謝,那我請問一下,跑模型的開源軟體有比較推薦的嗎

kukulza, 5F
聽說Text Generation WebUI很像SD,還是有其他更好的

denny41606, 6F
就Llama7b

kukulza, 7F
Mistral-7B如何?

Supasizeit, 8F
舊了

avans, 9F
SD可以離線使用是因為他本來就是開源的,GPT就好像Dall-E或

avans, 10F
Midjourney一樣是閉源的模型,沒有人有辦法將之離線使用,

avans, 11F
相對的LLM可離線使用的開源模型如雨後春筍般不斷產出,個人

avans, 12F
推薦Llama3 8B,這個普通人電腦就跑得動了

marklai, 13F
可以參考樓上avans 大寫的那篇Llama3 文章,我覺得huggi

marklai, 14F
ng face的線上版70b就很不錯了

kukulza, 15F
謝謝各位大大,不知道Llama3 8B有沒有支援中文

kukulza, 16F
看到有支援中文了

sachialanlus, 17F
windows 用 llm studio 滿適合入門的

sachialanlus, 18F
能跑 chatgpt 等級的模型的配備遠比 sd xl 高 不是

sachialanlus, 19F
差幾倍而已

kukulza, 20F
我有查到一款JAN.AI是剛出來的,不知道好不好

Supasizeit, 21F
Chatbot 你可以忍受一句話跑30秒嗎

kukulza, 22F
再請教一下,最近有使用TEXT GENERATION,覺得還蠻好用的

kukulza, 23F
但我發現再用角色卡對話的時候,明明是有圖片的,它卻顯

kukulza, 24F
示不出來,同樣的用TavernAI角色就能夠對話出順利生成圖

kukulza, 25F
片給我,是因為Text generation本身無法生成圖片嗎?

cannedtuna, 26F
查 ollama 只是跟gpt比起來真的很蠢 又跑很慢不如用3

cannedtuna, 27F
.5