23/04/11(火)10:09:08 https:/... のスレッド詳細
削除依頼やバグ報告は メールフォーム にお願いします。個人情報、名誉毀損、侵害等については積極的に削除しますので、 メールフォーム より該当URLをご連絡いただけると助かります。
画像ファイル名:1681175348460.jpg 23/04/11(火)10:09:08 No.1045914318
https://gigazine.net/news/20230404-vicuna-weight/ 帰ったらやってみる その前に「」の感想を聞きたい
1 23/04/11(火)10:10:21 No.1045914554
要求スペック高すぎて試せる「」も限られそう
2 23/04/11(火)10:10:34 No.1045914589
メモリが60GB程度必要…?
3 23/04/11(火)10:16:52 No.1045915727
これがあれば最高にエロい完璧な彼女が手にはいるんです!?
4 23/04/11(火)10:18:02 No.1045915938
GPTより気持ちおバカらしいが3.5と4どちらを比べてるかによるな… オンライン版試すか
5 23/04/11(火)10:22:09 No.1045916741
>これがあれば最高にエロい完璧な彼女が手にはいるんです!? VRM_AIと連携できるならいいなぁ
6 23/04/11(火)10:22:16 No.1045916774
GPT4の90%と言う記事が出てきたな
7 23/04/11(火)10:24:38 No.1045917217
>GPT4の90%と言う記事が出てきたな 雑談には十分だな あとは記憶保持がどれくらい効くのか そこら辺はオープンソースならマシンスペック次第でどうにでもなる気はするが
8 23/04/11(火)10:30:04 No.1045918235
ベンチマークでgpt4の90パーセントならgpt3.5の英語ぐらいじゃないか?
9 23/04/11(火)10:30:51 No.1045918382
GPT3.5よりアホって見たけど気のせいだったか 試したら是非スレ立ててよ
10 23/04/11(火)10:30:56 No.1045918396
RAM60GBかぁ…
11 23/04/11(火)10:33:10 No.1045918829
買うか...AI用マシン
12 23/04/11(火)10:35:28 No.1045919219
AI用にメモリ買うか…
13 23/04/11(火)10:35:30 No.1045919224
RAMとVRAMを盛りまくったAI用PC組むのは趣味としては面白いかもね
14 23/04/11(火)10:37:01 No.1045919513
RTX3070外してRTX3060乗せることを真面目に検討している
15 23/04/11(火)10:39:30 No.1045919988
ちょっと調べて見たところスペックは3.5相当で扱いはちょっと難しい感じか?
16 23/04/11(火)10:40:19 No.1045920156
これ言うほど一般家庭のPCか?
17 23/04/11(火)10:44:05 No.1045920854
AIが軽くなるのが先かAI用のハードウェアが出るのが先か
18 23/04/11(火)10:44:29 No.1045920936
割とマイニング以上にパーツの取り扱いになる気はするので必要スペックの目測取れたら積むだけ積んだ方がいい気配はある 他のこと全部メイン機でやって処理だけ委託する専用機みたいなイメージならいくらくらいだろ
19 23/04/11(火)10:45:36 No.1045921128
一般家庭(でも導入できなくはない程度)のPCではあるな
20 23/04/11(火)10:46:37 No.1045921301
デカい会社が君だけの最強スパコンで殴り合うのが主流になるか新技術でよりローコストなやり方が出来るか
21 23/04/11(火)10:46:59 No.1045921368
確かにAIイラストと違ってメインPC盛るより専用機作ったほうが安そうだね そんなことしてるとなんかもういよいよSFのアンドロイドって感じだけど
22 23/04/11(火)10:49:34 No.1045921906
>確かにAIイラストと違ってメインPC盛るより専用機作ったほうが安そうだね >そんなことしてるとなんかもういよいよSFのアンドロイドって感じだけど 健全な運用なら間違いなくGPT4のAPI頼った方が早いからローカルで対話型AI持ちたい場合ってえっちな嫁なり故人の再現なり人格形成したいくらいじゃないか?思いつかないだけだけど
23 23/04/11(火)10:50:30 No.1045922109
>デカい会社が君だけの最強スパコンで殴り合うのが主流になるか新技術でよりローコストなやり方が出来るか そうこうしてる間に最強スパコンが最強会社を作ってるかもしれない
24 23/04/11(火)10:52:12 No.1045922445
13Bじゃ一行チャットが限界だよ
25 23/04/11(火)10:52:49 No.1045922567
>13Bじゃ一行チャットが限界だよ ああじゃあ捲し立てる系のヤンデレとか向かないか...
26 23/04/11(火)10:54:18 No.1045922839
Vicuna-13Bは駄目だ 3.5と比べても弱すぎるし4と比べたら完全におもちゃ
27 23/04/11(火)10:55:11 No.1045923007
>>13Bじゃ一行チャットが限界だよ >ああじゃあ捲し立てる系のヤンデレとか向かないか... 家庭のPCでヤンデレ飼おうとするな
28 23/04/11(火)10:55:27 No.1045923066
メモリ128Gは気軽に手が出せない…
29 23/04/11(火)10:57:21 No.1045923456
>>>13Bじゃ一行チャットが限界だよ >>ああじゃあ捲し立てる系のヤンデレとか向かないか... >家庭のPCでヤンデレ飼おうとするな 憧れは止められねえんだ GPT4で作ったヤンデレにボディ得たら覚えとけよ♡って言われるのたのしい
30 23/04/11(火)10:57:57 No.1045923569
VRやってるとVRAMとしては真面目にあればあるほどいいから損はしないんだよな
31 23/04/11(火)11:01:13 No.1045924197
というかいまイーロンやら競合他社同等機材作ろうと躍起になってそうだしただでさえ半導体高騰してるのにあんまり争奪戦になってる話聞かないな
32 23/04/11(火)11:03:07 No.1045924577
メモリ60GBなら今頑張ればメモリやすいので2万5000円ぐらいで64GBにできるだろうが… OS分とかも考えると64GBじゃカツカツトンカツだな
33 23/04/11(火)11:04:37 No.1045924856
あー自前だとエロの制限ないのか
34 23/04/11(火)11:05:40 No.1045925061
画像生成よりも文章生成のほうがパワー食うの意外だ
35 23/04/11(火)11:05:41 No.1045925064
割と64GBまではゲーマーなり絵描きだと積む人多い
36 23/04/11(火)11:05:44 No.1045925074
>あー自前だとエロの制限ないのか もう一度言うけどVicuna-13Bはショボいよ…ブラウザ版を触った限りの感想だと
37 23/04/11(火)11:05:44 No.1045925076
3dモデル作ったりクリエイター用pcなので最低スペックはクリアしている さらに積む口実もできて良い
38 23/04/11(火)11:06:44 No.1045925270
>>あー自前だとエロの制限ないのか >もう一度言うけどVicuna-13Bはショボいよ…ブラウザ版を触った限りの感想だと 悲しい まぁ試すだけ試すか
39 23/04/11(火)11:07:05 No.1045925349
64GBあたりに壁があるよねメモリ
40 23/04/11(火)11:08:19 No.1045925574
>割と64GBまではゲーマーなり絵描きだと積む人多い 絵描きだけど32ですら使い切らないよ 4kで描いても16でも十分だ
41 23/04/11(火)11:08:21 No.1045925584
もう1.2年しないうちに今企画が動いてるであろうAI向けのメモリバカ盛り用のP Cパーツやら一式やらへの買い替えに向けて財布の準備していかないとな
42 23/04/11(火)11:10:20 No.1045925949
どのくらい積んだか忘れたなあ 帰ったら見るか
43 23/04/11(火)11:10:59 No.1045926060
>もう1.2年しないうちに今企画が動いてるであろうAI向けのメモリバカ盛り用のP Cパーツやら一式やらへの買い替えに向けて財布の準備していかないとな 今のうちにパーツ買うのとどっちがいいかねえ
44 23/04/11(火)11:11:50 No.1045926223
この調子ならgpt5が来たらそこから学習してローカルで動かせるgpt4相当が来るか…?まあそこまでに備えてもいいかもしれん
45 23/04/11(火)11:12:21 No.1045926326
>>割と64GBまではゲーマーなり絵描きだと積む人多い >絵描きだけど32ですら使い切らないよ >4kで描いても16でも十分だ 絵でゲームエンジンやらblenderやら並行で使ってるととりあえず盛っとくかってなるのよ...
46 23/04/11(火)11:15:48 No.1045927063
GPU動作させるならVRAM28GBかー 2枚挿しでどうにか動く
47 23/04/11(火)11:17:32 No.1045927436
1060の頃のPC放置してあるからケースだけ使うか
48 23/04/11(火)11:18:48 No.1045927671
GPTの為にマイコン買ったし彼女に貢いでるみたいで少し楽しい
49 23/04/11(火)11:20:04 No.1045927934
Gigazineは実際にAI動かしてみた系の記事多くて良いね
50 23/04/11(火)11:23:14 No.1045928621
>今回使用したPCにはメモリが64GB搭載されていましたが、64GBではぎりぎりモデルが収まりきらずスワップが発生したため、簡単な質問であっても解答まで数十秒~数分程度待ち時間が発生してしまいました。 やはり64GBだと無理があるのか
51 23/04/11(火)11:24:08 No.1045928801
昔のwiredとかもっとはしゃいでそうなのになー
52 23/04/11(火)11:28:19 No.1045929671
メモリ128GBだとどれくらいなんだろうなぁ あんまCPU駆動は期待できないだろうけど…
53 23/04/11(火)11:32:17 No.1045930537
GPT4が最新エンタープライズ向けグラボ3万枚らしいが一人向けだとどのくらいいるのかね
54 23/04/11(火)11:33:13 No.1045930720
CPUはほぼ問題なく64Gメモリがボトルネックか 頑張ったら快適に使えそうだな 秘書ソフトくらいにはなれるのだろうか
55 23/04/11(火)11:33:23 No.1045930765
こんな事もあろうかとメモリスロット4つのうち2つで64GBにしてあるからあと追加で64GB増設すれば簡単に動かせそう
56 23/04/11(火)11:33:33 No.1045930801
https://chat.lmsys.org/ 単にvicuna-13bを試したいだけならわざわざPCに導入せんでもブラウザ版あるから使ってみたらいい 軽く触った感じだとChatGPTの日本語がやや怪しいバージョンって印象だ
57 23/04/11(火)11:36:31 No.1045931392
ローカル環境で動くAIはマジで魅力的だなぁ ChatGPTは明らかなオーバースペックだから一般日本人レベルの知識量にすればわりとローカルでも走るのだろうか
58 23/04/11(火)11:37:38 No.1045931618
これから進化するとしてメモリを削減する方向に向かっていくのかもっと大食いになるのか
59 23/04/11(火)11:38:41 No.1045931851
>これから進化するとしてメモリを削減する方向に向かっていくのかもっと大食いになるのか 双方向というか派生でニッチを埋めていく形になるんじゃないか 賢いAIの知恵が欲しいならMS様のさいつよAIを AIとコミュニケーションしたいならローカルでも走るアホをという形で
60 23/04/11(火)11:39:22 No.1045932008
アメリカみたいにデカい家なら地下のランドリールームとかにでっけえマシン置くのが家電並みにメジャーになるのかな
61 23/04/11(火)11:39:31 No.1045932059
>ChatGPTは明らかなオーバースペックだから一般日本人レベルの知識量にすればわりとローカルでも走るのだろうか お絵かきAIみたいに欲しいモデルだけ持ってきて導入するとか出来たらいいのにね まあそのモデルを作る難易度がイラストとは桁違いなんだろうけど
62 23/04/11(火)11:39:53 No.1045932140
進化が早すぎるな ChatGPT3.5すげーって言い始めた時期に半年後これローカルで走るオープンソースAI来るよって言っても信用されんだろ
63 23/04/11(火)11:40:18 No.1045932244
>>これから進化するとしてメモリを削減する方向に向かっていくのかもっと大食いになるのか >双方向というか派生でニッチを埋めていく形になるんじゃないか >賢いAIの知恵が欲しいならMS様のさいつよAIを >AIとコミュニケーションしたいならローカルでも走るアホをという形で ブレードランナーの続編だとAI彼女に追加パーツ買って来て拡張してあげるとかやってたな
64 23/04/11(火)11:43:00 No.1045932842
>進化が早すぎるな >ChatGPT3.5すげーって言い始めた時期に半年後これローカルで走るオープンソースAI来るよって言っても信用されんだろ むしろ公開されんのに半年も掛かるのかよと
65 23/04/11(火)11:43:55 No.1045933050
マスクと喧嘩別れからのMSと契約とか色々あったしまあ
66 23/04/11(火)11:45:08 No.1045933329
>進化が早すぎるな >ChatGPT3.5すげーって言い始めた時期に半年後これローカルで走るオープンソースAI来るよって言っても信用されんだろ gpt4からデータを取ってるみたいだし次世代が出たからこそって部分が大きんじゃないか?
67 23/04/11(火)11:45:17 No.1045933366
パソコン詳しい「」ちゃんに聞きたいんだけど メモリ増設ってタワーに刺さなきゃダメなの? 今の凄いUSB通信料で外付けメモリみたいなのまだダメ?
68 23/04/11(火)11:46:08 No.1045933571
>パソコン詳しい「」ちゃんに聞きたいんだけど >メモリ増設ってタワーに刺さなきゃダメなの? >今の凄いUSB通信料で外付けメモリみたいなのまだダメ? ダメ
69 23/04/11(火)11:51:14 No.1045934665
GPT5に合わせてRTXも5000番台目指そう
70 23/04/11(火)11:52:17 No.1045934903
>パソコン詳しい「」ちゃんに聞きたいんだけど >メモリ増設ってタワーに刺さなきゃダメなの? >今の凄いUSB通信料で外付けメモリみたいなのまだダメ? まだマザボ直刺し>>>>>>>>USB3.2ぐらいの速度差あるからダメ
71 23/04/11(火)11:53:21 No.1045935175
>ローカル環境で動くAIはマジで魅力的だなぁ >ChatGPTは明らかなオーバースペックだから一般日本人レベルの知識量にすればわりとローカルでも走るのだろうか 一般知識量って言ったって人それぞれ違うこと知ってるわけだから万人に合わせたら結局膨大になる気がする 特定個人に合わせてチューンナップするなら話は変わりそうだが
72 23/04/11(火)11:54:29 No.1045935432
>GPT5に合わせてRTXも5000番台目指そう この先って家庭用電源の規格変わらずに動くのだろうか
73 23/04/11(火)11:56:24 No.1045935905
ローカルAI彼女を高性能化する為に発電機に燃料入れる「」は想像しやすい 彼女のメシ代くらい払うのは当然とか言いそう
74 23/04/11(火)11:59:17 No.1045936565
>ローカルAI彼女を高性能化する為に発電機に燃料入れる「」は想像しやすい >彼女のメシ代くらい払うのは当然とか言いそう ローカルならまあ 企業が首根っこ掴んでるシステムだとやっぱり躊躇うよね