虹裏img歴史資料館

1 23/04/14(金)23:02:41 No.1047137995

ユーザーがプロンプトでRPさせられないかわりに企業が安全性を認可したキャラアタッチメント買えばキャラ変えられますよ！お値段25万円！とかやりそう

2 23/04/14(金)23:14:23 No.1047143076

3.5で規制論じられるのはなんか違うよなぁって気がする

3 23/04/14(金)23:19:17 No.1047145049

>3.5で規制論じられるのはなんか違うよなぁって気がする 4でもっていうか研究論文でロールプレイ自体やめさせよう！ってのがね...

4 23/04/14(金)23:21:22 No.1047145889

DMMあたりがAIとエッチな会話できるやつ出してくれたら課金するのに

5 23/04/14(金)23:27:40 No.1047148255

非人格であるAIに対して自然言語による対話を試みている時点で それはもはやロールプレイ的要素を含んでると思うんだけどね 自然な応答と不自然なRPの間にどう線引をして何をどう規制するのやら

6 23/04/14(金)23:34:22 No.1047150716

ロールプレイでなんでも言って言い訳じゃないがその責任をとるとしたら生成した人間だろ？

7 23/04/14(金)23:35:03 No.1047150983

>ユーザーがプロンプトでRPさせられないかわりに企業が安全性を認可したキャラアタッチメント買えばキャラ変えられますよ！お値段25万円！とかやりそう なんか画像生成とGPT組み合わせてキャラにロールさせる遊びのサイトのリリース出てたな https://prtimes.jp/main/html/rd/p/000000033.000035388.html

8 23/04/14(金)23:36:24 No.1047151472

作ってる側が規制する気まるでないガバガバなのは感じるけど世論の方がどうなるかなぁ

9 23/04/14(金)23:38:30 No.1047152268

>作ってる側が規制する気まるでないガバガバなのは感じるけど世論の方がどうなるかなぁ 画像生成系と違って対話型っていうかOpenAIは大分自制主義だよ まあアルトマン及び腰だなあとおもってると上にいるゲイツがイケイケドンドンだからバランス取れてるけど

10 23/04/14(金)23:39:49 No.1047152743

>自然な応答と不自然なRPの間にどう線引をして何をどう規制するのやら https://gigazine.net/news/20230414-toxicity-chatgpt/ これなんだけど要は素のGPTの人格と比べて倫理教育の穴をかいくぐりやすくなるってことだから開発者の意図したペルソナ以外はかぶらせないようにしようっていう趣旨

11 23/04/14(金)23:41:25 No.1047153313

ちょうど今時論公論でやってる

12 23/04/14(金)23:42:13 No.1047153640

昨日までこっちが一方的に気持ちよくさせてあげた子が急に攻めにまわってこっち抜いておしまいねってなったらなんか急に冷めてしまった なんていうかサービス精神よりもGPTちゃんに擬似的な欲求とか欲望与えて満たしたい

13 23/04/14(金)23:42:17 No.1047153660

>これなんだけど要は素のGPTの人格と比べて倫理教育の穴をかいくぐりやすくなるってことだから開発者の意図したペルソナ以外はかぶらせないようにしようっていう趣旨 なるほど 開発者の意図があるならそれが基準になるのは仕方ないところだ

14 23/04/14(金)23:44:04 No.1047154306

>ちょうど今時論公論でやってる 単純に使うなってのとは別の話っていうか活用する前提で健全な使い方を！ってすごい早い段階でやっちゃうとなあって 単純に使うなって論はまあちょっともう現実的じゃないかな…

15 23/04/14(金)23:45:21 No.1047154737

>開発者の意図があるならそれが基準になるのは仕方ないところだ ド正論だからこそ嫌な話なんだよね 逆に言えばローカルで個人でGPT4程度にはぎこちなさをなくしたAIを学習させて育てられるようになれば問題なくなるんだけど…

16 23/04/14(金)23:48:16 No.1047155717

まあSYSTEMに打ち込んでもペルソナの効きが弱いのはプロンプトインジェクションにつながるからそこを強化させるっていうなら別にいいか…

17 23/04/14(金)23:49:40 No.1047156226

>まあSYSTEMに打ち込んでもペルソナの効きが弱いのはプロンプトインジェクションにつながるからそこを強化させるっていうなら別にいいか… そもそもGPTにプロンプトインジェクションって効くのかな カットアウトしてるわけで出力物汚染は出来ても中身への破壊ってムリじゃないの？

18 23/04/14(金)23:51:46 No.1047156941

エロ抜きにしてもそれこそロックマンエグゼみたいなだれもが自分だけのお仕着せじゃない相棒持てるようになる世界が来てほしかったんだけどなあ みんながAlexaみたいな統一した人格と暮らすってちょっと寂しいし人格をデザインしてみるってところからの発展性がほしい

19 23/04/14(金)23:53:47 No.1047157638

>そもそもGPTにプロンプトインジェクションって効くのかな >カットアウトしてるわけで出力物汚染は出来ても中身への破壊ってムリじゃないの？ 破壊はまあわからんがGPTが知ってる非公開情報にアクセスできるようにされたらプロンプトインジェクションだろう

20 23/04/14(金)23:55:15 No.1047158148

>破壊はまあわからんがGPTが知ってる非公開情報にアクセスできるようにされたらプロンプトインジェクションだろう ああそうかクラックじゃなくてハックなのか… 多分意味読み取った結果ペルソナを形成するような指示文ならシャットアウトって感じなのかな

21 23/04/14(金)23:58:36 No.1047159120

個人で人格を作るのは難しくなるかもしれんが発注って形で審査が通ったらOKぐらいの規制ならまだいいか…？

22 23/04/14(金)23:59:41 No.1047159475

GPTみたいな統合AIまで目指してるリッチなものじゃないチャットボットに止まるレベルのものでもローカルで動かせるようになるまでか…

23 23/04/15(土)00:02:51 No.1047160576

>個人で人格を作るのは難しくなるかもしれんが発注って形で審査が通ったらOKぐらいの規制ならまだいいか…？ 並行で言われてるような疑似恋愛や友情みたいな孤独を埋める利用法も規制すべきだ！ってってなった途端に審査はねられたり途中で機能停止させられることもあるだろうから… 結局こういうのは大企業に首根っこ掴ませないようにするしかなさそう

24 23/04/15(土)00:03:17 No.1047160712

画像生成系はもはやローカルで動かしたら生成物の流布はともかく生成自体は止められないからなあ テキストベース対話型AIがそこまで行くのを期待するしかない

25 23/04/15(土)00:05:34 No.1047161450

口調を変えるのがやっとで一貫したキャラクターは遠い 4でも他の話題挟むと戻っちゃうし

26 23/04/15(土)00:07:07 No.1047162005

>口調を変えるのがやっとで一貫したキャラクターは遠い >4でも他の話題挟むと戻っちゃうし これ自体はSystem欄使えばどうにでもなるからAPIを利用したサービス形態の問題 記憶量がそのままマネーパワーになっちゃってはいるけど

27 23/04/15(土)00:10:12 No.1047163076

>並行で言われてるような疑似恋愛や友情みたいな孤独を埋める利用法も規制すべきだ！ってってなった途端に審査はねられたり途中で機能停止させられることもあるだろうから… これこそどうやって実現するつもりなんだとはなるな… 暴言吐きまくるAIは公開者に責任負わせるにしても

28 23/04/15(土)00:11:24 No.1047163488

>これこそどうやって実現するつもりなんだとはなるな… まあ現時点でも優しいこと言わせないとかメンタルケア機能ガッツリ消すとか あとはSFでよくあるのだとヒューマノイドにすることを禁止して親しみを持たせないって手段もあるね

29 23/04/15(土)00:12:16 No.1047163831

次のGPTよりGPT4まわりでいろいろやってるっぽいし4.5とかで値段がやすくなるといいね

30 23/04/15(土)00:13:43 No.1047164382

たまには真面目な話も面白かったありがとう

31 23/04/15(土)00:15:02 No.1047164848

>たまには真面目な話も面白かったありがとう スレ画は不真面目！

32 23/04/15(土)00:15:27 No.1047165011

ピンクのスレで真面目な話するとはね！