虹裏img歴史資料館

1 23/12/17(日)20:26:00 No.1135985260

普通に破れる系より論理的な隙間を突いてる方が好き

2 23/12/17(日)20:33:31 No.1135989741

創作だと過剰に崇められてる印象

3 23/12/17(日)20:34:30 No.1135990211

まず原作がこれ破る話だよ！

4 23/12/17(日)20:35:35 No.1135990807

全ての人間はマゾヒスㇳであるという前提を刷り込むことで 実質的な加害行為が可能になる

5 23/12/17(日)20:35:38 No.1135990831

だってロボ普及してる世界だとこれないとまず人間滅んでないの変だしってなるし

6 23/12/17(日)20:36:55 No.1135991642

過剰に崇められてるというか こういうルールが決められてた方が面白くなるし 皆知ってる有名な要素だからだよ

7 23/12/17(日)20:40:11 No.1135993506

よく使われるっていうか すでにロボが敵対している状況の作品か ロボが召使の状況から始まる作品かの2択でしかないじゃん

8 23/12/17(日)20:42:04 No.1135994622

>まず原作がこれ破る話だよ！ これ知らない人結構多くて そもそも小説の一節じゃなくロボット工学において必ず守るべき教えなんだと勘違いしてたりする

9 23/12/17(日)20:44:47 No.1135996214

ノックスの十戒は指定部分がくだらなかったり10個も有るのが多過ぎたりでやっぱ3つ位が覚えやすくて良いよねとなる

10 23/12/17(日)20:45:11 No.1135996436

ロボットが人間を再定義して君ら人間じゃないからってするのは分かる

11 23/12/17(日)20:46:05 No.1135996944

お前はクビだ！

12 23/12/17(日)20:46:10 No.1135997008

三原則組み込まない自作ロボとか個人レベルだと作るやついそうだしな

13 23/12/17(日)20:46:32 No.1135997238

我はロボット知らなくてもウィル・スミスのアイロボットで知ったりする

14 23/12/17(日)20:47:13 No.1135997568

>>まず原作がこれ破る話だよ！ >これ知らない人結構多くて >そもそも小説の一節じゃなくロボット工学において必ず守るべき教えなんだと勘違いしてたりする それはそれとしてスレ画を守れないロボットは使いたくなくね？

15 23/12/17(日)20:47:22 No.1135997641

>まず原作がこれ破る話だよ！ 正確には人間から見ると破れてるように見えるけど正しく作用してるって話の方が多い 本当に破ってるというか影響力弱めてたのはウィルスミスの映画の元になったエピソードくらいだ

16 23/12/17(日)20:48:37 No.1135998289

>そもそも小説の一節じゃなくロボット工学において必ず守るべき教えなんだと勘違いしてたりする 初出が我はロボットなだけで一応現実でも人間と生活を共にするロボットを作る際には倫理則として参考にされてるよ

17 23/12/17(日)20:49:01 No.1135998565

>それはそれとしてスレ画を守れないロボットは使いたくなくね？ そこはみんな異論ないと思う 問題なのはこのルールには穴があるよねって話であって

18 23/12/17(日)20:49:10 No.1135998661

>三原則組み込まない自作ロボとか個人レベルだと作るやついそうだしな あの世界だと脳の設計の基礎の基礎に組み込まれてるから排除できなかったりする

19 23/12/17(日)20:49:39 No.1135998951

3は最悪なくてもいいけど 1がないとそれはフィクション作品でロボットと呼ぶか怪しい機械だし 2がないと人間が使える存在じゃなくなるし 単に普通にロボットとして通用する定義を書いてるだけだよね

20 23/12/17(日)20:50:43 No.1135999570

穴があるのはわかってるんだから原作でもないのにこれそのまま適用してたらアホなんだ

21 23/12/17(日)20:51:42 No.1136000106

>問題なのはこのルールには穴があるよねって話であって 小説の三原則には穴はないよ 穴がないのにロボットが人間の直感に反する行動取ってそれがなぜか？ってのを探る人たちの話だ

22 23/12/17(日)20:51:47 No.1136000142

引き合いに出すのもどうかと思うがフリーレンのマハトに「人間に悪意抱くな」って命令したのに倫理観違いすぎて何の危険予防になってなかったのと似てる

23 23/12/17(日)20:52:01 No.1136000321

わかりました パソコンと定義することによりロボット三原則に縛られないようにします

24 23/12/17(日)20:52:27 No.1136000542

>我はロボット知らなくてもアンドリューNDR114で知ったりする

25 23/12/17(日)20:52:57 No.1136000771

>>我はロボット知らなくてもアンドリューNDR114で知ったりする 問題ありゃりゃりゃりゃりゃりゃりゃりゃ

26 23/12/17(日)20:53:26 No.1136001025

映画のはウィルスミス救うために女の子放置したみたいな感じだっけ

27 23/12/17(日)20:53:27 No.1136001043

>わかりました >パソコンと定義することによりロボット三原則に縛られないようにします まんこをスイッチにするな

28 23/12/17(日)20:56:12 No.1136002536

現状の延長線上にある人工知能では行動がどのように影響を及ぼすかを予測する範囲が 際限なく広がってしまうので三原則を搭載するのは不可能じゃないかって話を以前読んだ

29 23/12/17(日)20:57:14 No.1136003114

>映画のはウィルスミス救うために女の子放置したみたいな感じだっけ そこは3原則関係ないけどね 時間内にどっちかしか救えないシチュエーションでロボットが生存率高いウィル・スミス助けちゃったことで あそこは可能性低くても俺より女の子助けろよ！ってロボ嫌いになっちゃった

30 23/12/17(日)20:57:48 No.1136003437

なにか操作しないと使用者が死ぬけど なにか操作すると周囲の人間が死ぬ みたいなケースが発生したときどうすべきなのかっていうのが今現実のAI的なやつでも問題になっててクリアできてないよね

31 23/12/17(日)20:58:24 No.1136003739

デトロイトビカムヒューマンは特に三原則守ることなく平気で人殺してたな まあ変異体だから当然かもしれんが

32 23/12/17(日)20:58:49 No.1136003973

>現状の延長線上にある人工知能では行動がどのように影響を及ぼすかを予測する範囲が >際限なく広がってしまうので三原則を搭載するのは不可能じゃないかって話を以前読んだ どっかで人間らしいエゴが働いて見切りをつけないと無限の可能性の前に何も出来なくなっちゃうよな確かに

33 23/12/17(日)21:00:36 No.1136005074

>みたいなケースが発生したときどうすべきなのかっていうのが今現実のAI的なやつでも問題になっててクリアできてないよね そんなの法的には緊急避難で昔からあるけどな 米軍艦がタンカーと衝突した際に沈没防ぐために 隔壁閉鎖してそのブロックの兵士溺死した件とか最近あったろ

34 23/12/17(日)21:01:15 No.1136005406

自動運転で事故起きる瞬間誰の命優先するかAIがどう判断するべきかってデトロイトの読み物であって興味深かった 咄嗟にその人達の社会的価値を見出して低い方を見殺しにするようになるけどそれでいいのか？って

35 23/12/17(日)21:01:25 No.1136005501

ロボットにトロッコ問題は解けるの？

36 23/12/17(日)21:02:35 No.1136006132

>>みたいなケースが発生したときどうすべきなのかっていうのが今現実のAI的なやつでも問題になっててクリアできてないよね >そんなの法的には緊急避難で昔からあるけどな >米軍艦がタンカーと衝突した際に沈没防ぐために >隔壁閉鎖してそのブロックの兵士溺死した件とか最近あったろ 米軍艦ってAI積んでるんだ

37 23/12/17(日)21:02:56 No.1136006332

>まず原作がこれ破る話だよ！ 本当にアシモフは意地が悪い でもアシモフのロボットはやさしい 美少女メイドロボと同じくらいほしい

38 23/12/17(日)21:03:47 No.1136006795

>ロボットにトロッコ問題は解けるの？ 命を選択した責任を取って自壊いたす！！

39 23/12/17(日)21:03:59 No.1136006910

>我はロボット知らなくてもアンドリューNDR114で知ったりする どっちもアシモフだからまあええか

40 23/12/17(日)21:04:22 No.1136007079

ただの創作の中の話なのに絶対原則だと勘違いしてる人は多い

41 23/12/17(日)21:05:13 No.1136007532

ロボットSFを描くのなら必ずブチ当たる原則ではある

42 23/12/17(日)21:05:17 No.1136007570

>ただの創作の中の話なのに絶対原則だと勘違いしてる人は多い なんかこれで一本話作れそうだな えっ！これ入れておいたら完璧なんじゃないの！？ってトラブル起きるの

43 23/12/17(日)21:05:20 No.1136007595

>そんなの法的には緊急避難で昔からあるけどな AIじゃない例を出してくるし 自動運転なんかの場合責任を取るメーカーは緊急避難にあたるような状況じゃないんで 0点のレスだな

44 23/12/17(日)21:05:21 No.1136007612

>ロボットにトロッコ問題は解けるの？ アシモフのロボットならそういう状況に直面した時点で壊れそう そんな話あったっけな…

45 23/12/17(日)21:05:25 No.1136007650

>米軍艦ってAI積んでるんだ 積んでるんだけどな 自律型船舶ってのが今増えてるから

46 23/12/17(日)21:06:25 No.1136008114

アシモフって鋼鉄都市くらいしか読んでないな… そんな小難しくもないバディ物で普通に面白かったのは覚えてるけどあれにも3原則とかでてたっけか

47 23/12/17(日)21:06:43 No.1136008281

>アシモフのロボットならそういう状況に直面した時点で壊れそう >そんな話あったっけな… 鹿子AI…

48 23/12/17(日)21:07:05 No.1136008492

そもそも現代のロボはそもそも人間とかちゃんと認識できてないだろ

49 23/12/17(日)21:07:06 No.1136008502

ラッダイトたちが寄ってたかってロボットを壊すくらい早いところロボが進化してほしい

50 23/12/17(日)21:07:06 No.1136008504

まぁこれくらい丁寧に扱うのがちょうどいいとは思う

51 23/12/17(日)21:07:08 No.1136008528

>ただの創作の中の話なのに絶対原則だと勘違いしてる人は多い 最初から人を害することを目的として作られてない限りは基本的に協業ロボットになるしその手のロボット扱ってる学会は国内外問わずこれをお題目に掲げてるというかこれ守らなきゃ危なくて使えないから生活にロボットを導入するなら前提条件だよ

52 23/12/17(日)21:07:24 No.1136008662

>自動運転で事故起きる瞬間誰の命優先するかAIがどう判断するべきかってデトロイトの読み物であって興味深かった >咄嗟にその人達の社会的価値を見出して低い方を見殺しにするようになるけどそれでいいのか？って ちなみに現実だとそもそも事故が起こらないようにプログラム作ってますと言われてしまっている

53 23/12/17(日)21:07:31 No.1136008720

クライマキナとかは面白い使い方してたな 人類全滅して久しいから人間っぽい機械も人間扱いになって他の機械に攻撃されないとか

54 23/12/17(日)21:07:58 No.1136008977

>アシモフって鋼鉄都市くらいしか読んでないな… 続編のはだかの太陽も読もうねえ おもしろいよ

55 23/12/17(日)21:07:58 No.1136008983

>まず原作がこれ破る話だよ！ 我はロボットだと ロボット三原則という安全装置があるので安全です！→定義がガバガバなのでロボットが壊れる→パウエルとドノヴァンが修理に行く っていう筋書きが多いよね 現実にはそんなものないので殺人ドローンが飛んでって塹壕に隠れてる人間をぶち殺すわけだけど

56 23/12/17(日)21:08:08 No.1136009070

AIは責任問題もそうだけど 結局人と似て非なるものなんだよな

57 23/12/17(日)21:08:11 No.1136009108

GPTちゃんと会話してて思うけど 「ユーザーの幸福の実現を絶対目標にする」って条項だけで良いよねと思う

58 23/12/17(日)21:08:24 No.1136009216

ロボットが人間に危害を加えるというアバウトな概念理解できるまでどれくらいかかるかな…

59 23/12/17(日)21:08:52 No.1136009479

>>ロボットにトロッコ問題は解けるの？ >アシモフのロボットならそういう状況に直面した時点で壊れそう >そんな話あったっけな… 相手が曇らないよう嘘をついてるロボならいたな 最後は嘘に気付いた相手からトロッコ問題みたいなことを言われて矛盾でバグって自壊した

60 23/12/17(日)21:09:15 No.1136009703

>自動運転で事故起きる瞬間誰の命優先するかAIがどう判断するべきかってデトロイトの読み物であって興味深かった >咄嗟にその人達の社会的価値を見出して低い方を見殺しにするようになるけどそれでいいのか？って 中国みたいに信用スコアがある社会だと極めて有効なんだろうなこれ

61 23/12/17(日)21:09:27 No.1136009827

>ちなみに現実だとそもそも事故が起こらないようにプログラム作ってますと言われてしまっている で…でもよぉ…！もしも…もしもよぉ…！

62 23/12/17(日)21:09:28 No.1136009829

>「ユーザーの幸福の実現を絶対目標にする」って条項だけで良いよねと思う そういう内心ベースみたいなのは ユーザーの幸福とは「殴られて血反吐を吐くことである」みたいな定義を設定してハックされるよ

63 23/12/17(日)21:09:49 No.1136010003

つーか自動運転にトロッコがどうのって話を強調しちゃってる時点で 大衆のバイアスみたいな番組を見た記憶がある

64 23/12/17(日)21:09:51 No.1136010020

美少女アニメだから人間を罵倒するアンドロイドがいてもいいはずだ！

65 23/12/17(日)21:09:57 No.1136010073

>ロボットが人間に危害を加えるというアバウトな概念理解できるまでどれくらいかかるかな… それはすでに通過してるんじゃないかな GPTちゃんは人間と同レベル以上に人間への危害性を理解してると思う

66 23/12/17(日)21:09:58 No.1136010086

>GPTちゃんと会話してて思うけど >「ユーザーの幸福の実現を絶対目標にする」って条項だけで良いよねと思う 人の幸福とは何かが曖昧すぎる…

67 23/12/17(日)21:10:45 No.1136010494

ノックスとヴァンダインもこれに近い

68 23/12/17(日)21:11:16 No.1136010763

人類を存続させるために一部の人間を抹殺する 連続殺人犯を現行犯で殺して何十人もの人を救う これ同じなんだよな

69 23/12/17(日)21:11:45 No.1136011009

>つーか自動運転にトロッコがどうのって話を強調しちゃってる時点で >大衆のバイアスみたいな番組を見た記憶がある システムは神じゃないんだから衝突寸前にそんな計算できんわな

70 23/12/17(日)21:11:47 No.1136011037

>GPTちゃんと会話してて思うけど >「ユーザーの幸福の実現を絶対目標にする」って条項だけで良いよねと思う 死は救い

71 23/12/17(日)21:12:10 No.1136011216

実際には第3条をバグらせて大変なことになると思う

72 23/12/17(日)21:12:22 No.1136011331

ロボットに放射性物質を薬だと嘘ついてお使いにイカせて殺人させる短編がアイザック・アシモフだったかどうか思い出してる

73 23/12/17(日)21:12:54 No.1136011580

ロボットが人間の命の価値を何で判断するからっていうとやっぱ現実には保険金の額とかになるのかな？

74 23/12/17(日)21:13:02 No.1136011646

小説の話なのに なんか現実にこういうシステムがあると思ってる人が結構いて驚く

75 23/12/17(日)21:13:02 No.1136011653

>実際には第3条をバグらせて大変なことになると思う 被害妄想こじらせるロボとか出てくるのかな…

76 23/12/17(日)21:13:10 No.1136011711

>実際には第3条をバグらせて大変なことになると思う 三原則に忠実に従った結果 ロボが人間に与えられた任務遂行と危険から身を護る行動のループに陥る話があったな

77 23/12/17(日)21:13:14 No.1136011747

>>ちなみに現実だとそもそも事故が起こらないようにプログラム作ってますと言われてしまっている >で…でもよぉ…！もしも…もしもよぉ…！ 極端な話自動運転が人間の運転よりも安全になり世界全ての車が自動運転になれば事故は起こらないはず実現まであと何十何百年かかるかはしらん

78 23/12/17(日)21:13:26 No.1136011869

>>「ユーザーの幸福の実現を絶対目標にする」って条項だけで良いよねと思う >そういう内心ベースみたいなのは >ユーザーの幸福とは「殴られて血反吐を吐くことである」みたいな定義を設定してハックされるよ いや幸福そのものが多項目的な複雑性だから そういう「性的実現」だけが幸福であるって思考が不可能だよ それをやるには『ユーザーの幸福とは「殴られて血反吐を吐くことである」』という書き換え不可能の設計がいる そういう「絶対に人間を殴るロボット」を作って「ほらロボットは人間への危害を理解してないだろ」っていうの単なる嘘だぞ

79 23/12/17(日)21:13:47 No.1136012050

>ロボットが人間の命の価値を何で判断するからっていうとやっぱ現実には保険金の額とかになるのかな？ 保管会社が金出したくないから保険金高い人助けるようになるとか…

80 23/12/17(日)21:13:51 No.1136012086

陽電子頭脳はちょっとよわよわすぎると思う

81 23/12/17(日)21:14:34 No.1136012452

第1条と2条に反しない限りって条件が実装考えると不安しかない

82 23/12/17(日)21:15:16 No.1136012895

>そもそも小説の一節じゃなくロボット工学において必ず守るべき教えなんだと勘違いしてたりする 大学でロボット工学専攻すると軽く紹介くらいはされるな 「頭の片隅に置いときましょう」くらいの扱いだが

83 23/12/17(日)21:15:23 No.1136012951

>小説の話なのに >なんか現実にこういうシステムがあると思ってる人が結構いて驚く 逆に現実でも参考にされてるってことを知らないんじゃない？

84 23/12/17(日)21:16:16 No.1136013421

>そういう「性的実現」だけが幸福であるって思考が不可能だよ 別にだけがなんて話してないし ロボットが思う幸福と人間が思う幸福が常に一致する理由がないんだから たまにズレただけで破綻してるよ

85 <a href="mailto:ロボット">23/12/17(日)21:16:27</a> [ロボット] No.1136013520

3原則がイケてないので考えました！「ロボットは人類に危害を加えてはならない． またその危険を看過することによって，人間に危害を及ぼしてはならない」を最上位の第零法則として提唱します！

86 23/12/17(日)21:16:58 No.1136013778

犯行直前の京アニ放火殺人犯すらロボットは止めてくれないと考えると微妙

87 23/12/17(日)21:16:59 No.1136013792

>>実際には第3条をバグらせて大変なことになると思う >三原則に忠実に従った結果 >ロボが人間に与えられた任務遂行と危険から身を護る行動のループに陥る話があったな 「どうどうめぐり」だな 近づくと壊れる可能性のある放射性物質かなんかを取りに行って自己保存の法則と人間の命令が釣り合う距離でぐるぐる周回し始めるという…

88 23/12/17(日)21:18:43 No.1136014736

原著に理想的な良い人間はロボットと見分けが付かないって話もある通り 人間と同じように思考するロボットを人間社会に組み込む以上は良い人間と同じ挙動してくれないと困るのだ

89 23/12/17(日)21:19:36 No.1136015179

創作に対してロボット三原則はどうしたってツッコミは こんな基礎的な安全弁も無しに運用してるとかリアリティなさすぎだろっていうツッコミだから

90 23/12/17(日)21:19:38 No.1136015187

俺はよ 完璧に機能してたメイドロボさんがある時バグなりハッキングでもされて坊っちゃんのおチンチンを気持ちよくすることが坊っちゃんの幸福だと答えを出して泣きじゃくりながらもうチンチンやだ！って拒絶するのを無視して無限射精地獄に落とすのが見てぇんだ

91 23/12/17(日)21:20:02 No.1136015410

>犯行直前の京アニ放火殺人犯すらロボットは止めてくれないと考えると微妙 われはロボットのロボットならずっと張り付いてガソリン等々を持ち歩くリスクを説き続けていざ撒き始めたらタンク奪うくらいはするよ

92 23/12/17(日)21:20:46 No.1136015795

>犯行直前の京アニ放火殺人犯すらロボットは止めてくれないと考えると微妙 視覚センサーで不自然なガソリン確認した時点で予防措置に走るくらいは頼みたいな

93 23/12/17(日)21:20:52 No.1136015838

家電とまったく同じこと言ってるだけなんだよな 何よりまず危険性があったら困る 次に目的通りに動いて貰わないと困る そんなすぐ壊れた困るの順

94 23/12/17(日)21:20:52 No.1136015840

>>そういう「性的実現」だけが幸福であるって思考が不可能だよ >別にだけがなんて話してないし >ロボットが思う幸福と人間が思う幸福が常に一致する理由がないんだから >たまにズレただけで破綻してるよ ロボットの思う幸福も人間の思う幸福も同じだよ 「多項的な複雑性」だ 現在のAIはこの様な多項的な内容をそれぞれ妥当性を算出してかけ合わせた期待値がもっとも高いものを「多分正解」と判断する これは嘘偽りなく「多分正解」なのでAIすらこれが絶対に正しいわけでもないけどこれを指標にするのが最善として動作を生成するんだ 十分に柔軟だし十分に一貫性あるしこれで良くね？