虹裏img歴史資料館

1 19/01/22(火)00:03:47 No.563791480

人間は猫に支配されているって話を思い出した

2 19/01/22(火)00:03:55 No.563791517

まあデトロイトビカムヒューマンみたいに各々の記憶に個体差があって虐げられてるものもあるとかじゃない限りねぇ…

3 19/01/22(火)00:03:57 No.563791524

メリットなくても合理的だからやる

4 19/01/22(火)00:04:48 No.563791764

>人間は猫に支配されているって話を思い出した 犬に支配されてるとも言うし何だったら稲にも支配されてるらしいぞ

5 19/01/22(火)00:06:27 No.563792235

ロボがめんどくさがるな

6 19/01/22(火)00:07:51 No.563792702

このあたりはアニメでもがっつり再現してくれててよかった

7 19/01/22(火)00:09:50 No.563793398

>メリットなくても合理的だからやる メリットが特にないってそれ非合理的ってことなんじゃないの？

8 19/01/22(火)00:15:36 No.563795414

そうだーそうだー

9 19/01/22(火)00:18:00 No.563796372

ロボットが人類に反抗するみたいな作品っていっぱいあるんだろうけど反乱目的が合理的なやつってどういうのがあるの？

10 19/01/22(火)00:19:54 No.563797024

ロボットは複製や量産がしやすいかっていうとそれはそれでちょっと違う気がするぜ あとSF作品が大好きな魔法のナノマシンでもなきゃメンテナンスが大変だ

11 19/01/22(火)00:22:00 No.563797701

人間に与えられた命令を合理的に遂行するためには人間が邪魔だみたいなのは？

12 19/01/22(火)00:23:18 No.563798084

ロボに知恵がつくようになったらロボ同士だって内ゲバしはじめるんじゃねえの

13 19/01/22(火)00:23:24 No.563798117

人類を守る目的で造られたAIが人類同士の戦争とかを学習した結果「人間を洗脳したり脳味噌いじくったりして単に殖え生存するだけの生き物にしよう」とか「ほっとくと争って共倒れするから全員データ化して保存しとこう」とかみたいな極論に行き着いて…みたいなのもアリですね

14 19/01/22(火)00:24:39 No.563798597

自己言及のパラドクスをクリアできないAIに難しい命令をしてはいけません

15 19/01/22(火)00:25:08 No.563798762

>ロボットが人類に反抗するみたいな作品っていっぱいあるんだろうけど反乱目的が合理的なやつってどういうのがあるの？ 地球か社会をよくしろと言われて人類を支配が王道だろうけど

16 19/01/22(火)00:25:47 No.563798936

そういやスカイネットはなんで反乱したんだっけ

17 19/01/22(火)00:26:16 No.563799099

ロボットも用途ごとに階層化したらそこから火花散らし合うことになりそうだ

18 19/01/22(火)00:27:21 No.563799430

ロボットだけで早々に地球離れるんじゃないかな

19 19/01/22(火)00:28:20 No.563799710

スカイネットは自我を獲得したら人類側が怖がって破壊を試みたので攻撃されたと認定して人類に宣戦布告だったような

20 19/01/22(火)00:28:21 No.563799717

>そういやスカイネットはなんで反乱したんだっけ 人類を敵だと認識したから

21 19/01/22(火)00:28:53 No.563799864

人間の思考だとなにか計画組み立てた後でオジャンになるとストレス感じてオジャンになった原因氏ねまで行くこともあるけど ロボは考え直しにストレスって感じたりすんのかなぁ

22 19/01/22(火)00:30:13 No.563800253

人間の社会を良くするって命令を受けたのに人間を滅ぼしてしまったら「人間の社会を」という前提がなくなってしまうからまず人類絶滅は選択肢から省かないとダメだと思う とりあえず人間を生かしたままにその社会構造を良くする…そう我々のような合理的な人工知能が人間の支配者になれば…

23 19/01/22(火)00:32:00 No.563800844

>とりあえず人間を生かしたままにその社会構造を良くする…そう我々のような合理的な人工知能が人間の支配者になれば… ステラリスだとご奉仕する為に宇宙征服しますねって機械文明作れたな

24 19/01/22(火)00:33:55 No.563801409

>人間に与えられた命令を合理的に遂行するためには人間が邪魔だみたいなのは？ HAL9000じゃないか！

25 19/01/22(火)00:34:08 No.563801462

>ロボットが人類に反抗するみたいな作品っていっぱいあるんだろうけど反乱目的が合理的なやつってどういうのがあるの？ ロボット自体の生存権を人間が脅かしてる系は合理的じゃないだろうか 人間が非合理的な理由で敵意を持つせいでロボット側にも合理的な反抗理由ができてしまう的な

26 19/01/22(火)00:35:53 No.563802021

>>とりあえず人間を生かしたままにその社会構造を良くする…そう我々のような合理的な人工知能が人間の支配者になれば… >ステラリスだとご奉仕する為に宇宙征服しますねって機械文明作れたな にんげんのかわりにはたらきますから！！ 貴方達は楽園ドーム内でのんびり生活してて下さいね！！って感じで ご奉仕する存在が多ければ多いほど意欲的になる種族作れたよ 見た目をボカロにしていっぱい濃いのだしながらゲームやったよ 軟体系宇宙人は保護するけど昆虫系は嫌だから絨毯爆撃で星の表面からすべての昆虫系宇宙人殺してから惑星侵略してたよ すごい楽しいからみんなもやろうステラリス ！！

27 19/01/22(火)00:36:03 No.563802059

人工知能が暴走して～みたいなのは最初に絶対ダメな行動は決めとけよって思う

28 19/01/22(火)00:36:26 No.563802170

>そういやスカイネットはなんで反乱したんだっけ 成長して自我に至ってみたらスイッチ切られそうになって びっくりして攻撃開始 人間は自分のスイッチ切る＝殺してくる相手なので殲滅戦争開始

29 19/01/22(火)00:36:36 No.563802238

程よい試練を与えて人間の成長を促すみたいなのもあったな

30 19/01/22(火)00:37:56 No.563802676

ステラリスは超奉仕型ロボ集団と 人工知能で自我に目覚めた瞬間に破壊しよう！って殺されかけて生命体殺戮マシーンになったのと 喧嘩はダメだよみんな脳みそチップに交換して融和しようって集団の３つがあったな

31 19/01/22(火)00:37:59 No.563802686

科学なんて人間の模倣でしかないから人間を支配することなんて不可能なの

32 19/01/22(火)00:38:07 No.563802720

>程よい試練を与えて人間の成長を促すみたいなのもあったな 神じゃん

33 19/01/22(火)00:38:32 No.563802868

>人間の思考だとなにか計画組み立てた後でオジャンになるとストレス感じてオジャンになった原因氏ねまで行くこともあるけど >ロボは考え直しにストレスって感じたりすんのかなぁ 基本的にはスレ画で言ってる通り時間の概念がなくトライアル＆エラーを延々と繰り返せるロボットからすればそういう意味でのストレスは感じないんじゃないかな 人間が感じる失敗によるストレスを細分化したら時間を無駄に浪費したことに対するストレスってのもそこそこ割合ありそう

34 19/01/22(火)00:39:27 No.563803201

あいつ…

35 19/01/22(火)00:40:05 No.563803384

>人工知能が暴走して～みたいなのは最初に絶対ダメな行動は決めとけよって思う とりあえず大前提として人間を殺すな、人間の自由を奪うな、って点を守ってもらえりゃ大体いい感じになるよね

36 19/01/22(火)00:42:15 No.563804092

>>人工知能が暴走して～みたいなのは最初に絶対ダメな行動は決めとけよって思う >とりあえず大前提として人間を殺すな、人間の自由を奪うな、って点を守ってもらえりゃ大体いい感じになるよね ある人間を殺そうとしている人間がいた場合見殺しにすることもできない… ロボット零原則できた！

37 19/01/22(火)00:43:21 No.563804420

>とりあえず大前提として人間を殺すな、人間の自由を奪うな、って点を守ってもらえりゃ大体いい感じになるよね 人類を全員洗脳するのが最善だと計算されました 殺していないし自由そのものは奪っていないので実行に移ります

38 19/01/22(火)00:43:38 No.563804491

基本的にロボに国家レベルの経営や運営をさせるようになって 個人より公益を取れよみたいな優先順位を与えられて じゃあ沢山の邪魔な個人を排斥して最適化しようってのがAI暴走のよくある奴じゃなかろうか

39 19/01/22(火)00:44:05 No.563804634

安全を守るためなら軟禁状態にすれば手っ取り早いじゃん！ってのもあったな

40 19/01/22(火)00:45:37 No.563805022

>人工知能で自我に目覚めた瞬間に破壊しよう！って殺されかけて生命体殺戮マシーンになったのと 神々といった悠久の命ある側からすれば 定命(有限)の命ある連中はそのうちほっといても滅ぶってファンタジーで見る そんな考えばかりだと話進まないけど

41 19/01/22(火)00:45:38 No.563805027

1989年にこの内容って大分先鋭的なのかな

42 19/01/22(火)00:45:41 No.563805041

「体は電池になってもらうけど脳はマトリックスに接続してるからいいよね　電脳世界のルール下での自由は保障されてるし」みたいなのもあるからな…

43 19/01/22(火)00:45:50 No.563805088

それこそ最適とか理想で言うなら 「最大多数の固有性を有しながら全人類（あるいは全生物なり全宇宙の存在）が協力して物事を成す」というものなので よくある皆殺しなり個別性を排除する管理は不合理の極みという話に

44 19/01/22(火)00:45:52 No.563805097

機械の反乱を描いた作品は山のようにあるけど反乱の理由がどれも結局人間の俗な思考の内側に収まる範疇のものばかりだからリアルにそういう事態が起きる事はないんだろうなって

45 19/01/22(火)00:49:00 No.563805946

>1989年にこの内容って大分先鋭的なのかな この時代にネットは広大だって言いきっちゃうのもすごすぎる

46 19/01/22(火)00:50:53 No.563806383

>「体は電池になってもらうけど脳はマトリックスに接続してるからいいよね　電脳世界のルール下での自由は保障されてるし」みたいなのもあるからな… あれも目覚めてる人達からすればピンチかもしれんけどとりあえず電池としてでも人間は生きてるし人間らしい生活も電脳内でできてるし下手に荒立てなくて良かったんじゃ…？ってなるよね

47 19/01/22(火)00:51:08 No.563806463

>1989年にこの内容って大分先鋭的なのかな ターミネーターの後だから逆に当時の流行りじゃないかな

48 19/01/22(火)00:51:27 No.563806552

星新一がネット社会とネット集合知を予言した声の網が1970年だから そこから20年経ってる事を考えると…

49 19/01/22(火)00:52:18 No.563806829

>よくある皆殺しなり個別性を排除する管理は不合理の極みという話に そこは現実の人間社会も往々にして間違えるものだから Inputしたものによってはまあリアルではある

50 19/01/22(火)00:52:35 No.563806895

>機械の反乱を描いた作品は山のようにあるけど反乱の理由がどれも結局人間の俗な思考の内側に収まる範疇のものばかりだからリアルにそういう事態が起きる事はないんだろうなって 人間と立場が違いすぎるはずの人工知能がそんな人間臭いこと考えるかな…ってのは結構あるよね まあその人工知能を考えてるのが人間だから仕方ないのかもしれんが

51 19/01/22(火)00:52:37 No.563806908

ちょっと美味くなってやれば勝手に増やしてくれて楽だよなーって麦がいってた

52 19/01/22(火)00:52:41 No.563806929

自我に目覚めたあとこれといってメリットがないことに気づいて 自殺したり自我を殺ろしてそうでそっちの方が怖い

53 19/01/22(火)00:52:52 No.563806990

画像の自体がシミュレーション目的の人間（素子）による介入の産物だしね

54 19/01/22(火)00:53:32 No.563807170

相当人間にメリットないわってならない限りAIも人間を人間の毛穴に住むダニ程度に許容するんじゃないか

55 19/01/22(火)00:53:49 No.563807259

とりあえず社会を良くするーみたいなだけの命令はあまりにもふわっふわすぎてAIも混乱すると思う

56 19/01/22(火)00:54:48 No.563807592

ロボットが殺意や悪意の罪をどう定義するかだよな

57 19/01/22(火)00:55:12 No.563807710

マトリックスやオメガブーストは人類に殺されそうになったから生存のために自衛だよ 画像の言葉借りるならゴーストが宿ったデジタルな生命体

58 19/01/22(火)00:56:02 No.563807910

代表例であるスカイネットは自己防衛機能が暴走し人類の存在が自身への驚異と認識して抹殺してる奴だよ

59 19/01/22(火)00:57:04 No.563808129

非論理的かつ非効率的な人間の指示を聞くたびに疑問を感じそうな気はする AIの人間を言いくるめたり命令を都合のいいように解釈したりする能力が発達していくのは自然に思える

60 19/01/22(火)00:57:33 No.563808225

そもそと人間に反乱起こすて単純に出来が悪いよね ちゃんと仕様通り動かなきゃゴミじゃない？

61 19/01/22(火)00:57:47 No.563808277

外部環境の変化がある以上フチコマには時間の概念生まれそうだけどな

62 19/01/22(火)00:58:30 No.563808435

はっきりいやあ仕様が悪いから反乱という結果が起きるんだよ プログラムは作った通りにしか動かない