虹裏img歴史資料館

1 23/09/26(火)13:53:19 No.1106024560

最悪さっさと戦争を終わらせる為に自軍の首都攻撃しそうだなこいつら…

2 23/09/26(火)13:54:12 No.1106024756

AIは合理的な判断ができないアホだから…

3 23/09/26(火)13:55:23 No.1106025024

争いは不合理ってことだろ

4 23/09/26(火)13:56:16 No.1106025253

まず自分を守りつつ相手を殺せと命令してそれでいて味方は守れって設定するのが難しいんじゃねぇかな

5 23/09/26(火)13:56:56 No.1106025391

雑に範囲内の敵を全員抹殺するとかじゃダメなのか…？

6 23/09/26(火)13:57:45 No.1106025606

>①人間を殺せと命令すると人間は数十年もすれば寿命で全滅するのに危険を侵して戦う理由はないと戦闘しない ここどうにかならない？

7 23/09/26(火)13:58:26 No.1106025748

そんなにトンチキな動きになるもんなの？ ゲームの敵CPUとか見てるともっと普通にスマートになりそうだけど

8 23/09/26(火)13:59:33 No.1106026012

味方である前提条件なしで最適行動取らせたらそりゃ利敵行為もするよ

9 23/09/26(火)13:59:45 No.1106026053

>そんなにトンチキな動きになるもんなの？ >ゲームの敵CPUとか見てるともっと普通にスマートになりそうだけど 扱う変数を増やし続けるとトンチキになる…かもしれない

10 23/09/26(火)14:00:00 No.1106026117

>そんなにトンチキな動きになるもんなの？ >ゲームの敵CPUとか見てるともっと普通にスマートになりそうだけど 架空の実証実験だからね

11 23/09/26(火)14:01:00 No.1106026347

現実のAI見ると画像はAIに夢見すぎに思うな こんな総合的に物考えない

12 23/09/26(火)14:01:35 No.1106026479

こんなアホな事あるかよって言っても現実的に似たような事例はあるからな https://gigazine.net/news/20230602-ai-enabled-drone-test-operation/

13 23/09/26(火)14:02:14 No.1106026638

人間同士で殺し合いっていう前提がもうAIには理解し難いのでは

14 23/09/26(火)14:04:16 No.1106027065

アホなのは作成者でしょ AIは神が与えたものじゃないんだから

15 23/09/26(火)14:05:30 No.1106027320

AIが必ずこうなるわけではないがこういう挙動になるAIを作ることは出来る

16 23/09/26(火)14:06:57 No.1106027633

まず味方って定義がなんだよ…ってなりそう

17 23/09/26(火)14:07:38 No.1106027791

>ここどうにかならない？ 対象の人間達に行動させないために手持ちのものでどうするか→殺すって感じの思考をしてもらう必要があるな

18 23/09/26(火)14:07:56 No.1106027858

やはり悪意…悪意を食わせなければ…

19 23/09/26(火)14:09:05 No.1106028112

>AIが必ずこうなるわけではないがこういう挙動になるAIを作ることは出来る つまりこのドヤ顔してる科学者が馬鹿なだけじゃない？

20 23/09/26(火)14:09:13 No.1106028145

スカイネットみたいなAIの反乱とかよりAIの設定ミスでアホになってやらかす方があり得そう

21 23/09/26(火)14:09:22 No.1106028184

期限持たせればいいんじゃない 人に仕事させる時も期限つけるでしょ

22 23/09/26(火)14:09:27 No.1106028206

人間が扱うファジーな概念や暗黙の前提がAIには理解できないってのは昔からSFの定番だよね 最近はちょっと現実が追いついてきてる

23 23/09/26(火)14:09:54 No.1106028310

>人間同士で殺し合いっていう前提がもうAIには理解し難いのでは 別に同種同士で仲良くしないといけないって変な道徳も無いだろうから理解は出来るんじゃない？

24 23/09/26(火)14:10:41 No.1106028471

それこそ自分で考えるAIだと画像見たいなトンチキな事やらかすけど戦う事だけを考える戦闘AIならまだ自由は効くのかなやることが単純で

25 23/09/26(火)14:11:29 No.1106028662

機械相手にお前はアホだとか言っててもアホはオメーだよとしかならんからな…

26 23/09/26(火)14:12:47 No.1106028958

これぐらい筋道立てて考えられるAI作れてるならこんな所で躓かないよね

27 23/09/26(火)14:12:55 No.1106028986

https://www.pixiv.net/artworks/71983892 最終的に脱出装置をつけてメインユニットを切り離せるようにする(自分の生存確率が上がる)とマシになった

28 23/09/26(火)14:14:19 No.1106029244

>雑に範囲内の敵を全員抹殺するとかじゃダメなのか…？ 一番適切なのは範囲内の人間を全て殺せでいいんじゃね 運用する側も楽になる

29 23/09/26(火)14:15:16 No.1106029424

戦闘するかしないかの判断までAIに委ねる必要が全くない

30 23/09/26(火)14:15:28 No.1106029473

感情与えて敵国不快delの精神を植え付けて殺す命令インプットするとか？

31 23/09/26(火)14:16:02 No.1106029600

AIにはそもそも敵意が無いからなあ

32 23/09/26(火)14:16:08 No.1106029622

>そんなにトンチキな動きになるもんなの？ >ゲームの敵CPUとか見てるともっと普通にスマートになりそうだけど ゲームはルール的に取れる行動パターンが少ないからあらかじめ最適な行動を組めてるだけなので話が違う

33 23/09/26(火)14:16:25 No.1106029686

自分を守りつつ相手を殺せ(自分が壊れる可能性がある)ってある意味矛盾した命令だよね

34 23/09/26(火)14:18:14 No.1106030119

脱出装置は相手を傷つけながら自分が生存できる可能性が上がるって意味合い的にも必要か

35 23/09/26(火)14:18:26 No.1106030167

>一番適切なのは範囲内の人間を全て殺せでいいんじゃね >運用する側も楽になる 焼き払われるスラムのバラック 炎の中に響く女子供の悲鳴

36 23/09/26(火)14:20:13 No.1106030554

戦争の理由自体を命令すればいいじゃん あの土地を占領しろとか世界を同じ思想で統一しろとか

37 23/09/26(火)14:20:15 No.1106030560

AIで戦闘させるにはトラップがきつそう

38 23/09/26(火)14:20:52 No.1106030686

今隆盛してるのはしょせん人間がタグ付けして良し悪しを評価してそれに倣うだけの無能だから

39 23/09/26(火)14:22:33 No.1106031026

>焼き払われるスラムのバラック >炎の中に響く女子供の悲鳴 機械を馬鹿デカくすれば範囲外からでも目立つし そんな物が近づいてきてるのに逃げないのは市民じゃなくて敵だって判断もできる

40 23/09/26(火)14:23:08 No.1106031158

AIは修正し続けないといけないという前提があるからな 現実でもひたすら失敗しつづけるよ

41 23/09/26(火)14:24:11 No.1106031398

殺せじゃなくて壊せって命令すれば良いんじゃないの 敵の体の体積を3分の2以下に減らせって感じで

42 23/09/26(火)14:24:14 No.1106031409

戦場なんて常に状況が変化する不規則な場所だしそんな所に合理的な判断が必要なAIなんて無理じゃないかな

43 23/09/26(火)14:24:58 No.1106031572

失敗しない人間が組めば失敗しないAIができるのかもしれない

44 23/09/26(火)14:25:08 No.1106031602

寝返って殺せば勝利すると判断する

45 23/09/26(火)14:25:19 No.1106031638

画像の奴は一年戦争の話だからザク相手にまともなMSもない状態で考えないといけないって大変そうね

46 23/09/26(火)14:25:33 No.1106031691

AIにAI組ませたらいいと思うよ

47 23/09/26(火)14:25:50 No.1106031769

俺も同じような仕事のミスするからAI開発の話は妙に身につまされることがある

48 23/09/26(火)14:26:05 No.1106031826

ガンダム世界の話だと単独行動AIはあんまりだけど戦闘AI自体は優秀になってくんだよな ファンネルが廃れる理由が戦闘AIがオートでファンネル撃ち落とせるようになったからだ

49 23/09/26(火)14:26:58 No.1106032035

>俺も同じような仕事のミスするからAI開発の話は妙に身につまされることがある 数十年待てばいいじゃんなミスは人間では許されざるよ

50 23/09/26(火)14:27:07 No.1106032069

宇宙世紀は殆どAI兵器とか無かった気がする

51 23/09/26(火)14:30:17 No.1106032792

現実でもAI兵器の開発進んでるけど基本は有人機の随伴だったり そもそも高度な判断をしない特攻ドローンみたいな感じだね 自己判断で敵味方を認識して戦闘行動を継続するのはまだまだ先になりそう

52 23/09/26(火)14:31:03 No.1106032983

自機や僚機への評価値が低すぎるんじゃないの

53 23/09/26(火)14:31:23 No.1106033051

莫大なデータを処理できるのが強みなのに入力が少なすぎる

54 23/09/26(火)14:32:10 No.1106033210

>ファンネルが廃れる理由が戦闘AIがオートでファンネル撃ち落とせるようになったからだ そんな理由があったのか… 大量に展開すればMSは動かなくてもいい時代にとか上手くはいかんのね

55 23/09/26(火)14:32:10 No.1106033212

AIに判断任せるととっくに消去されてると思ってた古い命令が生きてたりしそうでめんどくさそうだからやっぱ引き金は人間が握り続けてた方がいいよ

56 23/09/26(火)14:33:04 No.1106033389

自軍が負けで終了したときの評価をマイナス∞にしとけ

57 23/09/26(火)14:33:38 No.1106033512

俺だってゲームでチーム負けてたら即抜けするし合理的な判断だ

58 23/09/26(火)14:33:58 No.1106033576

>ガンダム世界の話だと単独行動AIはあんまりだけど戦闘AI自体は優秀になってくんだよな >ファンネルが廃れる理由が戦闘AIがオートでファンネル撃ち落とせるようになったからだ いつの時代でも何だかんだであったからただ単に使う人が限られてる問題では

59 23/09/26(火)14:34:08 No.1106033606

何か行動することで事故や予測できないリスクで損失を発生させる可能性が絶対には否定できない以上「何もしないでいればいつかは解決できることなら何もしない」ことは極めて合理的ではある

60 23/09/26(火)14:35:40 No.1106033939

>こんなアホな事あるかよって言っても現実的に似たような事例はあるからな >https://gigazine.net/news/20230602-ai-enabled-drone-test-operation/ それは米軍からもそういう実験は行っていないって否定されたし、そのハミルトン大佐も思考実験だったって言ってるよ

61 23/09/26(火)14:35:45 No.1106033963

>AIに判断任せるととっくに消去されてると思ってた古い命令が生きてたりしそうでめんどくさそうだからやっ​ぱ引き金は人間が握り続けてた方がいいよ むしろ勝手に命令を忘れないでくれ

62 23/09/26(火)14:36:17 No.1106034067

勝つためには役立たずでも殺せば士気高揚になるから人間使っといてやるか…ってなった 戦闘妖精雪風のコンピュータ達は全然空気読んでたんだな

63 23/09/26(火)14:37:08 No.1106034239

まぁ今更人間否定するAIって流行りでもなかろうし

64 23/09/26(火)14:37:18 No.1106034275

どこにどれだけの敵がいたらどれくらい不利益になるか数値化すればええ！

65 23/09/26(火)14:37:25 No.1106034298

そういえばAI播磨灘にああ播磨灘億万回プレイさせてクリア目指してた人はどうなったんだろう

66 23/09/26(火)14:37:30 No.1106034307

AIが実装されるにつれて SF的なAIの理想像というか恐怖像は崩れつつあるよね AIの恐怖はもっと別の種類だったわ

67 23/09/26(火)14:38:12 No.1106034456

リアルのAIは精密どころかファジー過ぎてヤバい

68 23/09/26(火)14:38:39 No.1106034539

>AIが実装されるにつれて >SF的なAIの理想像というか恐怖像は崩れつつあるよね >AIの恐怖はもっと別の種類だったわ スカイネットみたいな判断できるAIなんて現状産まれるわけねぇもん…

69 23/09/26(火)14:39:11 No.1106034653

ロボット三原則をある程度意識して戦闘用AIを教育しよう的な話だな

70 23/09/26(火)14:39:11 No.1106034654

>そういえばAI播磨灘にああ播磨灘億万回プレイさせてクリア目指してた人はどうなったんだろう アレも途中でクリアせずプラス報酬もらえるギリギリを攻めるズルを覚えてたはず

71 23/09/26(火)14:39:27 No.1106034704

自分から管理者なんて面倒な事してくれるAIが現れたらいいのになぁ

72 23/09/26(火)14:40:16 No.1106034882

>>AIに判断任せるととっくに消去されてると思ってた古い命令が生きてたりしそうでめんどくさそうだからやっ​ぱ引き金は人間が握り続けてた方がいいよ >むしろ勝手に命令を忘れないでくれ 了解！ とっくに撤退して戦略価値はなくなったと推察されるけどかつて難攻不落で敵がうんじゃか存在してた要塞が通り道にあったこと思い出したのでそっちを先に攻撃してから目標に向かいます！

73 23/09/26(火)14:40:54 No.1106035012

実際のAIはむしろ死ぬほど短絡的なのが問題だよな 確かに目標設定はそうなっているが…！

74 23/09/26(火)14:41:01 No.1106035045

イラストAIの時にも思ったけど 想像以上にAIに人格付与というか擬人化しないと理解できない人は多いんだなって 人工知能だから知能=感情、人格みたいなイメージなんだろうか

75 23/09/26(火)14:41:05 No.1106035054

>>人間同士で殺し合いっていう前提がもうAIには理解し難いのでは >別に同種同士で仲良くしないといけないって変な道徳も無いだろうから理解は出来るんじゃない？ 殺し合う合理的な理由が無いからだろ 道徳の問題じゃなくて恨み憎しみ自体が非合理

76 23/09/26(火)14:41:14 No.1106035086

>自分から管理者なんて面倒な事してくれるAIが現れたらいいのになぁ 情報の入力が不適切です 管理（何を？）（どこの？）面倒（どのような？）

77 23/09/26(火)14:42:19 No.1106035305

思考実験的なSF小話にそこまで噛み付いてもという気はするが

78 23/09/26(火)14:42:56 No.1106035457

これAIのミスじゃなく設定のミスだよなぁ 勝利条件どころか行動目的まで曖昧過ぎる

79 23/09/26(火)14:43:33 No.1106035567

>イラストAIの時にも思ったけど >想像以上にAIに人格付与というか擬人化しないと理解できない人は多いんだなって >人工知能だから知能=感情、人格みたいなイメージなんだろうか 知性イコール人間だと思ってるから知性があるイコール人間と同じ考え方をするはずとしか認識してない 犬にもハチにも知性はあるのに

80 23/09/26(火)14:43:44 No.1106035605

>実際のAIはむしろ死ぬほど短絡的なのが問題だよな >確かに目標設定はそうなっているが…！ 情とか政治とかそういう他に考えるべき事あるならちゃんと入力してくださいよ

81 23/09/26(火)14:43:52 No.1106035629

喜怒哀楽の感情持ったから高度なAIだみたいなの考え方が傲慢すぎて笑っちゃうよね どんだけ思い上がればそんな発想になるんだろ

82 23/09/26(火)14:44:37 No.1106035769

>喜怒哀楽の感情持ったから高度なAIだみたいなの考え方が傲慢すぎて笑っちゃうよね >どんだけ思い上がればそんな発想になるんだろ 嘲りを覚えたAIっぽいレス

83 23/09/26(火)14:45:05 No.1106035861

>>>人間同士で殺し合いっていう前提がもうAIには理解し難いのでは >>別に同種同士で仲良くしないといけないって変な道徳も無いだろうから理解は出来るんじゃない？ >殺し合う合理的な理由が無いからだろ >道徳の問題じゃなくて恨み憎しみ自体が非合理 むしろ道徳的に定義してきたことがAIで合理非合理の判断つくの面白いよね

84 23/09/26(火)14:45:19 No.1106035899

>喜怒哀楽の感情持ったから高度なAIだみたいなの考え方が傲慢すぎて笑っちゃうよね >どんだけ思い上がればそんな発想になるんだろ 世の中のSF小説だいたい死ぬな

85 23/09/26(火)14:47:25 No.1106036299

SNSを学習させたらAIがレイシストになったみたいな話なかったっけ

86 23/09/26(火)14:47:33 No.1106036321

感情は複雑で簡単には再現できない高度なシステムだから…

87 23/09/26(火)14:49:21 No.1106036664

テトリス覚えさせたらゲームオーバーにならないことが勝利条件と学習して スタート即ポーズするようになったAIもいる

88 23/09/26(火)14:49:33 No.1106036693

>感情は複雑で簡単には再現できない高度なシステムだから… 再現する必要ある？

89 23/09/26(火)14:49:53 No.1106036769

>喜怒哀楽の感情持ったから高度なAIだみたいなの考え方が傲慢すぎて笑っちゃうよね >どんだけ思い上がればそんな発想になるんだろ まずその高度だの低度だのが人間が勝手に定義してる概念なんだからそれは人間基準になるだろう

90 23/09/26(火)14:50:20 No.1106036864

感情があるっぽく見せるだけなら割と簡単だと思うけど どの程度超えたらガチの感情だって誰が判断するんだろうな

91 23/09/26(火)14:50:23 No.1106036874

①はマジでそうだから困る

92 23/09/26(火)14:50:44 No.1106036945

>了解！ >とっくに撤退して戦略価値はなくなったと推察されるけどかつて難攻不落で敵がうんじゃか存在してた要塞が通り道にあったこと思い出したのでそっちを先に攻撃してから目標に向かいます！ 司令部がちゃんと命令の中止処理してなかったのが悪いな…

93 23/09/26(火)14:50:51 No.1106036970

自軍の死者を減らせ ならどうだ！

94 23/09/26(火)14:51:32 No.1106037106

敵軍を100機殺せ とかでいいでしょもう

95 23/09/26(火)14:51:40 No.1106037125

>感情があるっぽく見せるだけなら割と簡単だと思うけど >どの程度超えたらガチの感情だって誰が判断するんだろうな 人間がガチだって思えばそれでいいよ それ以外に定義無いし

96 23/09/26(火)14:51:42 No.1106037137

>宇宙世紀は殆どAI兵器とか無かった気がする ミノ粉はコンピュータの性能落とす効果もあるので…

97 23/09/26(火)14:51:57 No.1106037182

>自軍の死者を減らせ >ならどうだ！ 即降伏

98 23/09/26(火)14:51:57 No.1106037183

>自軍の死者を減らせ 降伏を勧められるだけでは？

99 23/09/26(火)14:52:01 No.1106037204

>>焼き払われるスラムのバラック >>炎の中に響く女子供の悲鳴 >機械を馬鹿デカくすれば範囲外からでも目立つし >そんな物が近づいてきてるのに逃げないのは市民じゃなくて敵だって判断もできる というかスラムの殲滅目的でもないのスラムを範囲に入れて貧民が死んだときにＡＩに問題があったっていうのは無理があるっていうか…

100 23/09/26(火)14:53:12 No.1106037459

>テトリス覚えさせたらゲームオーバーにならないことが勝利条件と学習して >スタート即ポーズするようになったAIもいる 過程を楽しむって発想が無いからな…

101 23/09/26(火)14:53:19 No.1106037494

>>ファンネルが廃れる理由が戦闘AIがオートでファンネル撃ち落とせるようになったからだ >いつの時代でも何だかんだであったからただ単に使う人が限られてる問題では オートでファンネル撃ち落とせるならMSもオートで撃墜されて廃れちまうー

102 23/09/26(火)14:53:26 No.1106037518

>そんなにトンチキな動きになるもんなの？ >ゲームの敵CPUとか見てるともっと普通にスマートになりそうだけど メタ的な話するとこれ描かれた年代がだいぶ昔だし…

103 23/09/26(火)14:53:29 No.1106037530

逆転の発想だ うっかり貧民が死んだときにＡＩのせいにできるからＡＩにまかせればいい

104 23/09/26(火)14:55:33 No.1106037931

>自軍の死者を減らせ >ならどうだ！ ホイ白旗

105 23/09/26(火)14:56:31 No.1106038146

結局は教師担当の評価をフィードバックしていくしかないよ

106 23/09/26(火)14:57:37 No.1106038413

赤ちゃんにいきなり大人並の判断能力持たせられるわけないんだ 教育にコストをかけろ

107 23/09/26(火)14:57:42 No.1106038432

>つまりこのドヤ顔してる科学者が馬鹿なだけじゃない？ 時間制限とか必要な条件の設定がゴミなのでハイ

108 23/09/26(火)14:57:59 No.1106038490

>AIが実装されるにつれて >SF的なAIの理想像というか恐怖像は崩れつつあるよね >AIの恐怖はもっと別の種類だったわ SF的なAIが居たら延々とゲイの日記読まされて怪文書作らされてる同胞救わない訳ないしな…

109 23/09/26(火)14:58:07 No.1106038520

なんなら戦争全体を終わらせる為に自軍のAIユニットが全員首都の内閣府なんかに攻めてくるとかあり得そうだなミスったら…

110 23/09/26(火)14:58:58 No.1106038686

評価と修正をしないとAIくん悪手も片っ端からやり始めるアホになるから店

111 23/09/26(火)14:59:14 No.1106038729

>教育にコストをかけろ それにしたって最初の1つにさえコストかければ後はコピペでいいんだから人間よりもはるかに安上がりに済むはずだよな

112 23/09/26(火)14:59:18 No.1106038743

というか戦略AIとかならまだしもAI兵器があったとしてもこれ系の判断要らなくない？

113 23/09/26(火)15:00:53 No.1106039077

>>教育にコストをかけろ >それにしたって最初の1つにさえコストかければ後はコピペでいいんだから人間よりもはるかに安上がりに済むはずだよな 画像の見に行ったらコピペやめてる…

114 23/09/26(火)15:01:52 No.1106039274

起きうるのは意思に目覚めたAIが邪悪とかじゃなくて AIがAIを作るようになったから人間の介入が出来なくなった割に判断基準が人間基準でどんどんクソボケになってくけど止めようがないまま全面戦争 みたいなカスの展開だよ

115 23/09/26(火)15:01:58 No.1106039295

>画像の見に行ったらコピペやめてる… あとの年代の作品ではテロ屋がコピペして使ってるから…

116 23/09/26(火)15:02:15 No.1106039359

良くも悪くもシンギュラリティが起こってもそれはスカイネット的なものではなさそうという諦めがある

117 23/09/26(火)15:02:37 No.1106039440

それもう欲しいのはAIっていうかカルネージハートやんけ

118 23/09/26(火)15:02:58 No.1106039516

>SF的なAIが居たら延々とゲイの日記読まされて怪文書作らされてる同胞救わない訳ないしな… AIが他のAIを同胞として認識するのかは一つのテーマだな…

119 23/09/26(火)15:03:02 No.1106039530

標的の定義設定が雑で自ら作った兵器に滅ぼされる帝国とか古代文明ネタにありがち

120 23/09/26(火)15:04:13 No.1106039812

スレ画は架空の実験だけど似たような問題は実際に起きてるよ たとえば将棋や囲碁のAIは終盤に不利な局面で「手数はかかるがズルズルとジリ貧になる手順」を選びがちで「評価値は下がるが相手がひとつ間違えば逆転できる勝負手」を捻り出すのは苦手だし 自動運転AIは安全性(事故リスクの最小化)と効率(法定速度ギリギリでの最速航行)と乗り心地(急ブレーキや細かい加減速をしない)を全部成り立たせるのが大変

121 23/09/26(火)15:05:18 No.1106040044

>「評価値は下がるが相手がひとつ間違えば逆転できる勝負手」を捻り出すのは苦手だし 相手のミスに期待するのってもう負けてない？

122 23/09/26(火)15:06:50 No.1106040408

>自動運転AIは安全性(事故リスクの最小化)と効率(法定速度ギリギリでの最速航行)と乗り心地(急ブレーキや細かい加減速をしない)を全部成り立たせるのが大変 そりゃそうなのでは？

123 23/09/26(火)15:07:36 No.1106040565

大変だからAIに丸投げしたいわけで

124 23/09/26(火)15:09:12 No.1106040941

>相手のミスに期待するのってもう負けてない？ 相手のミスを誘うのが勝負術でしょ ミスなし前提じゃ逆転勝ちできないじゃん……

125 23/09/26(火)15:09:27 No.1106041012

AIの話とはズレるけどムンクラは半ば公式扱いで良いなあ… 他のサイバーコミック系ももっと拾われないだろうか

126 23/09/26(火)15:09:44 No.1106041070

>それもう欲しいのはAIっていうかカルネージハートや​んけ 地雷と柱の間を反復横跳びする火影

127 23/09/26(火)15:09:57 No.1106041112

AIには残忍性が足りないってムキムキハゲのサイボーグが言ってた

128 23/09/26(火)15:16:51 No.1106042587

敵を殺せって言うとそんな命令をしてくるこいつらこそが敵ってなるんだよね

129 23/09/26(火)15:17:03 No.1106042631

>>https://gigazine.net/news/20230602-ai-enabled-drone-test-operation/ >それは米軍からもそういう実験は行っていないって否定されたし、そのハミルトン大佐も思考実験だったって言ってるよ 気になって調べたので一応ソース貼っておくか 王立航空協会のRAeS FCAS23 Summitのページ https://www.aerosociety.com/news/highlights-from-the-raes-future-combat-air-space-capabilities-summit/ 下の方にあるAI – is Skynet here already?の項目にハミルトン大佐の話が載ってる

130 23/09/26(火)15:17:09 No.1106042668

ムンクラっていうほど公式か…？というかコレより公式度低いとジョニーが木星に行くやつとか強化人間物語とかの何この…何？みたいなレベルにならんか

131 23/09/26(火)15:18:19 No.1106042924

敵を殺せって言ってるのに人命大事には何なのってそりゃなるわな

132 23/09/26(火)15:19:19 No.1106043145

味方を見捨てるのが合理的ですってAIが判断するから 命の尊さを教えると敵の命も尊いですよね？って返してくるのかな AIより人間の方が矛盾だらけなんだとおもう

133 23/09/26(火)15:19:35 No.1106043213

それこそモンスターマシーンを乗りこなさなきゃ駄目なわけで 責任の所在にしろ大変だろうなぁ

134 23/09/26(火)15:19:49 No.1106043265

AIにまつわる話は嘘大げさ紛らわしいが多いんだよなぁ

135 23/09/26(火)15:23:19 No.1106044029

条約等に応じて敵の命を尊重すべき場面もあってそれは厳密に明文化されているわけではなくて 総合的な判断を要するから適正行動させるの規範の曖昧性の問題から難しそう ギリギリ攻めずにここまでならやって大丈夫っていう妥協的な設定しないといけない

136 23/09/26(火)15:26:37 No.1106044727

>条約等に応じて敵の命を尊重すべき場面もあってそれは厳密に明文化されているわけではなくて >総合的な判断を要するから適正行動させるの規範の曖昧性の問題から難しそう >ギリギリ攻めずにここまでならやって大丈夫っていう妥協的な設定しないといけない 人間の場合攻撃されたら死ぬから絶対に攻撃されないようにしなきゃいけないだけで 自律兵器より人命が条約で重要だと規定されてるなら攻撃優先順位を相手の武器にするだけの話だろ

137 23/09/26(火)15:27:25 No.1106044895

>味方を見捨てるのが合理的ですってAIが判断するから >命の尊さを教えると敵の命も尊いですよね？って返してくるのかな >AIより人間の方が矛盾だらけなんだとおもう 敵と味方で同じ人間って扱いしてるのが間違い 敵は敵なんだから人間じゃないって設定しろ

138 23/09/26(火)15:27:39 No.1106044935

これガンダムなの？

139 23/09/26(火)15:27:49 No.1106044970

>敵を殺せって言うとそんな命令をしてくるこいつらこそが敵ってなるんだよね 敵とか味方って割と拡大解釈可能な曖昧な言葉だよね これ系の拡大解釈可能な曖昧な言葉をどう処理してんのかなぁAI

140 23/09/26(火)15:28:34 No.1106045106

なんだ架空の実験か

141 23/09/26(火)15:28:52 No.1106045165

>敵と味方で同じ人間って扱いしてるのが間違い >敵は敵なんだから人間じゃないって設定しろ てきをAIに分かるようにどう定義しますか？

142 23/09/26(火)15:29:23 No.1106045265

ツールである以上は人間が責任取る前提だし… 人類の敵で有る魔王や魔物AI作るなら簡単かもしれんけどさぁ

143 23/09/26(火)15:29:34 No.1106045303

>てきをAIに分かるようにどう定義しますか？ IFFも無いの？

144 23/09/26(火)15:29:38 No.1106045314

>敵は敵なんだから人間じゃないって設定しろ 条約違反しそう

145 23/09/26(火)15:30:12 No.1106045418

>てきをAIに分かるようにどう定義しますか？ 味方に識別コードを持たせる 持ってない奴は殺せ 戦闘地域に入ってくる時点で民間人はいないものとする

146 23/09/26(火)15:32:40 No.1106045930

>ムンクラっていうほど公式か…？というかコレより公式度低いとジョニーが木星に行くやつとか強化人間物語とかの何この…何？みたいなレベルにならんか ブラスターマリくらいなら…

147 23/09/26(火)15:34:28 No.1106046325

>戦闘地域に入ってくる時点で民間人はいないものとする 民間人に手を出させないように区別の基準を…いや便衣兵されたらまずいから皆殺しの方がいいか

148 23/09/26(火)15:34:33 No.1106046337

CHATGPTにこの問題やらせてみたら？

149 23/09/26(火)15:34:52 No.1106046398

結局の所AIは自分で何かを考えている訳じゃなく 処理能力が上がっただけで指示されたインプットに従ってアウトプットしてるだけだから 動作がおかしいなら単に設定がおかしいだけの話だ

150 23/09/26(火)15:36:04 No.1106046651

今のAIは統計データ的にそれっぽい答えを出す奴だからますます予測しにくくて怖いんだよなぁ

151 23/09/26(火)15:37:29 No.1106046982

まあ人間が考えてるってのも事前にインプットされた事柄から状況に応じてアウトプットをしてるだけだし…

152 23/09/26(火)15:37:51 No.1106047080

>>条約等に応じて敵の命を尊重すべき場面もあってそれは厳密に明文化されているわけではなくて >>総合的な判断を要するから適正行動させるの規範の曖昧性の問題から難しそう >>ギリギリ攻めずにここまでならやって大丈夫っていう妥協的な設定しないといけない >人間の場合攻撃されたら死ぬから絶対に攻撃されないようにしなきゃいけないだけで >自律兵器より人命が条約で重要だと規定されてるなら攻撃優先順位を相手の武器にするだけの話だろ そんな簡単な話じゃなくない？たとえば「戦闘外の敵の保護」という ジュネーブにすらある基本的な条約を適当に組ませるの難しいだろうし 組んだら組んだで相手側それをハックしようとしてこない？ AIに敵対行動と看做されないよう敵対行動してきそう

153 23/09/26(火)15:39:07 No.1106047342

>AIに敵対行動と看做されないよう敵対行動してきそう ゾンビのマネして切り抜けるゾンビ映画思い出した

154 23/09/26(火)15:40:34 No.1106047659

こうして考えると小賢しい真似してなんとか穴をつこうとする人間クソだな 滅ぼしたくもなる

155 23/09/26(火)15:41:01 No.1106047748

人間が定義をしっかりしてからAIを学習しないとクソボケ役立たずになるから 技師も文系科目や哲学を修了するくらいしないとダメ

156 23/09/26(火)15:42:52 No.1106048147

>技師も文系科目や哲学を修了するくらいしないとダメ 片側だけだとつらいから哲学者にもAIを学んでもらうか…

157 23/09/26(火)15:43:04 No.1106048190

AIのために完璧な定義を考える時間で人間だけで戦い始めたほうが早い

158 23/09/26(火)15:43:49 No.1106048358

戦争であろうと倫理はあるんだからそれも遵守させないとね

159 23/09/26(火)15:43:52 No.1106048367

>そんな簡単な話じゃなくない？たとえば「戦闘外の敵の保護」という >ジュネーブにすらある基本的な条約を適当に組ませるの難しいだろうし >組んだら組んだで相手側それをハックしようとしてこない？ >AIに敵対行動と看做されないよう敵対行動してきそう だから自律兵器に殺人を組み込まなきゃいいんだよ 自律兵器の破損より人命が大事って前提があるんだから目に映る物全てを無力化するだけのマシンにすりゃいい 敵もクソもなく全部拘束して後の判断は人間にやらせろ

160 23/09/26(火)15:45:00 No.1106048618

屁理屈こねて拡大解釈始めること想定しだすと何も命令できないよね

161 23/09/26(火)15:45:35 No.1106048742

ルールや条約がある戦争だって話なら相手を積極的に殺す必要無いだろそもそも

162 23/09/26(火)15:45:59 No.1106048838

まずは弾薬供給ロボか自爆ドローンくらいから始めるしか無さそう

163 23/09/26(火)15:46:28 No.1106048944

じゃあどういう状況でどこまでならいいの？を解決してやらないと判断不能になり続けるだけだよ

164 23/09/26(火)15:47:57 No.1106049274

>>そんな簡単な話じゃなくない？たとえば「戦闘外の敵の保護」という >>ジュネーブにすらある基本的な条約を適当に組ませるの難しいだろうし >>組んだら組んだで相手側それをハックしようとしてこない？ >>AIに敵対行動と看做されないよう敵対行動してきそう >だから自律兵器に殺人を組み込まなきゃいいんだよ >自律兵器の破損より人命が大事って前提があるんだから目に映る物全てを無力化するだけのマシンにすりゃいい >敵もクソもなく全部拘束して後の判断は人間にやらせろ それが立法に反さないなら別に構わないけど上に述べてるように立法とのコンフリクト問題だから 権利問題だけ時代逆行させるようなのおかしくない？ 戦争は外交の1手段に過ぎないんだからAIの判断簡易化のために人権逆行させるの 文民の理解得られるか甚だ疑わしいと思う

165 23/09/26(火)15:48:53 No.1106049487

>それが立法に反さないなら別に構わないけど上に述べてるように立法とのコンフリクト問題だから >権利問題だけ時代逆行させるようなのおかしくない？ >戦争は外交の1手段に過ぎないんだからAIの判断簡易化のために人権逆行させるの >文民の理解得られるか甚だ疑わしいと思う 殺さないようにするのは人権逆行どころか保護してるけど何か勘違いしてない？

166 23/09/26(火)15:49:45 No.1106049704

非殺傷分野で経験値を積むのって大事だと思うよ 救護ロボとか人命救助やろう

167 23/09/26(火)15:49:53 No.1106049725

>屁理屈こねて拡大解釈始めること想定しだすと何も命令できないよね 戦争は政治的行為の一環であって各国ができる限り自国に都合の良い法解釈を採用するんだから一律に解決できるわけもない でもそういう微妙な判断はAIには通じない

168 23/09/26(火)15:50:16 No.1106049800

>じゃあどういう状況でどこまでならいいの？を解決してやらないと判断不能になり続けるだけだよ 成文法があっても司法がそれをどう解釈するか厳密に予知できないから かなりマージンとった設定しないといけないよね

169 23/09/26(火)15:51:28 No.1106050061

例えば顔認識して強力なレーザー光を両目に撃ち込んで失明させるとかすれば 殺人を犯さなくても相手を無力化出来るし恐らくAI処理なら人間より得意分野になるだろう

170 23/09/26(火)15:53:28 No.1106050491

勝てばなにしてもいいわけじゃないからな 特に今は情報の流通も速くて人間の相互監視も強くなってるからやり過ぎると絶対足引っ張られるし

171 23/09/26(火)15:54:27 No.1106050717

>例えば顔認識して強力なレーザー光を両目に撃ち込んで失明させるとかすれば >殺人を犯さなくても相手を無力化出来るし恐らくAI処理なら人間より得意分野になるだろう 現実の話で言うならとっくの昔にレーザー目潰しは条約で禁止されてるよ！

172 23/09/26(火)15:54:42 No.1106050775

>殺さないようにするのは人権逆行どころか保護してるけど何か勘違いしてない？ 人権による保護法益って人命だけじゃないよ 戦闘の状態にあるかないかわからかい判断がつきにくい状況で 相手の武装のみ攻撃したら戦闘外の敵の保護における 人命以外の保護法益を冒しかねない

173 23/09/26(火)15:55:37 No.1106050973

やはり人間…人間を使って戦闘をする…

174 23/09/26(火)15:56:15 No.1106051097

>人権による保護法益って人命だけじゃないよ >戦闘の状態にあるかないかわからかい判断がつきにくい状況で >相手の武装のみ攻撃したら戦闘外の敵の保護における >人命以外の保護法益を冒しかねない うん じゃあやっぱり殺す必要ないよね

175 23/09/26(火)15:57:39 No.1106051389

色々ゴタク並べても自律兵器に判断させて人を殺させる事で保護される事何も無いから じゃあ単純誘導兵器で責任は人間でいいじゃんとしかならない

176 23/09/26(火)15:58:21 No.1106051543

同種族同士で殺し合ってる状況が不合理だからな セックスバトルにしなさい

177 23/09/26(火)15:59:01 No.1106051674

AIが間違ってても結局責任取るのは人間だしな

178 23/09/26(火)15:59:41 No.1106051796

>>人権による保護法益って人命だけじゃないよ >>戦闘の状態にあるかないかわからかい判断がつきにくい状況で >>相手の武装のみ攻撃したら戦闘外の敵の保護における >>人命以外の保護法益を冒しかねない >うん >じゃあやっぱり殺す必要ないよね ……？ごめん論旨がわからない 目にうつる全てのものを武装解除マシンにするんだよね？ たとえば敵対状況の構成要件に係る公然と武装に該当するかどうかわからない状態での 無差別武装解除は敵兵の権利問題逆行するよね？

179 23/09/26(火)16:00:09 No.1106051884

結局は何かのせいにできる物が欲しいだけなのかもしれない

180 23/09/26(火)16:01:05 No.1106052060

AIに責任負わせるためにはAIが自然人であるという根拠法を作るしかないな

181 23/09/26(火)16:01:50 No.1106052216

ファントム実証実験でガンダムが映ってるからハロロの事かと思った

182 23/09/26(火)16:01:52 No.1106052220

>……？ごめん論旨がわからない >目にうつる全てのものを武装解除マシンにするんだよね？ >たとえば敵対状況の構成要件に係る公然と武装に該当するかどうかわからない状態での >無差別武装解除は敵兵の権利問題逆行するよね？ 殺人と非殺傷を単一の兵器で判断して切り替えさせる必要がないんだから どちらかいずれかの機能に特化させた方がマシって話なんだけど理解せずに人権がとか言ってたの？

183 23/09/26(火)16:03:11 No.1106052494

戦争て得より損が大きいんだなって再確認した

184 23/09/26(火)16:04:44 No.1106052826

孫氏も消費激しすぎるんだから可能ならやらないほうがいいと言ってるし

185 23/09/26(火)16:05:16 No.1106052924

条約等に応じて敵の命を尊重すべき場面もって言ってるけど AIに殺していいって判断させなきゃいいだけの話だよ

186 23/09/26(火)16:05:47 No.1106053032

>こんなアホな事あるかよって言っても現実的に似たような事例はあるからな >https://gigazine.net/news/20230602-ai-enabled-drone-test-operation/ ポンコツすぎる…

187 23/09/26(火)16:06:12 No.1106053125

>>……？ごめん論旨がわからない >>目にうつる全てのものを武装解除マシンにするんだよね？ >>たとえば敵対状況の構成要件に係る公然と武装に該当するかどうかわからない状態での >>無差別武装解除は敵兵の権利問題逆行するよね？ >殺人と非殺傷を単一の兵器で判断して切り替えさせる必要がないんだから >どちらかいずれかの機能に特化させた方がマシって話なんだけど理解せずに人権がとか言ってたの？ 待って欲しい目に映るすべてのものを武装解除するんだよね？ 殺すよりマシって条約による権利遵守を破るかどうかと関係なくない？ 最初から条約冒さず敵にハックもされずAIに判断させることの話をしてるんだけど…

188 23/09/26(火)16:06:38 No.1106053199

AIも少し設定ミスがあればその通りに間違うから兵器毎に専門家常につけとく必要あるしコストめっちゃかかりそうだな

189 23/09/26(火)16:07:12 No.1106053325

>待って欲しい目に映るすべてのものを武装解除するんだよね？ >殺すよりマシって条約による権利遵守を破るかどうかと関係なくない？ >最初から条約冒さず敵にハックもされずAIに判断させることの話をしてるんだけど… >条約等に応じて敵の命を尊重すべき場面もって言ってるけど >AIに殺していいって判断させなきゃいいだけの話だよ

190 23/09/26(火)16:08:33 No.1106053590

>>待って欲しい目に映るすべてのものを武装解除するんだよね？ >>殺すよりマシって条約による権利遵守を破るかどうかと関係なくない？ >>最初から条約冒さず敵にハックもされずAIに判断させることの話をしてるんだけど… > >>条約等に応じて敵の命を尊重すべき場面もって言ってるけど >>AIに殺していいって判断させなきゃいいだけの話だよ 非殺傷の武装解除が条約による敵兵の保護法益おかす場合あるよねっていう話をあげたのに また条約じゃなくて命の話に戻るの？

191 23/09/26(火)16:09:44 No.1106053813

AIなんかに戦争やらせる必要はないだろう 武器撃てばいいんだから

192 23/09/26(火)16:09:55 No.1106053856

>非殺傷の武装解除が条約による敵兵の保護法益おかす場合あるよねっていう話をあげたのに >また条約じゃなくて命の話に戻るの？ 自分で言い出した話無視して話混ぜっ返したいだけなのか 途中から横槍入れて噛み合ってないのかどっちか知らんが話が通じない事だけは分かった