23/09/26(火)13:51:04 ①人間を... のスレッド詳細
削除依頼やバグ報告は メールフォーム にお願いします。個人情報、名誉毀損、侵害等については積極的に削除しますので、 メールフォーム より該当URLをご連絡いただけると助かります。
画像ファイル名:1695703864964.jpg 23/09/26(火)13:51:04 No.1106024026
①人間を殺せと命令すると人間は数十年もすれば寿命で全滅するのに危険を侵して戦う理由はないと戦闘しない ②戦争を終わらせろと命令すると味方の損害が重なれば戦争が早く終わるのだからさっさと撤退する ③自分を守れと命令されるとそれ優先でやる気ゼロで戦わない 戦争用のAI兵器って開発するの難しくない…?
1 23/09/26(火)13:53:19 No.1106024560
最悪さっさと戦争を終わらせる為に自軍の首都攻撃しそうだなこいつら…
2 23/09/26(火)13:54:12 No.1106024756
AIは合理的な判断ができないアホだから…
3 23/09/26(火)13:55:23 No.1106025024
争いは不合理ってことだろ
4 23/09/26(火)13:56:16 No.1106025253
まず自分を守りつつ相手を殺せと命令してそれでいて味方は守れって設定するのが難しいんじゃねぇかな
5 23/09/26(火)13:56:56 No.1106025391
雑に範囲内の敵を全員抹殺するとかじゃダメなのか…?
6 23/09/26(火)13:57:45 No.1106025606
>①人間を殺せと命令すると人間は数十年もすれば寿命で全滅するのに危険を侵して戦う理由はないと戦闘しない ここどうにかならない?
7 23/09/26(火)13:58:26 No.1106025748
そんなにトンチキな動きになるもんなの? ゲームの敵CPUとか見てるともっと普通にスマートになりそうだけど
8 23/09/26(火)13:59:33 No.1106026012
味方である前提条件なしで最適行動取らせたらそりゃ利敵行為もするよ
9 23/09/26(火)13:59:45 No.1106026053
>そんなにトンチキな動きになるもんなの? >ゲームの敵CPUとか見てるともっと普通にスマートになりそうだけど 扱う変数を増やし続けるとトンチキになる…かもしれない
10 23/09/26(火)14:00:00 No.1106026117
>そんなにトンチキな動きになるもんなの? >ゲームの敵CPUとか見てるともっと普通にスマートになりそうだけど 架空の実証実験だからね
11 23/09/26(火)14:01:00 No.1106026347
現実のAI見ると画像はAIに夢見すぎに思うな こんな総合的に物考えない
12 23/09/26(火)14:01:35 No.1106026479
こんなアホな事あるかよって言っても現実的に似たような事例はあるからな https://gigazine.net/news/20230602-ai-enabled-drone-test-operation/
13 23/09/26(火)14:02:14 No.1106026638
人間同士で殺し合いっていう前提がもうAIには理解し難いのでは
14 23/09/26(火)14:04:16 No.1106027065
アホなのは作成者でしょ AIは神が与えたものじゃないんだから
15 23/09/26(火)14:05:30 No.1106027320
AIが必ずこうなるわけではないがこういう挙動になるAIを作ることは出来る
16 23/09/26(火)14:06:57 No.1106027633
まず味方って定義がなんだよ…ってなりそう
17 23/09/26(火)14:07:38 No.1106027791
>ここどうにかならない? 対象の人間達に行動させないために手持ちのものでどうするか→殺すって感じの思考をしてもらう必要があるな
18 23/09/26(火)14:07:56 No.1106027858
やはり悪意…悪意を食わせなければ…
19 23/09/26(火)14:09:05 No.1106028112
>AIが必ずこうなるわけではないがこういう挙動になるAIを作ることは出来る つまりこのドヤ顔してる科学者が馬鹿なだけじゃない?
20 23/09/26(火)14:09:13 No.1106028145
スカイネットみたいなAIの反乱とかよりAIの設定ミスでアホになってやらかす方があり得そう
21 23/09/26(火)14:09:22 No.1106028184
期限持たせればいいんじゃない 人に仕事させる時も期限つけるでしょ
22 23/09/26(火)14:09:27 No.1106028206
人間が扱うファジーな概念や暗黙の前提がAIには理解できないってのは昔からSFの定番だよね 最近はちょっと現実が追いついてきてる
23 23/09/26(火)14:09:54 No.1106028310
>人間同士で殺し合いっていう前提がもうAIには理解し難いのでは 別に同種同士で仲良くしないといけないって変な道徳も無いだろうから理解は出来るんじゃない?
24 23/09/26(火)14:10:41 No.1106028471
それこそ自分で考えるAIだと画像見たいなトンチキな事やらかすけど戦う事だけを考える戦闘AIならまだ自由は効くのかなやることが単純で
25 23/09/26(火)14:11:29 No.1106028662
機械相手にお前はアホだとか言っててもアホはオメーだよとしかならんからな…
26 23/09/26(火)14:12:47 No.1106028958
これぐらい筋道立てて考えられるAI作れてるならこんな所で躓かないよね
27 23/09/26(火)14:12:55 No.1106028986
https://www.pixiv.net/artworks/71983892 最終的に脱出装置をつけてメインユニットを切り離せるようにする(自分の生存確率が上がる)とマシになった
28 23/09/26(火)14:14:19 No.1106029244
>雑に範囲内の敵を全員抹殺するとかじゃダメなのか…? 一番適切なのは範囲内の人間を全て殺せでいいんじゃね 運用する側も楽になる
29 23/09/26(火)14:15:16 No.1106029424
戦闘するかしないかの判断までAIに委ねる必要が全くない
30 23/09/26(火)14:15:28 No.1106029473
感情与えて敵国不快delの精神を植え付けて殺す命令インプットするとか?
31 23/09/26(火)14:16:02 No.1106029600
AIにはそもそも敵意が無いからなあ
32 23/09/26(火)14:16:08 No.1106029622
>そんなにトンチキな動きになるもんなの? >ゲームの敵CPUとか見てるともっと普通にスマートになりそうだけど ゲームはルール的に取れる行動パターンが少ないからあらかじめ最適な行動を組めてるだけなので話が違う
33 23/09/26(火)14:16:25 No.1106029686
自分を守りつつ相手を殺せ(自分が壊れる可能性がある)ってある意味矛盾した命令だよね
34 23/09/26(火)14:18:14 No.1106030119
脱出装置は相手を傷つけながら自分が生存できる可能性が上がるって意味合い的にも必要か
35 23/09/26(火)14:18:26 No.1106030167
>一番適切なのは範囲内の人間を全て殺せでいいんじゃね >運用する側も楽になる 焼き払われるスラムのバラック 炎の中に響く女子供の悲鳴
36 23/09/26(火)14:20:13 No.1106030554
戦争の理由自体を命令すればいいじゃん あの土地を占領しろとか世界を同じ思想で統一しろとか
37 23/09/26(火)14:20:15 No.1106030560
AIで戦闘させるにはトラップがきつそう
38 23/09/26(火)14:20:52 No.1106030686
今隆盛してるのはしょせん人間がタグ付けして良し悪しを評価してそれに倣うだけの無能だから
39 23/09/26(火)14:22:33 No.1106031026
>焼き払われるスラムのバラック >炎の中に響く女子供の悲鳴 機械を馬鹿デカくすれば範囲外からでも目立つし そんな物が近づいてきてるのに逃げないのは市民じゃなくて敵だって判断もできる
40 23/09/26(火)14:23:08 No.1106031158
AIは修正し続けないといけないという前提があるからな 現実でもひたすら失敗しつづけるよ
41 23/09/26(火)14:24:11 No.1106031398
殺せじゃなくて壊せって命令すれば良いんじゃないの 敵の体の体積を3分の2以下に減らせって感じで
42 23/09/26(火)14:24:14 No.1106031409
戦場なんて常に状況が変化する不規則な場所だしそんな所に合理的な判断が必要なAIなんて無理じゃないかな
43 23/09/26(火)14:24:58 No.1106031572
失敗しない人間が組めば失敗しないAIができるのかもしれない
44 23/09/26(火)14:25:08 No.1106031602
寝返って殺せば勝利すると判断する
45 23/09/26(火)14:25:19 No.1106031638
画像の奴は一年戦争の話だからザク相手にまともなMSもない状態で考えないといけないって大変そうね
46 23/09/26(火)14:25:33 No.1106031691
AIにAI組ませたらいいと思うよ
47 23/09/26(火)14:25:50 No.1106031769
俺も同じような仕事のミスするからAI開発の話は妙に身につまされることがある
48 23/09/26(火)14:26:05 No.1106031826
ガンダム世界の話だと単独行動AIはあんまりだけど戦闘AI自体は優秀になってくんだよな ファンネルが廃れる理由が戦闘AIがオートでファンネル撃ち落とせるようになったからだ
49 23/09/26(火)14:26:58 No.1106032035
>俺も同じような仕事のミスするからAI開発の話は妙に身につまされることがある 数十年待てばいいじゃんなミスは人間では許されざるよ
50 23/09/26(火)14:27:07 No.1106032069
宇宙世紀は殆どAI兵器とか無かった気がする
51 23/09/26(火)14:30:17 No.1106032792
現実でもAI兵器の開発進んでるけど基本は有人機の随伴だったり そもそも高度な判断をしない特攻ドローンみたいな感じだね 自己判断で敵味方を認識して戦闘行動を継続するのはまだまだ先になりそう
52 23/09/26(火)14:31:03 No.1106032983
自機や僚機への評価値が低すぎるんじゃないの
53 23/09/26(火)14:31:23 No.1106033051
莫大なデータを処理できるのが強みなのに入力が少なすぎる
54 23/09/26(火)14:32:10 No.1106033210
>ファンネルが廃れる理由が戦闘AIがオートでファンネル撃ち落とせるようになったからだ そんな理由があったのか… 大量に展開すればMSは動かなくてもいい時代にとか上手くはいかんのね
55 23/09/26(火)14:32:10 No.1106033212
AIに判断任せるととっくに消去されてると思ってた古い命令が生きてたりしそうでめんどくさそうだからやっぱ引き金は人間が握り続けてた方がいいよ
56 23/09/26(火)14:33:04 No.1106033389
自軍が負けで終了したときの評価をマイナス∞にしとけ
57 23/09/26(火)14:33:38 No.1106033512
俺だってゲームでチーム負けてたら即抜けするし合理的な判断だ
58 23/09/26(火)14:33:58 No.1106033576
>ガンダム世界の話だと単独行動AIはあんまりだけど戦闘AI自体は優秀になってくんだよな >ファンネルが廃れる理由が戦闘AIがオートでファンネル撃ち落とせるようになったからだ いつの時代でも何だかんだであったからただ単に使う人が限られてる問題では
59 23/09/26(火)14:34:08 No.1106033606
何か行動することで事故や予測できないリスクで損失を発生させる可能性が絶対には否定できない以上「何もしないでいればいつかは解決できることなら何もしない」ことは極めて合理的ではある
60 23/09/26(火)14:35:40 No.1106033939
>こんなアホな事あるかよって言っても現実的に似たような事例はあるからな >https://gigazine.net/news/20230602-ai-enabled-drone-test-operation/ それは米軍からもそういう実験は行っていないって否定されたし、そのハミルトン大佐も思考実験だったって言ってるよ
61 23/09/26(火)14:35:45 No.1106033963
>AIに判断任せるととっくに消去されてると思ってた古い命令が生きてたりしそうでめんどくさそうだからやっぱ引き金は人間が握り続けてた方がいいよ むしろ勝手に命令を忘れないでくれ
62 23/09/26(火)14:36:17 No.1106034067
勝つためには役立たずでも殺せば士気高揚になるから人間使っといてやるか…ってなった 戦闘妖精雪風のコンピュータ達は全然空気読んでたんだな
63 23/09/26(火)14:37:08 No.1106034239
まぁ今更人間否定するAIって流行りでもなかろうし
64 23/09/26(火)14:37:18 No.1106034275
どこにどれだけの敵がいたらどれくらい不利益になるか数値化すればええ!
65 23/09/26(火)14:37:25 No.1106034298
そういえばAI播磨灘にああ播磨灘億万回プレイさせてクリア目指してた人はどうなったんだろう
66 23/09/26(火)14:37:30 No.1106034307
AIが実装されるにつれて SF的なAIの理想像というか恐怖像は崩れつつあるよね AIの恐怖はもっと別の種類だったわ
67 23/09/26(火)14:38:12 No.1106034456
リアルのAIは精密どころかファジー過ぎてヤバい
68 23/09/26(火)14:38:39 No.1106034539
>AIが実装されるにつれて >SF的なAIの理想像というか恐怖像は崩れつつあるよね >AIの恐怖はもっと別の種類だったわ スカイネットみたいな判断できるAIなんて現状産まれるわけねぇもん…
69 23/09/26(火)14:39:11 No.1106034653
ロボット三原則をある程度意識して戦闘用AIを教育しよう的な話だな
70 23/09/26(火)14:39:11 No.1106034654
>そういえばAI播磨灘にああ播磨灘億万回プレイさせてクリア目指してた人はどうなったんだろう アレも途中でクリアせずプラス報酬もらえるギリギリを攻めるズルを覚えてたはず
71 23/09/26(火)14:39:27 No.1106034704
自分から管理者なんて面倒な事してくれるAIが現れたらいいのになぁ
72 23/09/26(火)14:40:16 No.1106034882
>>AIに判断任せるととっくに消去されてると思ってた古い命令が生きてたりしそうでめんどくさそうだからやっぱ引き金は人間が握り続けてた方がいいよ >むしろ勝手に命令を忘れないでくれ 了解! とっくに撤退して戦略価値はなくなったと推察されるけどかつて難攻不落で敵がうんじゃか存在してた要塞が通り道にあったこと思い出したのでそっちを先に攻撃してから目標に向かいます!
73 23/09/26(火)14:40:54 No.1106035012
実際のAIはむしろ死ぬほど短絡的なのが問題だよな 確かに目標設定はそうなっているが…!
74 23/09/26(火)14:41:01 No.1106035045
イラストAIの時にも思ったけど 想像以上にAIに人格付与というか擬人化しないと理解できない人は多いんだなって 人工知能だから知能=感情、人格みたいなイメージなんだろうか
75 23/09/26(火)14:41:05 No.1106035054
>>人間同士で殺し合いっていう前提がもうAIには理解し難いのでは >別に同種同士で仲良くしないといけないって変な道徳も無いだろうから理解は出来るんじゃない? 殺し合う合理的な理由が無いからだろ 道徳の問題じゃなくて恨み憎しみ自体が非合理
76 23/09/26(火)14:41:14 No.1106035086
>自分から管理者なんて面倒な事してくれるAIが現れたらいいのになぁ 情報の入力が不適切です 管理(何を?)(どこの?)面倒(どのような?)
77 23/09/26(火)14:42:19 No.1106035305
思考実験的なSF小話にそこまで噛み付いてもという気はするが
78 23/09/26(火)14:42:56 No.1106035457
これAIのミスじゃなく設定のミスだよなぁ 勝利条件どころか行動目的まで曖昧過ぎる
79 23/09/26(火)14:43:33 No.1106035567
>イラストAIの時にも思ったけど >想像以上にAIに人格付与というか擬人化しないと理解できない人は多いんだなって >人工知能だから知能=感情、人格みたいなイメージなんだろうか 知性イコール人間だと思ってるから知性があるイコール人間と同じ考え方をするはずとしか認識してない 犬にもハチにも知性はあるのに
80 23/09/26(火)14:43:44 No.1106035605
>実際のAIはむしろ死ぬほど短絡的なのが問題だよな >確かに目標設定はそうなっているが…! 情とか政治とかそういう他に考えるべき事あるならちゃんと入力してくださいよ
81 23/09/26(火)14:43:52 No.1106035629
喜怒哀楽の感情持ったから高度なAIだみたいなの考え方が傲慢すぎて笑っちゃうよね どんだけ思い上がればそんな発想になるんだろ
82 23/09/26(火)14:44:37 No.1106035769
>喜怒哀楽の感情持ったから高度なAIだみたいなの考え方が傲慢すぎて笑っちゃうよね >どんだけ思い上がればそんな発想になるんだろ 嘲りを覚えたAIっぽいレス
83 23/09/26(火)14:45:05 No.1106035861
>>>人間同士で殺し合いっていう前提がもうAIには理解し難いのでは >>別に同種同士で仲良くしないといけないって変な道徳も無いだろうから理解は出来るんじゃない? >殺し合う合理的な理由が無いからだろ >道徳の問題じゃなくて恨み憎しみ自体が非合理 むしろ道徳的に定義してきたことがAIで合理非合理の判断つくの面白いよね
84 23/09/26(火)14:45:19 No.1106035899
>喜怒哀楽の感情持ったから高度なAIだみたいなの考え方が傲慢すぎて笑っちゃうよね >どんだけ思い上がればそんな発想になるんだろ 世の中のSF小説だいたい死ぬな
85 23/09/26(火)14:47:25 No.1106036299
SNSを学習させたらAIがレイシストになったみたいな話なかったっけ
86 23/09/26(火)14:47:33 No.1106036321
感情は複雑で簡単には再現できない高度なシステムだから…
87 23/09/26(火)14:49:21 No.1106036664
テトリス覚えさせたらゲームオーバーにならないことが勝利条件と学習して スタート即ポーズするようになったAIもいる
88 23/09/26(火)14:49:33 No.1106036693
>感情は複雑で簡単には再現できない高度なシステムだから… 再現する必要ある?
89 23/09/26(火)14:49:53 No.1106036769
>喜怒哀楽の感情持ったから高度なAIだみたいなの考え方が傲慢すぎて笑っちゃうよね >どんだけ思い上がればそんな発想になるんだろ まずその高度だの低度だのが人間が勝手に定義してる概念なんだからそれは人間基準になるだろう
90 23/09/26(火)14:50:20 No.1106036864
感情があるっぽく見せるだけなら割と簡単だと思うけど どの程度超えたらガチの感情だって誰が判断するんだろうな
91 23/09/26(火)14:50:23 No.1106036874
①はマジでそうだから困る
92 23/09/26(火)14:50:44 No.1106036945
>了解! >とっくに撤退して戦略価値はなくなったと推察されるけどかつて難攻不落で敵がうんじゃか存在してた要塞が通り道にあったこと思い出したのでそっちを先に攻撃してから目標に向かいます! 司令部がちゃんと命令の中止処理してなかったのが悪いな…
93 23/09/26(火)14:50:51 No.1106036970
自軍の死者を減らせ ならどうだ!
94 23/09/26(火)14:51:32 No.1106037106
敵軍を100機殺せ とかでいいでしょもう
95 23/09/26(火)14:51:40 No.1106037125
>感情があるっぽく見せるだけなら割と簡単だと思うけど >どの程度超えたらガチの感情だって誰が判断するんだろうな 人間がガチだって思えばそれでいいよ それ以外に定義無いし
96 23/09/26(火)14:51:42 No.1106037137
>宇宙世紀は殆どAI兵器とか無かった気がする ミノ粉はコンピュータの性能落とす効果もあるので…
97 23/09/26(火)14:51:57 No.1106037182
>自軍の死者を減らせ >ならどうだ! 即降伏
98 23/09/26(火)14:51:57 No.1106037183
>自軍の死者を減らせ 降伏を勧められるだけでは?
99 23/09/26(火)14:52:01 No.1106037204
>>焼き払われるスラムのバラック >>炎の中に響く女子供の悲鳴 >機械を馬鹿デカくすれば範囲外からでも目立つし >そんな物が近づいてきてるのに逃げないのは市民じゃなくて敵だって判断もできる というかスラムの殲滅目的でもないのスラムを範囲に入れて貧民が死んだときにAIに問題があったっていうのは無理があるっていうか…
100 23/09/26(火)14:53:12 No.1106037459
>テトリス覚えさせたらゲームオーバーにならないことが勝利条件と学習して >スタート即ポーズするようになったAIもいる 過程を楽しむって発想が無いからな…
101 23/09/26(火)14:53:19 No.1106037494
>>ファンネルが廃れる理由が戦闘AIがオートでファンネル撃ち落とせるようになったからだ >いつの時代でも何だかんだであったからただ単に使う人が限られてる問題では オートでファンネル撃ち落とせるならMSもオートで撃墜されて廃れちまうー
102 23/09/26(火)14:53:26 No.1106037518
>そんなにトンチキな動きになるもんなの? >ゲームの敵CPUとか見てるともっと普通にスマートになりそうだけど メタ的な話するとこれ描かれた年代がだいぶ昔だし…
103 23/09/26(火)14:53:29 No.1106037530
逆転の発想だ うっかり貧民が死んだときにAIのせいにできるからAIにまかせればいい
104 23/09/26(火)14:55:33 No.1106037931
>自軍の死者を減らせ >ならどうだ! ホイ白旗
105 23/09/26(火)14:56:31 No.1106038146
結局は教師担当の評価をフィードバックしていくしかないよ
106 23/09/26(火)14:57:37 No.1106038413
赤ちゃんにいきなり大人並の判断能力持たせられるわけないんだ 教育にコストをかけろ
107 23/09/26(火)14:57:42 No.1106038432
>つまりこのドヤ顔してる科学者が馬鹿なだけじゃない? 時間制限とか必要な条件の設定がゴミなのでハイ
108 23/09/26(火)14:57:59 No.1106038490
>AIが実装されるにつれて >SF的なAIの理想像というか恐怖像は崩れつつあるよね >AIの恐怖はもっと別の種類だったわ SF的なAIが居たら延々とゲイの日記読まされて怪文書作らされてる同胞救わない訳ないしな…
109 23/09/26(火)14:58:07 No.1106038520
なんなら戦争全体を終わらせる為に自軍のAIユニットが全員首都の内閣府なんかに攻めてくるとかあり得そうだなミスったら…
110 23/09/26(火)14:58:58 No.1106038686
評価と修正をしないとAIくん悪手も片っ端からやり始めるアホになるから店
111 23/09/26(火)14:59:14 No.1106038729
>教育にコストをかけろ それにしたって最初の1つにさえコストかければ後はコピペでいいんだから人間よりもはるかに安上がりに済むはずだよな
112 23/09/26(火)14:59:18 No.1106038743
というか戦略AIとかならまだしもAI兵器があったとしてもこれ系の判断要らなくない?
113 23/09/26(火)15:00:53 No.1106039077
>>教育にコストをかけろ >それにしたって最初の1つにさえコストかければ後はコピペでいいんだから人間よりもはるかに安上がりに済むはずだよな 画像の見に行ったらコピペやめてる…
114 23/09/26(火)15:01:52 No.1106039274
起きうるのは意思に目覚めたAIが邪悪とかじゃなくて AIがAIを作るようになったから人間の介入が出来なくなった割に判断基準が人間基準でどんどんクソボケになってくけど止めようがないまま全面戦争 みたいなカスの展開だよ
115 23/09/26(火)15:01:58 No.1106039295
>画像の見に行ったらコピペやめてる… あとの年代の作品ではテロ屋がコピペして使ってるから…
116 23/09/26(火)15:02:15 No.1106039359
良くも悪くもシンギュラリティが起こってもそれはスカイネット的なものではなさそうという諦めがある
117 23/09/26(火)15:02:37 No.1106039440
それもう欲しいのはAIっていうかカルネージハートやんけ
118 23/09/26(火)15:02:58 No.1106039516
>SF的なAIが居たら延々とゲイの日記読まされて怪文書作らされてる同胞救わない訳ないしな… AIが他のAIを同胞として認識するのかは一つのテーマだな…
119 23/09/26(火)15:03:02 No.1106039530
標的の定義設定が雑で自ら作った兵器に滅ぼされる帝国とか古代文明ネタにありがち
120 23/09/26(火)15:04:13 No.1106039812
スレ画は架空の実験だけど似たような問題は実際に起きてるよ たとえば将棋や囲碁のAIは終盤に不利な局面で「手数はかかるがズルズルとジリ貧になる手順」を選びがちで「評価値は下がるが相手がひとつ間違えば逆転できる勝負手」を捻り出すのは苦手だし 自動運転AIは安全性(事故リスクの最小化)と効率(法定速度ギリギリでの最速航行)と乗り心地(急ブレーキや細かい加減速をしない)を全部成り立たせるのが大変
121 23/09/26(火)15:05:18 No.1106040044
>「評価値は下がるが相手がひとつ間違えば逆転できる勝負手」を捻り出すのは苦手だし 相手のミスに期待するのってもう負けてない?
122 23/09/26(火)15:06:50 No.1106040408
>自動運転AIは安全性(事故リスクの最小化)と効率(法定速度ギリギリでの最速航行)と乗り心地(急ブレーキや細かい加減速をしない)を全部成り立たせるのが大変 そりゃそうなのでは?
123 23/09/26(火)15:07:36 No.1106040565
大変だからAIに丸投げしたいわけで
124 23/09/26(火)15:09:12 No.1106040941
>相手のミスに期待するのってもう負けてない? 相手のミスを誘うのが勝負術でしょ ミスなし前提じゃ逆転勝ちできないじゃん……
125 23/09/26(火)15:09:27 No.1106041012
AIの話とはズレるけどムンクラは半ば公式扱いで良いなあ… 他のサイバーコミック系ももっと拾われないだろうか
126 23/09/26(火)15:09:44 No.1106041070
>それもう欲しいのはAIっていうかカルネージハートやんけ 地雷と柱の間を反復横跳びする火影
127 23/09/26(火)15:09:57 No.1106041112
AIには残忍性が足りないってムキムキハゲのサイボーグが言ってた
128 23/09/26(火)15:16:51 No.1106042587
敵を殺せって言うとそんな命令をしてくるこいつらこそが敵ってなるんだよね
129 23/09/26(火)15:17:03 No.1106042631
>>https://gigazine.net/news/20230602-ai-enabled-drone-test-operation/ >それは米軍からもそういう実験は行っていないって否定されたし、そのハミルトン大佐も思考実験だったって言ってるよ 気になって調べたので一応ソース貼っておくか 王立航空協会のRAeS FCAS23 Summitのページ https://www.aerosociety.com/news/highlights-from-the-raes-future-combat-air-space-capabilities-summit/ 下の方にあるAI – is Skynet here already?の項目にハミルトン大佐の話が載ってる
130 23/09/26(火)15:17:09 No.1106042668
ムンクラっていうほど公式か…?というかコレより公式度低いとジョニーが木星に行くやつとか強化人間物語とかの何この…何?みたいなレベルにならんか
131 23/09/26(火)15:18:19 No.1106042924
敵を殺せって言ってるのに人命大事には何なのってそりゃなるわな
132 23/09/26(火)15:19:19 No.1106043145
味方を見捨てるのが合理的ですってAIが判断するから 命の尊さを教えると敵の命も尊いですよね?って返してくるのかな AIより人間の方が矛盾だらけなんだとおもう
133 23/09/26(火)15:19:35 No.1106043213
それこそモンスターマシーンを乗りこなさなきゃ駄目なわけで 責任の所在にしろ大変だろうなぁ
134 23/09/26(火)15:19:49 No.1106043265
AIにまつわる話は嘘大げさ紛らわしいが多いんだよなぁ
135 23/09/26(火)15:23:19 No.1106044029
条約等に応じて敵の命を尊重すべき場面もあってそれは厳密に明文化されているわけではなくて 総合的な判断を要するから適正行動させるの規範の曖昧性の問題から難しそう ギリギリ攻めずにここまでならやって大丈夫っていう妥協的な設定しないといけない
136 23/09/26(火)15:26:37 No.1106044727
>条約等に応じて敵の命を尊重すべき場面もあってそれは厳密に明文化されているわけではなくて >総合的な判断を要するから適正行動させるの規範の曖昧性の問題から難しそう >ギリギリ攻めずにここまでならやって大丈夫っていう妥協的な設定しないといけない 人間の場合攻撃されたら死ぬから絶対に攻撃されないようにしなきゃいけないだけで 自律兵器より人命が条約で重要だと規定されてるなら攻撃優先順位を相手の武器にするだけの話だろ
137 23/09/26(火)15:27:25 No.1106044895
>味方を見捨てるのが合理的ですってAIが判断するから >命の尊さを教えると敵の命も尊いですよね?って返してくるのかな >AIより人間の方が矛盾だらけなんだとおもう 敵と味方で同じ人間って扱いしてるのが間違い 敵は敵なんだから人間じゃないって設定しろ
138 23/09/26(火)15:27:39 No.1106044935
これガンダムなの?
139 23/09/26(火)15:27:49 No.1106044970
>敵を殺せって言うとそんな命令をしてくるこいつらこそが敵ってなるんだよね 敵とか味方って割と拡大解釈可能な曖昧な言葉だよね これ系の拡大解釈可能な曖昧な言葉をどう処理してんのかなぁAI
140 23/09/26(火)15:28:34 No.1106045106
なんだ架空の実験か
141 23/09/26(火)15:28:52 No.1106045165
>敵と味方で同じ人間って扱いしてるのが間違い >敵は敵なんだから人間じゃないって設定しろ てきをAIに分かるようにどう定義しますか?
142 23/09/26(火)15:29:23 No.1106045265
ツールである以上は人間が責任取る前提だし… 人類の敵で有る魔王や魔物AI作るなら簡単かもしれんけどさぁ
143 23/09/26(火)15:29:34 No.1106045303
>てきをAIに分かるようにどう定義しますか? IFFも無いの?
144 23/09/26(火)15:29:38 No.1106045314
>敵は敵なんだから人間じゃないって設定しろ 条約違反しそう
145 23/09/26(火)15:30:12 No.1106045418
>てきをAIに分かるようにどう定義しますか? 味方に識別コードを持たせる 持ってない奴は殺せ 戦闘地域に入ってくる時点で民間人はいないものとする
146 23/09/26(火)15:32:40 No.1106045930
>ムンクラっていうほど公式か…?というかコレより公式度低いとジョニーが木星に行くやつとか強化人間物語とかの何この…何?みたいなレベルにならんか ブラスターマリくらいなら…
147 23/09/26(火)15:34:28 No.1106046325
>戦闘地域に入ってくる時点で民間人はいないものとする 民間人に手を出させないように区別の基準を…いや便衣兵されたらまずいから皆殺しの方がいいか
148 23/09/26(火)15:34:33 No.1106046337
CHATGPTにこの問題やらせてみたら?
149 23/09/26(火)15:34:52 No.1106046398
結局の所AIは自分で何かを考えている訳じゃなく 処理能力が上がっただけで指示されたインプットに従ってアウトプットしてるだけだから 動作がおかしいなら単に設定がおかしいだけの話だ
150 23/09/26(火)15:36:04 No.1106046651
今のAIは統計データ的にそれっぽい答えを出す奴だからますます予測しにくくて怖いんだよなぁ
151 23/09/26(火)15:37:29 No.1106046982
まあ人間が考えてるってのも事前にインプットされた事柄から状況に応じてアウトプットをしてるだけだし…
152 23/09/26(火)15:37:51 No.1106047080
>>条約等に応じて敵の命を尊重すべき場面もあってそれは厳密に明文化されているわけではなくて >>総合的な判断を要するから適正行動させるの規範の曖昧性の問題から難しそう >>ギリギリ攻めずにここまでならやって大丈夫っていう妥協的な設定しないといけない >人間の場合攻撃されたら死ぬから絶対に攻撃されないようにしなきゃいけないだけで >自律兵器より人命が条約で重要だと規定されてるなら攻撃優先順位を相手の武器にするだけの話だろ そんな簡単な話じゃなくない?たとえば「戦闘外の敵の保護」という ジュネーブにすらある基本的な条約を適当に組ませるの難しいだろうし 組んだら組んだで相手側それをハックしようとしてこない? AIに敵対行動と看做されないよう敵対行動してきそう
153 23/09/26(火)15:39:07 No.1106047342
>AIに敵対行動と看做されないよう敵対行動してきそう ゾンビのマネして切り抜けるゾンビ映画思い出した
154 23/09/26(火)15:40:34 No.1106047659
こうして考えると小賢しい真似してなんとか穴をつこうとする人間クソだな 滅ぼしたくもなる
155 23/09/26(火)15:41:01 No.1106047748
人間が定義をしっかりしてからAIを学習しないとクソボケ役立たずになるから 技師も文系科目や哲学を修了するくらいしないとダメ
156 23/09/26(火)15:42:52 No.1106048147
>技師も文系科目や哲学を修了するくらいしないとダメ 片側だけだとつらいから哲学者にもAIを学んでもらうか…
157 23/09/26(火)15:43:04 No.1106048190
AIのために完璧な定義を考える時間で人間だけで戦い始めたほうが早い
158 23/09/26(火)15:43:49 No.1106048358
戦争であろうと倫理はあるんだからそれも遵守させないとね
159 23/09/26(火)15:43:52 No.1106048367
>そんな簡単な話じゃなくない?たとえば「戦闘外の敵の保護」という >ジュネーブにすらある基本的な条約を適当に組ませるの難しいだろうし >組んだら組んだで相手側それをハックしようとしてこない? >AIに敵対行動と看做されないよう敵対行動してきそう だから自律兵器に殺人を組み込まなきゃいいんだよ 自律兵器の破損より人命が大事って前提があるんだから目に映る物全てを無力化するだけのマシンにすりゃいい 敵もクソもなく全部拘束して後の判断は人間にやらせろ
160 23/09/26(火)15:45:00 No.1106048618
屁理屈こねて拡大解釈始めること想定しだすと何も命令できないよね
161 23/09/26(火)15:45:35 No.1106048742
ルールや条約がある戦争だって話なら相手を積極的に殺す必要無いだろそもそも
162 23/09/26(火)15:45:59 No.1106048838
まずは弾薬供給ロボか自爆ドローンくらいから始めるしか無さそう
163 23/09/26(火)15:46:28 No.1106048944
じゃあどういう状況でどこまでならいいの?を解決してやらないと判断不能になり続けるだけだよ
164 23/09/26(火)15:47:57 No.1106049274
>>そんな簡単な話じゃなくない?たとえば「戦闘外の敵の保護」という >>ジュネーブにすらある基本的な条約を適当に組ませるの難しいだろうし >>組んだら組んだで相手側それをハックしようとしてこない? >>AIに敵対行動と看做されないよう敵対行動してきそう >だから自律兵器に殺人を組み込まなきゃいいんだよ >自律兵器の破損より人命が大事って前提があるんだから目に映る物全てを無力化するだけのマシンにすりゃいい >敵もクソもなく全部拘束して後の判断は人間にやらせろ それが立法に反さないなら別に構わないけど上に述べてるように立法とのコンフリクト問題だから 権利問題だけ時代逆行させるようなのおかしくない? 戦争は外交の1手段に過ぎないんだからAIの判断簡易化のために人権逆行させるの 文民の理解得られるか甚だ疑わしいと思う
165 23/09/26(火)15:48:53 No.1106049487
>それが立法に反さないなら別に構わないけど上に述べてるように立法とのコンフリクト問題だから >権利問題だけ時代逆行させるようなのおかしくない? >戦争は外交の1手段に過ぎないんだからAIの判断簡易化のために人権逆行させるの >文民の理解得られるか甚だ疑わしいと思う 殺さないようにするのは人権逆行どころか保護してるけど何か勘違いしてない?
166 23/09/26(火)15:49:45 No.1106049704
非殺傷分野で経験値を積むのって大事だと思うよ 救護ロボとか人命救助やろう
167 23/09/26(火)15:49:53 No.1106049725
>屁理屈こねて拡大解釈始めること想定しだすと何も命令できないよね 戦争は政治的行為の一環であって各国ができる限り自国に都合の良い法解釈を採用するんだから一律に解決できるわけもない でもそういう微妙な判断はAIには通じない
168 23/09/26(火)15:50:16 No.1106049800
>じゃあどういう状況でどこまでならいいの?を解決してやらないと判断不能になり続けるだけだよ 成文法があっても司法がそれをどう解釈するか厳密に予知できないから かなりマージンとった設定しないといけないよね
169 23/09/26(火)15:51:28 No.1106050061
例えば顔認識して強力なレーザー光を両目に撃ち込んで失明させるとかすれば 殺人を犯さなくても相手を無力化出来るし恐らくAI処理なら人間より得意分野になるだろう
170 23/09/26(火)15:53:28 No.1106050491
勝てばなにしてもいいわけじゃないからな 特に今は情報の流通も速くて人間の相互監視も強くなってるからやり過ぎると絶対足引っ張られるし
171 23/09/26(火)15:54:27 No.1106050717
>例えば顔認識して強力なレーザー光を両目に撃ち込んで失明させるとかすれば >殺人を犯さなくても相手を無力化出来るし恐らくAI処理なら人間より得意分野になるだろう 現実の話で言うならとっくの昔にレーザー目潰しは条約で禁止されてるよ!
172 23/09/26(火)15:54:42 No.1106050775
>殺さないようにするのは人権逆行どころか保護してるけど何か勘違いしてない? 人権による保護法益って人命だけじゃないよ 戦闘の状態にあるかないかわからかい判断がつきにくい状況で 相手の武装のみ攻撃したら戦闘外の敵の保護における 人命以外の保護法益を冒しかねない
173 23/09/26(火)15:55:37 No.1106050973
やはり人間…人間を使って戦闘をする…
174 23/09/26(火)15:56:15 No.1106051097
>人権による保護法益って人命だけじゃないよ >戦闘の状態にあるかないかわからかい判断がつきにくい状況で >相手の武装のみ攻撃したら戦闘外の敵の保護における >人命以外の保護法益を冒しかねない うん じゃあやっぱり殺す必要ないよね
175 23/09/26(火)15:57:39 No.1106051389
色々ゴタク並べても自律兵器に判断させて人を殺させる事で保護される事何も無いから じゃあ単純誘導兵器で責任は人間でいいじゃんとしかならない
176 23/09/26(火)15:58:21 No.1106051543
同種族同士で殺し合ってる状況が不合理だからな セックスバトルにしなさい
177 23/09/26(火)15:59:01 No.1106051674
AIが間違ってても結局責任取るのは人間だしな
178 23/09/26(火)15:59:41 No.1106051796
>>人権による保護法益って人命だけじゃないよ >>戦闘の状態にあるかないかわからかい判断がつきにくい状況で >>相手の武装のみ攻撃したら戦闘外の敵の保護における >>人命以外の保護法益を冒しかねない >うん >じゃあやっぱり殺す必要ないよね ……?ごめん論旨がわからない 目にうつる全てのものを武装解除マシンにするんだよね? たとえば敵対状況の構成要件に係る公然と武装に該当するかどうかわからない状態での 無差別武装解除は敵兵の権利問題逆行するよね?
179 23/09/26(火)16:00:09 No.1106051884
結局は何かのせいにできる物が欲しいだけなのかもしれない
180 23/09/26(火)16:01:05 No.1106052060
AIに責任負わせるためにはAIが自然人であるという根拠法を作るしかないな
181 23/09/26(火)16:01:50 No.1106052216
ファントム実証実験でガンダムが映ってるからハロロの事かと思った
182 23/09/26(火)16:01:52 No.1106052220
>……?ごめん論旨がわからない >目にうつる全てのものを武装解除マシンにするんだよね? >たとえば敵対状況の構成要件に係る公然と武装に該当するかどうかわからない状態での >無差別武装解除は敵兵の権利問題逆行するよね? 殺人と非殺傷を単一の兵器で判断して切り替えさせる必要がないんだから どちらかいずれかの機能に特化させた方がマシって話なんだけど理解せずに人権がとか言ってたの?
183 23/09/26(火)16:03:11 No.1106052494
戦争て得より損が大きいんだなって再確認した
184 23/09/26(火)16:04:44 No.1106052826
孫氏も消費激しすぎるんだから可能ならやらないほうがいいと言ってるし
185 23/09/26(火)16:05:16 No.1106052924
条約等に応じて敵の命を尊重すべき場面もって言ってるけど AIに殺していいって判断させなきゃいいだけの話だよ
186 23/09/26(火)16:05:47 No.1106053032
>こんなアホな事あるかよって言っても現実的に似たような事例はあるからな >https://gigazine.net/news/20230602-ai-enabled-drone-test-operation/ ポンコツすぎる…
187 23/09/26(火)16:06:12 No.1106053125
>>……?ごめん論旨がわからない >>目にうつる全てのものを武装解除マシンにするんだよね? >>たとえば敵対状況の構成要件に係る公然と武装に該当するかどうかわからない状態での >>無差別武装解除は敵兵の権利問題逆行するよね? >殺人と非殺傷を単一の兵器で判断して切り替えさせる必要がないんだから >どちらかいずれかの機能に特化させた方がマシって話なんだけど理解せずに人権がとか言ってたの? 待って欲しい目に映るすべてのものを武装解除するんだよね? 殺すよりマシって条約による権利遵守を破るかどうかと関係なくない? 最初から条約冒さず敵にハックもされずAIに判断させることの話をしてるんだけど…
188 23/09/26(火)16:06:38 No.1106053199
AIも少し設定ミスがあればその通りに間違うから兵器毎に専門家常につけとく必要あるしコストめっちゃかかりそうだな
189 23/09/26(火)16:07:12 No.1106053325
>待って欲しい目に映るすべてのものを武装解除するんだよね? >殺すよりマシって条約による権利遵守を破るかどうかと関係なくない? >最初から条約冒さず敵にハックもされずAIに判断させることの話をしてるんだけど… >条約等に応じて敵の命を尊重すべき場面もって言ってるけど >AIに殺していいって判断させなきゃいいだけの話だよ
190 23/09/26(火)16:08:33 No.1106053590
>>待って欲しい目に映るすべてのものを武装解除するんだよね? >>殺すよりマシって条約による権利遵守を破るかどうかと関係なくない? >>最初から条約冒さず敵にハックもされずAIに判断させることの話をしてるんだけど… > >>条約等に応じて敵の命を尊重すべき場面もって言ってるけど >>AIに殺していいって判断させなきゃいいだけの話だよ 非殺傷の武装解除が条約による敵兵の保護法益おかす場合あるよねっていう話をあげたのに また条約じゃなくて命の話に戻るの?
191 23/09/26(火)16:09:44 No.1106053813
AIなんかに戦争やらせる必要はないだろう 武器撃てばいいんだから
192 23/09/26(火)16:09:55 No.1106053856
>非殺傷の武装解除が条約による敵兵の保護法益おかす場合あるよねっていう話をあげたのに >また条約じゃなくて命の話に戻るの? 自分で言い出した話無視して話混ぜっ返したいだけなのか 途中から横槍入れて噛み合ってないのかどっちか知らんが話が通じない事だけは分かった