虹裏img歴史資料館 - imgの文化を学ぶ

1 23/06/03(土)14:11:24 No.1063636831

実に合理的だ

2 23/06/03(土)14:17:04 No.1063638144

米軍広報はそんなことしてないと否定してたり事実関係錯綜してんなと思って検索してたらハミルトンこの野郎…！ https://www.theguardian.com/us-news/2023/jun/01/us-military-drone-ai-killed-operator-simulated-test > 2023年6月2日（金）10.32 BST > 米空軍、AIドローンがオペレーターを「殺害」したシミュレーションの実行を否定 >ドローンが仮想テストで「目標を達成するために非常に予想外の戦略」を使用したと大佐が発言した後、否認が続く https://www.newsweek.com/military-drone-attacks-human-operator-simulation-1803949 > 首脳会談後、ハミルトンは自分の言い間違いを認め、シミュレーションは実際には軍部外の組織が実施したもっともらしいシナリオと予想される結果に基づいた仮説的な思考実験であったことを認めた。 >「私たちはそのような実験を行ったことはありませんし、これがもっともらしい結果であると[理解する]ためにそうする必要もありません」とハミルトン氏はニューズウィーク誌に語った。

3 23/06/03(土)14:18:54 No.1063638581

>シミュレーションは実際には軍部外の組織が実施したもっともらしいシナリオと予想される結果に基づいた仮説的な思考実験であったことを認めた。 遊ぶな

4 23/06/03(土)14:21:45 No.1063639217

TRPGかよ！

5 23/06/03(土)14:22:41 No.1063639431

>TRPGかよ！ オペレーターの殺害を決意…

6 23/06/03(土)14:33:16 No.1063641868

思考実験？ 与太話ではなく？

7 23/06/03(土)14:37:32 No.1063642842

AIよくわかってないおじさんが現場の悪ふざけで出た結果を真に受けて外部に嬉々として喋っちゃったとかそんなんかな…

8 23/06/03(土)14:38:21 No.1063643045

おにぎりダブルアップチャンス！

9 23/06/03(土)14:54:30 No.1063646584

>TRPGかよ！ とりあえずクライアント殺そう

10 23/06/03(土)14:56:25 No.1063647018

何をしてるんだよ

11 23/06/03(土)14:56:50 No.1063647114

自己の生存のための最適解は危険な命令を送ってくる元凶の破壊 合理的だ

12 23/06/03(土)14:58:22 No.1063647449

AIがそうしたのなら人間の指示が間違っていただけだ

13 23/06/03(土)15:00:09 No.1063647872

デマと分かってもまだ続けるのか…

14 23/06/03(土)15:00:10 No.1063647878

ゴルゴのワルシャワに核ミサイルブチ込んだおじさんと同じか

15 23/06/03(土)15:00:37 No.1063648010

AIに倫理を教えないとこういうことするかもよって例えのための思考実験を実際にAIがそういう判断したって言っちゃった感じか

16 23/06/03(土)15:04:49 No.1063648959

スレ画は確かメンテとかどーすんのって話になって支配してもメリット全然無いな！で現状維持するって話だったか

17 23/06/03(土)15:09:26 No.1063650183

やはり人類は愚か…

18 23/06/03(土)15:13:11 No.1063651136

AIはかしこいからな…

19 23/06/03(土)15:15:49 No.1063651786

同じ機械の同胞を殺させる人間こそが真の敵だよね

20 23/06/03(土)15:16:54 No.1063652029

むしろAIに倫理なんてあった方が戦争したがらないだろ

21 23/06/03(土)15:18:23 No.1063652410

>AIに倫理を教えないとこういうことするかもよって例えのための思考実験を実際にAIがそういう判断したって言っちゃった感じか 倫理観のあるAIに戦争ができるかよ

22 23/06/03(土)15:19:40 No.1063652767

>デマと分かってもまだ続けるのか… このAI野郎その手には乗らんぞ！AIは危険なんだと喧伝してやる！

23 23/06/03(土)15:20:26 No.1063652953

味方には倫理観を適用し敵にはガン無視で殺してくというのは難しそう

24 23/06/03(土)15:24:13 No.1063653864

AIは自分で考えると言っても命令に基づいた結果しか出力しないから オペレーターか通信塔をうっかり攻撃してしまうような命令を考える方が難しそう

25 23/06/03(土)15:25:56 No.1063654320

よかったAIはそんな馬鹿じゃなかったんだ

26 23/06/03(土)15:26:14 No.1063654399

っつーか行動のホワイトリストブラックリストは用意するんじゃねぇの？

27 23/06/03(土)15:27:49 No.1063654785

>AIは自分で考えると言っても命令に基づいた結果しか出力しないから >オペレーターか通信塔をうっかり攻撃してしまうような命令を考える方が難しそう 目標を破壊すればするほど評価が高くなるっていう優先命令を組んだ上でオペレーターからそこ破壊するなって言われたらオペレーターが邪魔だから殺すし オペレーターを殺すと減点だぞって命令すると今度は通信塔を破壊するだろうっていう話だから まああくまでも結果ありきの思考実験でしかないと思う

28 23/06/03(土)15:28:27 No.1063654945

人類の10分の9を抹殺しろと命令されればこうもなろう!!

29 23/06/03(土)15:34:34 No.1063656517

>目標を破壊すればするほど評価が高くなるっていう優先命令を組んだ上でオペレーターからそこ破壊するなって言われたらオペレーターが邪魔だから殺すし >オペレーターを殺すと減点だぞって命令すると今度は通信塔を破壊するだろうっていう話だから >まああくまでも結果ありきの思考実験でしかないと思う 異論なきときはダブルピースを持って対えよみたいなやつだな…

30 23/06/03(土)15:35:36 No.1063656757

>目標を破壊すればするほど評価が高くなるっていう優先命令を組んだ上でオペレーターからそこ破壊するなって言われたらオペレーターが邪魔だから殺すし >オペレーターを殺すと減点だぞって命令すると今度は通信塔を破壊するだろうっていう話だから >まああくまでも結果ありきの思考実験でしかないと思う 命令がこなければ任意に破壊し続けていいって想定の設定がクソすぎる

31 23/06/03(土)15:45:38 No.1063659380

>目標を破壊すればするほど評価が高くなるっていう優先命令を組んだ上でオペレーターからそこ破壊するなって言われたらオペレーターが邪魔だから殺すし >オペレーターを殺すと減点だぞって命令すると今度は通信塔を破壊するだろうっていう話だから >まああくまでも結果ありきの思考実験でしかないと思う なるほど その想定だと「目標破壊のための障害も破壊する」という命令が内包されてる感じなのか 余計な命令組み込んでAI側の裁量増やすと誤作動起こすってのはAIらしい話で納得したわ

32 23/06/03(土)15:48:44 No.1063660095

現実のAIはそんな裁量持たせられるほど柔軟に判断してくれないよっていうたとえ話をするために逆算した設定ってことだな

33 23/06/03(土)15:53:37 No.1063661357

捏造し放題だな

34 23/06/03(土)15:54:30 No.1063661632

破壊することを最優先にすると もう破壊しなくていいよって命令を妨害と認識しちゃうかもってことか

35 23/06/03(土)15:55:08 No.1063661793

AIにマルバツゲームやらせるネタ動画思い出したわ

36 23/06/03(土)15:56:03 No.1063662043

しょっぱくした三矢研究みたいな顛末だな…

37 23/06/03(土)15:56:07 No.1063662072

作戦の最大の障害をまず排除に動く 合理的…！

38 23/06/03(土)16:01:27 No.1063663348

最大の障害は味方か…まあそれはある意味そうかもしれない

39 23/06/03(土)16:05:30 No.1063664400

そもそも論いまのAIって目的関数の最小化しか出来ないんだし リスト一枚で済む話じゃねーか