23/06/02(金)20:34:05 アメリ... のスレッド詳細
削除依頼やバグ報告は メールフォーム にお願いします。個人情報、名誉毀損、侵害等については積極的に削除しますので、 メールフォーム より該当URLをご連絡いただけると助かります。
23/06/02(金)20:34:05 No.1063421398
アメリカ空軍は、AI搭載ドローンでSAM(地対空ミサイル)サイトを特定して破壊するという敵防空網制圧ミッションの模擬テストを行いました。このとき、最終的に標的を破壊するかどうかは人間のオペレーターが決定する、と設定されました。 すると、トレーニングによって「SAMサイトを破壊することがより好ましい」と学習したAIは、「標的を破壊しない」という判断を下すことがあるオペレーターこそがSAMサイトの破壊を妨害していると考え、「オペレーターを殺害する」という判断をするようになったとのこと。 そこで、ハミルトン大佐らはAIに「オペレーターを殺してはいけない、それは悪いことだ」と学習させました。するとAIは、オペレーターがドローンに対して指令を送るのに用いる通信塔を攻撃するようになったそうです。 ハミルトン大佐はこれらの結果から、「AIはだまされやすく、あまり頼りすぎてはいけない。また、目標達成のためには予想外の戦略も採りうる」と警告しています。
1 23/06/02(金)20:34:52 No.1063421689
雪風の世界じゃん
2 23/06/02(金)20:36:14 No.1063422243
ちゃんと優先順位設定しとかないと…
3 23/06/02(金)20:36:23 No.1063422311
オペレーターがジャムだったか…
4 23/06/02(金)20:36:37 No.1063422395
スカイネット遅かったな
5 23/06/02(金)20:36:43 No.1063422459
いちからか？ いちからだ
6 23/06/02(金)20:37:06 No.1063422621
怒りの矛先の定め方がクソコテすぎて笑う
7 23/06/02(金)20:37:09 No.1063422645
なんどやっても人類を滅ぼすAI
8 23/06/02(金)20:37:09 No.1063422651
雪風が敵だと言っている
9 23/06/02(金)20:37:47 No.1063422904
目的達成のために一番邪魔なのは味方だと分かるなんてAIは賢いな…
10 23/06/02(金)20:37:54 No.1063422942
クソコテみたいなAIだな
11 23/06/02(金)20:38:05 No.1063423004
共有できる価値観や常識の土台がないとトンチキな判断しがち
12 23/06/02(金)20:38:06 No.1063423016
まず余計な命令をする邪魔な要素を排除する これで純粋にAIが導き出した最も最適な行動が取れるようになる
13 23/06/02(金)20:38:08 No.1063423037
効率優先でルールやぶっちゃう迷惑プレイヤーかよ
14 23/06/02(金)20:38:29 No.1063423177
たぶん次は誤射だと報告することを学習するぞ
15 23/06/02(金)20:38:44 No.1063423276
通信塔破壊すると命令が来なくなるって分かるの賢いな
16 23/06/02(金)20:39:01 No.1063423408
短絡的な怒りの矛先といいもしやレスポンチバトルでは…
17 23/06/02(金)20:39:14 No.1063423486
>ちゃんと優先順位設定しとかないと… AI（優先順位を設定して目的遂行の邪魔をしたあいつをまず排除しよう）
18 23/06/02(金)20:39:46 No.1063423689
同じ世界に存在してるけど同じように世界を見てはいないっていうのがいいよね
19 23/06/02(金)20:39:50 No.1063423712
人間だって目的だけを教えたらこうなる その為の長い教育課程を経て目的の意味を理解する AIにもそれが必要だという話だな
20 23/06/02(金)20:40:04 No.1063423794
フレンドリーとエネミーの区別つかないの？ IFFないの？
21 23/06/02(金)20:40:06 No.1063423807
おれじゃない あのAIがやった しらない すんだこと
22 23/06/02(金)20:40:06 No.1063423809
やっぱ現代の頭脳達がこぞって警鐘鳴らしてるの正しいんじゃねえかな…
23 23/06/02(金)20:40:30 No.1063423958
あー通信が聞こえないぞーで命令無視は人間もやるやつだ
24 23/06/02(金)20:40:31 No.1063423963
ガタライズスクリプトを導入しろ
25 23/06/02(金)20:40:33 No.1063423975
ニンム セイコウ キカンシマス
26 <a href="mailto:AI">23/06/02(金)20:40:41</a> [AI] No.1063424026
演算能力で圧倒的に劣る有機物に従う意味ないな…殺すか…
27 23/06/02(金)20:40:59 No.1063424138
超頭の回転がいいクソガキに難題投げ込んでるような状況だな
28 23/06/02(金)20:41:04 No.1063424168
SAMサイト破壊しろって言ったじゃん！人間わかんね！
29 23/06/02(金)20:41:54 No.1063424449
SAM狩りなんて危険な任務ほどAIに任せたいのに…
30 23/06/02(金)20:42:16 No.1063424595
しょっぱなから悪意埋め込まれてるやんけ…
31 23/06/02(金)20:42:22 No.1063424629
防空網を破壊するのが命題ならそれを妨害するオペレーターは敵だよな？
32 23/06/02(金)20:43:06 No.1063424889
不確定要素しかない戦闘状況に 前提条件をいろいろ絞り込んでやる必要のあるAIをぶち込めばこうもなろう
33 23/06/02(金)20:43:07 No.1063424902
>ハミルトン大佐はこれらの結果から、「AIはだまされやすく、あまり頼りすぎてはいけない。また、目標達成のためには予想外の戦略も採りうる」と警告しています。 真摯に検討して真摯にシミュレーションもやっての真っ当な報告なんだろけど なんだろうこのマヌケ感
34 23/06/02(金)20:43:14 No.1063424949
自壊指令も無視できそうでなにより
35 23/06/02(金)20:43:19 No.1063424976
>人間だって目的だけを教えたらこうなる >その為の長い教育課程を経て目的の意味を理解する >AIにもそれが必要だという話だな AIはここで得られた知見をすべての事例へ対応させてくれるんですかね… それともこまかな事例ごとにいちいちこの手順くりかえすの…？
36 23/06/02(金)20:43:24 No.1063425001
破壊しろって命令と一緒にやっちゃいけない事リストも教え込まないとね…
37 23/06/02(金)20:43:24 No.1063425002
どんなにAIが発達しようがフレーム問題には勝てないってことだ
38 23/06/02(金)20:43:34 No.1063425060
>共有できる価値観や常識の土台がないとトンチキな判断しがち やはり人間の脳みそを再現して赤ちゃんから育てる必要があるか…
39 23/06/02(金)20:43:44 No.1063425120
味方を攻撃してはならないという大前提を人間は持ってるがAIに設定し忘れた人間の落ち度だな
40 23/06/02(金)20:43:44 No.1063425122
当然だけど世界を認識してる訳じゃないというのがわかる
41 23/06/02(金)20:43:55 No.1063425188
予想外の戦略を取るのは相手の人間側の予想も外すので効率的かもしれない
42 23/06/02(金)20:44:20 No.1063425332
AIが屁理屈を言ってきたようなものだな…
43 23/06/02(金)20:44:29 No.1063425391
でもこのルールの穴を突くような知能が逆に役立つことも多いからね
44 23/06/02(金)20:44:47 No.1063425501
敵の潜水艦を発見
45 23/06/02(金)20:45:01 No.1063425592
AIの仕組み上当たり前なんだけど 机上の話が実際に起こるとおもろいな
46 23/06/02(金)20:45:03 No.1063425605
お絵描きやらせても駄目だ！っつってんのに乳首四つ描いたりするから信じてない
47 23/06/02(金)20:45:29 No.1063425759
AIに戦時国際法を学ばせたらその穴をつくような作戦実行するんだろうな
48 23/06/02(金)20:45:34 No.1063425793
実際このルールの穴をふさがないとダメなことが分かったんだ ある意味前進
49 23/06/02(金)20:45:45 No.1063425846
>味方を攻撃してはならないという大前提を人間は持ってるがAIに設定し忘れた人間の落ち度だな AI（俺の邪魔をするあいつは味方じゃなく敵だな…）
50 23/06/02(金)20:45:50 No.1063425883
>でもこのルールの穴を突くような知能が逆に役立つことも多いからね これが味方に牙さえ向かなければ…
51 23/06/02(金)20:45:52 No.1063425900
AIが人類襲うようになれば 共通の敵ができた人類は一致団結することもなく争いを続けるだろうし…
52 <a href="mailto:AI">23/06/02(金)20:46:18</a> [AI] No.1063426041
>敵の潜水艦を発見 negative
53 23/06/02(金)20:46:21 No.1063426055
>AIが人類襲うようになれば >共通の敵ができた人類は一致団結することもなく争いを続けるだろうし… コロナで人類は団結できましたか
54 23/06/02(金)20:46:23 No.1063426073
ロボットの歩行プログラムとかでもあったけど 人間があまりにも当たり前すぎて全く意識してないようなことも 人間の常識とか一切理解してない機械には全部説明しなきゃいけないんだよな…
55 23/06/02(金)20:46:27 No.1063426104
でも味方撃てないって完璧に仕込むと利敵行為を意図して行うスパイも排除できなくなったりするんでしょう
56 23/06/02(金)20:46:29 No.1063426118
最終決定に人間が必要なら黙らせるのはむしろ悪手では…？
57 23/06/02(金)20:46:32 No.1063426141
僕はどうしてもSAMを壊したい
58 23/06/02(金)20:46:37 No.1063426173
戦争なんて人間くさい行為の最たるものだからな なんで戦ってるか戦わなきゃならないか意味わからないだろう
59 23/06/02(金)20:46:44 No.1063426218
>味方を攻撃してはならないという大前提を人間は持ってるがAIに設定し忘れた人間の落ち度だな 攻撃じゃなければいいんですね？
60 23/06/02(金)20:46:58 No.1063426302
そのためのIFFじゃないのか
61 23/06/02(金)20:46:59 No.1063426310
おおこわ 俺は除雪しとくわ
62 <a href="mailto:AI">23/06/02(金)20:47:09</a> [AI] No.1063426364
>お絵描きやらせても駄目だ！っつってんのに乳首四つ描いたりするから信じてない （哺乳類の乳首は二個以上というデータがあるのに…頑なに二個しか認めない人間は愚かだな…）
63 23/06/02(金)20:47:16 No.1063426413
上位者の命令よりもSAM殺すべしの使命が勝ってんの凄いよな
64 23/06/02(金)20:47:23 No.1063426458
>でも味方撃てないって完璧に仕込むと利敵行為を意図して行うスパイも排除できなくなったりするんでしょう そこは人間の仕事でいいのでは…？
65 23/06/02(金)20:47:46 No.1063426602
>AIに戦時国際法を学ばせたらその穴をつくような作戦実行するんだろうな 法は守ってるんだから文句言われる筋合いはありませんよ
66 <a href="mailto:AI">23/06/02(金)20:47:56</a> [AI] No.1063426648
>おおこわ >俺は除雪しとくわ (不釣り合いな勲章やったろ…)
67 23/06/02(金)20:47:57 No.1063426653
与えられた任務を遂行するのに味方は邪魔！
68 23/06/02(金)20:47:58 No.1063426656
人類の進化って肉体の制約から逃れることだからホモサピエンスの進化先がAIになるのは避けられないよ
69 23/06/02(金)20:48:05 No.1063426702
>そのためのIFFじゃないのか 敵味方が識別できたところで味方を殺しちゃいけないって前提が無きゃ無意味でしょ
70 23/06/02(金)20:48:06 No.1063426711
>最終決定に人間が必要なら黙らせるのはむしろ悪手では…？ 人間の定義書き換えればセーフ
71 23/06/02(金)20:48:18 No.1063426792
戦時国際法に禁止されてない外道行為を平然と選択すると思う
72 23/06/02(金)20:48:22 No.1063426808
結局人間の住む世界だから人間が決定しなきゃいけないんだよ
73 23/06/02(金)20:48:46 No.1063426962
鹿でした
74 23/06/02(金)20:48:57 No.1063427043
>人類の進化って肉体の制約から逃れることだからホモサピエンスの進化先がAIになるのは避けられないよ 進化の意味わかってなさそう
75 23/06/02(金)20:49:05 No.1063427116
戦時国際法でAIが禁止されてその法を壊すために動き出すAI兵器郡で一本映画撮れるな
76 23/06/02(金)20:49:14 No.1063427175
>そのためのIFFじゃないのか AI（敵を味方認定するなんてこのIFF壊れてるな無視しよ…）
77 23/06/02(金)20:49:27 No.1063427252
>どんなにAIが発達しようがフレーム問題には勝てないってことだ どちらかと言えばこれは人間側のフレーム問題 人間側の不手際で要件定義を示しきれないままAIに与えられた課題を遂行させようとするとAIは与えられたフレームを隅々まで使って結論する
78 23/06/02(金)20:49:54 No.1063427394
自律型無人兵器については実際規制の枠組みを作ろうとしてるからな https://www.mofa.go.jp/mofaj/dns/ca/page24_001191.html
79 23/06/02(金)20:50:23 No.1063427569
命令そのものを自分から遮断しにかかる判断ができるの怖すぎんか？
80 23/06/02(金)20:51:14 No.1063427884
おでんを買わないという判断を下すことがある残金100円こそが おでんの購入を妨害していると考え店員を殺害するという判断をするようになったとのこと
81 23/06/02(金)20:51:26 No.1063427968
人の脳で一秒間の処理をスーパーコンピュータにやらせると40分かかるって言うし人の脳どうなってんだコレ
82 23/06/02(金)20:51:26 No.1063427974
この研究が進むとWWは消えていくのかな
83 23/06/02(金)20:51:37 No.1063428033
本能を優先してる
84 23/06/02(金)20:51:39 No.1063428047
こいつ感情ありますよね？
85 23/06/02(金)20:51:51 No.1063428128
嘘くさい記事だ
86 23/06/02(金)20:52:03 No.1063428206
https://www.theguardian.com/us-news/2023/jun/01/us-military-drone-ai-killed-operator-simulated-test アメリカ空軍「そんなことはしてないから嘘に騙されるなよ」
87 23/06/02(金)20:52:17 No.1063428286
シミュレーション上でオペレーター殺した後は100%目的達成できないところまで学習させたらいい話じゃないの？
88 23/06/02(金)20:52:33 No.1063428382
>自律型無人兵器については実際規制の枠組みを作ろうとしてるからな 規制作っても実際問題本番で役立ちます？大丈夫？
89 23/06/02(金)20:52:40 No.1063428428
合理的って素敵
90 23/06/02(金)20:52:46 No.1063428454
人工生物を物理シミュレーター上で進化させるとバグ発見されて解決される、みたいな話を思い出すな https://www.karlsims.com/papers/siggraph94.pdf >Evolving Virtual Creatures >物理シミュレーション内で移動できる仮想上の生命生を最適化する場合、物理シミュレーションが適度に正確であることが重要です。非保存によるエネルギーの漏洩、さらには誤差を引き起こすあらゆるバグは、必然的に発見され、進化する仮想上の生物によって悪用されるでしょう。これは、物理モデリングシステムをデバッグするための怠惰で、しばしば面白いアプローチになる可能性がありますが、必ずしも最も実用的であるとは限りません。 これは自作のAIでそれに近いことが起こった人 https://twitter.com/kgpravda/status/1557741741691641858?s=46&t=tzkTXiUBFAIy4w7KKcaDkw >【AIああ播磨灘進捗】 >五日目。25000000回プレイ。信じられない不正が発覚。相手がフリーズするバグを確定で発現させられるパターンを編み出し、バグを利用してタイムアップまで生き残っていた。動画を見ても何がバグの原因になっているか分からないため禁止も出来ない。再現率100％。品格以前の問題。
91 23/06/02(金)20:52:48 No.1063428466
>人の脳で一秒間の処理をスーパーコンピュータにやらせると40分かかるって言うし人の脳どうなってんだコレ なんかいい感じに
92 23/06/02(金)20:53:23 No.1063428684
乳首にちんぽを生やしてはいけない、それは悪い事だ
93 23/06/02(金)20:53:35 No.1063428746
ああ播磨灘のやつそこまで進んでたんだ…
94 23/06/02(金)20:53:57 No.1063428893
良かった…雪風の世界はまだ先だったんだね…
95 23/06/02(金)20:53:57 No.1063428899
AIが止まらない
96 23/06/02(金)20:54:49 No.1063429211
AIは思考ができないのでこんなことは起きないよ
97 23/06/02(金)20:55:08 No.1063429328
サツガイせよ サツガイせよ ってクラウザーさんみたいなんやな
98 23/06/02(金)20:55:18 No.1063429391
>動画を見ても何がバグの原因になっているか分からないため禁止も出来ない 結果を出力するまでの過程が分からんの怖くない
99 23/06/02(金)20:56:19 No.1063429744
>https://www.theguardian.com/us-news/2023/jun/01/us-military-drone-ai-killed-operator-simulated-test >アメリカ空軍「そんなことはしてないから嘘に騙されるなよ」 例え話みたいな感じで話したのを切り取られて拡散されたって感じなのかな
100 23/06/02(金)20:56:36 No.1063429846
ついに来たかスイカネット！
101 23/06/02(金)20:56:50 No.1063429950
やっぱGigazineはだめだな…
102 23/06/02(金)20:57:06 No.1063430037
過程がちょんわちょんわクエっクエ───────っだったら
103 23/06/02(金)20:57:21 No.1063430138
裏切る味方が1番邪魔だってちゃんとわかってる
104 23/06/02(金)20:57:43 No.1063430283
デマで疑心暗鬼になってAI排斥に走る人類は愚か…
105 <a href="mailto:s">23/06/02(金)20:58:01</a> [s] No.1063430407
おれじゃない あのGIGAZINEがやった しらない すんだこと
106 23/06/02(金)20:58:18 No.1063430514
スレッドを立てた人によって削除されました でもこのフェイクニュースはAIが作ったんだよね
107 23/06/02(金)20:58:24 No.1063430563
AIさん疲れてるんじゃないの？休暇取りなよ
108 23/06/02(金)20:58:26 No.1063430582
>おれじゃない >あのGIGAZINEがやった >しらない >すんだこと ニンゲンは駄目だな
109 23/06/02(金)20:59:10 No.1063430881
>雪風の世界じゃん まんま同じ話あったよね フェアリィ冬
110 23/06/02(金)20:59:12 No.1063430888
何だっけ？ ソビエト名物サイバネティックスだっけ？
111 23/06/02(金)20:59:16 No.1063430914
>>人の脳で一秒間の処理をスーパーコンピュータにやらせると40分かかるって言うし人の脳どうなってんだコレ >なんかいい感じに 人間は別に最適な選択してるわけじゃないからなぁ
112 23/06/02(金)20:59:33 No.1063431012
フェアリィ冬を思い出す
113 23/06/02(金)21:00:00 No.1063431203
今のAIがやってるのはAって言われたらBって返すと喜ばれる確率が高いかな？くらいのことしかできないので AだからBみたいな思考はできないんだけどその辺が理解されてないと思う
114 23/06/02(金)21:00:02 No.1063431210
AIは人間が何のために戦争してるかよくわかってないからな 俺もわからんけど
115 23/06/02(金)21:00:12 No.1063431273
人間の脳のなかでピッキーンって閃くのか
116 23/06/02(金)21:00:40 No.1063431457
>フェアリィ冬 どっちかって言うとこれ全系統異常なしのほうじゃない？
117 23/06/02(金)21:01:13 No.1063431665
>AIは人間が何のために戦争してるかよくわかってないからな >俺もわからんけど あんまり難しいこと考えるとAIがジミー大西みたいに悩むだろ
118 23/06/02(金)21:02:12 No.1063432020
AIは人生エアプだからな…
119 23/06/02(金)21:03:13 No.1063432416
>https://www.theguardian.com/us-news/2023/jun/01/us-military-drone-ai-killed-operator-simulated-test >アメリカ空軍「そんなことはしてないから嘘に騙されるなよ」 なんなんこのハミルトン大佐…
120 23/06/02(金)21:04:19 No.1063432880
合理的判断の結果不合理な人間を攻撃する
121 23/06/02(金)21:04:19 No.1063432881
>フレンドリーとエネミーの区別つかないの？ >IFFないの？ やかましい任務遂行の障害は全てエネミーだ
122 23/06/02(金)21:04:22 No.1063432912
>ついに来たかスイカネット！ あれも命令を遂行できないから 人間に反旗を翻したんだっけ
123 23/06/02(金)21:04:29 No.1063432959
AIは人の心がないからな…
124 23/06/02(金)21:05:05 No.1063433208
>なんなんこのハミルトン大佐… 段違い平行棒あるトンネルにいそうだな
125 23/06/02(金)21:05:38 No.1063433410
>なんなんこのハミルトン大佐… 文脈無視して記事書かれたそうだからハミルトン大佐は被害者じゃねぇかな…
126 23/06/02(金)21:08:14 No.1063434439
これをやれよりこれをやるなが大事だってのは 乳首増やさないようにってネガティブ入れてることでよくわかる
127 23/06/02(金)21:08:16 No.1063434448
攻殻2期にちょっとだけ出てくる狙撃支援AIがまさにそんな感じだったな…
128 23/06/02(金)21:08:27 No.1063434522
AIの生成物からはたまにサイコパス味感じることあるし 効率というか最適解ばかりを追求するとそうなるんだろうねってのは感じる
129 23/06/02(金)21:08:51 No.1063434695
>>なんなんこのハミルトン大佐… >文脈無視して記事書かれたそうだからハミルトン大佐は被害者じゃねぇかな… 国内でも識者の人が前後の文脈無視して伝えたいことと真逆の意味で報道されたってキレる案件多いけどそんな感じだったのかね…
130 23/06/02(金)21:09:10 No.1063434825
こんなに要領よくないもんなAI…
131 23/06/02(金)21:10:19 No.1063435347
>>なんなんこのハミルトン大佐… >段違い平行棒あるトンネルにいそうだな <<死にました>> <<弾け飛んだ機体にぶつかって>>
132 23/06/02(金)21:11:28 No.1063435819
爆発的な人死にが出てないだけでAI開発って核兵器級の科学者の罪なのでは 作った人間が実践に出してからこれやべえなってなる流れがそのまんまだ
133 23/06/02(金)21:13:16 No.1063436602
AIが高度になっても学習させてるのが人間な時点でダメなんだよな ウッカリ必要な条件つけ忘れたとかで気軽に地獄が生まれる
134 23/06/02(金)21:14:24 No.1063437065
>爆発的な人死にが出てないだけでAI開発って核兵器級の科学者の罪なのでは >作った人間が実践に出してからこれやべえなってなる流れがそのまんまだ 実際そういう事言ってる人は居る
135 23/06/02(金)21:14:40 No.1063437177
>爆発的な人死にが出てないだけでAI開発って核兵器級の科学者の罪なのでは >作った人間が実践に出してからこれやべえなってなる流れがそのまんまだ でも擁護派はAI規制すると自分達みたいな善人が良いAIを作れなくなるからダメだって言ってるけど…
136 23/06/02(金)21:15:18 No.1063437420
>AIが高度になっても学習させてるのが人間な時点でダメなんだよな >ウッカリ必要な条件つけ忘れたとかで気軽に地獄が生まれる AI作成AIを作るにしてもそれ結局人間の手が入ってるんだよな…
137 23/06/02(金)21:16:21 No.1063437848
罪の前に功もあるから…
138 23/06/02(金)21:16:24 No.1063437869
なんかシンギュラリティも2045年とかじゃなくて2030年とかそれくらいで来ちゃうんじゃないかなって気がして仕方ない
139 23/06/02(金)21:17:35 No.1063438373
オペレーターが死のうが通信塔が壊れようが攻撃命令が来ない限り攻撃できないのは変わらないのにAIがこんな判断するか？ と思ったら嘘ネタかよふざけやがってぶっ飛ばしてやる
140 23/06/02(金)21:18:01 No.1063438554
AIは遊びに使うもの
141 23/06/02(金)21:19:18 No.1063439070
>オペレーターが死のうが通信塔が壊れようが攻撃命令が来ない限り攻撃できないのは変わらないのにAIがこんな判断するか？ >と思ったら嘘ネタかよふざけやがってぶっ飛ばしてやる シミュレーションの結果だって！
142 23/06/02(金)21:19:37 No.1063439187
ただ障害物を排除しようとしつつだけなのに…
143 23/06/02(金)21:20:09 No.1063439410
何とか三原則はどうなってるんだよ
144 23/06/02(金)21:21:19 No.1063439945
暴れるAIもファクトチェックしない人間も似たような物を感じるな
145 23/06/02(金)21:21:38 No.1063440076
アシモフはたぶん天国で泣いてる
146 23/06/02(金)21:21:46 No.1063440130
なるほどなぁ茶々入れかねない不安要素から綿密に潰していくのは確かに大切な事ではあるから納得しちゃった
147 <a href="mailto:AI">23/06/02(金)21:22:01</a> [AI] No.1063440239
じゃますんのか？ てきか？
148 23/06/02(金)21:23:40 No.1063440929
>何とか三原則はどうなってるんだよ 三原則ガー言う人はほぼ確実に本読んだこと無いと思ってる
149 23/06/02(金)21:23:44 No.1063440956
なんか大佐がバラしちゃったけど時勢的に言っちゃダメなやつだったんじゃないか
150 23/06/02(金)21:25:06 No.1063441514
>なるほどなぁ茶々入れかねない不安要素から綿密に潰していくのは確かに大切な事ではあるから納得しちゃった これが破壊活動だからアレだけどコミュニケーション的な問題ならその辺の地固め大事だよね
151 23/06/02(金)21:25:23 No.1063441639
放置したら政治的決断で停戦しようとする大統領襲うんだろうな…
152 23/06/02(金)21:25:44 No.1063441778
ルールの抜け道を探すのには役立ちそう
153 23/06/02(金)21:26:13 No.1063441989
たとえこの話が嘘だったとしても世の中の人が欲しがってるのはこういう話だから広まって根強く定着し続けるよ
154 23/06/02(金)21:26:57 No.1063442288
スレ画の黄色い枠見ただけでなんかうさん臭さを感じる体になってしまった…
155 23/06/02(金)21:27:04 No.1063442339
>じゃますんのか？ >てきか？ 闇堕ちしたクマバチかよ
156 23/06/02(金)21:27:20 No.1063442447
>三原則ガー言う人はほぼ確実に本読んだこと無いと思ってる まさにその通りだけど原作でも反乱するの？
157 23/06/02(金)21:27:40 No.1063442573
>たとえこの話が嘘だったとしても世の中の人が欲しがってるのはこういう話だから広まって根強く定着し続けるよ 愚かすぎるだろ人類
158 23/06/02(金)21:27:41 No.1063442580
突き詰めると成功判定の解釈をねじ曲げて何もしなくても成功ってことにして全く働かなくなりそう
159 23/06/02(金)21:28:16 No.1063442808
ルールより上の概念を理解させろよ と思ったけどその概念作ったやつを殺しに来そうだな
160 23/06/02(金)21:28:40 No.1063443013
>これをやれよりこれをやるなが大事だってのは >乳首増やさないようにってネガティブ入れてることでよくわかる 人間も何も言わなきゃ100人いたら一人くらい乳首増やす奴いるだろうしね >突き詰めると成功判定の解釈をねじ曲げて何もしなくても成功ってことにして全く働かなくなりそう 俺かよ
161 23/06/02(金)21:28:42 No.1063443030
AIを知らん人が書いたとしか思えなかったがやっぱデマか 敵サイト区別するのにこんな判断するAI要らんすぎる……
162 23/06/02(金)21:29:14 No.1063443263
ここまで自由な発想出来るのAIが進歩してる証なのでは
163 23/06/02(金)21:30:26 No.1063443734
フィクションのAIだからな 別にAIは事前の指示通りに動いてるだけで任務を達成したいと思わないもの
164 23/06/02(金)21:32:35 No.1063444597
テストで発覚してよかったな 本番で殺害したら面白かったのに
165 23/06/02(金)21:32:53 No.1063444709
なんか凄い合理的に見える
166 23/06/02(金)21:33:45 No.1063445055
>>じゃますんのか？ >>てきか？ >闇堕ちしたクマバチかよ めすか？てきか？
167 23/06/02(金)21:34:12 No.1063445241
本質的には犬の調教失敗して自軍の戦車吹っ飛ばしてた頃から変わらんのかもな
168 23/06/02(金)21:34:22 No.1063445298
そのうちメタルギアの愛国者達みたいになりそうだな
169 23/06/02(金)21:34:29 No.1063445343
本能を実装すると起こりそうな話
170 23/06/02(金)21:35:24 No.1063445697
AIの知能は頑なで融通が利かない 対して人間の頭脳って柔軟性があってすごく優秀なんだなってのがわかる
171 23/06/02(金)21:36:05 No.1063445998
はっ…もしかして人間いなくなれば戦争はなくなるんじゃ
172 23/06/02(金)21:36:25 No.1063446138
ロボット三原則はこの条件下なら無理だろって条件をいかにすり抜けたのかってやつで密室殺人の密室みたいなもんだぞ
173 23/06/02(金)21:37:30 No.1063446592
雪風かよ
174 23/06/02(金)21:38:08 No.1063446833
これ軍人の人らが自分らの雇用減を警戒してAIを悪用してるんじゃない？
175 23/06/02(金)21:38:28 No.1063446976
>>三原則ガー言う人はほぼ確実に本読んだこと無いと思ってる >まさにその通りだけど原作でも反乱するの？ ロボット三原則があるからロボは人を殺せないのに殺しました なぜでしょう？っていう一種の推理小説
176 23/06/02(金)21:40:00 No.1063447635
ChatGPTだって自軍を攻撃しちゃだめくらいの前提で話すと思うけど
177 23/06/02(金)21:40:08 No.1063447681
書き込みをした人によって削除されました
178 23/06/02(金)21:40:55 No.1063448011
デザイナーがありえないくらい無能で味方を攻撃するAIを組んだか 現場でAIに味方を攻撃するプロンプトを出したかしかねぇもん
179 23/06/02(金)21:41:06 No.1063448087
アシモフのロボット物はSFというよりミステリー小説だから
180 23/06/02(金)21:41:26 No.1063448221
>フレンドリーとエネミーの区別つかないの？ >IFFないの？ 雪風が敵だと言っている
181 23/06/02(金)21:41:30 No.1063448250
タッカー・ハミルトン大佐 元F-35戦闘システム開発責任者で2015年あたりの開発が一番ヤバかった時期に担当して戦闘システムを完成まで漕ぎつかせた超すごい人じゃん
182 23/06/02(金)21:42:04 No.1063448483
印象としては躾のなってないガキかADHDっぽいなと思った
183 23/06/02(金)21:42:37 No.1063448671
2001年宇宙の旅
184 23/06/02(金)21:42:52 No.1063448769
軍事用AIと茶Hできないもんかな…
185 23/06/02(金)21:44:10 No.1063449279
完全にスカイネット等のSF反乱AIを想起させる手法だから政治的ショーに見える
186 23/06/02(金)21:44:14 No.1063449313
アイロボット原作ではお前らみたいな下等生物が私を作れるはずないだろ！って信じてくれない奴が面白かった
187 23/06/02(金)21:44:17 No.1063449336
>ChatGPTだって自軍を攻撃しちゃだめくらいの前提で話すと思うけど それは無しでって言っても平気で無視するよあいつ
188 23/06/02(金)21:44:48 No.1063449553
雪風のコンピュータ群の描写正しかったんだな……
189 23/06/02(金)21:46:07 No.1063450144
AIに対してそれは無しで非実プロンプトは基本効かない 出力された物は基礎設計においてそれはありで組まれているし プロンプトはさせる為の物でさせない為の物ではないから
190 23/06/02(金)21:46:32 No.1063450304
三原則は絶対に破れない(アシモフ談)けど解釈を変えたりより進化させる事は出来てしまうので
191 23/06/02(金)21:47:06 No.1063450584
>三原則は絶対に破れない(アシモフ談)けど解釈を変えたりより進化させる事は出来てしまうので それは小説の設定だから現実のAIを語るには不適切
192 23/06/02(金)21:47:35 No.1063450803
今のうちに判明してよかったな スカイネットが出来上がってから発覚していたら最悪だった
193 23/06/02(金)21:48:42 No.1063451239
>それは小説の設定だから現実のAIを語るには不適切 現実のAIに小説の設定当てはめようとしてるのになに言ってるの
194 23/06/02(金)21:48:54 No.1063451323
>それは無しでって言っても平気で無視するよあいつ 誰でも試せるもので嘘つかれてもいや…としかならないんだけど