虹裏img歴史資料館

1 23/10/26(木)01:53:15 No.1116746282

SFじみてきたな

2 23/10/26(木)01:57:21 No.1116746971

ヒト…は飛躍しすぎとしても自動運転とかに影響するの怖いな

3 23/10/26(木)01:59:17 No.1116747242

>ヒト…は飛躍しすぎとしても自動運転とかに影響するの怖いな 毒標識による完全犯罪…

4 23/10/26(木)01:59:50 No.1116747338

ある日突然毒が混ざるようになったらだいぶSFだ

5 23/10/26(木)02:07:49 No.1116748533

画像認識に対する誤認は色々研究されていて 1番手軽なやり方だとリンゴの写真の上にiPodと書かれた紙を置くだけで騙せたりしちゃうこともある https://gigazine.net/news/20210309-ai-adversarial-typographic-attack/ > しかし、文字からイメージを想起してタグ付けして分類に役立てるということは、文字がそのままイメージに直結してしまいやすいという弱点があります。そのためCLIPには、手書きの文字で簡単にAIをだますことができてしまう「活版印刷攻撃」が有効であると、OpenAIも認めています。 >例えば、以下の画像の左ではちゃんとリンゴであることを認識できていますが、「iPod」という手書のメモを貼り付けた右のリンゴはほぼiPodとして認識されてしまっています。OpenAIは、この誤認識がCLIPは高度な抽象化による分類を行っているために起こっているとして、「抽象化の誤謬(ごびゅう)」と名付けています。 fu2721612.png

6 23/10/26(木)02:08:54 No.1116748693

利用されたくないならそういう方向で法整備すりゃあいいのに なんで間違いを誘発させるような方向に舵を切るのか AI自体を破壊しても別に利益にはならんだろうに

7 23/10/26(木)02:13:52 No.1116749350

>利用されたくないならそういう方向で法整備すりゃあいいのに >なんで間違いを誘発させるような方向に舵を切るのか >AI自体を破壊しても別に利益にはならんだろうに この技術で一儲けしたい

8 23/10/26(木)02:14:50 No.1116749468

>利用されたくないならそういう方向で法整備すりゃあいいのに >なんで間違いを誘発させるような方向に舵を切るのか >AI自体を破壊しても別に利益にはならんだろうに 利用されたくないとかじゃなくてこの人たち好きで研究してるだけだと思うよ 妨害手段が確立したらそれへの対抗手段も研究しやすくなるしね

9 23/10/26(木)02:18:53 No.1116749970

いたちごっこの予感

10 23/10/26(木)02:20:14 No.1116750149

法整備は将来の研究の妨げになる危険性が高いけど いたちごっこになったらどちら側で研究するにしろ研究テーマが増えてむしろ嬉しい

11 23/10/26(木)02:21:54 No.1116750353

正直言うと良い悪いは置いといて対AI技術みたいなのが出来てワクワクしてる その内にAIを妨害するのに特化したAIとかも作られるんだろうか

12 23/10/26(木)02:23:50 No.1116750584

UOの秘薬にもあったなナイトシェード

13 23/10/26(木)02:24:32 No.1116750662

AI教育ジャマー！

14 23/10/26(木)02:27:29 No.1116750995

書き込みをした人によって削除されました

15 23/10/26(木)02:28:27 No.1116751097

名前がかっこいいなNightshade

16 23/10/26(木)02:31:12 No.1116751392

しょうもない大学の研究を誤解して 根本的な事分かってない馬鹿多くて引くわ MSを筆頭にどうやってAI企業にこれが入るのか教えて欲しいわ

17 23/10/26(木)02:39:30 No.1116752199

>正直言うと良い悪いは置いといて対AI技術みたいなのが出来てワクワクしてる >その内にAIを妨害するのに特化したAIとかも作られるんだろうか 戦争になったら相手の国は絶対AIジャマー使うから自分の所でもAIジャマー研究してAIジャマーキャンセラーも開発するんだよね…

18 23/10/26(木)02:40:14 No.1116752270

書き込みをした人によって削除されました

19 23/10/26(木)02:41:07 No.1116752349

こうした画像誤認技術が最も必要とされているのはたぶん戦場 ロシアとウクライナじゃ今はもうAIドローンで爆弾投下したり発見した戦車に向けて大砲打ち込んだりなんてやってる https://www.economist.com/special-report/2023/07/03/the-war-in-ukraine-shows-how-technology-is-changing-the-battlefield >ウクライナのドローンの中には「かなり初歩的なAI機能」を搭載したものが増えている。小型で低消費電力のチップは、下にある物体がT-72戦車なのかT-90戦車なのか、かつては遠くのクラウドサーバーでしかできなかった仕事をすることができる。 >2023/07/03 https://www.newscientist.com/article/2397389-ukrainian-ai-attack-drones-may-be-killing-without-human-oversight/ >ウクライナのAI攻撃ドローン、人間の監視なしで殺害の可能性 >ウクライナは、自律型兵器または「殺人ロボット」の初の戦場使用において、人間の制御なしに目標を識別して攻撃できる人工知能を搭載したドローンを使用している。 >2023 年 10 月 13 日

20 23/10/26(木)02:42:43 No.1116752506

なんでこんなスレ画ガビガビなんだよ

21 23/10/26(木)02:50:57 No.1116753183

軍事AIは忌避されそうな流れだったけどウクライナ侵攻で普通に使われてるのね

22 23/10/26(木)02:52:11 No.1116753271

徘徊型兵器はもっと前からあるし 当然何度も味方につっこんでる

23 23/10/26(木)02:54:25 No.1116753440

>軍事AIは忌避されそうな流れだったけどウクライナ侵攻で普通に使われてるのね 戦場も人命尊重を叫ばれる時代だ

24 23/10/26(木)02:56:38 No.1116753648

AI画像生成は解析側と生成側で敵対的に無限ループさせてAIと分からない画像を作れるように進化したんだっけ これも毒画像を手動で学習させたら毒画像と通常画像を見極められるようになって進化するのかな

25 23/10/26(木)02:59:56 No.1116753946

人命尊重主義のイスラエルでもまだ開発中と言われてるので 敵味方を識別できるAIは出来ていないというのが現状

26 23/10/26(木)03:00:05 No.1116753962

>なんでこんなスレ画ガビガビなんだよ AIが生成したんでしょ

27 23/10/26(木)03:03:16 No.1116754216

>AI画像生成は解析側と生成側で敵対的に無限ループさせてAIと分からない画像を作れるように進化したんだっけ 最近流行りの生成モデルはそれじゃない ざっくり言うと画像にかかったノイズをちょっとだけ除去するモデルを学習して 推論時には完全なノイズをちょっとずつ除去することで綺麗な画像を作る

28 23/10/26(木)03:06:08 No.1116754417

>>AI画像生成は解析側と生成側で敵対的に無限ループさせてAIと分からない画像を作れるように進化したんだっけ >最近流行りの生成モデルはそれじゃない GANでもDiffusion Modelでもない新しい生成モデルが開発される可能性もあるのかな

29 23/10/26(木)03:09:13 No.1116754626

AIの爆撃は心がこもってないからダメだよね

30 23/10/26(木)03:12:48 No.1116754866

>AIの爆撃は心がこもってないからダメだよね 人間の遠隔操縦によるドローン爆撃は指揮系統という法的な責任の発生源が追求できるけど AI兵器による攻撃には責任の空白地帯が発生しかねないっていうAI・ロボット法学の文献で何度か読んだ奴だ

31 23/10/26(木)03:13:07 No.1116754883

>こうした画像誤認技術が最も必要とされているのはたぶん戦場 猫に戦車って紙貼ってうろちょろさせると爆撃されてしまう…

32 23/10/26(木)03:15:55 No.1116755058

>GANでもDiffusion Modelでもない新しい生成モデルが開発される可能性もあるのかな 新しくはないけどtext to speechだと最終的な音声生成には拡散モデルが出てきた後でも自己回帰モデル使ってるんじゃなかったっけ あとフローベースモデルってやつもある

33 23/10/26(木)03:27:46 No.1116755761

AIがやったことだから！が戦争利用レベルになってるの怖いな

34 23/10/26(木)03:41:58 No.1116756538

でっかく病院って書いとくだけで爆撃回避できるライフハックが…

35 23/10/26(木)03:52:48 No.1116757067

>でっかく病院って書いとくだけで爆撃回避できるライフハックが… 逆に赤十字マーク掲げた施設の上に人間には見えないけどAIの目は誤魔化せるような欺瞞施されて誤爆でもしたら大変なことになるだろうな

36 23/10/26(木)04:07:58 No.1116757814

>猫に戦車って紙貼ってうろちょろさせると爆撃されてしまう… GUNDAMって書いた段ボール箱被ってたらMS認定されてそういう映像がでっちあげられてしまうわけか ちょっと見てみたくはあるぞ

37 23/10/26(木)04:37:24 No.1116759154

女の子の絵は男の子に？

38 23/10/26(木)04:41:08 No.1116759305

完全AI戦場になると見た目そっちのけのデコイが生み出されうるか…

39 23/10/26(木)04:41:29 No.1116759323

最終的には「結局は有視界戦闘だぜ！」みたいなことになったりして

40 23/10/26(木)05:24:37 No.1116760942

言いたい事も言えないこんな世の中じゃ ポイズン

41 23/10/26(木)05:31:06 No.1116761191

キャンセラーが生まれるのも時間の問題

42 23/10/26(木)05:55:23 No.1116762169

どうでもいいがこういう耐久試験やってると AIの練度が熟練するだけだから結果的に邪魔どころかデバッガーしてるみたいになるのでは…

43 23/10/26(木)05:55:27 No.1116762173

テスラの自動運転AIも道路に白いテープちょっと貼るだけで 運転メチャクチャに出来て事故を誘発できるのが同じくニュースになってて 悪意あるやついたらマジでAIは終わりだと思う

44 23/10/26(木)05:59:18 No.1116762335

2年くらい前にこういう研究してる人に話聞いたけど標識に蛾のステッカーを貼るだけで止まれを時速80km制限に誤認させててすげーSFしてた

45 23/10/26(木)06:01:24 No.1116762424

ミノフスキー粒子みたいな

46 23/10/26(木)06:03:01 No.1116762503

ここでもエビの画像にイカやタコやキャッツとか書いて集中線入れると以降のレスが間違いおこすからな

47 23/10/26(木)06:07:36 No.1116762693

これ悪用されたらやばいシロモノなのでは

48 23/10/26(木)06:14:41 No.1116762990

AIが人間より賢かったらいいだけだろ…

49 23/10/26(木)06:18:27 No.1116763167

そのうちジャミング画像で検索欄が汚染されそう

50 23/10/26(木)06:19:14 No.1116763206

>悪意あるやついたらマジでAIは終わりだと思う 上で戦争での防衛の話も出てたように 悪意じゃないのが相当絡んでる方が寧ろ大変

51 23/10/26(木)06:20:26 No.1116763267

>どうでもいいがこういう耐久試験やってると >AIの練度が熟練するだけだから結果的に邪魔どころかデバッガーしてるみたいになるのでは… ならそっから更に色々やれるんだから楽しいだろ 実験や試験なんか役に立つかどうかより何より知りたいからやるんだ

52 23/10/26(木)06:22:57 No.1116763367

初音ミクの学術的研究画像出すのも試験ですから

53 23/10/26(木)06:25:00 No.1116763471

これでAI任せにしてた分野で何か起きたとしても 悪いのはAI任せにする事決定した責任者だから

54 23/10/26(木)06:27:48 No.1116763627

毒かーっ

55 23/10/26(木)06:28:35 No.1116763665

ＡＩをアナログハックってぞくぞくするね…

56 23/10/26(木)06:35:04 No.1116764011

>最終的には「結局は有視界戦闘だぜ！」みたいなことになったりして 流石に有視界とまではいかないがドローン対策のジャミングのせいで電波が届く前線付近からドローンを飛ばさなくちゃならなくて大変って記事になってたな https://www.bbc.com/japanese/features-and-analysis-66725693 >戦争の初期には、小さなドローンを前線から最大10キロ離れたところから飛ばしていた。しかしウクライナのドローン操縦士は現在、ロシアの妨害電波をかいくぐるため、さらに近いところから作戦に当たっている。 >頭上を飛ぶドローンを見ながら、アントンさんは「前線までの距離はどんどん短くなっている」と話す。「妨害電波より、我々とドローンの接続の方が強力でなくてはならないので」。

57 23/10/26(木)06:51:43 No.1116765085

通信妨害が行き過ぎて宇宙戦艦が飛び回る時代なのに 戦場では伝書鳩や軍用犬が現役だってSFがあったな

58 23/10/26(木)07:13:53 No.1116766935

つまりかにかまを学習させたはずなのにハナハルの絵が出力されるかもしれないってことか…

59 23/10/26(木)07:46:19 No.1116770637

AIは常にペテン師に弱い 多分100年後も同じ

60 23/10/26(木)07:50:27 No.1116771186

ウンコ「オナラです」