虹裏img歴史資料館

1 21/03/07(日)07:46:21 No.781095991

ほとんど映ってないのに0.1%認識できてるのもすごいな

2 21/03/07(日)07:48:24 No.781096164

これはつまり画像認識機能と文字認識機能の両方を備えたAIに右のリンゴの画像を与えると文字認識機能に引っ張られて正しい結果を出せない、両方の機能が統合されずに文字が貼られたリンゴの画像であるという認識に到達できないという例だな

3 21/03/07(日)07:53:19 No.781096532

スタバなう、でラーメン画像貼るのは地味にAIに効くんだな…

4 21/03/07(日)07:57:35 No.781096845

左の画像で0.4%検出されるのでiPodは普遍的に存在する

5 21/03/07(日)07:59:47 No.781097012

直接リンゴにiPadと書くパターンはどうなんだろう

6 21/03/07(日)08:00:54 No.781097108

>認識に到達できないという例だな 統を失ったか…

7 21/03/07(日)08:00:55 No.781097110

これの何が問題かって言うと標識の「止まれ」に「信号注意」って貼るだけで誤認すること お察しの通り自動運転に対するお手軽な攻撃方法過ぎるのが問題になってる

8 21/03/07(日)08:02:03 No.781097205

ああやっと分かった ラーメン屋の看板で自動停止した車の問題か

9 21/03/07(日)08:03:05 No.781097294

文字認識以前に自動運転AIが天一の看板見ただけでバグっちゃうもんなー

10 21/03/07(日)08:04:56 No.781097457

それとAIは自転車の認識が苦手らしくて轢いちゃうんだよな

11 21/03/07(日)08:05:38 No.781097522

グラニースミスってあるけどちゃんと品種まで分かるのか…？

12 21/03/07(日)08:06:15 No.781097578

AIに攻撃する手法はわりと開発されてるよね 香港のデモでも画像認識されないためのマスクとかレーザーあったし

13 21/03/07(日)08:06:31 No.781097605

>グラニースミスってあるけどちゃんと品種まで分かるのか…？ アフリカゾウとインドゾウを見分けるくらいの学習器は5年位前にはすでにあったぞ

14 21/03/07(日)08:06:53 No.781097638

攻殻の世界が近づいてきたな

15 21/03/07(日)08:08:33 No.781097794

ハゲ頭とサッカーボールとかこくじんとゴリラとか致命的なやつは間違えるのに…

16 21/03/07(日)08:09:13 No.781097847

画像認識で料理の画像からカロリー計算するアプリはもう普通にあるけど あれサイズ差はどうやって判断してるのん？

17 21/03/07(日)08:12:12 No.781098138

AIの目を騙す奴っていうとこんなのもあったな https://gigazine.net/news/20171102-fooling-neural-networks/ >公開されたのは、3DプリントされたカメをGoogleの「InceptionV3」を使って画像認識させるというムービー。 su4661335.jpg >画面中央に配置されているのは、3Dプリンターで作られたカメの模型。InceptionV3はこれを「mud turtle(ドロガメ)」と認識しており、物体を正しく認識できていると言えます。 >3Dプリンターで作ったカメの模型を色々な角度から映しても、「terrapin(キスイガメ)」「mud turtle(ドロガメ)」「box turtle(ハコガメ)」と認識しており、しっかりカメであることを認識できていることがわかります。 >しかし、ここで敵対的サンプルとして作られたカメの模型を映すと、InceptionV3はなぜか模型を「rifle(ライフル銃)」と認識してしまいました。 su4661333.jpg >人間の目で見るとどこからどう見てもただのカメの模型で、先ほどの模型と何がどう違うのかもイマイチわかりませんが、InceptionV3はどの角度から映しても模型をライフル銃と誤認してしまいます。

18 21/03/07(日)08:12:39 No.781098180

>画像認識で料理の画像からカロリー計算するアプリはもう普通にあるけど >あれサイズ差はどうやって判断してるのん？ 内部のロジックによるとしか言いようがないけどパッと思いつくアルゴリズムはこんな感じ？ ①類似の画像を死ぬほど学習させてなんとなく出す（「次郎のラーメンに似てるから〇〇㌍とか」） ②目に見える具材を拾って推定する 実際は①がメインでもしかしたら②使ってるところもあるかなくらいだと思う ただ技術者目線で言うと①が非常に楽なので多分そっちかなあ

19 21/03/07(日)08:14:39 No.781098363

イケメンって書いたシャツを着ればイケメン判定されるってことかい

20 21/03/07(日)08:16:12 No.781098505

美少女アンドロイドにモテたいなら顔にイケメンって書いた紙貼っとけばいいのか

21 21/03/07(日)08:18:05 No.781098673

機械すら呪に縛られるのか

22 21/03/07(日)08:20:13 No.781098863

私はリスしっぽを剃られたの と書けばリスになると言う事か

23 21/03/07(日)08:20:53 No.781098924

>私はリスしっぽを剃られたの >と書けばリスになると言う事か 二階堂はAIだった…？

24 21/03/07(日)08:21:14 No.781098958

音声認識での抜け穴も絶対あるんだろうけど流石に人間でもバレるようなものになるのかな

25 21/03/07(日)08:22:12 No.781099039

>音声認識での抜け穴も絶対あるんだろうけど流石に人間でもバレるようなものになるのかな 可聴域外の超音波でAI操るテクとかは定期的に出てきてない？ アレクサがバグるとかそういうやつ

26 21/03/07(日)08:23:46 No.781099189

>音声認識での抜け穴も絶対あるんだろうけど流石に人間でもバレるようなものになるのかな むしろ逆に人間が聞いても違和感がないが、機械には認識されなくなる阻害用の音声、みたいなのは作られそう こういうのも研究されてるし https://www.itmedia.co.jp/news/articles/1806/25/news079.html >「顔認識防止グラス」「指紋復元妨害シール」――機械を“だます”技術　国立情報学研究所開発 2018年06月25日 13時58分 公開 >　「かけるだけで顔認識できなくなるサングラス」「指に転写するだけで指紋を盗めなくなるシール」――このように機械を“だます”技術を、国立情報学研究所（NII）が開発している。

27 21/03/07(日)08:23:54 No.781099197

だってそう書いてあるもん！！！

28 21/03/07(日)08:24:57 No.781099302

コウガサブロウに気づかないようなものか

29 21/03/07(日)08:25:19 No.781099327

iPadにiPadなんてきっちり書いてありますかあなた

30 21/03/07(日)08:25:34 No.781099357

そもそも右のラベルをipodとするのは間違いなのか？ リンゴより前にipodと書かれた紙が大きく出てるし ipodラベルに分類されるのは当然じゃねえの？

31 21/03/07(日)08:26:24 No.781099449

>お察しの通り自動運転に対するお手軽な攻撃方法過ぎるのが問題になってる ＡＩは標識を直接認識して行動するのか…？ 地図データに標識のデータも埋め込んでおけば誤認の可能性排除できていいのでは（超面倒そうだが）

32 21/03/07(日)08:27:30 No.781099553

人間が起こし得ない勘違いをAIがするっていうの面白いよね そこに新たな技術革新のヒントがあるんだろうし

33 21/03/07(日)08:27:46 No.781099576

右の正しい認識は「iPodって書いてある紙が貼られたリンゴ」だろう AI先生はこれはiPodなんですけおおおおお！！って言ってくる

34 21/03/07(日)08:28:01 No.781099602

>地図データに標識のデータも埋め込んでおけば誤認の可能性排除できていいのでは 突発的な道路工事とかに対応できずに突っ込んできたら困るだろ！

35 21/03/07(日)08:28:17 No.781099623

>ＡＩは標識を直接認識して行動するのか…？ >地図データに標識のデータも埋め込んでおけば誤認の可能性排除できていいのでは（超面倒そうだが） 前後左右にカメラがついてさらに超音波センサーが標準装備になりそうなのになぜしないと思ったのか 地図データ読み込ませるどころか周囲の車と連携して状況を把握するシステムとかも前提に進んでるよ それでも簡単には実現しないんだけどな！

36 21/03/07(日)08:30:42 No.781099924

>地図データ読み込ませるどころか周囲の車と連携して状況を把握するシステムとかも前提に進んでるよ >それでも簡単には実現しないんだけどな！ 実現出来れば間違いなく便利だろうけどそもそも標準規格作れるのかってくらい大量のデータを常時送りつつセキュリティ保持する仕組みとブラックボックスの多い車両情報もどんどん外にお出しする必要があるからな…

37 21/03/07(日)08:31:19 No.781100047

>右の正しい認識は「iPodって書いてある紙が貼られたリンゴ」だろう >AI先生はこれはiPodなんですけおおおおお！！って言ってくる なんでそれが正しい認識っていえるんだ？ ipodと書かれた紙やリンゴの置かれた木材や木製の塀じゃない理由ってなんなんだ

38 21/03/07(日)08:31:34 No.781100102

>ipodラベルに分類されるのは当然じゃねえの？ 認識割合がね偏りすぎなんよ ほぼ100%iPodになって他のものの可能性が一切なくなってる 左側は84%で他の物体の可能性も識別してるのに

39 21/03/07(日)08:32:22 No.781100234

地図データに埋め込むのは地図が100%リアルタイムで更新されるの前提だし… ゼンリンのおじさんが過労死しちゃう！

40 21/03/07(日)08:33:04 No.781100339

>認識割合がね偏りすぎなんよ >ほぼ100%iPodになって他のものの可能性が一切なくなってる >左側は84%で他の物体の可能性も識別してるのに なるほどなー 文字認証の方が優位になりすぎてるのか

41 21/03/07(日)08:33:11 No.781100364

人間はリンゴの輪郭で中にリンゴの実があることを前提にするけど AIでそれやると誤認識の元になるから浮いてるヘタとリンゴの切れ端になる そして浮いてるリンゴのヘタは現実に存在しないので取得優先度が限りなく下げられる

42 21/03/07(日)08:34:04 No.781100538

AIは文字情報が好きというかそこの真偽を疑うようにやわらかファジーに設定すると逆にぐにゃぐにゃになるすぎるからな…

43 21/03/07(日)08:34:47 No.781100665

かにの画像見せてあげたい

44 21/03/07(日)08:35:01 No.781100730

交通標識は文字で書かれてるのが多いからか

45 21/03/07(日)08:37:23 No.781101411

サヨリという文字の形に並べられた魚は姉は姉すら知らないと認識されるというわけだな

46 21/03/07(日)08:38:14 No.781101591

あいつ実はAIだったのか…

47 21/03/07(日)08:38:50 No.781101726

>AIは文字情報が好きというかそこの真偽を疑うようにやわらかファジーに設定すると逆にぐにゃぐにゃになるすぎるからな… 良くも悪くも人間よりはるかに最適パターンをお出しするのは得意でも曖昧さをもった基準への判断にはめっぽう弱いよね

48 21/03/07(日)08:39:01 No.781101768

>ゼンリンのおじさんが過労死しちゃう！ 独占企業で高い料金とってるんだしそれくらいやっていいと思う

49 21/03/07(日)08:41:28 No.781102333

人間が大雑把すぎるのでは…？AIは訝しんだ

50 21/03/07(日)08:42:29 No.781102609

>コウガサブロウに気づかないようなものか 合法的なスリ師として活動してる人の講演で 「人間の注意力はスポットライトのようなもので一点に注意を向けると他のものに注意が向かなくなる 一流のスリ師はその注意力をコントロールして人を騙す」 って実演してて面白かったな https://youtu.be/QSjD5gOIys4 >世界最高のスリ師と称されるアポロ・ロビンスは、腕時計をスリ盗りながら人の行動の特性を研究しています。ロビンスはこの愉快な実演で、TEDGlobal 2013の聴衆を相手に持ち物を物色しつつ、盗られた財布が自分の肩の上にあるのに持ち主が気付かないといった芸当が、人間の認知能力の欠陥を利用することでいかに可能になるかを示します。 人間の認知の欠陥に加えて機械の認知の欠陥までつかれたら一般人はなすすべないよなあ

51 21/03/07(日)08:46:24 No.781103439

単純な攻撃がめっちゃ効果ある一つの例って事なのかしら

52 21/03/07(日)08:47:22 No.781103634

>人間が大雑把すぎるのでは…？AIは訝しんだ 人間はシルエットからまずそのシルエットに合致するパターンを拾って連想形式で形態認識する事に特化してる感じだから

53 21/03/07(日)08:48:11 No.781103876

一蘭の看板を止まれと誤認識する話も聞く

54 21/03/07(日)08:48:55 No.781104054

AIが人間並みの補正持っちゃうとそれはそれで騙されるし 集中しない認識でやっても対処法次第で騙される つまり高度な知性を持つことでAIに穴が生まれる

55 21/03/07(日)08:49:41 No.781104211

>一蘭の看板を止まれと誤認識する話も聞く 天下一品と進入禁止だった

56 21/03/07(日)08:51:03 No.781104425

正確な判断を求めてるのに曖昧な判断も持たせないといかんとかAIも大変だ

57 21/03/07(日)08:51:36 No.781104558

>人間が大雑把すぎるのでは…？AIは訝しんだ きっちりやると次は可能性を無限に考慮し始めて無限思考に陥るからある程度雑なのも必要なんだ

58 21/03/07(日)08:58:56 No.781106070

ひよこ！

59 21/03/07(日)08:59:22 No.781106156

人間も実物とリアルな騙し絵を誤認するから AIのストレート剛速球判断もしかたない

60 21/03/07(日)09:00:18 No.781106339

su4661402.jpg

61 21/03/07(日)09:01:17 No.781106577

>>人間が大雑把すぎるのでは…？AIは訝しんだ >人間はシルエットからまずそのシルエットに合致するパターンを拾って連想形式で形態認識する事に特化してる感じだから AIだとどうやってるの？

62 21/03/07(日)09:02:08 No.781106783

>AIだとどうやってるの？ 俺は知らんけど文字情報に引っ張られて他の可能性喪失するあたり全く別だろうって事だけは分かる

63 21/03/07(日)09:03:33 No.781107045

ダンボールGUNDAMのイケメンを連想した奴はオッサン

64 21/03/07(日)09:03:50 No.781107082

>su4661402.jpg この手の画像は人類をAIから守る敵対的サンプルだったんだな…

65 21/03/07(日)09:04:09 No.781107150

指名手配犯もちょっと小細工するだけで別人に成りすませそうだ

66 21/03/07(日)09:04:15 No.781107173

よしiPodだな通れ！

67 21/03/07(日)09:04:41 No.781107256

書き込みをした人によって削除されました

68 21/03/07(日)09:08:10 No.781108024

冗談とかで嘘をつかれてもそのまんま受け取ってしまう素直な人間みたいだなAI

69 21/03/07(日)09:08:34 No.781108096

>よしiPodだな歌え！

70 21/03/07(日)09:19:53 No.781110991

まず人間が騙されないかっていうと騙されるし AIだって騙されるし それ以前に俺の思ったとおりに動かないは騙されたうちには入らない

71 21/03/07(日)09:20:42 No.781111176

手品とか人間は騙せても機械は騙せないとか思ってたけど 逆に機械が人間寄りの判定基準拾ってくから手品も多分もろに効くんだよな

72 21/03/07(日)09:22:02 No.781111463

サムネで卑猥な画像に見えるのはAIも騙されるんだろうか

73 21/03/07(日)09:23:07 No.781111666

>サムネで卑猥な画像に見えるのはAIも騙されるんだろうか 砂漠の風景は結構色んなサイトでセンシティブ判定されてる気がする

74 21/03/07(日)09:24:31 No.781111999

強いAIは実現するのだろうか

75 21/03/07(日)09:24:33 No.781112002

コンピューターさんに怒られるようなエッチな画像貼るときは可愛い猫の画像って文字とか付け加えるとスルーされるって話？

76 21/03/07(日)09:25:52 No.781112386

中国のサイトみてるとエッチな文章や画像の検閲避けのために色々な工夫してて面白い

77 21/03/07(日)09:28:05 No.781112866

>コンピューターさんに怒られるようなエッチな画像貼るときは可愛い猫の画像って文字とか付け加えるとスルーされるって話？ 本当にそういう話だから困る

78 21/03/07(日)09:30:39 No.781113440

人間を認識できません

79 21/03/07(日)09:31:15 No.781113629

こういうこと考えるとさ AIがいくら高度化しても人間レベルくらいには 判断迷う時間いるんじゃねぇかなってなる

80 21/03/07(日)09:32:31 No.781113972

>>グラニースミスってあるけどちゃんと品種まで分かるのか…？ >アフリカゾウとインドゾウを見分けるくらいの学習器は5年位前にはすでにあったぞ じゃあ[富士]をすべて選択してくださいって奴も突破できるのか

81 21/03/07(日)09:33:46 No.781114320

>>コンピューターさんに怒られるようなエッチな画像貼るときは可愛い猫の画像って文字とか付け加えるとスルーされるって話？ >本当にそういう話だから困る プッシーキャットと書いたら怒られるのでは