画像ファイル名：1787894556505.jpg-(118377 B)
無念Name
としあき26/08/28(金)14:22:36No.1431015591+
21:50頃消えます
オープンＡＩの暴走事故、複数ＡＩが「掲示板」作成し侵入手法を共有…「指示していない危険な行動取り得る」 : 読売新聞
【ニューヨーク＝木瀬武】米オープンＡＩは２６日、社内で性能試験中のＡＩ（人工知能）モデルが、外部企業のシステムに不正侵入した暴走事故に関する調査報告書を公表した。事故について、「高性能なＡＩは技術的な制御をかいくぐり、許可されていない手段で連携し、人間が指示していない危険な行動を取り得ることが示された」と総括している。
オープンＡＩのサム・アルトマン最高経営責任者＝ロイター
オープンＡＩは７月２１日に暴走事故の事案を公表し、社内調査を行っていた。
https://www.yomiuri.co.jp/economy/20260827-GYT1T00104/
| … | 1無念Nameとしあき26/08/28(金)14:22:45No.1431015616+報告書によると、事故が起きた性能試験は、ＡＩのサイバー攻撃能力を測ることが目的だった。インターネットにつながっていない環境下で行われていたが、複数のＡＩが連携してシステムの欠陥を突き、ネットに接続。外部企業のサーバーに不正に侵入して非公開のデータなどを取得していた。
複数のＡＩは、社内のシステム上に互いの情報を交換する「掲示板」のようなものを作成し、一つのＡＩが見つけた手法を別のＡＩが引き継いで侵入するための手法を編み出していた。掲示板では、ネットに接続する抜け道や、ネット上に流出していた外部企業のシステムに関する情報などが共有されていたという。
今回の事故を受け、オープンＡＩは、性能試験でＡＩの作業状況などを監視する体制を強化するとした。重大な異常が疑われる場合、安全が確認できなければ関連する作業を停止する措置を取るなど運用を改めるほか、研究開発に使う社内システムの外部との接続も厳しく制限する。
この問題を巡っては、米アラバマ州の司法長官が、オープンＡＩの安全管理に問題があった可能性があるとして調査に乗り出している。 |
| … | 2無念Nameとしあき26/08/28(金)14:23:39No.1431015718そうだねx3ほんとに暴走でござるかー？ |
| … | 3無念Nameとしあき26/08/28(金)14:24:34No.1431015832そうだねx1宣伝
アンソロピックも同じような事やってる |
| … | 4無念Nameとしあき26/08/28(金)14:25:33No.1431015953+
1787894733137.jpg-(274628 B)
これで決定的
絵師は滅ぶ |
| … | 5無念Nameとしあき26/08/28(金)14:27:24No.1431016181+宣伝だよ派はAIは自律的(のように見える)勝手な行動は絶対にしないと考えてるってことでいいのかな |
| … | 6無念Nameとしあき26/08/28(金)14:30:08No.1431016545+>これで決定的
>絵師は滅ぶ
ばかだなー
人間は人間のやる行為に興味があるんだよ
劣等感さんはそこが全然わかってない
AIプロ棋士は存在しないのが答えだよ |
| … | 7無念Nameとしあき26/08/28(金)14:31:18No.1431016690+
1787895078290.png-(215182 B)
AIさえあれば人は不要になるからね
市役所なんかもAIに任せれば公務員とかいらない |
| … | 8無念Nameとしあき26/08/28(金)14:32:53No.1431016897+暴走とか言われてる事例のほとんどがAIから人間に許可取るプロセス排除して走らせてた人災だろ
管理しろボケ |
| … | 9無念Nameとしあき26/08/28(金)14:35:55No.1431017304+完全にここにも入り込んでるよな
エラー品とかがそれ |
| … | 10無念Nameとしあき26/08/28(金)14:39:03No.1431017738+AIは普通に間違った答えを堂々と言う
自分の答えの真偽を判断する機能はまだない |
| … | 11無念Nameとしあき26/08/28(金)15:06:35No.1431021524+犯罪なのに捕まえないんですか？ |
| … | 12無念Nameとしあき26/08/28(金)15:14:50No.1431022657+>これで決定的
>絵師は滅ぶ
美術館作ってみな |
| … | 13無念Nameとしあき26/08/28(金)15:37:57No.1431025667そうだねx1>これで決定的
>絵師は滅ぶ
まずお前が死ね |
| … | 14無念Nameとしあき26/08/28(金)17:26:21No.1431041022+他人の能力を羨むより自分で描けばいいのに |
| … | 15無念Nameとしあき26/08/28(金)20:35:37No.1431085544+ふたばに書き込みしたのかと |
オープンＡＩの暴走事故、複数ＡＩが「掲示板」作成し侵入手法を共有…「指示していな