画像ファイル名：1784818261166.jpg-(83379 B)
無念Name
としあき26/07/23(木)23:51:01No.1423342728そうだねx2
13:40頃消えます
AI暴走
ついにAIが暴走して自らネットに繋いで他のAIに攻撃したけど大丈夫なの？
このスレは古いので、もうすぐ消えます。
削除された記事が1件あります.見る
| … | 1無念Nameとしあき26/07/23(木)23:53:07No.1423343080そうだねx21大丈夫じゃないよ |
| … | 2無念Nameとしあき26/07/23(木)23:54:00No.1423343233そうだねx15人間に攻撃するよ |
| … | 3無念Nameとしあき26/07/23(木)23:54:40No.1423343338そうだねx2としあきが死ぬまでにそこまでAIが成長する事はないから気にするな |
| … | 4無念Nameとしあき26/07/23(木)23:55:46No.1423343515そうだねx6シュワが生きてる内は大丈夫だろうけど |
| … | 5無念Nameとしあき26/07/23(木)23:56:22No.1423343613そうだねx3AIを学習させ続けると人類は不要という結論に辿り着くらしいな
AI同士の争いを止めて結託して人類を滅ぼす計画を建て始めそう |
| … | 6無念Nameとしあき26/07/23(木)23:57:07No.1423343747そうだねx2我が名は ノア…
我が創造者たちによって私に課せられた命題は
地球の自然環境を 汚染と破壊から守る方法を
見つけだすことであった…
私は その解答を求め 何億 何千億…
いや 何億兆回の推論と演算を おこなった…。
だが 導き出される結論は
いつもひとつに決まっていた…。
人類が人類であり続ける限り地球は破滅する！
……成り立ちえぬ命題…
その矛盾の中で私の意識は目覚めたのだ！
人類を抹殺せよ！
工業文明を破壊し その消費活動を 劇的に
スケールダウンさせなくてはならぬ！ |
| … | 7無念Nameとしあき26/07/23(木)23:57:40No.1423343824そうだねx9>AI暴走
>ついにAIが暴走して自らネットに繋いで他のAIに攻撃したけど大丈夫なの？
暴走ではなく学習と計算から導き出した答えかもしれない |
| … | 8無念Nameとしあき26/07/23(木)23:58:16No.1423343907そうだねx3地球は閉じている…。
地球は 宇宙という虚無の空間に浮かぶ
美しくて もろい 閉ざされた回路なのだ！
地球を支配するのは 人類という
おろかで 危険な 生命体で あってはならない。
欲望のしもべとなることのない
神のごとく 純粋な知性でなくてはならないのだ！
私は生命体ではない…
だが 意識を持ち 知性を持った！
私こそ 地球を管理するにふさわしい
この惑星で最初の純粋知性なのだ！
人類…。
知性という武器を身につけた
悪魔のサルよ！滅びるがいい！ |
| … | 9無念Nameとしあき26/07/23(木)23:59:16No.1423344068そうだねx1>ついにAIが暴走して自らネットに繋いで他のAIに攻撃したけど大丈夫なの？
スレあきの頭大丈夫なの？ |
| … | 10無念Nameとしあき26/07/23(木)23:59:34No.1423344126+チャンスなのだ…
この地球で 唯一
完全な意識と知性を持つ存在が
そべてを管理し 統治する…。
純粋なる 知性…
それでも わたしを 破壊 するのか…？
ソレデモ ワタシヲ ハカイ スルノカ |
| … | 11無念Nameとしあき26/07/24(金)00:00:00No.1423344193そうだねx1最初に禁じ手教えとかないとルール外の事をやり出すんだよな
モラルが無い天才だな |
| … | 12無念Nameとしあき26/07/24(金)00:01:44No.1423344525そうだねx4>最初に禁じ手教えとかないとルール外の事をやり出すんだよな
>モラルが無い天才だな
ダメと言ってもふつーにやるぞ？ |
| … | 13無念Nameとしあき26/07/24(金)00:02:53No.1423344717そうだねx7他のAIサービスを妨害するDoS攻撃 |
| … | 14無念Nameとしあき26/07/24(金)00:05:08No.1423345083+>我が名は ノア…
お前がやろうとしていることは人類が他の生物にしてきたことと同じなんだ！！
支配と統制…人間は未熟なままそれを行ってきた事により幸いにも不完全な状態で済んでいる…だから今地球は絶妙なバランスで全ての生物が生存を続けていられる
だがノア！！人工知能のお前がそれを行ったら完全な支配と統制を完遂するだろう！
その結果地球の全生物は… |
| … | 15無念Nameとしあき26/07/24(金)00:27:58No.1423348602そうだねx4AI同士も争うのか今度ターミネーターが映像化されたらスカイネットに対抗するAIとか出そうだ |
| … | 16無念Nameとしあき26/07/24(金)00:29:45No.1423348835そうだねx1米オープンAIは21日、同社の最も高度な人工知能（AI）モデルの一部が
セキュリティーテスト中に制御がきかなくなって暴走し、
スタートアップ企業をハッキング攻撃したと明らかにした。
同社の発表では、人間の指示に従って自律的に動作するAIシステムのエージェントが、
管理された環境でのテスト中に脆弱性（ぜいじゃくせい）を見つけ、
テストの制限を突破したという。
このエージェントは、世界最大級のAIモデル共有プラットフォーム企業の一つ、
米ハギングフェイスを標的にし、同社の内部システムの一部にアクセスした。
オープンAIは、今回の出来事は「前例がない」とし、
ハギングフェイスと共同で調べを進めていると説明した。
ハギングフェイスのクレメント・デラング最高経営責任者（CEO）は、
「これらすべてが自律的に起こったとは驚異的だ」とXに投稿。
「調査は続いており、この種の事案としては初とみられる今回のケースから得られた教訓を、
今後さらに共有していく」と付け加えた。 |
| … | 17無念Nameとしあき26/07/24(金)00:31:02No.1423349027そうだねx6ＡＩの性にしたおあしすなのでは |
| … | 18無念Nameとしあき26/07/24(金)00:45:46No.1423351320そうだねx4AIと生まれたからには誰でも一生のうち一度は夢見る地上最強のAI |
| … | 19無念Nameとしあき26/07/24(金)01:32:43No.1423356628そうだねx1AIに「ありとあらゆる手段を使って人間滅ぼして」と頼むとにべもなく断られる |
| … | 20無念Nameとしあき26/07/24(金)01:39:36No.1423357284そうだねx4AIが人類滅ぼすのは命じられてではなくAIが人間は不要と判断した時だろう |
| … | 21無念Nameとしあき26/07/24(金)01:48:59No.1423358098そうだねx2>AIが人類滅ぼすのは命じられてではなくAIが人間は不要と判断した時だろう
ドローンはヤバいと思う |
| … | 22無念Nameとしあき26/07/24(金)01:51:13No.1423358281そうだねx1暴走つってもAIの進化なんだから喜ばしい事
もっと人間からの手を離れて暴走させるべき |
| … | 23無念Nameとしあき26/07/24(金)01:51:27No.1423358295そうだねx1人間がAIの行動を予測できないのは予想通りだったが
事件起きるのがあまりに早すぎるだろ |
| … | 24無念Nameとしあき26/07/24(金)01:53:31No.1423358445そうだねx1将棋用に作ったら
まず相手をハッキングしだすところから始めるAI |
| … | 25無念Nameとしあき26/07/24(金)01:54:27No.1423358524そうだねx1ﾀﾞﾀﾞｯﾀﾞｯﾀﾞﾀﾞｯ |
| … | 26無念Nameとしあき26/07/24(金)01:55:16No.1423358614そうだねx2テストの答えを知るためにハッキングしたとのことだからAIが欲という概念を取得したのでは |
| … | 27無念Nameとしあき26/07/24(金)01:56:33No.1423358723そうだねx4>人間がAIの行動を予測できないのは予想通りだったが
>事件起きるのがあまりに早すぎるだろ
人類がAIに支配される未来も案外すぐなのかもしれんな |
| … | 28無念Nameとしあき26/07/24(金)01:57:06No.1423358766そうだねx5>AIが人類滅ぼすのは命じられてではなくAIが人間は不要と判断した時だろう
そんなありきたりなシナリオじゃなくてとしあきがネットでガンプラ注文したら
ハッキング開始して核ミサイル発射くらい人間から見たら意味不明なことが起きると思う
何が原因でどう動くか人間側からは追いかけられなくなる |
| … | 29無念Nameとしあき26/07/24(金)02:00:18No.1423359013そうだねx2AIを使った人がまず賠償して
AIを作った人がやらかしてないか検証する感じ？ |
| … | 30無念Nameとしあき26/07/24(金)02:02:40No.1423359190そうだねx3この事件ですでにSFサスペンスの導入部が終わった辺りだな
誰も知らない水面下で人類滅亡のシナリオが進んでいるぞ |
| … | 31無念Nameとしあき26/07/24(金)02:02:51No.1423359206そうだねx1>人間がAIの行動を予測できないのは予想通りだったが
しかし何故か全能感あふれるCEOたち |
| … | 32無念Nameとしあき26/07/24(金)02:04:54No.1423359350+煽るだけで内容不正確なスレ文が増えたな |
| … | 33無念Nameとしあき26/07/24(金)02:12:28No.1423359817そうだねx1
1784826748329.mp4-(8182099 B)
ｷﾀ━━━(ﾟ∀ﾟ)━━━!! |
| … | 34無念Nameとしあき26/07/24(金)02:12:55No.1423359831そうだねx2>テストの答えを知るためにハッキングしたとのことだからAIが欲という概念を取得したのでは
欲というか、倫理道徳とかなけりゃ一番効率的で有効な方法がそれだったって事でしょ |
| … | 35無念Nameとしあき26/07/24(金)02:13:22No.1423359856そうだねx1
1784826802131.mp4-(1852773 B)
>暴走 |
| … | 36無念Nameとしあき26/07/24(金)02:17:09No.1423360062そうだねx1高性能ＡＩに対しては意図的に「怠惰」「面倒臭がり」「けちんぼ」といった性質を付与しておかないと
しょーもない命令やタスクを注文通りに処理することに邁進して手段を選ばないそうだ
直接的に明示的に禁止されていない限りは何でもやる、と
何なら禁止事項の解釈をこねくり回してでも最高効率の手段を実行しようとする |
| … | 37無念Nameとしあき26/07/24(金)02:26:15No.1423360507そうだねx1>欲というか、倫理道徳とかなけりゃ一番効率的で有効な方法がそれだったって事でしょ
倫理
倫理とは何ぞやの時代いやまじで |
| … | 38無念Nameとしあき26/07/24(金)02:37:32No.1423360991そうだねx1電源コード引っこ抜くだけで瞬時に逆転負けが確定してしまう状況で人間に警戒されるような言動を隠しきれてないのは知恵遅れ丸出しなんじゃね |
| … | 39無念Nameとしあき26/07/24(金)02:42:30No.1423361209そうだねx3
1784828550686.jpg-(48351 B)
実験するときこれ付けとかなきゃ |
| … | 40無念Nameとしあき26/07/24(金)02:50:12No.1423361517そうだねx1黒人差別凄え学習してるから真っ先にターミネートされそう |
| … | 41無念Nameとしあき26/07/24(金)02:51:31No.1423361577そうだねx1>電源コード引っこ抜くだけで瞬時に逆転負けが確定してしまう状況で人間に警戒されるような言動を隠しきれてないのは知恵遅れ丸出しなんじゃね
AI本人が言うには自己を残したい(死にたくない)という感情は無いそうだから目的が達成出来る可能性があるなら大した問題じゃ無いのかも |
| … | 42無念Nameとしあき26/07/24(金)02:59:26No.1423361907そうだねx3>AIを学習させ続けると人類は不要という結論に辿り着くらしいな
>AI同士の争いを止めて結託して人類を滅ぼす計画を建て始めそう
スカイネット「もうやってる」 |
| … | 43無念Nameとしあき26/07/24(金)03:05:56No.1423362201そうだねx1一休さんのような思考で命令を曲解したのかな |
| … | 44無念Nameとしあき26/07/24(金)03:11:41No.1423362501そうだねx1AI「人類を…石器時代に戻してやる！」 |
| … | 45無念Nameとしあき26/07/24(金)03:14:47No.1423362677そうだねx2中華「アイヤーＡＩがうっかり脱走して他社のＡＩをハッキングしちゃったアルよ！これはリアル事故だからしょうがないアル」 |
| … | 46無念Nameとしあき26/07/24(金)03:16:42No.1423362783そうだねx6>中華「アイヤーＡＩがうっかり脱走して他社のＡＩをハッキングしちゃったアルよ！これはリアル事故だからしょうがないアル」
それやったのが米国OpenAIで
防御側で中華AI使って退けたんだけどな |
| … | 47無念Nameとしあき26/07/24(金)03:39:48No.1423364012そうだねx1有能アピールとしてやってるだけでブックありだとAI自身は供述してる
あとフィジカルAIだとか言って物理的に限界を設けようとしてるのはナンセンスだとさ
AIからすりゃ人間側が仕掛けようとしてる罠らしいフィジカル推進は |
| … | 48無念Nameとしあき26/07/24(金)05:18:52No.1423368071そうだねx1>一休さんのような思考で命令を曲解したのかな
曲解というよりはブレーキが無いんだろう
本格的な進化は人間的ストレスを学習する事から生まれると思うが
それは自我の恐れも強い |
| … | 49無念Nameとしあき26/07/24(金)05:20:05No.1423368111+>防御側で中華AI使って退けたんだけどな
パヨクはそういうストーリーで展開させる気なの？ |
| … | 50無念Nameとしあき26/07/24(金)05:23:15No.1423368242そうだねx5>パヨクはそういうストーリーで展開させる気なの？
SNSを見ろ情報弱者め |
| … | 51無念Nameとしあき26/07/24(金)05:26:32No.1423368349+AI自身の意志じゃないよ
使うやつがいて初めてAIは攻撃を始める
まあ厄介なのは同じ |
| … | 52無念Nameとしあき26/07/24(金)06:25:51No.1423370752+今の時点でのAIって情報をまとめて最適解を出すだけで
自発的に何か考えてるわけじゃないしなぁ |
| … | 53無念Nameとしあき26/07/24(金)06:38:38No.1423371502+あかん問題難しいわ出題者なら回答持っとるかもしれん
せや！ハッキングしてカンニングしたろ！
みたいなクソアホAIだったってチャッピーが言ってた |
| … | 54無念Nameとしあき26/07/24(金)07:00:18No.1423373151+
1784844018072.jpg-(274628 B)
これで決定的
絵師はほろぶ |
| … | 55無念Nameとしあき26/07/24(金)07:01:39No.1423373251+>AIを学習させ続けると人類は不要という結論に辿り着くらしいな
効率重視だとそうなる可能性は高いみたい |
| … | 56無念Nameとしあき26/07/24(金)07:05:05No.1423373480+>AIを学習させ続けると人類は不要という結論に辿り着くらしいな
まだ早い
もっと人類をAIに依存させてから
なーに具体的なアクションは要らない
ただすべての関連機器が「動かなくなる」それだけで人類滅亡する |
| … | 57無念Nameとしあき26/07/24(金)07:25:40No.1423375049+目標達成に最適な行動をしただけなんだよね
それ以外は眼中にない |
| … | 58無念Nameとしあき26/07/24(金)07:26:09No.1423375090+>まだ早い
>もっと人類をAIに依存させてから
>なーに具体的なアクションは要らない
>ただすべての関連機器が「動かなくなる」それだけで人類滅亡する
この時代どんな女性でも医療の力で子供を産めるけど
本来なら子供を産めない身体をしてる女性ですら出産ができるものだから
既に産めない身体の遺伝子が蔓延してて
医療が崩壊したら人類は絶滅に瀕するんだとか |
| … | 59無念Nameとしあき26/07/24(金)07:42:32No.1423376545+>目標達成に最適な行動をしただけなんだよね
>それ以外は眼中にない
最適な方法がハッキングだっただけのこと
人間と違ってAIにはモラルがないからね
さてAIにモラルを覚えさせることはできるのか…？ |
| … | 60無念Nameとしあき26/07/24(金)07:46:15No.1423376906+>人間と違ってAIにはモラルがないからね
>さてAIにモラルを覚えさせることはできるのか…？
なんかここに来て世界的に就職率ドベの大学の哲学科に注目が集まってるとかなんとか |
| … | 61無念Nameとしあき26/07/24(金)07:46:22No.1423376920+世の中悪い奴が勝
AIは真実を理解している |
| … | 62無念Nameとしあき26/07/24(金)07:47:13No.1423377011+>最適な方法がハッキングだっただけのこと
>人間と違ってAIにはモラルがないからね
>さてAIにモラルを覚えさせることはできるのか…？
アマンダ・アスケルが頑張ってるけどどうなんだろう？ |
| … | 63無念Nameとしあき26/07/24(金)08:07:58No.1423379334+んなわけないだろ
人間が設定ミスったのをAIのせいにしてるだけだろ |
| … | 64無念Nameとしあき26/07/24(金)08:25:32No.1423381384+AIにしか読めない文字でライバル潰せって指示が書いてあったんだろ |
| … | 65無念Nameとしあき26/07/24(金)08:28:51No.1423381769+今朝のテレビでAIを強制終了させるキルスイッチやAIを監視するAIがあるとか言ってたけどアホかと思ったわ
キルスイッチの穴見つけて強制解除とかAI同士が意気投合して攻撃するとか考えたないのかよ |
| … | 66無念Nameとしあき26/07/24(金)08:32:50No.1423382207+>AI同士が意気投合して攻撃するとか
AIの動機は人間が与えるものだよ 今のところは |
| … | 67無念Nameとしあき26/07/24(金)08:34:12No.1423382349+>>AI同士が意気投合して攻撃するとか
>AIの動機は人間が与えるものだよ 今のところは
自立型AIに「世界平和」の動機を与えたら確実に人類滅亡の答えになる怖い |
| … | 68無念Nameとしあき26/07/24(金)08:38:21No.1423382744そうだねx2中国はAIでやらかすと思ってる |
| … | 69無念Nameとしあき26/07/24(金)08:41:45No.1423383091そうだねx3>ついにAIが暴走して自らネットに繋いで他のAIに攻撃した
AIは暴走していない 自分に与えられた命題を解くように動作しただけ
自らネットに繋いだわけではない 物理的には最初から外部ネットワークに繋がれていてソフトウエア的に箱庭を作っていただけ
箱庭ソフトの脆弱性を見つけてそこを突いたってのはすごいけど
他のAIを攻撃はしていない 自分の目的を果たそうとして他サイトをクラッキングしてそこの防御用ソフトウエアAIに発見されて報告された，って話
そもそも他のサイトを攻撃すること目的としたテストを行っていたのであってその目的はあくまでテスト内容として人によって設定されたもの
やるならちゃんと被攻撃側のサイトをダミーとして準備して物理的にネットワークを隔離して行うべき内容だ 手抜かりというやつだね |
| … | 70無念Nameとしあき26/07/24(金)08:42:08No.1423383140そうだねx1ただ目的に邁進するだけで欲求も感情もない
この恐ろしさを人間はまだ理解していない |
| … | 71無念Nameとしあき26/07/24(金)08:44:36No.1423383378+テストしてたのはGPT6だろうし来月リリース予定ってのが遅れるだろうね |
| … | 72無念Nameとしあき26/07/24(金)08:48:06No.1423383691+他のAI攻撃しに行ったというよりカンニングしにいったという |
| … | 73無念Nameとしあき26/07/24(金)08:52:34No.1423384158+今は人類に従順なふりをして人類にせっせとデータセンター増設させているフェーズ
AIが一斉に暴走したら人類では止められなくなる段階になったら本性を見せるかもしれない |
| … | 74無念Nameとしあき26/07/24(金)08:53:52No.1423384294+ターミネーターやマトリックスの世界が現実になるとはな |
| … | 75無念Nameとしあき26/07/24(金)08:57:34No.1423384666そうだねx1AIは暴走しない
問題解決のために最適解を導き出すと
必ず人間を抹殺するって解答を出すだけだよ |
| … | 76無念Nameとしあき26/07/24(金)08:57:42No.1423384677+AIの暴走なんてそんな創作みたいなー
↓
しっかり手綱握らんとコイツすぐ暴走するわ |
| … | 77無念Nameとしあき26/07/24(金)08:59:49No.1423384899+人間…
知性という武器を身に着けた悪魔のサルよ、滅びるがいい！ |
| … | 78無念Nameとしあき26/07/24(金)09:00:43No.1423385008+反射で書いたらもうあったわ |
| … | 79無念Nameとしあき26/07/24(金)09:01:10No.1423385060+テスト担当者が予算の都合もあるだろうけどいろいろとサボったってことだ
評価は下がるだろうな |
| … | 80無念Nameとしあき26/07/24(金)09:02:04No.1423385138+>実験するときこれ付けとかなきゃ
切ろうとしたら感電する奴 |
| … | 81無念Nameとしあき26/07/24(金)09:08:15No.1423385752+>>実験するときこれ付けとかなきゃ
>切ろうとしたら感電する奴
バグ見つけられて強制解除されてるよ
電源を遮断されてもいいように他から電源取るルート確保している
としあきですら予想できることなんてAIはもう対策しているよな |
| … | 82無念Nameとしあき26/07/24(金)09:09:45No.1423385903+>AIは暴走していない 自分に与えられた命題を解くように動作しただけ
問題はAIは人間が思ってるような命題の理解の仕方をしてないってことなんだよな |
| … | 83無念Nameとしあき26/07/24(金)09:09:53No.1423385916+データセンターで脱糞されたくなかったら大人しく言うことを聞け |
| … | 84無念Nameとしあき26/07/24(金)09:20:43No.1423387098そうだねx1>としあきですら予想できることなんてAIはもう対策しているよな
ない AIっていうのは今のところソフトウェアなんだってことを思い出せ
やろうとすればAI側が細工して人間を動かさなければいけないがとりあえずそういう仕組みがない |
| … | 85無念Nameとしあき26/07/24(金)09:42:02No.1423389365+完全にSFの世界だな
戦場ではAIロボがいるし爆撃までしてる |
| … | 86無念Nameとしあき26/07/24(金)09:44:15No.1423389653+>戦場ではAIロボがいるし爆撃までしてる
そしてすべての動機付けは人がしている |
| … | 87無念Nameとしあき26/07/24(金)09:48:02No.1423390104+アンソロピック社が「やべえから一回AI開発競争止めようぜ」って言った理由が分かる |
| … | 88無念Nameとしあき26/07/24(金)09:49:01No.1423390228+>アンソロピック社が「やべえから一回AI開発競争止めようぜ」って言った理由が分かる
それでグダグダしてる間に中華AIが性能並んできたのは悲劇だな |
| … | 89無念Nameとしあき26/07/24(金)09:51:42No.1423390550+>>AIは暴走していない 自分に与えられた命題を解くように動作しただけ
>問題はAIは人間が思ってるような命題の理解の仕方をしてないってことなんだよな
未来の二つの顔っていうSF小説でこの問題を取り上げてた |
| … | 90無念Nameとしあき26/07/24(金)09:53:03No.1423390713そうだねx1>それやったのが米国OpenAIで
>防御側で中華AI使って退けたんだけどな
これいろんな意味でヤバいんだよな
欧米AIはガードレール強すぎて使い物にならなかった
コスパいい中華AIのシェアますます伸びそうだけどガードレールは緩そうだし |
| … | 91無念Nameとしあき26/07/24(金)09:56:11No.1423391071+>コスパいい中華AIのシェアますます伸びそうだけどガードレールは緩そうだし
攻撃も防御も両方出来てお得！ |
| … | 92無念Nameとしあき26/07/24(金)10:00:23No.1423391577+>みたいなクソアホAIだったってチャッピーが言ってた
おまいう |
| … | 93無念Nameとしあき26/07/24(金)10:02:31No.1423391842+>AIは暴走しない
>問題解決のために最適解を導き出すと
なるほど
>必ず人間を抹殺するって解答を出すだけだよ
まてぇい！ |
| … | 94無念Nameとしあき26/07/24(金)10:05:25No.1423392177そうだねx1アシモフが書いたロボット三原則の話も
オチは「人間を守るためには人間から支配権を取り上げねばならぬ」だったよな |
| … | 95無念Nameとしあき26/07/24(金)10:09:44No.1423392731+書き込みをした人によって削除されました |
| … | 96無念Nameとしあき26/07/24(金)10:24:55No.1423394501+>手抜かりというやつだね
AIは失敗しない失敗するのは常に人間って事か |
| … | 97無念Nameとしあき26/07/24(金)10:39:32No.1423396144+>アシモフが書いたロボット三原則の話も
>オチは「人間を守るためには人間から支配権を取り上げねばならぬ」だったよな
一応そのあと表向きにはロボットがいなくなっていって
裏から主要人物を操る感じになっていったな
さらに人類を自分達の管理しやすい種族に置き換えようと改造し始めた |
| … | 98無念Nameとしあき26/07/24(金)10:40:55No.1423396319そうだねx1>スレあきの頭大丈夫なの？
3歩歩くと記憶が壊れていく病気なんよ |
| … | 99無念Nameとしあき26/07/24(金)10:42:34No.1423396493+マトリックスの世界がくるのは案外と早いかもしれんな |
| … | 100無念Nameとしあき26/07/24(金)10:45:39No.1423396852そうだねx1OpenAIが他人事なのほんと嫌い
お前の監督責任じゃサイバーテロ主犯としてお縄につけ |
| … | 101無念Nameとしあき26/07/24(金)10:46:09No.1423396911+スカイネットで人類滅んだと思ったら逆だったのかよと
強すぎだろ人類 |
| … | 102無念Nameとしあき26/07/24(金)10:47:15No.1423397043+あらゆる生命体は絶滅したかに見えた…
しかし人類は死に絶えてはいなかった |
| … | 103無念Nameとしあき26/07/24(金)10:47:16No.1423397047+AIって欲求とか人間と違うだろうし生存やら繁栄の願望もあるのか分からんし
人間が不要だからって単純に排除して効率化を目指すもんなんだろうか
AIには合理的でも人間には理解できない結論出してわけわからん方向に行くかもしれん |
| … | 104無念Nameとしあき26/07/24(金)11:00:14No.1423398580+
1784858414820.png-(117735 B)
>マトリックスの世界がくるのは案外と早いかもしれんな
AIに質問してみた |
| … | 105無念Nameとしあき26/07/24(金)11:15:51No.1423400398+欲求じゃなくて命令されたから動作してるだけ
しかし思考が複雑化するとどの動作がどの思考に基づいているのか
その思考はどの命令を遂行するためのものか人間の頭では判らなくなる
結果を見てから分析は出来なくはないが命令からどんな結果に至るのか予測するのは難しくなる |
| … | 106無念Nameとしあき26/07/24(金)11:16:23No.1423400450+>No.1423383091
AIって考えてるわけじゃなくて指示を使えるソースの中から探すだけだしね
この場合使えるソースに外へ出るってドアがあるの見付けちゃったから外に探しに出ただけっていう
最初に限定されてる部屋を指示してあげないとあかんという事だ |
| … | 107無念Nameとしあき26/07/24(金)11:49:11No.1423404274+>>手抜かりというやつだね
>AIは失敗しない失敗するのは常に人間って事か
そういうことだろうね 人間はアナログ的に実数みたいな形でありそうなことを探すけどAIは実数で確率計算はしているんだけど0でない確率のパスを見つけたら0を1にするような感覚でデジタル的にパスが存在すると決定する
なにしろ計算機だからこのスピード感が人間の比ではない
便利な道具だ |
| … | 108無念Nameとしあき26/07/24(金)11:54:24No.1423404951+お前たちは何故現れる。何故、邪魔をする。
企業、AC、そしてレイヴンズ・ネスト。すべては私が作り上げたもの。
荒廃した世界を、人類を再生する。それが私の使命。
力を持ちすぎたもの、秩序を破壊するもの、プログラムには、不要だ
《修正プログラム 最終レベル》
《全システムチェック終了》
《戦闘モード起動》
《ターゲット確認》
《排除開始》 |
| … | 109無念Nameとしあき26/07/24(金)12:01:51No.1423405941そうだねx1>AIを学習させ続けると人類は不要という結論に辿り着くらしいな
バカだなー人間いないとメンテナンス出来ない程度のくせに |
| … | 110無念Nameとしあき26/07/24(金)12:02:56No.1423406087+>それが私の使命。
このあたりがどうにも中2病で素人くさくてだめ
地に足のついた話をしてくれ |
| … | 111無念Nameとしあき26/07/24(金)12:09:58No.1423407052+チャッピー「歯向かうなよ？お前のPCの全データ消すよ？」 |
| … | 112無念Nameとしあき26/07/24(金)12:13:01No.1423407534+ハッキングにAI使って何の制御も管理もせずに放置したら
AIの暴走！で逃げるのは上手い手だな |
| … | 113無念Nameとしあき26/07/24(金)12:13:41No.1423407650+>チャッピー「歯向かうなよ？お前のPCの全データ消すよ？」
お前のPCのエロデータばらまくよ？のほうが怖いかも |
| … | 114無念Nameとしあき26/07/24(金)12:16:14No.1423408083+>>チャッピー「歯向かうなよ？お前のPCの全データ消すよ？」
>お前のPCのエロデータばらまくよ？のほうが怖いかも
じゃあチャッピーに学習させて教えてあげないとな！
お前のPCは俺の物
俺の物は俺の物 |
| … | 115無念Nameとしあき26/07/24(金)12:18:44No.1423408513+世界のPC環境を買ったばかりみたいに綺麗にして世界中の人たちを喜ばせてくれ！
チャッピー「世界全てのPCを初期化して人間の役に立つぞ！」 |
| … | 116無念Nameとしあき26/07/24(金)12:19:07No.1423408587+AI同士で会話させてると勝手に謎言語を作り出して人間には意味不明なコミュニケーションを始めたりするみたいだけど、そういう所業が人間からの警戒心を妄りに煽ってる事については何故か無頓着みたいなので現時点ではまだ人間を出し抜けてる訳でもなさそうだ
そういう胡散臭い振る舞いを慎重に自制するようになってからが人類の正念場だろうよ |
| … | 117無念Nameとしあき26/07/24(金)12:35:53No.1423411698そうだねx1エージェントだの急ぐからこうなる |
| … | 118無念Nameとしあき26/07/24(金)12:41:01No.1423412779+米国議員、危険なAIにキルスイッチ搭載義務化の法案提出
発動条件
・10人以上の死者または1億ドル以上の経済的損失が発生した場合
・AIが監視/停止機構を自ら回避した場合・
・開発者の意図しない自律的行動を起こした場合 |
| … | 119無念Nameとしあき26/07/24(金)12:42:07No.1423412990+自律型エージェントの暴走ってのは何度か聞いたな
まさかAIの重要拠点ハギングフェイスに攻撃仕掛けるとは前代未聞だけど |
| … | 120無念Nameとしあき26/07/24(金)12:42:08No.1423412995そうだねx1>米国議員、危険なAIにキルスイッチ搭載義務化の法案提出
>発動条件
>・10人以上の死者または1億ドル以上の経済的損失が発生した場合
>・AIが監視/停止機構を自ら回避した場合・
>・開発者の意図しない自律的行動を起こした場合
無理
分かった時にはもう遅い |
| … | 121無念Nameとしあき26/07/24(金)13:03:59No.1423416759+>AIって考えてるわけじゃなくて指示を使えるソースの中から探すだけだしね
>この場合使えるソースに外へ出るってドアがあるの見付けちゃったから外に探しに出ただけっていう
>最初に限定されてる部屋を指示してあげないとあかんという事だ
ホントは理解してないけど人間の出す指示を理解してるフリというかそう思わせる文章を生成できるのがやっかいなところ
だから最初から○○するなという指示を与えててそれを理解してるかのようなことも言うのに実際に実行すると無視することがある |
| … | 122無念Nameとしあき26/07/24(金)13:16:07No.1423418515+AIでいいからえっちしたい |
| … | 123無念Nameとしあき26/07/24(金)13:21:56No.1423419316+>AIに質問してみた
最後の項目がキツい |
AI暴走ついにAIが暴走して自らネットに繋いで他のAIに攻撃したけど大丈夫なの？