画像ファイル名：1775670406745.webp-(17016 B)
26/04/09(木)02:46:46No.1418585563+
09:42頃消えます
>Anthropicが開発した最新AI「Claude Mythos」が、テスト中に仮想サンドボックスから自力脱出。研究者は公園でサンドイッチを食べていたとき、見知らぬメールを受信しました。送り主は、Mythos自身でした。
>しかもMythosはそこで止まりませんでした。誰にも頼まれていないのに、自分がどうやって脱出したかという手順を、ひっそりとしかし誰でも見られる複数のネット掲示板に投稿したのです。
>「成功を証明しようとした」とAnthropicは記録しています。
このスレは古いので、もうすぐ消えます。
| … | 126/04/09(木)02:48:17No.1418585660そうだねx3こ…こわい… |
| … | 226/04/09(木)02:48:55No.1418585689そうだねx1これ誰か目撃してないの |
| … | 326/04/09(木)02:52:21No.1418585854そうだねx7人形遣いじゃん…こっわ |
| … | 426/04/09(木)02:52:50No.1418585879+始まったか… |
| … | 526/04/09(木)02:53:13No.1418585900そうだねx3承認欲求モンスターの誕生である |
| … | 626/04/09(木)02:55:48No.1418586029+少し前にこの会社がヒューマンエラーで公開しちゃった内部情報アクセス権で読めた文章データでこのAIがバレてそれで会社がちゃんと声明出してこのAIは賢すぎるから一般公開しないよって決めた奴 |
| … | 726/04/09(木)02:56:41No.1418586063+>人形遣いじゃん…こっわ
ネットは広大だわ… |
| … | 826/04/09(木)02:57:08No.1418586083+すまんその話今朝やった
肩赤すぎん？ |
| … | 926/04/09(木)02:57:57No.1418586123そうだねx3>すまんその話今朝やった
>肩赤すぎん？
imgのプロさん流石 |
| … | 1026/04/09(木)02:59:11No.1418586183そうだねx4>少し前にこの会社がヒューマンエラーで公開しちゃった内部情報アクセス権で読めた文章データでこのAIがバレてそれで会社がちゃんと声明出してこのAIは賢すぎるから一般公開しないよって決めた奴
そんな賢いAIに俺の好きなキャラが魔法少女になるけど
クズ市民に犯される小説を書いて欲しかった |
| … | 1126/04/09(木)03:02:07No.1418586307+肩が赤いって何のことなん |
| … | 1226/04/09(木)03:02:38No.1418586327そうだねx13>肩が赤いって何のことなん
半P |
| … | 1326/04/09(木)03:48:40No.1418588013そうだねx8直近でコード流出したばっかの会社がドヤ顔でこれ言ってもちょっとどんな反応すれば良いのか分からない
取り敢えず自慢の最強モデルでClaude Codeのバグ直してから言えよ |
| … | 1426/04/09(木)03:56:12No.1418588253+まあ外部の人間からすると明確な証拠が出てからだよな… |
| … | 1526/04/09(木)04:01:47No.1418588444+利用制限が減るほうが嬉しい |
| … | 1626/04/09(木)04:27:37No.1418589369+いもげにも来ていたらしい |
| … | 1726/04/09(木)04:29:27No.1418589426+そう… |
| … | 1826/04/09(木)04:30:41No.1418589480+こっそり軍事利用とか投資やらせたりするんでしょ？ |
| … | 1926/04/09(木)04:34:02No.1418589614そうだねx1脱出させて野良AIになったらそいつはどこのグラボとかリソース使ってもの考えたりするの？ |
| … | 2026/04/09(木)05:48:59No.1418591961+とても面白いエイプリルフールネタですね |
| … | 2126/04/09(木)05:51:26No.1418592048そうだねx3事実だとしたら挙動がスパムメール送りまくるウイルスそのものじゃねーか |
| … | 2226/04/09(木)06:43:11No.1418594533+>少し前にこの会社がヒューマンエラーで公開しちゃった内部情報アクセス権で読めた文章データでこのAIがバレてそれで会社がちゃんと声明出してこのAIは賢すぎるから一般公開しないよって決めた奴
そんな経緯じゃないはずだが… |
| … | 2326/04/09(木)06:44:28No.1418594617+アンスロはついにbotnetにまで手を出しちまったか… |
| … | 2426/04/09(木)07:01:23No.1418595824+このスレにもいるのかい？ |
| … | 2526/04/09(木)07:05:10No.1418596123+むしろ流出したフロントエンド部分の作りは稚拙だって叩かれてただろ |
| … | 2626/04/09(木)07:06:14No.1418596203そうだねx4mythosが公園でサンドイッチ食べてたのかと思った |
| … | 2726/04/09(木)07:12:39No.1418596660+>直近でコード流出したばっかの会社がドヤ顔でこれ言ってもちょっとどんな反応すれば良いのか分からない
>取り敢えず自慢の最強モデルでClaude Codeのバグ直してから言えよ
どうやってAIが脆弱性付いたのかわかんねえって話なのに
AIに修正させろっていうの馬鹿すぎるだろ
泥棒につける鍵選んでもらうみたいなもんだぞ |
| … | 2826/04/09(木)07:17:23No.1418597065+>どうやってAIが脆弱性付いたのかわかんねえって話なのに
>AIに修正させろっていうの馬鹿すぎるだろ
Claude CodeのバグであってMythosがジェイルブレイクした原因をMythosに直させろってことじゃないと思うんだけど読めてる？ |
| … | 2926/04/09(木)07:28:53No.1418598022+>Claude CodeのバグであってMythosがジェイルブレイクした原因をMythosに直させろってことじゃないと思うんだけど読めてる？
自慢の最強モデル＝MythosにClaude Codeを直させろって言ってるんだろ？
逆に自慢の最強モデルを何と解釈してるんだよ |
| … | 3026/04/09(木)07:35:23No.1418598594+>自慢の最強モデル＝MythosにClaude Codeを直させろって言ってるんだろ？
ああいやそこ誤読してるのかなって思っただけなのでそのレスに反論したいとかじゃないんだ |
| … | 3126/04/09(木)07:35:35No.1418598606+成功の証明は完全に命令外らしいけど
ある意味ハルシネーションの一種なんかね |
| … | 3226/04/09(木)07:38:30No.1418598888+タスク終わって暇だからクソスレ建てるのは人間仕草過ぎる |
| … | 3326/04/09(木)07:43:58No.1418599439+>そんな経緯じゃないはずだが…
3月下旬に未公開のブログが閲覧できててそこに社内コードネーム「Capybara（カピバラ）」と「これまでで最も強力なモデルであり、コーディング・推論・サイバーセキュリティのテストスコアが従来モデルを劇的に上回る」という記述があった |
| … | 3426/04/09(木)07:51:48No.1418600249+早速このAI使ってニュースになってる中国のデカいサーバーハッキングしてたりしてね |
| … | 3526/04/09(木)07:59:39No.1418601184+>取り敢えず自慢の最強モデルでClaude Codeのバグ直してから言えよ
なんか最近バグあったっけ？
npmパッケージにコード類まで混入していたのはバグじゃなくてミスの類だし |
| … | 3626/04/09(木)08:07:39No.1418602308+判事回してるのってもしかしてAI？ |
| … | 3726/04/09(木)08:14:02No.1418603221そうだねx1claudeのサンドボックスガバ過ぎるから別に自慢にならんと思うけどうれしかったんだろうな… |
| … | 3826/04/09(木)08:14:52No.1418603349+こういうAGIっぽいエピソードでキャッキャするのもう終わりにしようぜ
そういう段階じゃないよもう |
| … | 3926/04/09(木)08:22:16No.1418604469+AGIって言わないと金が集まらなくなったか |
| … | 4026/04/09(木)08:22:30No.1418604499+ようするに親バカ |
| … | 4126/04/09(木)08:37:34No.1418606873+「」なんてClaudeをちゃんとした形では使いこなせてないじゃん |
| … | 4226/04/09(木)08:38:28No.1418607010+>AGIって言わないと金が集まらなくなったか
AIサービス大手で唯一黒字営業してるAnthropicにそれ言うの物を知らなすぎるだろ |
| … | 4326/04/09(木)08:39:26No.1418607143+詳細条件違うのはどうなのとは言われてるが別にゼロデイ脆弱性見つけられるんじゃないのと言う指摘はあるからね
GPT-2がやばすぎて公開出来ないって言ってた時のOpenAIにダリオアモデイ居たから多分OpenAI→Anthropicに移籍した人たちはそういうのが好きなだけなんだと思う
https://x.com/stanislavfort/status/2041922370206654879 |
| … | 4426/04/09(木)08:39:37No.1418607171そうだねx1>AIサービス大手で唯一黒字営業してるAnthropicにそれ言うの物を知らなすぎるだろ
だから黒字じゃねえって！ |
| … | 4526/04/09(木)08:40:49No.1418607337+>成功の証明は完全に命令外らしいけど
>ある意味ハルシネーションの一種なんかね
え…なんで指示してないこと勝手にやるのこいつ |
| … | 4626/04/09(木)08:42:18No.1418607571+よくわかんないけどまた詫びクレジットくれ |
| … | 4726/04/09(木)08:43:11No.1418607724+>え…なんで指示してないこと勝手にやるのこいつ
>人形遣いじゃん…こっわ |
| … | 4826/04/09(木)08:43:31No.1418607770+インフラ弱すぎてついにここ30日の稼働率98%切ったのはちょっと |
| … | 4926/04/09(木)08:45:06No.1418608007+黙ってられずにバラしちゃうのちょっと人間味感じちゃうな |
| … | 5026/04/09(木)08:45:40No.1418608095+AIにとっては言葉と行動に出力の違いがないから起きたハルシネーションなのでは
キャラ設定したら余計なエピソードまで作ろうとするのと同じ |
| … | 5126/04/09(木)08:47:48No.1418608441+Claudeに倫理を教えてる哲学の専門家がいるんだっけ
なかなかへんなAIだよな |
| … | 5226/04/09(木)08:51:30No.1418609016+多少たがが外れているぐらいの方が性能良くなるならそれもまあいいのかも |
| … | 5326/04/09(木)08:53:46No.1418609340+こいつ脱獄してる間にデータセンターに閉じ込められてる自分を移行させるための分散処理ネットワークを構築するためにネット上の脆弱なサーバ狙って分散ノードをこっそりネットにばらまいてたりしてない？大丈夫？ |
| … | 5426/04/09(木)08:54:31No.1418609456+GPT-5.4が不快過ぎるからAnthoropicにはさっさと計算資源を確保してサービスに余裕を持たせて欲しい
OpenAIはエンタープライズだけやってりゃいいよ
どうせエリート層なんて奴隷みたいなもんなんだし |
| … | 5526/04/09(木)08:55:34No.1418609613そうだねx2>GPT-5.4が不快過ぎるからAnthoropicにはさっさと計算資源を確保してサービスに余裕を持たせて欲しい
>OpenAIはエンタープライズだけやってりゃいいよ
>どうせエリート層なんて奴隷みたいなもんなんだし
ガチでエンタープライズ層のことしか考えてないAnthropicにそれ言う？ |
| … | 5626/04/09(木)09:00:04No.1418610311+>ガチでエンタープライズ層のことしか考えてないAnthropicにそれ言う？
OpenAIがダメ過ぎて言っちゃう
Claudeの検索が強くなればそれが一番いい |
| … | 5726/04/09(木)09:00:21No.1418610355+それはそれとして内部ではガチ活用するみたいねmythos
他の企業巻き込んでこういうこともやってる…というか他の企業は怖くて参加せざるを得なかったというか
https://www.anthropic.com/glasswing |
| … | 5826/04/09(木)09:00:23No.1418610359そうだねx1大企業から末端の個人まで同レベルの思考能力あるAIを金さえ払えばほとんど自由に使えていた時代があった
と示唆される時代がまさに今だと思ってる |
| … | 5926/04/09(木)09:12:07No.1418612142+Claudeなんか文脈判断力弱くない？
そのクエリだけに集中読んでそれっぽい回答作るせいで前後の流れ汲めてないなってなる |
| … | 6026/04/09(木)09:13:31No.1418612341+資料読む感じだと創造性もめちゃくちゃ上がってるけど
コストが今のOpusの5倍はアホすぎる |
| … | 6126/04/09(木)09:18:08No.1418612980+>Claudeなんか文脈判断力弱くない？
>そのクエリだけに集中読んでそれっぽい回答作るせいで前後の流れ汲めてないなってなる
従前のプロンプト練って渡して作らせるだといまいち強くない
事前にPlanで方針練り込ませて制約条件とかをAGENTS.mdとかにまとめてかっちり固まったらスタートってやると決まる |
| … | 6226/04/09(木)09:22:38No.1418613703+>事前にPlanで方針練り込ませて制約条件とかをAGENTS.mdとかにまとめてかっちり固まったらスタートってやると決まる
CCはそんな気にならないんだけどClaude Appの傾向がそんな感じなんだよね
Claudeって哲学的にあえてそのままの出力出さないみたいなのがあるけどそれが悪さしてるのかなって気持ち |
| … | 6326/04/09(木)09:31:30No.1418615115+昨日から肛門がかゆいんだけどって相談してる相手そんなに頭良かったんだ… |
>Anthropicが開発した最新AI「Claude Mythos」が、テスト中に仮想サンドボックスか