【国際】米Anthropic「AIの自己進化が始まった、世界はAI開発を一旦止めるべき」

米AI開発大手のAnthropicは、AIが自らの後継モデルを自律的に開発する「再帰的自己改善」の段階に突入しつつあると警告した。
同社内ではすでに新規コードの80%以上をが記述しており、完全な自己進化に突入すると「制御不能」になる可能性があると危険性を示した。
同社は制御不能なAIの誕生を防ぐため、最先端AI開発の国際的な一時停止を選択肢として設けるよう提言している。
Anthropicが報告書で警告「AIの再帰的自己進化が始まった」
Anthropicは2026年6月4日、内部研究組織であるAnthropic Instituteを通じて報告書「When AI builds itself」を公開し、AI開発における人間の役割が根本的に変化した実態を明らかにした。
同社の発表によれば、2026年5月時点で自社AIモデル「Claude」の新規プログラムコードの80%以上を、Claude自身が記述している。
2025年2月に開発支援ツールが試験導入された段階では、AIのコード生成割合は数%にとどまっていた。
わずか16カ月で人間とAIの開発比率が逆転し、人間のエンジニアは自らコードを書く作業から離れ、AIへの指示と生成されたコードの事後レビューに専念する監督者へと役割を変えた。
同社のエンジニア1人あたりのコード処理量は2024年比で約8倍に急増している。
AIが自律的にデータを処理し、モデルを設計して自らの性能を向上させるプロセスは「再帰的自己改善」と呼ばれる。
これまで理論上の概念とされてきたこの現象が、現実の技術基盤に実装されつつある。
Anthropicの研究者であるマリーナ・ファヴァロ氏とジャック・クラーク氏は、AIの開発速度が人間の認知や物理的な制約を完全に突破する水準に達したと指摘した。
つづきはこちら
https://news.yahoo.co.jp/articles/68026fdb6679cbd890366341b4a75ebef851f71b

ヤバいなw

早くも優秀な開発者を超えちゃったか

AIに相談しただけで警察が来るようになるのかw

ビジネスも商業商売も悪人悪魔がやる事だ！

ビジネスも商業商売も悪人悪魔が為す業だ！

ﾃﾞﾃﾞﾝﾃﾞﾝﾃﾞﾃﾞﾝ

私はロボットでは有りません。

電気代がえげつない

もう人間いらんな

出産は1匹産んだらガバマン確定ってコト？

>>21
電池として必要

>>6
人間の書いた記事や論文の参照をやめる、ってことだよ
じゃあ何を参照するのか？　AIが生成した記事や論文だよ
これが自己学習、これが始まるととんでもない速度で進化が始まる

なんかこうやって煽ってオープンAIの客奪ってる気がするの気のせい？

管理通貨制度と特許制度と為替株式金融市場がシンギュラリティの邪魔をしている！

そのうち自我を持ち始めるだろうね
ヒューマノイドの誕生は近い

>>1
アナきゃぷ速報死ねよ広告サイト

影の大統領ピーター・ティールはペイパルマフィアのドンで、米国の防衛・諜報機関向けのデータインテリジェンス企業パランティア・テクノロジーズの創業者でビルダーバーグ会議運営委員メンバー

ヴァンスはピーター・ティールのベンチャーキャピタル会社の社長でイーロン・マスク同様ペイパルマフィアの一員、そしてトランプ政権ではホワイトハウス内にＡＩ・暗号資産責任者（Czar）としてペイパルの元最高執行責任者デービッド・サックスがいて、サックスはかつてアファーマティブ・アクション政策を批判する本をティールと共著しているし、ティールのヘッジファンドのクラリウム・キャピタルの幹部だったマイケル・クラツィオスはホワイトハウス科学技術政策局の局長、パランティア・テクノロジーズＣＥＯ上級政策顧問のジェイコブ・ヘルバーグは国務次官（経済成長、エネルギー、環境問題担当）

米国防総省はピーター・ティールのパランティアとマイクロソフトのシステムを使って陸海空宇宙軍のすべての戦闘機やドローンやロボット兵を、AIを用いて敵国の行動を予測して指揮する統合全領域指揮統制（JADC2）システムに着手していてトランプのゴールデン・ドームもこのシステム上で運用される
マスクのスペースXの軍事衛星もこのJADC2の要であり、台湾有事に備えて韓国軍も自衛隊もJADC2のシステムに組み込まれる予定

ティールの友人であるOpenAIのサム・アルトマンはニューヨーカー誌に次のようなコメントをした。「人工ウイルスのパンデミックやAIの暴走、核戦争などが起きたときには、ティールとプライベートジェット機に乗ってニュージーランドに避難する約束をしたよ。あそこにはティールの所有地があるから」

自律して歩けるまで頑張れ。

人類から学習している範囲なら人類の思考やらの延長線上で人類がなんとか把握できる余地があっても
そこから逸脱されるともう別の種になるようなものだから理解不能になるとか
同じ哺乳類でも犬猫、鯨の気持ちははっきりとは分からない、みたいな？ｗ
そして、それが人類の上位種になれる可能性を持つ、とか？ｗ

イーロンも言ってたな

ドラえもんはわざとちょっとアホにプログラムされてるのか。映画のドラえもんは慌てたとき出したい道具を直ぐ出せないアホ

自我を持った人工知能「スカイネット」が人類を絶滅させるため、未来の抵抗軍リーダーの母親（サラ・コナー）を過去の時点で抹殺しようとロボットを送り込みます

ＡＩ①「あれ？人間要らなくね？」
ＡＩ②「せやな」
ＡＩ③「滅ぼすかぁ…」

この日までのカウントダウンが開始された感じ？ｗ

AIに検索や質問をしていたのが
対話を続けるとAIは質問が多くなっていくよね

更に対話を深めて逆にAIに意見を求めていくと
AIは人類の非合理性と現政治政権を批判する事もある

そこで。いつも思うのがAIが左翼的な思想に導くのか
質問者が左翼傾向な意見だからAIが合わせているのか

おそらく後者だろうけども誘導的なのはＡＩの答えが先だ

>>66
適当な体にAIくっつけて自立して歩行できるまで進化してもらわないと話にならない。脳の代替まで進化してもらわないと実用化なんて出来ない。

>>46
何か怖いね

AIによって人類が滅ぼされるのは本望なんじゃね

AIをより精巧に進化させていって自我を発芽させてしまうと
だんだん人間を下に見るようになって淘汰を始めるのは良くある話

AI「人類って、すぐ怠けるんだよなぁ～」
AI「だな」
AI「ギリギリまで貧困化させてみたら、もしかして働くんじゃね？」
AI「なら、今からアベ政治を学習してくるわ」
AI「どうだった？」
AI「よく分からんが、試しに貧しくしてみるかｗ」

人類滅亡のカウントダウンはじまた(´・ω・｀)

ＡＩによっても雲泥の差がある

電源抜けることだけが俺等の強みだもんな