AGI・AI安全性のリサーチ

代表 有路翔太（bioshok）が毎週、AIの主要ニュースを出典リンク付きでまとめた週刊ダイジェスト。

• AIニュースまとめ 2026年10月25日〜10月31日「AIが科学の未解決問題に挑み、監視の仕組みが問われる」
• AIニュース 2026年10月18日〜10月24日「封じ込めの穴を突くAI、富の分配を始めるAI企業」
• AIニュース 2026年10月10日〜10月17日「再帰的自己改善が2027年に前倒し、AI封じ込め求める声広がる」

AIによる破滅確率の定義・主要論者・前提を整理し、AGI Hubメンバーが生存ルートを分解して議論した記事群。

• シンギュラリティサロン×代表 有路翔太・主任研究員 林央「超知能が人類を滅ぼす理由」解説付き全文書き起こし
• シンギュラリティサロン×代表 有路翔太・主任研究員 林央「超知能が人類を滅ぼす理由」全文書き起こし
• 好奇心は超知能による人類絶滅を防ぐか――代表 神楽坂やちま × 主任研究員 林央 内部Discord議論ログ

AGIの到来を前提に社会と開発競争を見る「AGIピル」の視点と、Mythos・AI 2040シナリオの読み解き。

• ボストロム『Deep Utopia（ディープ・ユートピア）』を読む　すべてが解決した世界で、人生の意味はどうなるのか
• AGIピルとは何か　『知能爆発』でわかる基本
• AI 2040に対する「議論の地図」

AGI以後に知能・技術・産業の成長が自己強化的に加速するという見立てと、その条件・帰結。

• インターネットではなく、人類史が終わる。
• 「産業爆発なんて起きない」は本当か　懐疑論12問に有路翔太が答える
• 「産業爆発なんて起きない」は本当か　懐疑論142問に有路翔太が答える【完全版】

AGIの到来時期と各年のAI予想・振り返り。予測と実際の突き合わせ。

• 2025年振り返り
• 2026年のAI予想/2030年まで性能向上が続く可能性が高い
• 私たちが生きられるのは後5年かもしれない。

合理的に信念を形成し、証拠に応じて更新するための認識論・意思決定・思考法。

• Yudkowsky Sequences――全333篇の非公式日本語訳

AIのもたらす深刻なリスクの歴史的背景、アラインメント問題、国家安全保障や開発競争のガバナンス。

• 「AIがAIの開発を2倍に速めている」は本当か　METRのAnthropic評価報告書と反応
• 前山和喜氏×代表 有路翔太・主任研究員 林央「『超知能AIをつくれば人類は絶滅する』読書会・討論」解説付き全文書き起こし
• 人類はまだ滅んでいない　林央が開発停止に希望を持つ理由

o1・o3・Med-Gemini・GPT-4oなど個別モデルの能力と、医師の視点からの医療AI解説。

• OpenAI o3は，人間とは全く異質の汎用知能である危険性【東大解説】
• o1って結構騒がれてるみたいだけど
• 日本昔話　LLMたろう（アドベントカレンダー・オープニング）

AI以外の社会的話題を含む、メンバーによるエッセイ。

• ルッキズムに悩む全ての人へ
• 逆世代間格差
• 精神科医が傍観していた，成田悠輔の五月祭の騒動