paper_notes

[English | 日本語]

AI関連の論文やブログ・リポジトリ・スライド・SNSポスト等を手動で収集し、Issueで管理しているリポジトリです。
主にリポジトリの管理人が勉強した内容の備忘録のために、論文のメモを日本語で残しています。 GitHub Issuesで管理されるメモはdailyでagent_docs/以下にダンプされ、エージェントを通じて対話できます。対話インタフェースを参照してください。

Issueの記載内容

Issueには主に以下の内容がメモされています:

• 🔗 論文/ブログ等のリンク
• 📄 論文のAbstract, メタデータ [^1]
• 🌐 Abstractの日本語訳と日本語要約 [^1]
• 📝 管理人の理解に基づいたメモ
• 🏷️ 管理人の内容理解に基づいた手動でのラベル
• 📚 参考になる外部リンク

論文のメタデータや Abstract は arXiv APIから取得しています。
また、管理人が日本人であるため、Abstractの日本語訳・日本語での要約をGPTで自動生成しています。

---

現在積極的に収集している分野

現在は以下の4つの分野のメモが多めだと思います:

• Natural Language Processing (NLP)
• Computer Vision (CV)
• Speech Processing
• Recommender Systems (RecSys)

---

最近関心の強いトピック

最近関心の強いトピックは以下となります（ただし収集していくメモはこれらに限りません）:

• Large Language Models (LLMs) / Vision-Language Models (VLMs) / Diffusion Models
• Proprietary / Open-Weight / Open-Source Models
• Multimodal Models / Unified Multimodal Models (UMMs)
• AI Agents / Context Engineering / Memory / Evaluation Harnesses / Scaffoldings
• (Synthetic) Datasets / Evaluation / Benchmarks
• Pre-training / Mid-training / Post-training / Continual Learning
• Reinforcement Learning
• Test-time Scaling / (Memory-based) Test-time Learning / Test Time Training (TTT)
• Representation Learning / Embeddings
• Self-Improving AI / Recursive Self-Improvement (RSI)
• Transformer architectures (Attention, Positional Encoding, Residual Streams, etc.)

---

Issue中のメモとメモの粒度

各Issueには以下が主に含まれています:

• 管理人の理解や解釈 [^2]
• Abstractや関連ポスト、論文を斜め読みした上での第一印象
• 収集元ポストやSNS上の解説ポスト

メモの粒度はその時々の可処分時間や関心によって変わっており、以下のラベルで管理されています（後からラベルを追加したのでまだ全てのメモに付与しきれていません）:

• : Abstract, 関連ポスト, 論文をななめ読みをした後の第一印象
• : 一言メモ
• : 論文全体の要約
• : 論文のキーとなるポイントのまとめ
• : （読了後、あるいはskim reading後の）感想、意見
• : 論文の詳細と個人的な感想や意見
• : SNS上の有識者の解説ポスト等の関連リンク集
• : 論文・ブログ等の著者自身による解説ポスト

---

Label Taxonomy

ラベルの分類は以下となっており、色分けして管理しています:

• 媒体: , , , ...

• 研究分野: , , , , ...

• タスク: , , , ...

• 手法: , , [``](https://github.com/AkihikoWatanabe/paper_notes/issues?q=is%3Aissue%20state%3Aopen%20label%3AReinforcementLearning), ...

• 細分類: , , , ...

• 性質・特徴: , , , ...

• 会議 / ジャーナル: , , , ...

上記ラベルは一例であり、600以上のユニークラベルが存在します。これらのラベルによってIssueをフィルタリングすることができます。

---

Wiki / {Deep, Code}Wiki

Issueでの管理に加えて、2種類の補足的なコンテンツがあります。

Wiki: 個人の観測に基づく研究トレンドに関するノート

個人が観測した範囲に基づくAI関連の研究のトレンドをWikiにメモしています。このメモについては以下の点にご留意ください:

• Wiki中のメモはあくまで個人が観測した範囲内部での主観的な判断や解釈に基づいたものです
• 不正確な点や見落とし、バイアスなどが間違いなく存在します
• 更新は不定期です

---

対話インタフェース

本リポジトリをローカルにcloneし、エージェントを用いてIssueに収集された情報に基づいてchatできます。

git clone https://github.com/AkihikoWatanabe/paper_notes.git
cd paper_notes

以下に質問と応答の例を示します（gpt-5.6-luna, reasoning_effort=xhigh）:

Please summarize the pretraining of large language models in chronological order. Explain it while citing the references you used and the original issue links.

エージェントは、リポジトリ内の AGENTS.md の指示と agent_docs/ を参照し、Issueや勉強ノートに基づいて回答できます。 agent_docs/ 以下にはdailyでIssueの内容がxml形式でダンプされています。

従来どおり、以下のDeepWiki/CodeWikiから対話形式で探索することもできます。

DeepWiki/CodeWiki

DeepWiki/CodeWikiを利用することで、Issueで管理されている情報に対話ベースでアクセスできます。 これにより、興味のある情報を対話形式で探索できます。

以下は DeepWiki の codemap モードを用いて以下のクエリで対話をした場合の結果の一部です。

Survey the literature on pretraining.

本リポジトリに集積された情報に基づいて構造化されたドキュメントとして出力されます。 ドキュメントにはソースが明示的に示されます。

---

Updates

2026.10.14

• agent_docs が更新されない不具合を修正しました。

2026.09.19

• ブログに全文検索機能を追加しました。
• docs/以下に含まれていた静的サイトの生成済みファイルを履歴から削除するため、リポジトリの履歴を書き換えました。
  • 履歴書き換え前のコミットハッシュは利用できません。
  • 既存のcloneは削除し、新しくcloneし直してください。
  • 生成されたWebサイトは、今後GitHub Actionsでビルドし、Pages artifactとしてデプロイします。

2026.03.07

• Agenticなユースケースのために、AGENTS.mdとエージェント用のドキュメントをagent_docに追加しました。これにより、AI AgentがHTMLの余分な文字列でcontextを浪費することを防止します。

2026.01.20

• README.mdを更新しました。

2025.10.17

• X上で流れてくる論文のストリーミングを眺めていて個人が感じたトレンド（感想）をメモするWikiを作ってみました
• 個人の感想なので誤り等あるかもしれませんがご容赦ください。ゆるりと不定期に更新していきます

2025.08.05

• 本リポジトリの使い方としては、現状本リポジトリのDeepWikiを通じて対話形式で何らかの文献や資料、知識を抽出するという方法が一番使いやすいかもしれません

2025.07.19

• ブログのレスポンスタイムが悪化していた問題を改善しました
• ブログの表示コンテンツを変更しました
• （リニューアルはまだです🫠

2024.12.28

• ブログをリニューアルしたいと思い早くもNカ月が過ぎ去りました

2024.09

• Issueにメモした内容をブログ形式にしてみました。
• ブログはこちら.

2017.12.28

• リポジトリを作成し、最初のIssueを作成しました。

---

Star History

[^1]: メタデータと論文の Abstract は arXiv API の terms of use に記載されている CC0 1.0 License に基づいて利用しています。 [^2]: Issue/Blog中の画像やスクリーンショットは原則Issue中に記載してあるリンク（元論文、元記事、元スライド等）から引用したものです。