初心者として、答えを知りたい疑問を挙げてみる。
- 知識の多くは階層構造を持っている。なぜ埋め込みは、この事実を踏まえて設計されていないのだろう？
- それに最も近いのは、どうやら双曲埋め込みのようだ。(1) でも、なぜこれが標準ではなかったのだろう？ (2)
- あとで読む：Hierarchical Embeddings for Text Search · Gwern.net
- 埋め込みを検索する方法として最もよく使われているものは、どうにも間抜けに思える。あれだけ手間をかけておいて、なぜ最後に質問に似たチャンクを探そうとするのだろう？！
- なぜ検索がもっと重視されていないのだろう？ 少なくとも2025年には、（Twitterから情報を取得する）Grok 3や、（ウェブから情報を取得する）さまざまなDeep Researchが登場したのに……