Я новичок, и вот вопросы, на которые мне хочется получить ответы.
- Многие знания устроены иерархически. Почему эмбеддинги не проектируют с учётом этого?
- Кажется, ближе всего к этому подходят гиперболические эмбеддинги (1). Но разве не так должно было быть по умолчанию? (2)
- Почитать: Hierarchical Embeddings for Text Search · Gwern.net
- Самый популярный способ поиска по эмбеддингам кажется совсем уж глупым. Зачем столько возиться, чтобы потом искать фрагменты, похожие на вопрос?!
- Почему извлечению информации уделяют так мало внимания? По крайней мере, в 2025 году мы видели Grok 3 (который берёт информацию из Twitter) и различные варианты Deep Research (которые берут информацию из интернета)…