作者 galaxy4552 (無聞)
標題 [心得] 我做了一個輕量語義搜尋引擎
時間 Wed Nov 19 09:00:56 2025


PipOwl:可嵌入任何 Python 專案的輕量語義搜尋引擎(核心約 10KB)

PipOwl 是從我大型語義專案中抽離出來的
最安全、最不敏感、最容易被整合的一層。

它的定位是:

輕量語義搜尋引擎(Mini Semantic Engine)
純 Python 實作,不含 C/C++ 原生模組
額外依賴皆為常見 NLP 套件(numpy / sentence-transformers)
可用於 CLI / API / Chatbot / IME本地即時執行(接近輸入法候選速度)
適合做:語句相似度、意圖比對、快速原型開發
安裝方式:pip install pipowl

GitHub:https://github.com/galaxy4552/Pipowl
GitHub - galaxy4552/Pipowl
Contribute to galaxy4552/Pipowl development by creating an account on GitHub. ...

 
PyPI:pip install pipowl

如果你對中文語義系統、向量表示、或極簡的 semantic engine 有興趣,歡迎一起討論。

--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 114.136.167.188 (臺灣)
※ 作者: galaxy4552 2025-11-19 09:00:56
※ 文章代碼(AID): #1f7HRDNW (Soft_Job)
※ 文章網址: https://www.ptt.cc/bbs/Soft_Job/M.1763514061.A.5E0.html
※ 編輯: galaxy4552 (114.136.167.188 臺灣), 11/19/2025 09:09:45
oopFoo: all-MiniLM-L6-v2?有試過EmbeddingGemma-300m?現在中文那個embedding model是最推薦的?1F 11/19 09:33
lchcoding: 上次-新酷鷹的事,有沒有後續...?3F 11/19 10:36
galaxy4552: 我比較偏向做語義引擎 / pipeline 的研究
所以沒有大量 benchmark 各種模型。
PipOwl 把 embedding layer 抽掉,想塞哪顆MODEL都行回lchcoding 謝謝你記得 這個就是後續 目前還在開發4F 11/19 10:40
lchcoding: 理解,晚上看8F 11/19 10:59
DrTech: 依賴sentence-transformers,強調核心 10KB有意義嗎。  直接用sentence-transformers不就好了。
認真看了一下,就是sentence-transformers再包一層,有必要嗎。
預設模型,還是中文能力特別差的all-MiniLM-L6-v2,真的蠻外行,又多餘的套件。
結論:套殼 sentence-transformers。9F 11/19 19:16
galaxy4552: 其實 pipowl 的重點不在重造 Sentence-Transformers本體還是用 sentence-transformers 沒錯 但我的目標是把整條 embedding pipeline (前處理、向量化
normalization、top-k、API 統一化…)
都包成應用層能直接用的三行程式
all-MiniLM-L6-v2 當預設只是demo用 不是核心設計
謝謝你深挖 也很感謝你花時間看程式碼
速度這塊我自己實測過體感會比一般直接寫SBERT順很多16F 11/19 19:31
DrTech: 你把實務上需要根據需求,需要調整的部分,例如怎麼清洗文字,相似度怎麼算,都包起來了,不能直接調整,確實很難用。sentence-transformers 不封裝這些東西,就是為了實務上方便調整。
如果是直接砍掉 sentence-transformers,從pytorch層級,輕量封裝,取代sentence-transformers,對我會比較有幫助24F 11/19 19:43
galaxy4552: 理解你的需求,這裡的定位真的不太一樣。
pipowl-open 是做「開箱即用的語意搜尋」
目標是讓工程師不用碰到清洗、相似度公式
encode cache 等細節 快速把 SBERT pipeline
接進應用程式。
你說的那確實是另一種方向 pipowl 不是瞄準那一塊
定位不太一樣而已,完全理解你的 point31F 11/19 19:49
DrTech: 謝謝友善回應38F 11/19 19:54
galaxy4552: 您剛剛分析的細節,其實能感受到您真的很有能力。
我後面其實還有做一些更底層的向量技術
等更穩定後會開放39F 11/19 19:57
yunf: 講到關鍵字大神要從美國跳出來了42F 11/20 04:43

--
作者 galaxy4552 的最新發文: