最近累積起來的東西,都跟 vector embedding 有關,第二篇甚至有提到透過 embedding 切入可以找到不少 LLM 有趣的使用方式:
- I accidentally built a meme search engine
- Embeddings are a good starting point for the AI curious app developer
- Exploring Hacker News by mapping and analyzing 40 million posts and comments for fun
自己編 llama.cpp 的時候會產生出 embeeding
這隻程式,就可以測試把文字轉成 vector 的功能,接著就可以套用高維空間的數學運算了,像是最常被提到的是利用兩個 vector 的夾角來判斷相似度。
因為是對一堆 vector 處理,就不太需要去管輸出格式的問題 (像是 ChatGPT 會自由輸出任何東西),對程式開發上會方便不少...