从AI语言模型的迷恋到马尔可夫链的回归

2025-09-24
从AI语言模型的迷恋到马尔可夫链的回归

作者经历了对大型语言模型的四个阶段:最初的惊叹、随后的失望、挥之不去的困惑以及最终的厌倦。厌倦了层出不穷的新模型,作者决定回归基础,研究马尔可夫链。文章详细解释了如何使用马尔可夫链构建文本自动补全功能,包括构建转移矩阵、计算概率以及应用于文本生成的流程。这篇文章不仅探讨了马尔可夫链的原理,也反映了作者对AI发展现状的思考,以及对更底层技术探索的渴望。

阅读更多
AI

本地优先软件:无需扩展的规模优势

2025-07-05

Harper,一款本地优先的语法检查软件,因登上Hacker News首页而用户数暴增。然而,与依赖大型服务器的软件不同,Harper在设备端运行,无需担心服务器负载问题。即使用户数激增,也未出现任何卡顿或延迟。这凸显了本地优先软件在可扩展性方面的巨大优势,无需高昂的服务器维护成本和复杂的云架构。

阅读更多

在Bash脚本中使用大型语言模型进行提示

2025-03-02
在Bash脚本中使用大型语言模型进行提示

作者开发了一个名为ofc的工具,允许在Bash脚本中轻松集成Ollama大型语言模型。该工具支持自定义系统提示,方便用户比较不同提示下的模型行为。文章举例说明了如何使用ofc生成数据集测试Harper,以及如何利用模型自生成提示来进行更深入的探索。ofc可以通过cargo命令从crates.io或GitHub仓库安装。

阅读更多
开发