AI 열풍에서 마르코프 체인으로: 기본으로의 회귀

2025-09-24
AI 열풍에서 마르코프 체인으로: 기본으로의 회귀

저자는 대규모 언어 모델과 관련된 AI 열풍의 네 단계를 회상합니다. 처음의 놀라움, 그 이후의 좌절, 지속적인 혼란, 그리고 마지막으로 권태감입니다. 끊임없이 등장하는 새로운 모델에 지친 저자는 기본으로 돌아가 마르코프 체인을 탐구하기로 결정했습니다. 이 글에서는 마르코프 체인을 사용하여 텍스트 자동 완성 기능을 구축하는 방법을 자세히 설명하며, 전이 행렬 구축, 확률 계산, 텍스트 생성에의 적용을 다룹니다. 이 글은 마르코프 체인의 원리를 탐구할 뿐만 아니라 AI 개발의 현재 상황에 대한 저자의 성찰과 더 기본적인 기술을 탐구하고자 하는 열망을 반영합니다.

더 보기
AI

로컬 우선 소프트웨어: 확장 없이도 가능한 규모의 이점

2025-07-05

Hacker News 메인 페이지에 등장하면서 로컬 우선 문법 검사기인 Harper의 사용자 수가 급증했습니다. 하지만 서버에 의존하는 소프트웨어와 달리 Harper는 사용자 기기에서 작동하기 때문에 서버 부하 문제가 없습니다. 사용자 수가 급증했음에도 불구하고 문제는 발생하지 않았습니다. 이는 로컬 우선 소프트웨어의 확장성에서 큰 이점을 보여주는 것으로, 고액의 서버 유지 비용과 복잡한 클라우드 아키텍처를 피할 수 있습니다.

더 보기

Bash 스크립트에서 LLM 프롬프팅: ofc 도구

2025-03-02
Bash 스크립트에서 LLM 프롬프팅: ofc 도구

새로운 도구 ofc를 사용하면 Bash 스크립트에 Ollama LLM을 쉽게 통합할 수 있습니다. 시스템 프롬프트를 간편하게 교체하여 다양한 프롬프트에서 모델의 동작을 비교할 수 있습니다. 저자는 Harper 테스트를 위한 데이터 세트 생성과 LLM이 자체 프롬프트를 생성하여 더욱 심층적인 분석을 수행하는 방법을 보여줍니다. cargo를 통해 간편하게 설치할 수 있습니다.

더 보기