ChatGPTの仕組みを完全に理解しながら自作する
Show HN: Building an LLM from Scratch in TypeScript
💬 In one line
作者が「AIの頭脳の作り方」を1から自分で組み立てた教科書のような試作品です。
プログラム言語はPython じゃなく TypeScript で書くことで、細かい仕組みまで丸見えにしたとのこと。
✨ What it does
-
AIの仕組みが「なぜそうなってるか」分かる
一般的な教え方は「この部分は魔法みたいに動く」と省くのですが、ここではすべてが説明できるレベルを目指しています。
-
データの準備から注意の仕組みまで学べる
AIが文章を理解する3つの大事なステップが、実際に動くコード付きで説明されています。
-
TypeScript という別の言語で実装
別の言語で書き直すことで、プログラムの概念の細かいところまで理解できる工夫です。
🛠 Who it helps
プログラミングをある程度知っていて、ChatGPT みたいなAIが『どうやって動いているのか根本から知りたい』という人向けです。学校の自由研究や、AI開発に興味がある人が『本当のところはどうなってるの？』という疑問に答えてくれます。
⚠️ Caution
まだ作りかけの段階のようです。データの準備やAIの『注意』という仕組みまでは進んでいますが、まだ全部は完成していません。
🔗 Original
The write-up above summarises the original. See it for the exact details.
🔗 Related hubs and more new arrivals
The headline and summary are an AI's Japanese rendering of a page published by an individual or a small team. They can diverge from the original. For the exact wording, follow the link to the source. Terms of Use