LLMs 相关知识及面试题
简介
本仓库为大模型面试相关概念，由本人参考网络资源整理，欢迎阅读，如果对你有用，麻烦点一下 🌟 star，谢谢！
为了在低资源情况下，学习大模型，进行动手实践，创建 tiny-llm-zh仓库，旨在构建一个小参数量的中文大语言模型，该项目已部署，可以在如下网站上体验：ModeScope Tiny LLM。
动手实践项目：
- tiny-llm-zh : 从零实现一个小参数量的中文大语言模型，快速掌握大模型预训练、微调、RL等相关技术；
- tiny-rag : 实现一个简单的RAG系统，支持多路召回、重排等功能，快速了解搜索相关内容；
- tiny-mcp : 使用 Prompt 和 Function Calling 实现 MCP （模型上下文协议）服务端和客户端，快速使用MCP搭建Agent项目。
- llama3-from-scratch-zh : 从零实现 llama3, 可加载 meta 官方权重，可在本地笔记本（16G内存）调试运行
其他学习资源推荐：
- AI 工程师八股 : 包含深度学习、机器学习、推荐系统、搜索系统等通用知识
在线阅读
在线阅读链接：LLMs Interview Note
注意：
相关答案为自己撰写，若有不合理地方，请指出修正，谢谢！
欢迎关注微信公众号，会不定期更新LLM内容，以及一些面试经验：
