"llm" 可以指代多个不同类型的软件,以下是一些具体的选项:
Awesome LLM Apps
这是一个精选的大型语言模型(LLM)应用集合,结合了检索增强生成(RAG)技术和人工智能代理。项目收录了使用OpenAI、Anthropic、Google等公司的模型以及开源模型(如LLaMA)构建的应用,可以在自己的计算机上本地运行这些模型。
TinyTroupe
由微软发布的一款基于大型语言模型(LLM)的多智能体人格模拟工具。TinyTroupe中的智能体被称为TinyPersons,它们可以在模拟的环境中进行互动和交流。通过利用强大的大型语言模型(LLM),尤其是GPT-4,TinyTroupe可以生成逼真的模拟行为,让用户得以探索各种消费者类型和互动方式。
LMT LicManager
这是一款由莱曼特科技(lanmantech)公司开发的软件许可证集中监控与调度管理系统。它拥有多项核心知识产权,解决方案已被多家世界500强企业所采用。LMT LicManager可以高效地调度许可证,实现许可证在超过被应许范围一定比例的情况下使用,从而节省企业许可证费用。
Lamini
由斯坦福开发者发布的LLM微调工具,能够为每个开发人员提供从GPT-3到ChatGPT的超能力。Lamini推出了全新的Alpha公测版,通过简洁的代码和快速的速度,让微调变得更加容易。目前,4亿参数以内的LLM微调完全免费。
Lingma SWE-GPT
由阿里巴巴通义实验室研发的开源大语言模型。该模型系列(包含7B和72B两种规模)针对软件开发流程进行了优化,通过结合实际代码提交活动和迭代问题解决流程等动态信息进行训练,在SWE-bench等基准测试中性能表现优异,接近甚至超越闭源模型GPT-4,同时兼具开源模型的成本优势和可定制性。
YaFSDP
由Yandex宣布开源的一种用于提升大型语言模型(LLM)训练功效的方法。YaFSDP在GPU通信效率和LLM训练期间内存使用率方面均有显着改进,可加快训练速度高达26%,具体取决于模型架构和参数数量。
llm_client
一个用Rust开发的本地LLM接口工具,支持多平台(Mac/Windows/Linux)的CPU和GPU运行。它提供了级联提示工作流(Cascading Prompt Workflow)系统,能将LLM的概率性输出转换为确定性信号,大幅提高输出可靠性。支持自动构建、简单的模型预设、灵活的配置选项以及多种API集成。
这些软件涵盖了大型语言模型的应用程序、模拟器、许可证管理系统、微调工具、训练效率提升方法以及接口工具等多个方面。根据具体需求和应用场景,可以选择合适的工具来提高效率、降低成本或进行研究和开发。