搜索结果
查询Tags标签： Hugging Face，共有 20条记录-
聊聊ChatGLM6B的微调脚本及与Huggingface的关联
本文首先分析微调脚本trainer.sh的内容，再剖析ChatGLM是如何与Huggingface平台对接，实现transformers库的API直接调用ChatGLM模型，最后定位到了ChatGLM模型的源码文件。 脚本分析 微调脚本： PRE_SEQ_LEN=128 LR=2e-2CUDA_VISIBLE_DEVICES=0 python3 main.py \--do_tra…
2024/1/3 18:32:37 人评论 次浏览 -
全球开源 AI 游戏开发挑战赛，只等你来！
我们在之前的文章中 预告过 (*划重点，IP 属地法国)：7 月初，我们将举办一次与 AI 游戏相关的黑客松活动，这是有史以来的首次开源游戏开发挑战赛，借助人工智能工具释放你的创造力，一起打破游戏开发的边界。 比赛将在北京时间 2023 年 7 月 8 日凌晨 1 点到 9 日凌晨 1…
2023/6/20 11:22:46 人评论 次浏览 -
Falcon 登陆 Hugging Face 生态
引言 Falcon 是由位于阿布扎比的 技术创新研究院 (Technology Innovation Institute，TII) 创建的一系列的新语言模型，其基于 Apache 2.0 许可发布。 值得注意的是，Falcon-40B 是首个“真正开放”的模型，其能力可与当前许多闭源模型相媲美。这对从业者、爱好者和行业来…
2023/6/17 5:22:23 人评论 次浏览 -
如何使用 Megatron-LM 训练语言模型
在 PyTorch 中训练大语言模型不仅仅是写一个训练循环这么简单。我们通常需要将模型分布在多个设备上，并使用许多优化技术以实现稳定高效的训练。Hugging Face 🤗 Accelerate 的创建是为了支持跨 GPU 和 TPU 的分布式训练，并使其能够非常容易的集成到训练代码中。🤗 …
2023/5/30 1:22:12 人评论 次浏览 -
Hugging News #0526: Hugging Cast 发布第一期、邀请来认领自己的论文啦！
每一周，我们的同事都会向社区的成员们发布一些关于 Hugging Face 相关的更新，包括我们的产品和平台更新、社区活动、学习资源和内容更新、开源库和模型更新等，我们将其称之为「Hugging News」，本期 Hugging News 有哪些有趣的消息，快来看看吧！ 重磅更新 Hugging Cas…
2023/5/27 1:22:12 人评论 次浏览 -
辅助生成：低延迟文本生成的新方向
大型语言模型如今风靡一时，许多公司投入大量资源来扩展它们规模并解锁新功能。然而，作为注意力持续时间不断缩短的人类，我们并不喜欢大模型缓慢的响应时间。由于延迟对于良好的用户体验至关重要，人们通常使用较小的模型来完成任务，尽管它们的质量较低 (例如 代码补全…
2023/5/26 1:22:04 人评论 次浏览 -
使用 StarCoder 创建一个编程助手
如果你是一个软件开发者，你可能已经使用过 ChatGPT 或 GitHub 的 Copilot 去解决一些写代码过程中遇到的问题，比如将代码从一种语言翻译到另一种语言，或者通过自然语言，诸如“写一个计算斐波那契数列第 N 个元素的 Python 程序”，来自动生成代码。尽管这些专有系统功…
2023/5/25 1:52:07 人评论 次浏览 -
越小越好: Q8-Chat，在英特尔至强 CPU 上体验高效的生成式 AI
大语言模型 (LLM) 正在席卷整个机器学习世界。得益于其 transformer 架构，LLM 拥有从大量非结构化数据 (如文本、图像、视频或音频) 中学习的不可思议的能力。它们在 多种任务类型 上表现非常出色，无论是文本分类之类的抽取任务 (extractive task) 还是文本摘要和文生图…
2023/5/24 1:22:15 人评论 次浏览 -
Hugging News #0519: 我们把 HuggingChat 开源了
每一周，我们的同事都会向社区的成员们发布一些关于 Hugging Face 相关的更新，包括我们的产品和平台更新、社区活动、学习资源和内容更新、开源库和模型更新等，我们将其称之为「Hugging News」，本期 Hugging News 有哪些有趣的消息，快来看看吧！ 重磅 我们把 HuggingC…
2023/5/20 14:22:04 人评论 次浏览 -
在 Transformers 中使用对比搜索生成可媲美人类水平的文本 ?
1. 引言 自然语言生成 (即文本生成) 是自然语言处理 (NLP) 的核心任务之一。本文将介绍神经网络文本生成领域当前最先进的解码方法 对比搜索 (Contrastive Search)。提出该方法的论文 “A Contrastive Framework for Neural Text Generation” 最初发表于 NeurIPS 2022 ([…
2023/5/17 5:52:12 人评论 次浏览 -
文生视频: 任务、挑战及现状
示例视频由 ModelScope 生成。最近生成模型方向的进展如排山倒海，令人目不暇接，而文生视频将是这一连串进展的下一波。尽管大家很容易从字面上理解文生视频的意思，但它其实是一项相当新的计算机视觉任务，其要求是根据文本描述生成一系列时间和空间上都一致的图像。虽然…
2023/5/16 14:22:07 人评论 次浏览 -
开发 Diffusers 库的道德行为指南
我们正在努力让我们每次发布的库更加负责！ 我们很荣幸宣布我们发布了 道德守则，并将作为一部分其放入 Diffusers 库的说明文档。 由于扩散模型在现实世界上的实际应用例子会对社会造成潜在的负面影响，该守则旨在引导对于社区做出贡献的 Diffusers 库维护者进行技术决策…
2023/5/12 1:22:08 人评论 次浏览 -
蛋白质深度学习
本文主要面向两类目标读者: 一类是想使用机器学习的生物学家，一类是想进入生物学领域的机器学习研究者。如果你不熟悉生物学或机器学习，仍然欢迎你阅读本文，但有时你可能会觉得有点读不太懂！如果你已经熟悉这两者，那么你可能根本不需要本文 —— 你可以直接跳到我们的…
2023/5/11 1:22:05 人评论 次浏览 -
如何在 ? Space 上托管 Unity 游戏
你知道吗？Hugging Face Space 可以托管自己开发的 Unity 游戏！惊不惊喜，意不意外？来了解一下吧！ Hugging Face Space 是一个能够以简单的方式来构建、托管和分享项目或应用样例的平台。虽然通常更多地是应用在机器学习样例中，不过实际上 Space 还可以用来托管 Unity…
2023/5/10 1:22:14 人评论 次浏览 -
Hugging News #0428: HuggingChat 来啦
每一周，我们的同事都会向社区的成员们发布一些关于 Hugging Face 相关的更新，包括我们的产品和平台更新、社区活动、学习资源和内容更新、开源库和模型更新等，我们将其称之为「Hugging News」，本期 Hugging News 有哪些有趣的消息，快来看看吧！ Hugging Chat 来啦！我…
2023/4/30 1:22:05 人评论 次浏览
