摘要：
量化技术通过用低精度数据类型 (如 8 位整型 (int8)) 来a56爆大奖在线娱乐深度学习模型的权重和激活，以减少传统深度学习模型使用 32 位浮点 (float32) a56爆大奖在线娱乐权重和激活所带来的计算和内存开销。 减少位宽意味着模型的内存占用更低，这对在消费设备上部署大语言模型至关重要。量化技术也使得a56爆大奖在线娱乐们可以针对较 阅读全文
摘要：
今天，a56爆大奖在线娱乐们非常兴奋地宣布 部署到 Cloudflare Workers AI 功能正式上线，这是 Hugging Face Hub 平台上的一项新服务，它使得通过 Cloudflare 边缘数据中心部署的先进 GPU、轻松使用开放模型作为无服务器 API 成为可能。 从今天开始，a56爆大奖在线娱乐们将把 Huggi 阅读全文
摘要：
嵌入模型在很多场合都有广泛应用，如检索、重排、聚类以及分类。近年来，研究界在嵌入模型领域取得了很大的进展，这些进展大大提高了基于语义的应用的竞争力。BGE、GTE 以及 E5 等模型在 MTEB 基准上长期霸榜，在某些情况下甚至优于私有的嵌入服务。 Hugging Face 模型 hub 提供了多种 阅读全文
摘要：
在 NVIDIA DGX Cloud上使用 H100 GPU 轻松训练模型 今天，a56爆大奖在线娱乐们正式宣布推出 DGX 云端训练 (Train on DGX Cloud) 服务，这是 Hugging Face Hub 上针对企业 Hub 组织的全新服务。 通过在 DGX 云端训练，你可以轻松借助 NVIDIA 阅读全文
摘要：
最近，Argilla 和 Hugging Face 共同 推出 了 Data is Better Together 计划，旨在凝聚社区力量协力构建一个对提示进行排名的偏好数据集。仅用几天，a56爆大奖在线娱乐们就吸引了: 350 个社区贡献者参与数据标注 超过 11,000 个提示评分 你可通过 进度面板 了解最新的 阅读全文
摘要：
对a56爆大奖在线娱乐转语音 (text-to-speech, TTS) 模型的质量进行自动度量非常困难。虽然评估声音的自然度和语调变化对人类来说是一项微不足道的任务，但对人工智能来说要困难得多。为了推进这一领域的发展，a56爆大奖在线娱乐们很高兴推出 TTS 擂台。其灵感来自于 LMSys 为 LLM 提供的 Chatbot 擂台 阅读全文
摘要：
随着生成式人工智能 (Generative AI，GenAI) 革命的全面推进，使用 Llama 2 等开源 transformer 模型生成a56爆大奖在线娱乐已成为新风尚。人工智能爱好者及开发人员正在寻求利用此类模型的生成能力来赋能不同的场景及应用。a56爆大奖在线娱乐展示了如何基于 Optimum Habana 以及a56爆大奖在线娱乐们实现 阅读全文
摘要：
近来，LLM 已深入人心，大有燎原之势。但在a56爆大奖在线娱乐们将其应用于千行百业之前，理解其在不同场景下的安全性和潜在风险显得尤为重要。为此，美国白宫发布了关于安全、可靠、可信的人工智能的行政命令; 欧盟人工智能法案也对高风险人工智能系统的设立了专门的强制性要求。在这样的大背景下，a56爆大奖在线娱乐们首先需要确立一个用于定量评估 阅读全文
摘要：
在这篇博客中，a56爆大奖在线娱乐们将向你介绍俄罗斯套娃嵌入的概念，并解释为什么它们很有用。a56爆大奖在线娱乐们将讨论这些模型在理论上是如何训练的，以及你如何使用 Sentence Transformers 来训练它们。 除此之外，a56爆大奖在线娱乐们还会告诉你怎么用这种像套娃一样的俄罗斯套娃嵌入模型，并且a56爆大奖在线娱乐们会比较一下这种模型和普通嵌入模型的不同 阅读全文
摘要：
简单概括 你应该使用自己的模型，还是使用 LLM API？创建你自己的模型可以让你完全控制，但需要数据收集、训练和部署方面的专业知识。LLM API 使用起来更简单，但会将数据发送给第三方，并对提供商有强烈依赖。这篇博客让你可以将 LLM 的便利性与定制模型的控制性和效率相结合。 在一个关于识别新闻 阅读全文