4.3K views · 46 reactions | Microsoft researchers release bitnet.cpp, the official inference framework for 1-bit LLMs like BitNet b1.58. It has optimized kernels for fast, lossless inference on CPUs, achieving impressive speedups on ARM and x86 CPUs and significant energy reductions. https://msft.it/6180WGJjy | Microsoft Research | Facebook
0:35
4.3K views · 46 reactions | Microsoft researchers release bitnet.cpp, th…
已浏览 1251 次1 周前
FacebookMicrosoft Research
Microsoft GPU Killer? Why BitNet B1.58 Runs Complex LLMs on CPUs 20x More Efficiently
13:49
Microsoft GPU Killer? Why BitNet B1.58 Runs Complex LLMs on CP…
已浏览 229 次4 个月之前
YouTubeDeepCombinator
Maybe this concept killed the future GPU mafia! 🤯 They've open-sourced bitnet.cpp, a blazing-fast 1-bit LLM inference framework optimized for CPUs. This is a major step forward for running large models locally, without expensive GPUs or cloud costs. Key highlights: - Achieve up to 6x faster inference with 82% lower energy consumption - Run 100B parameter models directly on x86 CPUs - Leverage ternary weights (-1, 0, 1) and 8-bit activations to dramatically reduce memory usage Alongside this, Mi
0:14
Maybe this concept killed the future GPU mafia! 🤯 They've open-source…
已浏览 3807 次4 个月之前
FacebookMd Ismail Sojal
bitnet.cpp 推理，速度超越 llama.cpp，内存最高降低 16 倍 | 附 BitNet b1.58 模型安装演示
8:32
bitnet.cpp 推理，速度超越 llama.cpp，内存最高降低 16 倍 | 附 …
已浏览 1万 次2024年10月28日
bilibilikate人不错
Microsoft Drops New 1-Bit LLM: Bitnet b1.58 2B-4T | Install and Test Locally
14:27
Microsoft Drops New 1-Bit LLM: Bitnet b1.58 2B-4T | Install and Te…
已浏览 7218 次10 个月之前
YouTubeFahd Mirza
BitNet b1.58 LOCAL Test & Install (A 1-Bit LLM!)
16:40
BitNet b1.58 LOCAL Test & Install (A 1-Bit LLM!)
已浏览 2.5万 次10 个月之前
YouTubeBijan Bowen
FastAPI-BitNet: Running Microsoft's BitNet Inference Locally with 1-Bit LLM
9:15
FastAPI-BitNet: Running Microsoft's BitNet Inference Locally with 1-Bit …
已浏览 1600 次2024年11月19日
YouTubeFahd Mirza
什么是 AI 推理 (AI Inference) ？| IBM
2024年6月18日
ibm.com
Microsoft killed the GPU mafia 🤯 They finally open-sourced their 1-bit LL…
已浏览 15 次3 周前
linkedin.com
7:06
BitNet开源：1.58比特让大模型轻如燕，CPU就能跑100B参数
已浏览 2.2万 次2024年10月24日
bilibili机器不想学习ML
0:34
You can now run 100B parameter models on your CPU!🤯
已浏览 1672 次10 个月之前
YouTubeSyed Ryan Ahmed
Using the ladder of inference to make better decisions
2022年6月1日
leadingsapiens.com
25:08
how to run microsoft bitnet-b1.58-2B-4T locally
已浏览 2069 次10 个月之前
YouTubeTotal Technology Zonne
9:20
Microsoft Breaks the Rules of AI with BitNet B1 58 — A Dangerous …
已浏览 6910 次10 个月之前
YouTubeAI Uncovered
5:06
No GPU? No Problem — 1-Bit AI on Raspberry Pi 5 (BitNet b1.58)
已浏览 3520 次10 个月之前
YouTubeThat Project
Microsoft’s “1‑bit” AI model runs on a CPU only, while matching larger …
10 个月之前
arstechnica.com
6:00
bitnet.cpp from Microsoft: Run LLMs locally on CPU! (hands-on)
已浏览 3847 次2024年10月29日
YouTubeAI Bites
16:48
Running BitNet b1.58 on Raspberry Pi (Install Guide & Testing)
已浏览 4241 次10 个月之前
YouTubeBijan Bowen
9:45
Microsoft Accidentally Created the Most Efficient AI Ever
已浏览 10万 次10 个月之前
YouTubeAI Revolution
16:23
Tutorial de BitNet.cpp para LLMs de 1 Bit - para Inferencia Eficiente
已浏览 2338 次2024年10月20日
YouTubeLLM Master Cursos
20:39
BitNet b1.58 2B4T: Scalable 1-bit LLM
已浏览 148 次4 个月之前
YouTubeThe Times of AI
2:09
BitNet b1 58 GPU Test
已浏览 206 次8 个月之前
YouTubeSubhankar
6:48
1-Bit LLM 🤯 The Most Efficient Language Model Ever? BitNet Exp…
已浏览 7 次1 个月前
YouTubeSubramanyam KMV
10:04
Bitnet.CPP - Run 100B Models on CPU - Easy Install on Windows, Li…
已浏览 1.7万 次2024年10月19日
YouTubeFahd Mirza
7:24
How Microsoft's BitNet.cpp Makes It Possible to Run a 100B AI Model o…
已浏览 1136 次3 个月之前
YouTubeTech Edge AI-ML
3:29
GitHub - microsoft/BitNet: Official inference framework for 1-bit LLMs
已浏览 307 次1 个月前
YouTubeGitHub Daily Trend AI Podcast
5:27
Microsoft BitNet: Shocking 100B Param Model on a Single CPU
已浏览 1.5万 次2024年10月26日
YouTubeMervin Praison
3:39
How to Use BitNet: 1.5Bit Models 🚀👾
已浏览 943 次2024年4月5日
YouTubeKye Gomez
1:01
BitNet 微软的1比特LLM官方推理框架，只用i7跑100B模型_哔哩哔哩_bilibili
已浏览 723 次2024年10月22日
bilibiliSmthem
4:33
BITNET
已浏览 221 次2016年1月22日
YouTubeWikiAudio
观看更多视频
静态缩略图占位符