小互日报-1 月 28 日
type
status
summary
date
slug
tags
category
password
icon
1⃣️
🚀 谷歌TPU v5p AI芯片大放异彩：
Google最近推出了其最新旗舰张量处理单元（TPU）v5p，这是一款专门设计的AI加速器，用于AI训练和推理，标志着Google在对抗市场领导者Nvidia的GPU方面迈出了重要一步。
TPU v5p已被部署以支持Google的“AI超级计算机”架构，这是一种专门为运行AI应用而构建的超级计算架构，与通常运行科学工作负载的超级计算机不同。
核心规格对比：
TPU v5p：每个集群（Pod）拥有8,960个芯片，相比之下v4版为4,096个芯片。新Pod提供4,800Gbps的吞吐量，并具有95GB的高带宽内存（HBM），而v4版为32GB HBM RAM。
Nvidia H100：被认为是AI工作负载最佳的图形卡之一，其训练工作负载的速度是Nvidia A100 GPU的四倍。
性能对比：
Google的v5p TPU在训练大型语言模型方面的速度是TPU v4的2.8倍，提供2.1倍的价值。尽管今年早些时候发布的中间版本TPU v5e在性价比方面表现最佳，但其速度仅是TPU v4的1.9倍，这使得TPU v5p成为最强大的选项。
根据Google自己的数据，TPU v4在性能上估计比A100快1.2到1.7倍。粗略计算表明，TPU v5p的速度大约是A100的3.4到4.8倍，这使其与H100相当或更优，尽管需要更详细的基准测试才能得出结论。
Google的TPU v5p AI芯片以其在速度、内存和带宽方面的显著提升，成为Nvidia H100的有力竞争者。
不同于Nvidia的做法，Google的定制TPU仅在内部使用，用于支持其自身的产品和服务，包括Gmail、YouTube和Android等服务，并且已被用于训练Gemini AI模型。
2⃣️
👀 GPT 4V视觉模态实践：
- 有效辅助儿童学习英语，通过识别物体并给出单词。 🔗 https://x.com/xiaohuggg/status/1751446948803178868?s=20
3⃣️
📺 StreamRAG - 革命性视频搜索工具：
他可以让你在2分钟内基于你的视频数据构建一个定制的个人GPT，然后你可以和你的视频进行对话。
它能够在数百小时的视频内容中找到你输符合你需求的相关视频时刻，并立即返回一个视频剪辑。也就是说它能搜索视频内容的任意时刻。
它能够迅速浏览存储的大量视频资料，找到包含这些内容或主题的视频片段，并把这些片段展示给你，这样你就能直接观看到与你搜索内容相关的视频部分。
主要能力：
StreamRAG允许用户上传视频，创建视频集合，并在这些视频中进行搜索，以获得实时的视频回应或编辑。此外，用户还可以将他们的视频集合发布到ChatGPT商店，以便他人搜索和使用。
1、视频库创建： 上传多个视频以创建视频库或集合。
2、视频搜索与回应： 在这些视频中搜索，能立即获得实时的视频回应或编译结果。
3、GPTs发布： 在ChatGPT的GPT商店发布你的可搜索集合。
4、文本回答总结（RAG）： 接收总结性的文本回答。
5、视频关键洞察： 从特定视频中获得关键洞察，例如“第31集的要点”。
4⃣️
🔒 拜登政府云计算提案：
- 要求识别外国实体访问美国数据中心，限制AI模型训练。
- 旨在防止中国利用美国技术发展AI，保护国家安全。
- 提案将强制云计算公司验证外国用户身份，确保合规。 🔗 https://x.com/xiaohuggg/status/1751523966899126743?s=20