1. Our next-generation model: Gemini 1.5 (blog.google)
Gemini 1.5:下一代模型介绍
谷歌发布了其下一代人工智能模型Gemini 1.5,该模型在性能上实现了显著提升,并在多模态长上下文理解方面取得突破。
核心创新:混合专家架构
Gemini 1.5采用了高效的混合专家架构。与传统单一神经网络不同,MoE模型将网络划分为多个较小的“专家”子网络。根据输入内容,模型会智能地仅激活最相关的专家路径,从而大幅提升训练和推理效率,使模型能更快学习复杂任务并保持高质量。
突破性进展:超长上下文窗口
1.5 Pro模型具备革命性的长上下文处理能力。标准版本拥有128,000 token的上下文窗口,而实验性功能更可支持长达100万token的输入,创下大型基础模型的新纪录。这意味着模型能一次性处理:
- 1小时视频
- 11小时音频
- 超过30,000行代码
- 超过70万字文本
谷歌在研究中甚至成功测试了高达1000万token的上下文。
增强的能力与性能
1.5 Pro模型在文本、代码、图像、音频和视频的综合评估中表现优异:
- 在87%的基准测试中超越前代1.0 Pro版本。
- 与目前最大的1.0 Ultra模型性能相当。
- 在“大海捞针”测试中,能在长达100万token的文本中以99%的准确率找到嵌入信息。
- 展现出强大的上下文学习能力,例如仅通过提供的语法手册就能学习一门濒危语言并实现翻译。
具体应用示例包括:
- 复杂信息推理:分析阿波罗11号402页任务记录,理解对话和事件。
- 跨模态理解:解读44分钟的无声电影情节与细节。
- 长代码分析:处理超过10万行代码,理解各部分功能并提出修改建议。
可用性与测试
1.5 Pro模型现已通过AI Studio和Vertex AI向开发者和企业客户提供有限预览。标准128,000 token上下文窗口版本将在模型更广泛可用时推出。测试期间,早期用户可免费试用100万token上下文功能(尽管延迟可能较长),未来将推出分级定价。
伦理与安全
谷歌强调,该模型遵循其人工智能原则和安全政策,经过了广泛的伦理与安全测试,包括内容安全和潜在危害评估,并针对长上下文特性开发了新的测试方法。
Gemini 1.5的发布标志着谷歌在推动人工智能更实用、更高效方向上的又一重要步伐,旨在为全球数十亿用户、开发者和企业带来新的可能性。