由于Llama的完整“模型权重”已公开,研究人员可以在无需互联网连接的独立硬件上安装和运行它,而互联网连接是国际空间站上的一项基本要求。这种方法无需通过地球服务器路由数据,从而提高了数据安全性并减少了延迟。
SpaceLlama设置结合了:
BoozAllen的A2E2(边缘环境人工智能)框架
惠普"企业号"空间计算机-2
NVIDIA加速计算(CUDA、cuDNN和cuBLAS)
Meta的Llama视觉AI功能
该团队报告称,通过运行类似于卫星使用的紧凑、节能的系统,某些任务的推理时间已从几分钟缩短至一秒多一点。
此外,SpaceLlama集成了生成式人工智能和多模态人工智能。它可以根据提示生成文本或图像,并处理混合数据类型:文本、视觉和音频。一个实际用例是,它使研究人员能够直接访问重要的技术参考文献和说明,而无需互联网连接。
此次部署是继2024年8月BoozAllen使用HPE的
博思艾伦首席技术官BillVass谈到该项目时表示:
历史上,由于依赖地球上的计算和通信能力,太空创新一直受到限制。SpaceLlama将工具直接带到太空边缘,快速进行关键维修并维护国际空间站国家实验室,推动我们迈向太空科学、探索和在最远的任务边缘——太空开展行动的未来。

相关文章

头条焦点
精彩导读
关注我们
【查看完整讨论话题】 | 【用户登录】 | 【用户注册】