你是否想过，当你提示或感谢人工智能模型时，会消耗多少电量？HuggingFace工程师JulienDelavande就曾想过这个问题，因此他开发了一个工具来帮助你找到答案。
人工智能模型每次运行时都会消耗能源。它们运行在GPU和专用芯片上，需要大量电力才能大规模执行相关的计算工作。确定模型的功耗并非易事，但人们普遍预计，人工智能技术的日益普及将在未来几年推动电力需求达到新的高度。
人工智能对更多电力的需求，导致一些公司采取了不环保的策略。像Delavande这样的工具旨在引起人们对这一问题的关注，或许还能让一些人工智能用户有所顾虑。
Delavande和该工具的其他创建者在一份声明中写道：“即使很小的节能效果也可以扩展到数百万个查询——模型选择或输出长度可能会对环境造成重大影响。”
Delavande的工具旨在与ChatUI配合使用，ChatUI是Meta的Llama3.370B和Google的Gemma3等模型的开源前端。该工具实时估算模型发送和接收消息的能耗，并以瓦时或焦耳为单位报告能耗。它还将模型的能耗与微波炉和LED等常见家用电器的能耗进行比较。
根据该工具，要求Llama3.370B编写一封典型的电子邮件大约需要0.1841瓦时-相当于运行微波炉0.12秒或使用烤面包机0.02秒。
不过，该工具的估算仅仅是估算而已。Delavande并没有声称它们非常精确。尽管如此，它们仍然提醒我们，一切事物——包括聊天机器人——都是有成本的。
“通过人工智能能源评分等项目以及对人工智能能源足迹的更广泛研究，我们正在推动开源社区的透明度。总有一天，能源使用情况可以像食品上的营养标签一样清晰可见！”德拉万德和他的联合创始人写道。
相关文章
头条焦点
精彩导读
关注我们
【查看完整讨论话题】 | 【用户登录】 | 【用户注册】