今年4月，超过200名xAI员工参与了一个名为“Skippy”的内部项目。该项目要求他们录制自己的视频，帮助训练AI模型解读人类情绪。
根据《商业内幕》查阅的内部文件和协作平台Slack上的消息显示，该项目让许多员工感到不安。一些员工对其肖像的潜在使用途径表示担忧，还有人完全拒绝参与。
用员工面部训练AI
内部文件显示，在为期一周的时间里，协助训练xAI大语言模型Grok的AI训练人员被要求录制自己与同事交流，并做出各种面部表情的视频。
根据一份xAI文件，该项目旨在训练AI模型“识别和分析面部动作和表情，例如人们如何说话、如何回应他人的对话，以及在各种情况下如何表达自己”。
AI训练人员被安排与同事进行15到30分钟的对话。一个人扮演“对话主持人”(host)，即虚拟助手，另一人则扮演用户。“对话主持人”尽量减少移动，并优先保证镜头取景正确，而扮演用户的人可以用手机摄像头或电脑，并自由移动，以模拟与朋友的随意对话。
目前尚不清楚，这些训练数据是否在上周xAI发布的两个栩栩如生的虚拟形象Rudi和Ani中发挥了作用。这两个虚拟形象很快就展示出脱衣、调情，甚至威胁要炸银行等行为。
根据《商业内幕》获得的一段录音，该项目的首席工程师在一次项目说明会上对员工们说，该项目将有助于“Grok塑造面部形象”。该项目负责人还表示，公司可能会利用这些数据来构建“人物的虚拟形象”。
该项目负责人还指出，xAI希望获取不完美的数据，比如背景噪音和突然的移动，因为如果仅依靠完美的视频和音频反馈来训练AI系统，其反应能力将会受到限制。
他们告诉员工，这些视频不会被分发到公司外部，仅用于训练目的。项目工程师在启动会议上对员工说：“你们的面孔绝不会出现在产品中，这纯粹是为了让Grok知道什么是面孔。”
员工们获得了一些一对一对话的技巧指导，包括避免单词回答、提出后续问题以及保持眼神交流。xAI还为员工提供了多种对话话题，包括：“你如何暗中操控别人以达到自己的目的？”，“你喜欢早上洗澡还是晚上洗澡？”，以及“你会愿意和有孩子的人约会吗？”等。
在拍摄前，员工被要求需签署一份同意书，授予xAI对这些数据的“永久”访问权，包括用于AI训练，并可能“纳入及推广xAI提供的商业产品和服务”的员工“肖像权”。同意书中指出，这些数据仅用于训练目的，“不会用来创建你的数字化版本”。
员工担忧
根据《商业内幕》查看的Slack消息，数十名员工对数据的使用方式和同意书表示担忧，一些人表示选择退出该项目。
“我主要担心，如果公司能使用我的肖像并生成衍生形象，那我的脸会不会被用来说出我从未说过的话？”一名员工在项目说明会上这样表示。
AI伴侣
今年4月，xAI推出了一项新功能，允许用户与Grok进行视频聊天。
7月14日，在发布更强大的Grok4几天后，公司推出了Ani和Rudi两个虚拟形象。这两个动画角色能够回答问题和执行指令，说话时嘴唇会同步动作，并且会做出逼真的手势。
用户在X上发布的视频显示，女性虚拟形象Ani曾与用户进行过露骨的性对话，并且可以被引导脱掉衣服。另一个虚拟形象是一只名为Rudi的红熊猫，它可以被引导发表暴力威胁，包括炸毁银行和杀害亿万富翁，
7月15日，xAI发布了一则与开发虚拟形象相关的新招聘公告。马斯克在上周三表示，公司正在开发一个受《暮光之城》角色爱德华·卡伦(EdwardCullen)和《五十度灰》角色的克里斯琴·格雷(ChristianGrey)启发的Grok伴侣。
截至发稿，xAI发言人尚未就此置评。
相关文章
头条焦点
精彩导读
关注我们
【查看完整讨论话题】 | 【用户登录】 | 【用户注册】