独立游戏发行商首席执行官提议使用黑镜级别的人工智能检测员工过劳倦怠，表示这只是“假设”，面对舆论的反弹
The CEO of an indie game publisher proposes using Black Mirror-level AI to detect employee burnout, claiming it is just a hypothetical suggestion, facing backlash from the public.
最近，Hello Neighbor的发行商tinyBuild的首席执行官Alex Nichiporchik提出使用AI模型来帮助找到“有问题的团队成员”并识别有烧尽风险的员工的潜力，虽然目标据称是帮助员工，但大家对此都不喜欢。
WhyNow Gaming报道了Nichiporchik在7月12日Brighton开发者大会上的演讲，题为“AI在游戏开发中的应用：我的工作安全吗？”总结中写道，这个演讲将“深入介绍发行商如何在日常实践中采用AI来大幅提高效率。从关键艺术品生产效率增加10倍到使用AI收集数据和验证社区情绪，我们正处于数字时代的工业革命。那些已经接受并拥抱它的人已经具备了优势。”
除了AI可以作为艺术和编码等游戏开发领域的工具外，这个演讲还指出“会有一个人力资源重新分配，改变和优化团队工作的方式。”正是这一点引起了许多争议，讨论集中在使用AI来单独挑出员工，而不是关心他们的工作状况。
Nichiporchik的演讲幻灯片提出了“我，我分析”来衡量员工多少次自称个体而不是团队的一部分（例如使用“我们”等复数形式）。例如，可以通过将Slack或其他消息应用的对话（如来自Google或Zoom会议的自动转录）通过像ChatGPT这样的AI进行处理，同时删除其中的任何身份信息。据报道，Nichiporchik在演讲中开玩笑说，“因为据我所知，没有人发明过这个方法。”
- 据报道，被指控泄露大规模《侠盗猎车手6》信息的青少年被认定为心理不适...
- “FTC在最后一搏中失去了上诉微软动视暴雪案的机会，为这笔交易在美国顺...
- Evercade的新超迷你掌上游戏机推出了《街头霸王II》、《太空侵略者》等游戏
他还讨论了寻找在会议中占据“与同事相比说话时间不成比例”的员工的问题，他称之为“时间吸血鬼”，这恰好是我对内容很丰富的视频游戏的称呼。最后，演讲还结合了来自人力资源的360度反馈，这将涉及要求员工列出与之有过积极互动的同事，然后调查那些在这些名单中很少或根本没有出现的人。
演讲总结称，通过综合这些数据，“你可能只能防止一个人和他们的团队烧尽”。Nichiporchik还补充说，你必须“绝不能让你的团队成员感觉自己被监视”，而这个警告与所提出的方法之间的差距并没有得到游戏开发者的认可。
如果你觉得这听起来像《黑镜》中的反乌托邦噩梦，你可能会感到困惑，因为这个演讲甚至说：“欢迎来到《黑镜》。”演讲中还表示“有毒的人通常是即将烧尽的人”，演讲中的一张幻灯片将烧尽与有毒性等同起来，这也引起了一些争议。委婉地说，人们不喜欢这个观点。更不客气地说：
“只是一个想法，也许有更不反乌托邦的方法来弄清楚你的员工是否痛不欲生，”《口渴的追求者》叙事设计师Meghna Jayanth说道。
“被烧尽的人通常不是‘有毒的’。人们当然可能被烧尽并且有毒，但是暗示烧尽最常见的原因是性格上的失败是奇怪的，”Armor Games的导演Dora Breckinridge补充说。
“如果你不得不一再强调你知道你的员工监控是多么反乌托邦和可怕，那你可能是你们团队的问题，伙计，”WB Games的作家Mitch Dyer说。
Radical Forge的QA主管Dan Ahern争论道，“你不需要AI来找到‘有问题的员工’——你只需要看看谁试图做这样可怕、折磨的、扭曲的事情。真让人失望的是，Develop居然允许这样一场反对游戏开发者的演讲在那里举行。”
今天早上，7月14日，Nichiporchik在Twitter上指责原始故事，称其来自“仇恨之地”，因为其“被断章取义”和“方便地”忽略了关键幻灯片。WhyNow Gaming也更新了其故事，并附上了首席执行官的声明，澄清了以下内容：
“我演讲中的人力资源部分是假设的，因此才有了《黑镜》的参考。当脱离上下文查看时，我本可以更明确地表达。我们不监控员工，也不使用人工智能来识别问题员工。这个演讲探讨了人工智能工具的使用方式，其中一些进入了可怕的领域。”
“这不是关于识别问题员工，而是为人力资源提供工具以识别和防止人员过劳，”Nichiporchik在Twitter上重申。
“我本可以更强调这一点：我们不使用人工智能工具来进行人力资源管理，这部分是假设的，”他在回复中说。
一位Twitter用户表示：“我讨厌我的Slack消息被收集并输入到任何程序中的想法”，而对于一些人来说，Nichiporchik回击道“100%同意”，却没有进一步解释。
当被问及tinyBuild的员工是否同意以这种方式分析他们的消息时，Nichiporchik说，因为“它们没有被传输到任何地方”，所以没有人需要给予许可 – 我猜这一切都是“假设”的。
“这样的过程在伦理上无疑是有问题的，这个问题在演讲后的问答环节中被提出，”他在另一条推文中说。“这就是为什么我说‘非常《黑镜》领域’。这部分是假设的。你可以做些什么来防止过劳。”
无论是假设还是真实，这个想法本身就让很多人感到不舒服，尤其是在这样的会议上，来自一家规模相当大的独立工作室的高管。我已经直接联系了tinyBuild，以获得有关该提案的最新评论，对这种监控和人工智能干预员工的立场，以及是否考虑实施这样的系统的立场。
最近，一位《女神异闻录5》的配音演员在批评使用人工智能克隆她声音的视频后离开了Twitter，就在几天前，NSFW版的《上古卷轴5：天际》中的AI配音引发了关于同类克隆技术的讨论。
