美国人工智能公司OpenAI的硬件(包括机械人)部门主管卡利诺夫斯基上周六宣布辞职，原因是不满公司与美国战争部(国防部)达成的协议，担心协议未设置明确的防护措施，令OpenAI的AI技术可能用于战争。

卡利诺夫斯基（Caitlin Kalinowski）X平台发文说，OpenAI在同意将其AI模型部署到五角大楼的机密云端网络前，并未花足够时间进行评估。她说：“AI在国家安全中扮演重要角色，但在缺乏司法监督的情况下监控美国公民，以及在未经人类授权下赋予武器致命的自主权，都是应该更谨慎讨论的界线。”

未设置明确防护措施

她说，尽管她对OpenAI行政总裁奥尔特曼（Sam Altman）及其团队抱有“深切敬意”，但公司宣布与五角大楼的协议时，“并未设置明确的防护措施”。她在随后的X帖文中写道：“这首先是一个治理问题。事关重大，不该为了签约或对外发布公告而匆促行事。”

开发聊天机械人ChatGPT的OpenAI在协议达成后翌日表示，该协议包含额外的防护措施以保障其技术应用。OpenAI周六重申，其“红线”规定禁止将技术用于国内监控或自主武器。OpenAI在给路透社的声明中表示：“我们理解大众对这些议题持有强烈看法，我们将持续与全球各地的员工、政府、公民社会及社群进行讨论。”

另一间AI新创大厂Anthropic近来才因坚持在与五角大楼的协议中加入防护条款，而引发特朗普政府的愤怒。Anthropic行政总裁阿莫迪（Dario Amodei）说，五角大楼和情报机构已在国防领域部署Anthropic的AI模型，但该公司对其技术用于大规模监控美国公民和全自动武器方面设下伦理界线。他说，“将这些系统用于国内大规模监控，与民主价值背道而驰”。五角大楼其后已将Anthropic列入“供应链风险”黑名单，禁止与美军合作的承包商、供应商与该公司有业务往来，且联邦机构不得使用该公司的技术。

以上内容归星岛新闻集团所有，未经许可不得擅自转载引用。