纽约市议员提议立法奖励危险 AI 举报人，奖金来自收取的罚款

纽约市议员正计划通过金钱激励手段，鼓励公众举报涉及危险人工智能的行为，这是该市强化AI监管系列法案中的一项内容。根据即将在纽约市议会审议的提案，举报人若向当局报告AI企业的违规操作，将有权从向相关公司征收的罚款或罚金中分得一定比例的奖励。另一项提案则规定，在特定情形下，因AI系统而遭受损害的个人，可对系统的开发者提起诉讼。

在定于10月5日举行的AI风险与潜在防护措施听证会之前，纽约市议会议长朱莉·梅宁公布了这批法案。届时，市议会全部51名成员将出席。随着AI模型快速发展所引发的忧虑日益加深，纽约市也在推进更严格的监管。Anthropic前研究员雅各布·考克森本月辞职，并警告称AI“可能在本世纪20年代末之前害死我们所有人”。

梅宁已要求Anthropic、OpenAI、谷歌、SpaceX的AI部门以及Meta的CEO出席10月5日的听证会，并指出必要时市议会可动用传票权。“纽约市正迅速成为全球科技与人工智能中心，我们希望鼓励这一发展态势。但这也意味着，我们有更大的责任去设立适当的防护措施，以保护纽约市民免受意外后果的影响。”

据相关消息，其他提案要求AI系统在纽约市进行营销、销售或部署前，必须通过第三方验证，同时必须配备由人类控制的“紧急关闭开关”。另一项提案则要求聊天机器人提供商遵守数据隐私、安全及透明度规定，并允许纽约市根据这些规定执行监管。