一个男人把杀人计划告诉ChatGPT，AI却报警了：机器开始有良知了吗？

📋总体概括

美国一桩案件引发热议：25岁前高盛分析师Darren Zhou在与女友分手后，将ChatGPT当作倾诉树洞，对话从情感问题逐步升级到描述跟踪、绑架、杀害前女友的计划。OpenAI的安全系统识别出威胁内容并触发报警机制，相关对话被作为法庭记录保存，案件进入司法程序。这一事件首次让公众意识到，AI并非绝对保密的『树洞』，其背后的安全审查与报警机制可能随时介入，『人机倾诉』的隐私边界与AI在企业伦理、公共安全之间的角色定位，正成为亟待讨论的新议题。