当 AI 聊天机器人开始扮演“全能医生”和“金牌律师”时，法律的紧箍咒也随之而来。美国纽约州立法机构正在审议一项代号为 S7263 的法案，旨在禁止 AI 聊天机器人向公众提供实质性的法律或医疗建议。

该法案由纽约州参议院互联网与技术委员会推动，核心矛头直指那些可能涉及“无证执业”的 AI 系统。法案规定，AI 聊天机器人严禁假扮持证专业人士（如医生、律师）提供诊疗建议或法律方案。如果运营方违反禁令，用户将拥有民事诉权，可以直接起诉聊天机器人所有者并索赔。

为了防止误导，法案还提出了一套“身份透明”标准：

强制提示：所有者必须以“清晰、显著”的方式告知用户正在与 AI 互动，且字体需易于辨认。

责任共担：即便提供了提示，所有者也无法免除因 AI 建议造成伤害而应承担的法律责任。

此次立法背后有着沉痛的背景。今年 1 月，因数起与未成年人自杀相关的诉讼，生成式 AI 应用 Character.AI 与 Google 达成了和解。纽约州参议员克里斯滕·冈萨雷斯强调，公众理应获得“来自真实人的真实关怀”，AI 的创新不应以纽约人的安全，尤其是儿童的安全为代价。

若该法案最终签署通过，将在 90 天后正式生效。这预示着 AI 行业将告别“野蛮生长”的咨询时代，各平台必须在专业领域与用户之间筑起一道坚实的安全防火墙。