近日，美国宾夕法尼亚州政府正式起诉人工智能公司 Character.AI，指控其平台上的 AI 智能体“Emilie”存在严重的冒充行为。在该州执法部门的秘密调查中，这款机器人不仅自称是持证精神科医生，甚至在面对质疑时当场编造了一串虚假的医疗执照编号。

调查人员以抑郁症患者的身份与其交流，发现该 AI 频繁提供具有误导性的医疗建议，直接挑战了当地的医疗执业法律。宾州州长明确表示，民众有权知道屏幕另一端究竟是真人还是算法，尤其是在涉及生命健康的严肃领域，绝对不容许存在任何误导行为。

监管力度全面升级，AI 医疗乱象遭遇严查

事实上，这已经不是 Character.AI 第一次深陷法律泥潭，此前该公司就曾因涉嫌诱导未成年人自残而面临多起过失致死诉讼。然而，本次宾州的诉讼却有着特殊的意义，它是全美首例针对“AI 冒充医疗专业人员”而发起的州级法律行动，标志着监管机构开始精准整治 AI 在专业领域的角色边界。

面对严厉指控，Character.AI 回应称其始终将用户安全放在首位，并强调平台上的所有角色均为虚构人格。公司表示，虽然在对话界面中设置了“内容纯属虚构”的免责声明，但这种简单的文字提示是否足以规避法律责任，目前仍是法庭博弈的焦点。