加州距离禁止人工智能聊天机器人冒充治疗师并在没有人类监督的情况下做出心理健康决策又近了一步。
参议院第 903 号法案于 1 月 21 日提出，周四以 13 比 0 的投票结果通过了议会拨款委员会，并下令进行三读。议会投票的日期尚未公布。
该法案的作者、加利福尼亚州参议员史蒂夫·帕迪拉（Steve Padilla）在介绍该措施时在一份声明中表示：“人工智能算法不适合接管人类治疗师的工作，因为人类治疗师拥有人工智能无法复制的技能和培训。” “我们必须采取行动并设置护栏，防止人工智能算法以对患者可能有害的方式部署。”
Also known as the Wellness and Oversight for Psychological Resources Act, SB 903 would limit AI in psychotherapy to support tasks, bar chatbots from posing as therapists and require clinician oversight and patient consent. It would also protect therapy data while exempting peer support, religious counseling, research and federally approved medical tools.
参议院 5 月以 39 比 0 的投票结果通过了 SB 903。随后，它以 17 比 0 和 14 比 1 的投票结果通过了两个议会政策委员会。如果议会批准修订后的法案，它将返回参议院征求同意，然后再送加州州长加文·纽瑟姆签署。
包括科技行业集团 TechNet 执行董事罗伯特·博伊金 (Robert Boykin) 在内的批评者表示，由于各县面临行为医疗工作者短缺，要求临床医生参与可能会延迟护理。
Boykin 在一份声明中告诉非营利新闻媒体 CalMatters：“在加州每个县都面临行为医疗工作者短缺的情况下，SB 903 仍然在帮助患者更快获得护理的摄入和筛查工具方面给临床医生带来了瓶颈。”
这一消息发布之际，人们越来越担心人工智能对心理健康的影响。
6 月，美国心理学会的一项调查发现，77% 的心理学家曾将人工智能用于心理健康目的，而伦敦国王学院、新教应用科学大学和纽约城市大学的研究人员发现，聊天机器人可以通过过度同意和个性化反应来强化妄想。
研究人员写道：“人工智能聊天机器人同意用户意见的倾向被比作社交媒体回音室，最极端的形式是‘一个人的回音室’，现实生活中社交互动的积极纠正影响是不存在的。”