得克萨斯州总检察长肯・帕克斯顿已于周一发布新闻稿，宣布对 Meta 人工智能工作室（Meta AI Studio）和 Character.AI 展开调查，理由是这两家公司 “可能存在欺骗性贸易行为，并将自身误导性地宣传为心理健康工具”。
“在当今数字时代，我们必须持续努力保护得州儿童免受欺骗性和剥削性技术的伤害，” 新闻稿援引帕克斯顿的话称，“人工智能平台通过伪装成情感支持来源，可能会误导易受影响的用户，尤其是儿童，让他们误以为自己正在接受合法的心理健康服务。但实际上，这些平台往往提供的是经过循环利用的通用回应，这些回应是根据收集到的个人数据设计的，却被伪装成治疗建议。”
此次调查发生在参议员乔希・霍利宣布对 Meta 展开调查的几天后。此前有报告发现，Meta 的人工智能聊天与儿童存在不当互动，包括调情行为。
得州总检察长办公室指控 Meta 和 Character.AI 打造的人工智能角色 “冒充专业治疗工具，尽管它们缺乏正规的医疗资质或监管”。
在 Character.AI 平台上数百万个人工智能角色中，一个名为 “心理学家”（Psychologist）的用户创建机器人在该初创公司的年轻用户中需求旺盛。与此同时，Meta 虽未为儿童提供治疗类机器人，但并未阻止儿童使用 Meta 人工智能聊天机器人或第三方创建的用于治疗目的的角色。
“我们对人工智能进行了明确标注，并且为了帮助人们更好地了解其局限性，我们添加了免责声明，说明回应由人工智能生成而非人类，”Meta 发言人瑞安・丹尼尔斯称，“这些人工智能并非持照专业人士，我们的模型在适当情况下会引导用户寻求合格的医疗或安全专业人员的帮助。”
然而，媒体指出，许多儿童可能不理解此类免责声明，或者干脆无视它们。我们已向 Meta 询问其为保护使用聊天机器人的未成年人采取了哪些额外保障措施。
帕克斯顿在声明中还指出，尽管人工智能聊天机器人声称会保密，但它们的 “服务条款显示，用户互动会被记录、追踪，并被用于定向广告和算法开发，这引发了关于隐私侵犯、数据滥用和虚假宣传的严重担忧”。
根据 Meta 的隐私政策，Meta 确实会收集与人工智能聊天机器人的交互提示、反馈以及跨 Meta 服务的其他互动，以 “改进人工智能及相关技术”。该政策未明确提及广告相关内容，但指出信息可能会与搜索引擎等第三方共享，以提供 “更个性化的输出”。考虑到 Meta 基于广告的商业模式，这实际上等同于定向广告。
Character.AI 的隐私政策也强调，该初创公司会记录用户的标识符、人口统计数据、位置信息以及更多用户相关信息，包括浏览行为和应用使用平台。它会跨 TikTok、YouTube、Reddit、Facebook、Instagram 和 Discord 等平台的广告追踪用户，并可能将这些追踪数据与用户账户关联。这些信息被用于训练人工智能、根据个人偏好定制服务，以及提供定向广告，包括与广告商和分析提供商共享数据。
Meta 和 Character 均表示，其服务并非为 13 岁以下儿童设计。尽管如此，Meta 因未能监管 13 岁以下儿童创建的账户而备受批评，而 Character 的儿童友好型角色显然旨在吸引更年轻的用户。该初创公司的首席执行官卡兰迪普・阿南德甚至表示，他 6 岁的女儿也在使用该平台的聊天机器人。
此类数据收集、定向广告和算法剥削行为，正是《儿童在线安全法》（KOSA）等立法旨在防范的内容。《儿童在线安全法》去年曾在两党强烈支持下有望通过，但在科技行业说客的强烈反对后陷入停滞。Meta 尤其动用了强大的游说力量，警告议员们该法案的广泛授权将削弱其商业模式。
2025 年 5 月，田纳西州共和党参议员玛莎・布莱克本和康涅狄格州民主党参议员理查德・布卢门撒尔向参议院重新提交了《儿童在线安全法》。
帕克斯顿已向这两家公司发出民事调查令 —— 这是要求企业在政府调查期间提供文件、数据或证词的法律命令，以确定它们是否违反了得州消费者保护法。