当地时间5月19日，意大利数据监管机构（Guarantor for the Protection of Personal Data，GPDP）宣布，因违法开展用户数据处理活动以及未落实未成年人特殊保护要求等，将对人工智能聊天机器人Replika的开发公司Luka Inc.处以500万欧元罚款（折合人民币约4100万元）。目前Replika暂未对此作出回应。
公开信息显示，Replika是一款2016年推出的AI陪伴产品，其通过生成式AI技术模拟用户语言习惯，通过文字和语音交互形式提供情感陪伴服务。2024年8月，Replika首席执行官Kuyda 报告称，该产品用户总数已超过3000万。
2023年2月，GPDP以Replika为儿童带来特殊风险为由，暂停了Replika 在该国的服务。经过两年多的调查，近日宣布处罚结果。
GPDP认定，Replika在处理用户数据时缺乏相关法律依据；违反公开透明原则，在隐私政策中未详细披露大模型开发目的，训练数据类型、使用规则以及保存期限等。另外，尽管在隐私政策中明确了其服务不提供给13岁以下人士使用，但Replika未设置任何有效的用户年龄验证机制，未成年人可以通过填写虚假年龄信息绕开限制，继续享受服务。
值得注意的是，在处理该案的同时，GPDP还宣布了一项单独调查，核实Replika在提供AI陪伴服务过程中开展的个人数据处理活动是否合法。
GPDP要求Luka对支撑Replika的生成人工智能系统在整个运行周期过程中的数据处理行为作出澄清。具体包括提供有关该产品的风险评估信息，在开发和训练该语言模型时为保护用户数据而采取的措施，处理的个人数据类型，以及是否采取了匿名化措施等等内容。
南都记者梳理发现，近年来，GPDP高度重视对AI产品的监管。去年12月，GPDP对OpenAI处以1500万欧元罚款，原因是OpenAI在没有充分法律依据的情况下，使用用户个人数据来训练ChatGPT，违反了透明度原则以及用户数据保护义务。
今年初，DeepSeek在海内外爆火。GPDP以担忧意大利用户的数据安全为由，要求DeepSeek公司说明用户数据处理情况。不久，DeepSeek从意大利地区苹果App Store和谷歌Play Store下架。2023年3月，GPDP曾禁止使用ChatGPT，并限制OpenAI处理该国用户信息，意大利一时成为全球首个禁用该软件的国家。
还未登录
