意大利成为第一个有效禁止 ChatGPT 的西方国家。
由于可能违反隐私和数据法,该国的数据监管机构已下令开发聊天机器人的 OpenAI 停止运营。
意大利数据保护局 (GPDP) 提到了一些担忧,包括大量收集用户数据和存储以训练 AI 算法。
ChatGPT 是一种大型语言模型,在互联网上训练了数十亿个单词,然后根据人类反馈进行了微调。
它识别文本中的模式,能够以复杂的方式书写,以及生成计算机代码。
意大利的行动似乎触及了该模型的核心,因为它声称:最重要的是缺乏法律依据来证明大规模收集和存储个人数据是正当的,目的是训练平台运行的算法。
该监管机构上周还提到了 OpenAI 的安全漏洞,这意味着用户可以暂时看到彼此的搜索和支付细节,并且缺乏对儿童的保护。
ChatGPT 面向 13 岁以上的用户,但网站上没有年龄检查。
办公室表示:ChatGPT 提供的信息并不总是与真实数据相对应,因此确定了对个人数据的不准确处理。
用户经常抱怨说,在询问有关自己的问题时,聊天机器人令人信服地“产生幻觉”或撒谎。
自去年 11 月推出 ChatGPT 以来,唯一禁止或限制的国家是中国、伊朗、朝鲜和俄罗斯。
巴斯大学人工智能教授表示,意大利的决定令人担忧。
真正令人担忧的是这两个 [elements]:未经同意(没有法律依据,当局说)可能包含个人数据的培训,以及这些个人数据可能以不准确的方式处理的可能性,因为 ChatGPT 的回答并不总是正确的。
目前尚不清楚如何尽快解决这些问题。
这是当前技术的核心,需要在几乎所有网络上进行培训,这可能还包括个人数据,并且不能保证正确答案。
OpenAI 在其技术成为历史上增长最快的应用程序,自去年 11 月以来拥有 1 亿用户后,正在多条战线上进行战斗。
它已被用于各种任务。
据《每日邮报》报道,在要求 ChatGPT 写信给约克市议会后,一名妇女似乎成功地对停车罚款提出上诉。
本周,专家和技术高管呼吁公司和其他人工智能实验室停止强大的研究。
其他人则要求提高透明度。
在美国,人工智能和数字政策中心本周向联邦贸易委员会提交了针对 OpenAI 的申诉。
它表示,最新模型 GPT-4 存在偏见、具有欺骗性,并对隐私和公共安全构成风险。
OpenAI 有 20 天的时间对通知做出回应,并面临最高 2000 万欧元或全球营业额 4% 的罚款。
GPDP 在数据保护方面采取强硬立场,并且由于担心儿童访问,最近禁止了人工智能关系机器人 Replika。
版权归原作者 网络研究院 所有, 如有侵权,请联系我们删除。