ChatGPT漏洞泄露客户POS支付信息！

3月25日，OpenAI发文称，出现了一个Redis-py开源库中的错误，该问题导致了部分用户可以看到其他人的聊天记录片段，甚至看到其他人的信用卡后四位、姓名、电子邮箱、和付款地址等信息。

据悉，本次错误，本是极少数用户的出现bug，但在20号早上OpenAI在对服务器进行更新时出现了失误，导致Redis请求取消激增，问题进一步加剧。本次事件影响了占总体约1.2％的ChatGPT用户。

01ChatGPT泄露用户信息

OpenAI称，目前Redis-py导致的信息泄露，有两种不同的方式：一种是付款确认邮件可能会被发给其他用户，此类邮件中包含信用卡后四位数字；另一种是点击“我的账户”-“管理我的订阅”，可能会出现另一个活跃用户（非用户本人）的姓名、电子邮箱、付款地址、信用卡后四位。

OpenAI表示，为防止此类事件再次发生，系统已添加“冗余检查”以确保提供的数据与用户匹配，并作了改进修复了其Redis集群在高负载下吐出错误的可能性等措施。

业内人士表示，ChatGPT的服务器在国外，国内用户在使用的过程中，会把一些敏感信息输入进去从而产生信息安全隐患。同时在ChatGPT中进行交易，也会有存在资金安全的问题。本次ChatGPT暴露出来的安全漏洞，仅仅是一个开始。其次，ChatGPT可能为国家网络安全带来新的挑战，假如人工智能技术被运用于网络犯罪，这将严重威胁到网络安全——因为ChatGPT没有验真和验伪这个概念，在诈骗、钓鱼的场景下很容易被利用。

事实上，从今年2月份开始，已经有很多美国多家大型银行公司宣布禁用ChatGPT。2月22日，摩根大通宣布开始限制员工使用ChatGPT，随后，花旗集团和高盛集团也先后禁用了ChatGPT。苹果手机的IOS系统同样阻止ChatGPT相关集成应用在手机商店中上架。微软则规定每日使用New Bing与ChatGPT对话不得超过5次。

各大公司的举措，一定程度上反映出市场对ChatGPT及AIGC技术安全应用的担忧。目前的AIGC技术会将人们在与AI交流时产生的大量的素材用于迭代训练，这很容易造成敏感信息泄露。

ChatGPT之父Sam Altman也警告说，人工智能的广泛使用可能会带来负面影响，这需要政府和社会共同参与监管。他呼吁反馈和规则对抑制人工智能的负面影响非常关键。他说：“我特别担心这些模型可能会被用于大规模的虚假信息传播，现在他们编写的计算机代码模型可以用于攻击性网络攻击。”

02银行试图研究AI技术

ChatGPT（全名：Chat Generative Pre-trained Transformer）是美国OpenAI 研发的聊天机器人程序 。ChatGPT于2022年11月30日发布 ，一经发布便火爆全球，仅用了2个月的时间，就拥有了全球1亿多用户。ChatGPT是人工智能技术驱动的自然语言处理工具，它能够通过理解和学习人类的语言来进行对话，还能根据聊天的上下文进行互动，真正做到像人类一样来聊天交流，甚至能完成撰写邮件、视频脚本、文案，以及翻译，编写代码，修改论文等任务。

ChatGPT爆火后，国内众多银行开始探索与AI技术互动的更多可能性。据百度披露，百度AIGC语言模型“文心一言”在测试阶段便与众多银行牵手合作，其中包括邮储银行、兴业银行、中信银行等全国性大行、股份行也有苏州银行、江苏银行、浙江联合农商银行等地方城市银行。

AIGC技术在银行业主要用于客服类业务。原本的银行智能客服只能进行简单的选择反馈与简单的回答，引入AIGC技术后，智能客服可以利用AIGC技术的语言理解能力来识别问题，然后给出人性化的答案。这打破了传统对话机器人要穷举用户对话意图的运营模式，能够产生极其丰富的对话内容和应答范围，节省大量人工运营成本。

「支付百科」据了解，当前银行在客服、风控管理等方向已经普遍应用了一些人工智能相关技术，但整体应用场景比较受限。

AIGC技术在银行领域的应用存在两个明显的缺陷。一是银行业容错率低，如果出现ChatGPT这种支付漏洞将会对整个金融行业造成巨大的打击；二是这类技术研发成本问题，ChatGPT离不开大量的训练和巨额投入，培训一个大型语言模型需要花费200万美元到1200万美元之间，更重要的是银行不能拿涉及客户隐私的数据去做迭代训练，因此目前银行引入类似于ChatGPT的语言模型并不现实。

现在以ChatGPT为首的这类技术还不够成熟，其底层的安全性问题暂时无法被完善。「支付百科」认为在现阶段我们个人应该对ChatGPT、文心一言之类的新兴技术保持警惕。不要将重要或者敏感的信息提供给他们，更不要相信其保密性和可靠性。

本文由银联POS中心撰写的原创文章，转载请带上网址:https://www.yrpos.com/dianqianPOS/17040.html，