引发网络钓鱼邮件等网络诈骗风险及安全隐私,社会影响方面。 Chat GPT在近期以来非常的火,可是随着发展也引起了众多的关注,是否能够对网络安全行业产生什么影响,也是众多人都非常在乎的一件事情,其实chatGPT确实存在一些网络安全问题,主要则是以下三个方面。
网络诈骗
Chat GPT拥有着众多的功能,其中的代码编写功能以及信息编写功能,其他可能会拓展黑客攻击的技术工具,而且也很可能会辅助一些网络诈骗分子,特别容易的形成一些规模化低成本的网络钓鱼软件,存在着一定的安全隐患,尤其是像功能性较广,所以所生成的诈骗信息,很可能也很难被识别真伪,其次则是会导致网络上一些虚假的信息变得非常的多,影响到一些网络用户的辨别,从而就会使舆情治理压力逐渐增多。
安全隐私
在应用方面也会有一些安全的隐患,很可能会有一些被利用的已知安全漏洞,虽然能在工作上提升效率,但却会对用户输入的一些信息进行分析,有些敏感信息要格外注意保护。尤其是AI应用所面对的投毒攻击,闪避和推理攻击以及模型攻击,在目前为止没有见chat GPT有成功的案例,因此也就导致高度的智能化,出现一些独特的安全问题,用户在使用的时候,很可能会对设置方面的安全内容策略忽略掉,从而滥用。
社会影响方面
Chat GPT目前为止所输入的文本多数都是用于到一些语料训练和概率分布上面,从而没办法有一个正确的道德观,价值观,反而会有一些涉及情感价值之类的问题,在社会层面上将会造成一定的影响,有时用户所输入的内容也会有着非正向的引导,在创作教育方面一旦滥用,还会导致劣币驱逐良币,所以在使用过程中对于一些具体的场景要格外的管控限制。